苹果推出 Core AI 框架,为自研芯片优化端侧生成式 AI
苹果在2026年WWDC上发布Core AI框架,作为Core ML的官方继任者。该框架专为Apple Silicon优化,支持在iPhone、iPad、Mac及Apple Vision Pro上完全本地运行大语言模型和生成式AI,可部署从30亿到700亿参数的模型。Core AI提供统一硬件访问API,支持CPU、GPU和神经网络引擎无缝协作,并采用内存安全的Swift API实现零拷贝数据路径。其提前编译技术可实现近乎瞬时的模型加载。开发者可通过Core AI PyTorch转换PyTorch模型,或利用内置复合算子构建新模型。模型会自动针对当前硬件和操作系统版本进行特化。苹果建议将Core ML用于经典非神经网络ML,Core AI用于神经网络和Transformer,MLX用于自定义模型权重处理。社区认为Core AI简化了高性能LLM集成,但长期价值取决于官方与社区的后续发展。
本文摘要由千智坊基于公开报道整理,查看完整内容:阅读原文(InfoQ)→
