苹果端侧AI技术储备研究揭秘|硬件优势壁垒高|软件和模型新思路加速布局

导语:关于苹果在AI领域的布局和技术储备,市场关注度不断提升。本报告以苹果多篇论文为依据,深入探讨了苹果在端侧AI布局中的软硬件优势、相关成果以及背后的壁垒和确定性。苹果以多层次的方式布局AI产品,涵盖了硬件、软件和模型等方面,随着即将到来的发布会,我们有望看到更多相关产品的面世。

 

?当前市场对苹果AI关注度提升,但苹果相关宣传较少。本报告侧重于苹果在AI的技术储备研究,聚焦探讨苹果在端侧AI部署的软硬件优势及其来源、背后的壁垒和确定性,资料主要来自苹果多篇论文,以供投资者进一步了解苹果在端侧AI布局。

?苹果多层次布局AI产品,成果不断发布
?从相关成果看,苹果AI布局全方位/多层次,涵盖芯片硬件层、开发者框架和工具、端侧AI的优化策略以及最上层的大模型和入口。随着WWDC及后续发布会,相关产品有望面世。

?硬件: ARM和统一内存架构业内领先,硬件优势明显壁垒极高
?M系列芯片将ARM和统一内存方案推向大众市场,由于采用统一内存,苹果实现了Macbook最高128GB内存和400GB/s带宽。对比英伟达RTX 4090显存为16GB,英特尔Meteor Lake最高120GB/s带宽,苹果优势明显。统一内存架构并非苹果率先提出,但其凭借强大的软硬结合能力实现了CPU/GPU的高效协作,背后壁垒极高。23年12月发布的Flash-LLM方案,结合硬件特性,提出利用闪存突破内存瓶颈,模型参数量可达到原来的2倍,1Token的I/O延迟从2130ms降低至87ms。

?软件和模型:端侧模型新思路,结合使用场景的模型路线
?苹果2024年以来陆续发布了ReALM/Ferret-UI/ OpenELM。ReALM模型从交互中常见的“指代消解“难题出发,8000万参数模型性能与GPT-4.0相当。Ferret-UI从“如何让AI更好的理解屏幕”这一问题出发研发模型,初级任务显著优于GPT-4V。OpenELM模型提出了“分层缩放”策略,有效分配每一层参数从而提高准确率,并降低约50%训练数据量,该策略为后续苹果端侧AI模型的推出打下了坚实的基础。

?详细报告:https://url.cy/k3Gub2

风险提示:技术发展、场景落地、竞争加剧风险等

© 版权声明
THE END
喜欢就支持一下吧
点赞5 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容