HawkInsight

  • 联系我们
  • App
  • 中文

苹果坚称使用谷歌TPU训练AI

苹果发布技术报告称Apple Intelligence的两个模型在云端使用了Google设计的芯片进行预训练。

苹果坚称使用谷歌TPU训练AI

7月29日,苹果发布技术报告称,其AI系统Apple Intelligence的两个模型在云端使用了Google设计的芯片进行预训练。

报告详细介绍了苹果如何利用Google的张量处理单元(TPU)来训练其AI模型,并同时推出了Apple Intelligence的预览版本。

张量处理单元(TPU)是Google设计的专用芯片,旨在加速机器学习任务,特别是深度学习模型的训练和推理。TPU广泛应用于Google Cloud平台,供开发者租用,用于大规模机器学习项目,其特点是高效且低功耗。

根据报告,Apple在AFM on-device模型的训练中使用了2,048个TPU v5p芯片,而AFM-server模型则使用了8,192个TPU v4芯片。自2015年开始内部使用的Google TPU于2017年对外开放,并成为最成熟的AI定制芯片之一,其预订三年后的每小时成本低于2美元。

Apple在2024年6月10日的WWDC大会上首次公开了Apple Intelligence,并于7月29日发布了该系统的第一个版本,新增了Siri的全新外观、改进的自然语言处理功能和AI生成的文本摘要等。未来一年,Apple计划推出基于生成式AI的新功能,包括图像生成、表情符号生成和升级版的Siri。

尽管Nvidia的GPU目前主导着高端AI训练芯片市场,但其需求量大且供应有限。OpenAI、Microsoft和Anthropic等公司依赖Nvidia的GPU,而Google、Meta、Oracle和Tesla等也在大量采购这些芯片以构建AI系统。

Meta首席执行官Mark Zuckerberg和Alphabet首席执行官Sundar Pichai近期表示,尽管AI基础设施的投资可能过度,但不进行投资的风险更高。

苹果公司表示,部分预训练AI模型的推断将在其数据中心内使用自家芯片,这是苹果发布的第二篇关于其AI系统的技术报告,该公司预计将在8月1日收盘后公布季度财报。

免责声明:本文观点来自原作者,不代表Hawk Insight的观点和立场。文章内容仅供参考、交流、学习,不构成投资建议。如涉及版权问题,请联系我们删除。