HawkInsight

  • 联系我们
  • App
  • 中文

AMD发布MI325X向英伟达发起挑战

近日,在Computex 2024上,AMD发布了多项重要公告,包括将于今年第四季度上市的全新Instinct MI325X加速器。

AMD发布MI325X向英伟达发起挑战

近日,在Computex 2024上,AMD(NYSE:AMD)发布了多项重要公告,包括将于今年第四季度上市的全新Instinct MI325X加速器。此外,基于CDNA4架构的MI350系列将于明年推出,并计划在2026年推出全新的CDNA ‘Next’架构的MI400系列产品。

AMD承诺,将保证每年发布新产品,确保AI和高性能计算(HPC)性能的持续提升,包括增强的指令集和更高的记忆体容量和带宽。

对于AMD Instinct MI325X来说,该产品将配备高达288GB的HBM3E记忆体,记忆体带宽达到6TB/s,在推理性能和令牌生成方面比Nvidia的H100提高了1.3倍。值得注意的是,MI325X将与Nvidia的H200甚至B100/B200加速器竞争。

MI350系列基于AMD CDNA 4架构,预计将于2025年推出,在AI推理性能方面比目前的MI300系列提高35倍。该系列产品将采用3nm级别的制程技术,支持新数据格式(FP4和FP6)和指令,以提升AI性能和效率。

AMD表示,AMD ROCm 6软件堆叠在最大化MI300X加速器性能方面发挥了关键作用。根据AMD的基准测试,使用八个MI300X加速器的系统在Meta Llama-3 70B模型推理和令牌生成方面比Nvidia的H100快1.3倍;单个MI300X加速器在Mistral-7B模型任务中的性能也优于竞争对手,快1.2倍。

云服务提供商和系统整合商对AMD Instinct MI200和MI300系列产品的采用也在加速。微软Azure将这些加速器用于OpenAI服务,戴尔将其整合到PowerEdge企业AI机器中,联想和HPE则将其用于伺服器。

AMD数据中心加速计算企业副总裁Brad McCredie表示:”AMD Instinct MI300X加速器继续受到微软Azure、Meta、戴尔科技、HPE、联想等众多合作伙伴和客户的强烈采购意向,这直接反映了AMD Instinct MI300X加速器的卓越性能。我们每年发布新产品的速度不断加快,将提供AI行业领先的能力和性能,支持客户推动数据中心AI和推理训练的下一步发展。

免责声明:本文观点来自原作者,不代表Hawk Insight的观点和立场。文章内容仅供参考、交流、学习,不构成投资建议。如涉及版权问题,请联系我们删除。