AMD发布MI325X芯片破解
芯片破解AMD 承诺将在生成式 AI 性能方面树立新标准。这些技术是 AMD 持续进军数据中心芯片领域的一部分。AMD 在该领域已经抢占了长期竞争对手英特尔公司的市场份额,占据了 34% 的数据中心芯片收入。AMD 专注于让这些芯片更好地适应 AI。
“我们的目标是让 AMD 成为端到端 AI 的领导者,”首席执行官苏姿丰 (Lisa Su)在今天上午的活动主题演讲中表示。她列举了微软公司、Meta Platforms Inc.、Databricks Inc. 和甲骨文公司等 AI 领导者的高管,以及 Reka AI Inc.、Essential AI Labs Inc.、Fireworks AI 和 Luma AI Inc. 等初创公司的高管,他们对与 AMD 的合作大加赞赏。
芯片破解AMD已迅速崛起,对英伟达公司在人工智能基础设施行业的主导地位构成了越来越大的威胁,其热销的 MI300X 人工智能芯片的成功正在进一步巩固其市场地位。该芯片于今年早些时候推出,预计将为该公司带来超过 40 亿美元的人工智能芯片销售额。
01
AMD 迄今为止最强大的 AI 芯片
AMD Instinct MI325X 基于该公司的 CDNA 3 架构,旨在实现超快的性能和更高的能效,以执行最苛刻的 AI 任务,包括训练大型语言模型、微调其性能和 AI 推理,然后由模型将结果提供给用户。
MI325X加速器采用了 AMD CDNA 3 GPU 架构,配备 256GB 下一代 HBM3E 高带宽内存。内置 1530 亿个晶体管。它提供了 6TB/s 的内存带宽,在 FP8 和 FP16 精度下分别达到 2.6 PF 和 1.3 PF 的峰值理论性能。
与英伟达上一代的旗舰GPU 加速器H200相比,MI325X的内存容量更大(256Gvs141G),内存带宽也更高(6TB/s vs 4.8TB/s)。在算力方面,虽然英伟达官方宣称H200的FP16 算力可达1.9 PF,但经semianalysis实测,其实际算力约为1 PF,与H100持平,比MI325X低了30%。
芯片破解因此AMD MI325X在推理方面的表现平均超越H200 30%,与其算力比提升相符。保持了上一代的领先优势。