跳到正文
原文
IT之家·人工智能·· 7 小时前AI 评分42

谷歌第七代自研 Ironwood TPU 交卷,8192 颗集群约 102 秒达标 DeepSeek-V3 预训练

谷歌第七代自研 Ironwood TPU 交卷:8192 颗集群约 102 秒达标 DeepSeek-V3 预训练

文章要点
  • 1DeepSeek-V3 671B 预训练测试中,8,192 颗 Ironwood TPU 用时 1.70 分钟约 102 秒达标,成绩来自谷歌披露
  • 2谷歌云在 MLPerf Training v6.1 首轮提交 10 项成绩,其中 4 项使用 Ironwood TPU,6 项使用英伟达 GPU
  • 3同项目对比中,英伟达将 10,240 颗 GB300 GPU 的 1.38 分钟约 82.8 秒列为本轮最短用时
  • 4MLPerf 新纳入智能体强化学习测试,640 颗 Ironwood 运行 Qwen3.5-397B 用时 18.02 分钟达标,准确率 76.5% 高于 69% 目标
决策要点

MLPerf 公开成绩让 Ironwood TPU 与英伟达旗舰 GPU 的训练效率可以直接对比,算力选型多了一组可查的参照数字。

  • 影响:自研芯片路线与英伟达的差距有了公开数字,大规模训练的成本测算可据此展开;谷歌云同轮也提交 6 项英伟达 GPU 成绩,头部云厂算力供给仍混合自研与外购;基准新增智能体强化学习项目,Agent 训练负载进入公共评测范围。
  • 参考:有大规模训练或 Agent 训练需求的企业,可考虑把本轮 MLPerf 的芯片数量与达标时长折算成单位成本,再对比 TPU 与 GPU 采购方案;值得记录 8,192 颗相对 2,048 颗约 2.96 倍的扩展曲线用于容量规划。
  • 依据:Ironwood 与谷歌云 GB300 成绩出自谷歌披露,其余对比成绩出自英伟达技术说明,属官方提交口径,暂无独立验证。
正文

IT之家 11 月 17 日消息,谷歌云(Google Cloud)昨日(11 月 16 日)发布博文,在 MLPerf Training v6.1 基准测试第一轮中,提交了覆盖第七代 Ironwood TPU 与英伟达 Grace Blackwell GPU 的 10 项结果,涉及模型预训练,以及 MLPerf 首次纳入的智能体强化学习测试。

IT之家注:10 项成绩并非全部来自 Ironwood,其中 4 项使用谷歌自研芯片,另外 6 项采用英伟达 GPU。

在 DeepSeek-V3 预训练测试中,8,192 颗 Ironwood TPU 用时 1.70 分钟(约 102 秒),让目标模型达到基准规定的质量要求。谷歌同时披露,在扩展至 4,096 颗芯片的测试中,系统扩展效率达到 96%。

根据 MLCommons 发布的参赛方补充说明,谷歌在 DeepSeek-V3 671B 预训练项目中提交了三组 Ironwood 成绩:

Ironwood 芯片数量达到目标质量的时间换算为秒相对 2,048 颗配置的提速
2,048 颗5.03 分钟约 302 秒基准
4,096 颗2.62 分钟约 157 秒约 1.92 倍
8,192 颗1.70 分钟102 秒约 2.96 倍

同轮 DeepSeek-V3 671B 测试中,可参考以下公开成绩:

提交方/平台加速器配置达标用时
英伟达 GB300 NVL72 集群10,240 颗 GB300 GPU1.38 分钟,约 82.8 秒
谷歌 Ironwood 集群8,192 颗 Ironwood TPU1.70 分钟,102 秒
英伟达 Vera Rubin NVL72 集群1,024 颗 Rubin GPU4.14 分钟
英伟达 GB300 NVL72 集群1,024 颗 GB300 GPU8.03 分钟
谷歌云 A4X Max256 颗 GB300 GPU31.96 分钟

Ironwood 及谷歌云 GB300 成绩来自谷歌披露,其余成绩来自英伟达本轮技术说明,英伟达将 10,240 颗 GB300 的 1.38 分钟列为本轮该项目最短用时。

在本轮首次引入的智能体强化学习测试中,640 颗 Ironwood 芯片运行 Qwen3.5-397B,用时 18.02 分钟达到编程任务要求,准确率为 76.5%,高于 69% 的目标。代码生成与学习同步进行,让训练芯片等待时间占比低于 3%。

在 Google Cloud A4X Max 实例中,256 块用于预训练基准的 NVIDIA GB300 GPU 在 31.96 分钟内达到目标质量,辅以 5 个 A4X 和 A4X Max 在 agentic RL 基准测试中的提交。

参考

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家包含外链的文章均包含本声明。

来源:IT之家·人工智能 · ithome.com