跳到正文
原文
IT之家·人工智能·· 4 小时前AI 评分53

AMD 推出企业级 AI 辅助编程平台 Instinct Coder 355,支持本地运行 GLM-5.3

文章要点
  • 1AMD 携手 Spectro Cloud 推出企业级 AI 辅助编程平台 Instinct Coder 355
  • 2官方称平台支持 GLM-5.3 推理部署,可在本地实现前沿模型 98% 的性能
  • 3单节点最多满足 85 位开发者需求、并发 50 位,管理软件默认调用本地算力而非云端 API
  • 4戴尔版本核心为 8 张 Instinct MI355X 加速器与 2 颗 64 核 EPYC 9575F CPU
决策要点

AMD 把企业 AI 编程助手打包成本地整机方案,用专用硬件替代云端 API 交付模型能力,数据不出内网是主要卖点。

  • 影响:代码敏感的企业有了不经云端 API 使用编程助手的选项,代码外流顾虑更容易处理;单节点 85 人容量给出了按人头测算成本的基准;方案绑定 GLM-5.3 单一模型,选型时需把模型依赖算进风险。
  • 参考:可考虑先按开发团队规模与单节点 85 人上限、50 并发的匹配度测算采购量;值得盘点现有云端编程助手覆盖的代码仓库,把涉密项目列为本地部署试点对象。
  • 依据:98% 性能、节点容量与硬件配置均为 AMD 与 Spectro Cloud 发布口径,属官方宣传,暂无独立验证。
正文

IT之家 11 月 11 日消息,AMD 当地时间本月 9 日宣布携手 Spectro Cloud 推出企业级 AI 辅助编程平台 Instinct Coder 355。该系统支持 GLM-5.3 推理部署,可在本地实现前沿模型 98% 的性能。

▲ 戴尔版本

Instinct Coder 355 的核心是 8 张 AMD Instinct MI355X 显卡加速器,配套 2 颗 64 核的 EPYC 9575F "Zen 5" CPU,此外还包括 3TB DDR5-6400 RDIMM、合计 63.36TB 的 SSD 存储。戴尔版本和 Supermicro 版本在其它规格上存在差异。

▲ Supermicro 版本

该系统每个节点可满足最多 85 位开发者的需求(并发 50 位)。Spectro Cloud 为 Instinct Coder 355 系统提供了配套的 PaletteAI Inference Launchpad 管理软件,默认调用本地算力而不是云端 API。

来源:IT之家·人工智能 · ithome.com