跳到正文
原文
IT之家·人工智能·· 5 天前AI 评分57

百度文心发布 ERNIE 5.5 Flash Preview,11 月 25 日前开源权重

百度文心发布 ERNIE 5.5 Flash Preview 模型,11 月 25 日前开源权重

文章要点
  • 1百度文心发布 ERNIE 5.5 Flash Preview 模型,权重将于 11 月 25 日前开源
  • 2模型总参数 280B、激活参数 14B,支持 1M 上下文,API 已上线千帆平台
  • 3官方称其在编程、3D 建模、知识工作、内容创作等基准测试中表现有竞争力
  • 4官方自述其为后训练中间版本,可能存在训练不充分导致的能力缺陷
决策要点

百度把后训练中途的预览版本提前开放 API,并承诺 11 月 25 日前开源权重,以预览迭代方式参与模型竞争。

  • 影响:权重开源后企业可自行部署评估,编程与内容创作等场景可低成本试点;官方自认预览版可能存在能力缺陷,生产环境直接采用需留有余地。
  • 参考:可考虑在千帆平台用自有业务样本测试,与在用模型对比得分和响应速度;值得把 11 月 25 日开源节点纳入选型时间表,再评估自部署方案。
  • 依据:参数、上下文长度与开源时间为官方公布口径;基准表现为官方称有竞争力,暂无独立验证;能力缺陷为官方自述。
正文

IT之家 11 月 11 日消息,百度文心大模型今日发布 ERNIE 5.5 Flash Preview,这是基于此前发布的 Base 模型的首个后训练版本。

该模型总参数 280B,激活参数 14B,支持 1M 上下文,官方称在编程、3D 建模、知识工作、内容创作等方面表现出色。

据介绍,ERNIE 5.5 Flash Preview 兼顾了智能水平和推理效率。在多项基准测试中,ERNIE 5.5 Flash Preview 取得了具有竞争力的得分,同时保持了极致的解码速度。模型 API 已在千帆平台上线,权重将于 11 月 25 日前开源。

IT之家附基准测试结果如下:

官方表示,ERNIE 5.5 Flash Preview 是后训练过程中的一个中间版本,尽管它已经取得同尺寸模型中较有竞争力的表现,但仍可能存在部分因训练不充分导致的能力缺陷。后训练仍在进行中,ERNIE 5.5 Flash 还在快速进化,将密切关注 Preview 模型在真实场景中的实际表现和用户反馈,并在后续正式版本中进行优化。

相关阅读:

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家包含外链的文章均包含本声明。

来源:IT之家·人工智能 · ithome.com