跳到正文
原文
IT之家·人工智能·· 5 天前AI 评分39

Liquid AI 发布 LFM3 模型家族,首批六款模型均基于 LFM3-1.7B-Base

Liquid AI 发布 LFM3 模型家族,首批多款均基于 LFM3-1.7B-Base

文章要点
  • 1Liquid AI 当地时间 27 日发布 LFM3 模型家族,采用三混合层架构,在 22T 词元上预训练
  • 2首批六款覆盖文本、视觉、决策、音频、全能和全能决策方向,均基于 LFM3-1.7B-Base
  • 3官方称 LFM-1.7B 拥有 256K 上下文窗口,参数减少 35% 且性能优于上代 LFM2.5-2.6B
  • 4性能与参数对比数据来自 Liquid AI 官方口径,文中暂无独立评测结果
决策要点

小参数量叠加长上下文继续向轻量化推进,端侧和私有化部署场景多了一个覆盖多模态的模型家族可选。

  • 影响:参数减少 35% 属官方口径,若成立则同等算力可承载更多任务;256K 上下文窗口让小模型也能承接长文档处理;一个基座衍生六种模态,选型时可按场景分别评估。
  • 参考:可考虑在端侧或私有化部署场景将其列入候选清单,用自有业务数据对比 LFM2.5-2.6B 实测;值得先跑一轮小规模评测再决定是否纳入采购。
  • 依据:性能、参数与上下文数据均为 Liquid AI 官方口径,暂无独立验证;架构、训练词元规模和首批产品名单出自官方发布信息。
正文

IT之家 10 月 28 日消息,人工智能实验室 Liquid AI 当地时间 27 日发布了 LFM3 模型家族。其基于全新的三混合层架构,在 22T 词元上预训练而成,在保持高效的同时具备更为出色的表现。

LFM3 的首批产品包括 LFM-1.7B(文本)、LFM3-VL-2B(视觉)、d1-2B(决策)、LFM3-Audio(音频)、LFM3-Omni-2B(全能)、d1-Omni-2B(全能决策),这些模型均基于 LFM3-1.7B-Base。

Liquid AI 表示,LFM-1.7B 拥有 256K 上下文窗口,其在使用的参数减少 35% 的同时性能优于上代的 LFM2.5-2.6B。

参考

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家包含外链的文章均包含本声明。

来源:IT之家·人工智能 · ithome.com