跳到正文
原文
36氪·AI·· 20 天前AI 评分53

vLLM社区开源Decision 3.0多模态决策模型,d3登顶Jev Decision Index榜单

0.6B起,Jev对手模型来了,开源多模态,登上全球测评榜一

文章要点
  • 1vLLM社区项目开源Decision 3.0系列,六款决策模型参数0.6B至27B,只做判断不生成长文本
  • 2d3在Jev Decision Index榜单文本榜64.7分、视觉榜71.6分,均列第一,超过Jev的60.1分
  • 3与走云端API的Jev不同,Decision 3.0开放权重可本地部署,直接处理图片和视频
  • 4第三方75题工具选择实测微软Decision-1答对71题居首,d3-flash与d3-mini答对70题
决策要点

只做判断的小模型从Jev一家独大走向开源可自部署,判断与生成开始分层,多模型系统的推理成本有了新的压缩点。

  • 影响:客服分流、内容审核、模型路由等高频判断任务可交给小模型承接,官方称文本延迟中位数55毫秒;权重开源支持本地部署,判断环节可不依赖云端API;该品类刚因Jev走红,选型格局变化快。
  • 参考:可先盘点现有系统用通用大模型做意图识别和分类的调用量与费用,再对照d3公布的延迟数据;值得选客服分流或工单路由一个场景做小模型试点,比较准确率和成本。
  • 依据:d3榜单成绩出自Jev Decision Index 0.3.1榜单,延迟与吞吐为团队公布数据,暂无独立验证;独立开发者75题实测中微软Decision-1答对71题居首,d3-flash答对70题。
正文

Image 1: 36氪

账号设置我的关注我的收藏申请的项目退出登录

登录

搜索

搜索

项目推荐

我要入驻

城市合作

0.6B起,Jev对手模型来了,开源多模态,登上全球测评榜一

智东西· 2026年10月13日 09:29

决策模型新风口来了?

10月11日,vLLM社区孵化的开源AI基础设施项目vLLM Semantic Router推出并开源多模态决策模型Decision 3.0系列。该系列模型能够根据输入内容完成分类、选择、是非判断和评分等任务,直接返回判断结果和概率,不生成长篇文本。

Image 2

vLLM Semantic Router推出并开源Decision 3.0(图源:X)

这类不生成长文本,专门“做判断”的模型,近期因Jev走红而受到关注。Jev模型上线仅3天,其Token用量便达到1万亿;上线仅24天,其开发商TypeSafe AI便宣布获得a16z领投的8.7亿美元(约合人民币58亿元)融资,估值达到75亿美元(约合人民币502亿元)。

除Jev外,10月10日,微软也推出其决策模型Microsoft-Decision-1,通过Microsoft Foundry和OpenRouter提供服务。该模型基于Qwen3.5-9B微调,对预设选项评分、返回结构化判断及置信度,可用于工具选择、模型路由和Agent流程控制。

vLLM-SR的决策模型Decision 3.0共包含d3、d3-flash、d3-mini、d3-nano、d3-lite和d3-edge六款模型,参数规模覆盖0.6B至27B,相关模型权重已在Hugging Face开源。

Image 3

开源地址: https://huggingface.co/collections/vllm-sr/decision-30

其中,旗舰模型d3基于Qwen3.8-27B打造,是一款27B的多模态模型,支持输入多张图片和视频。其余5款模型则基于不同参数规模的Qwen3.5打造。

与Jev不同的是,Jev主要通过云端API提供文本决策服务,Decision 3.0则开放权重,支持本地部署,可以直接处理图片和视频。

目前,在决策能力榜单Jev Decision Index 0.3.1榜单中,d3文本决策指数为64.7分,公开集得分为65.5分,位列文本榜第一,超过Jev的60.1分。d3(27B)、d3-flash(9B)及d3-mini(4B)的成绩均领先于微软Decision-1(9B)的53.2分。

在视觉榜中,d3得分为71.6分,同样排名第一。此外,9B参数的d3-flash在文本榜中获得59.8分,在视觉榜中获得66.9分,位列对应规模模型前列。

Image 4

第三方评测方面,一位开发者在自己的网站上设置了75道工具选择题,让模型判断应调用哪个WebMCP工具。其本地Mac测试中,Microsoft-Decision-1答对71题,位列第一;d3-flash和d3-mini答对70题,并列第二;Jev答对69题;d3-nano则答对68题。

Image 5

Desicion 3.0可以用于客服分流、内容审核、风险识别和模型路由等场景。

例如,客户称其收到的搅拌机破损,希望换货,并附上收据图片和配送视频。模型可以在一次请求中回答三个问题:该由哪个团队处理、收据是否包含这台搅拌机,以及包裹如何送达,分别给出“退换货团队”、“是”、“当面送达”三个回答。

Image 6

团队公布的数据显示,在单张AMD Instinct MI325X GPU上运行时,d3处理文本请求的延迟中位数为55毫秒,处理包含图片的请求为273毫秒,处理10秒视频的请求为553毫秒。

还有一位开发者将d3-lite通过Core ML部署在搭载M5 Pro的Mac上,对1000个Pull Request(代码合并请求,PR)进行工作组分类与路由,总耗时约2分钟。实测视频显示,单个PR平均处理耗时约0.12秒,吞吐量约为每秒8.3个PR,整个推理过程在本地完成,无需调用云端API。

Image 7

结语:类Jev模型瞄准AI决策需求

随着AI应用对意图识别、任务分类和模型路由等能力的需求提升,类Jev决策模型有望承担更多轻量、结构化的判断任务。它们可以先识别用户意图、判断请求类型,再将任务交给更合适的生成模型处理。

对于多模型系统来说,这类模型能够减少通用大模型处理简单任务的负担,同时帮助系统控制推理成本、提升响应速度和路由准确性。

本文来自微信公众号“智东西”(ID:zhidxcom),作者:杨京丽,编辑:李水青,36氪经授权发布。

该文观点仅代表作者本人,36氪平台仅提供信息存储空间服务。

商业策划

+1

5

好文章,需要你的鼓励

智东西特邀作者

3收 藏+10评 论

Image 8: 36氪打开微信“扫一扫”,打开网页后点击屏幕右上角分享按钮微 博

沉浸阅读 返回顶部

举报

参与评论

评论千万条,友善第一条

登录后参与讨论

提交评论 0/1000

你可能也喜欢这些文章

所有App都在塞AI,但用户已经烦了

Meta最强模型跑分超越Opus 5.5?实测大翻车,作弊刷榜实锤了

AI冲击如海啸,77岁菲尔兹奖得主丘成桐亲自下场:集结千名学者造数学大模型

揭秘“AI假医生”:2分钟就能生成,张口就说“吃了就好”“我自己也在用”,可不带AI水印

Meta 新模型杀回AI第一梯队,Alexandr Wang 亲述 Muse 7个月翻身内幕

《柳叶刀》警告 :AI比核武器更可能毁灭人类

国内“AI六小龙”营收合计仅为OpenAI+Anthropic的10%?赚钱虽难,但拐点已现

AI批量造星,真人明星还有何价值?

扎克伯格烤肉时预告的“大西瓜”落地:Meta Muse Wonder 发布,首次对标前沿模型

Image 9

智东西

特邀作者

智东西,AI产业新媒体。

发表文章 3180 篇

最近内容

0.6B起,Jev对手模型来了,开源多模态,登上全球测评榜一

2小时前

俩月换了近30名高管,13大品牌整合,车圈最猛整合潮来了

7小时前

国产机器人,前8个月海外卖了350亿,广东独占鳌头

8小时前

阅读更多内容,狠戳这里

商业策划

Image 10: 36氪

36氪AI测评

选靠谱AI,看真实评测

查看

36氪AI测评官方交流社区

加入

36氪项目推荐

咨询项目审核和入驻

联系

36氪项目推荐订阅号

关注

企服圈子

Image 11软件选型经验交流社区 加入

Image 12

行业交流群

扫码加我,拉你进对应的行业群,链接一手资源和人脉!已有170000+人深度交流中~

Image 1336氪企服点评订阅号 关注

Image 14

36氪企服-订阅号

「36氪企服」会定期分享行业深度案例、报告以及热点话题,从用户视角出发,帮企业买家选中真正“对”的软件与服务。

Image 1536氪企服点评服务号 关注

Image 16

36氪企服点评-服务号

「36氪企服点评」现已收录近万款产品,致力于帮助每个需求企业服务的人做出正确的决策,携手每个企服行业者为大众提供更高的价值与服务。

企服软件推荐

找软件,先查用户评分榜查看

顾问1对1推荐软件免费服务体验

下一篇

2026 年,日本翻盖手机终于过气了

一个时代,啪嗒合上

2小时前

关于36氪

网络谣言信息举报入口

热门推荐

合作伙伴

  • Image 17: 阿里云
  • Image 18: 火山引擎
  • Image 19: 高德
  • Image 20: 个推
  • Image 21: 星球日报
  • Image 22: 鲸准
  • Image 23: 氪空间
  • Image 24: 富途牛牛
  • Image 25: 企服点评
  • Image 26: 人人都是产品经理
  • Image 27: 领氪

36氪APP下载

Image 28

iOS & Android

Image 29: 36氪

本站由阿里云提供计算与安全服务 违法和不良信息、未成年人保护举报电话:010-89650707 举报邮箱:jubao@36kr.com网上有害信息举报

© 2011~2026 北京多氪信息科技有限公司 |京ICP备12031756号-6|京ICP证150143号|京公网安备11010502057322号

意见反馈

Image 30

36氪APP 让一部分人先看到未来

36氪

鲸准

氪空间

Image 31 推送和解读前沿、有料的科技创投资讯

Image 32 一级市场金融信息和系统服务提供商

Image 33 聚焦全球优秀创业者,项目融资率接近97%,领跑行业

来源:36氪·AI · 36kr.com