跳到正文

#降本增效

今日 8 条
10月6日周二
  1. Tomasz Tunguz 博客76

    How to Automate Inbound

    Vercel COO Jeanne DeWitt Grosser 在 Tomasz Tunguz 的 Office Hours 访谈中讲解公司 inbound 销售智能体的搭建过程,项目由一名工程师投入约 20% 时间起步,现运行 Vercel 销售漏斗顶部。

    决策要点

    生产级智能体的成熟方向是规则化,把确定性环节交给代码,模型只保留人原本做判断的部分,搭建投入可以很小。

    • 影响销售漏斗顶部这类流程确定的功能可用极小投入自动化,一名兼职工程师加每年约 1000 美元即可跑通;岗位会向上移动,SDR 提前转向 outbound 对话;业务扩张会推高提示词复杂度,规则与判断的边界需要持续维护。
    • 参考可考虑先盘点自家线索处理中的确定性环节,把规则交给代码、只把判断留给模型;试点期可借鉴其做法,先全量复核再过渡到按比例抽检;值得同步测算自动化与人工的成本对比。
10月5日周一
  1. Seth Godin61

    Seth Godin 分享让 AI 维护工作交接文档的提示词

    Seth Godin 分享一段可复制的提示词,让最常用的 AI 持续维护一份工作交接文档,使新人无需依赖原作者即可接手。提示词设定 9 个固定板块,从项目说明、当前状态、文件位置,到决策记录、假设、待解问题、联系人、下一步和退出安排,并要求区分作者原话与 AI 推断、记录决策理由,在有变化的会话结束前自动更新。作者建议把提示词与文档一并存入常驻指令,避免每次手动粘贴。

    决策要点

    AI 把过去没人愿意坚持的交接文档变成可自动维护的常态,工作可移交性从个人自律变成一次性配置。

    • 影响岗位交接不再依赖当事人记忆,关键人员流动的风险随之降低;决策与假设被留痕,回头复盘和把工作迁去其他平台的阻力都会减小。
    • 参考可考虑选一个进行中的项目试运行这份 9 板块交接文档,重点记录决策理由与未验证假设;值得把提示词放进常驻指令,并定期核对 AI 标注的推断是否可信。
  2. Tomasz Tunguz 博客56

    Inference Is the Most Important Market in Software

    Tomasz Tunguz 撰文判断 AI 推理市场将在 2027 年达到约 3500 亿美元,接近数据库市场 1900 亿美元的两倍,成为软件业最重要市场。他估算 2025 年企业为运行 AI 模型支付约 250 亿美元,今年市场规模约 1300 亿美元,已接近 Gartner 对数据库 1610 亿美元的预测。

    决策要点

    推理市场规模将超过数据库,应用层公司的收入与成本结构随之转向按用量计费,实质上在变成推理分销商。

    • 影响软件采购预算从按席位转向按用量,客户会要求可预测的支出方案;毛利率可能跌破传统 SaaS 水平,CAC 与回本周期需要重算;客户自带密钥时厂商在用收入换毛利。
    • 参考可考虑先算出自家产品的每客户 token 成本占收入比例,再决定按席位还是按用量定价;值得评估小模型、更优 harness 与路由方案来压缩推理开销。
10月2日周五
  1. OpenAI:官网动态44

    Chatham Financial 用 Codex 和 GPT-5.6 改造工作流程,交易校验从 30 分钟降至 4 分钟以内

    Chatham Financial 使用 OpenAI 的 Codex 和 GPT-5.6 搭建技术并重新设计工作流程,交易校验环节耗时从 30 分钟降至 4 分钟以内。该客户案例由 OpenAI 官网发布,效果数字为 OpenAI 官方口径,feed 未提供完整正文细节。

    决策要点

    厂商侧客户案例显示编码类 AI 工具已被金融企业用于业务流程改造,效率数字目前仅有 OpenAI 单方口径。

    • 影响交易校验这类重复性环节在金融场景出现分钟级压缩案例,可列入自动化改造候选清单;数字出自厂商宣传口径,同业跟进前应先在自有流程中测算基线。
    • 参考可考虑盘点交易校验、对账等高耗时人工环节清单,选其中一个流程用 Codex 和 GPT-5.6 小范围试点并记录前后耗时;值得先算出人工校验的人力成本再对比厂商宣称收益。
  2. OpenRouter:Blog(Announcements)52

    OpenRouter 上线 Model Router Benchmarks,横向对比模型路由器的质量、速度与成本

    OpenRouter 上线 Model Router Benchmarks 页面,从质量、速度、成本三方面为 Auto Router、Jev Router、NVIDIA Switchyard、Unbiased Pareto、Sakana Fugu 等模型路由器打分,并列出单个模型作基线。

    决策要点

    模型路由从各家自说自话进入可横向比价的阶段,用单模型还是路由器变成一笔能按公开数据核算的成本账。

    • 影响路由器靠切换更便宜模型压成本,官方举例 token 价差逾 48 倍,多轮 Agent 会话的用量大户比价空间明确;但缓存重建与额外延迟说明路由有代价,并非所有任务都划算。
    • 参考可考虑挑一个多轮 Agent 场景试点,在基准页按自身业务拖动权重筛出候选路由器,与现有单模型对比成本和耗时,并把输入缓存重建费用计入口径。
  3. OpenRouter:Blog(Announcements)62

    OpenRouter 发布客服机器人便宜优先路由教程,用便宜模型先答常见问题

    OpenRouter 发布教程,讲解客服机器人如何用便宜优先路由省钱,让便宜模型先答常见问题,把难答或不确定的请求升级到更强模型。文章对比静态规则、分类器分诊和带置信阈值的答案检查三种模式,并说明 Auto Router 负责初始选模、models 数组只在报错时重试,答案是否合格需应用侧自行检查。文中提供可复制的请求示例、预期成本公式和升级率等度量指标,建议先在留出的客服问题上对比后再开启升级。

    决策要点

    便宜优先路由的实质是把质量把关从模型平台转移到应用侧,省钱是否成立取决于检查和度量做得如何。

    • 影响客服 FAQ 占比高的场景有降低模型支出的空间;平台只在报错时切换模型,格式正确但内容错误的回答不会触发重试,质检与升级逻辑需自建;分类器调用、二次请求和被丢弃的草稿都会增加成本与延迟。
    • 参考可考虑先用留出的客服问题对比便宜优先、只用便宜模型和只用强模型三种方案;值得先算出升级率、每工单成本和全轮延迟,再决定在哪些问题类型上开启升级。
  4. OpenAI:官网动态33

    Albertsons 如何用 ChatGPT Enterprise 和 OpenAI API 改造零售业务

    OpenAI 官网发布客户案例,称杂货零售商 Albertsons Cos. 正在使用 ChatGPT Enterprise 和 OpenAI API,目标是帮助内部团队更快工作,并让数百万顾客的购物更便利。本次材料为官网摘要,未提供部署细节和效果数字,原文见 https://openai.com/index/albertsons-reimagining-retail 。

    决策要点

    大型杂货零售商把 ChatGPT Enterprise 用于内部提效和顾客购物两侧,目前信息仅来自厂商官方案例。

    • 影响杂货零售的内部协作与顾客端应用出现了头部企业参照;官方摘要未提供流程和成本细节,现阶段只能作为方向信号,不能作为投入产出依据。
    • 参考可考虑等完整案例或第三方数据出现后再评估杂货场景的适用性;值得先盘点自家在内部协作和顾客体验两端已有的 AI 应用清单,找出对应缺口。
10月1日周四
  1. Anthropic:Newsroom64

    Barclays scales Claude to upgrade operations and improve client experience

    巴克莱银行(Barclays)宣布扩大与 Anthropic 的战略合作,在全行部署 Claude 用于加速软件开发、改造遗留系统并提升运营效率。官方预计 Claude Code 采用率到 2026 年底达到其开发者的 50%,2027 年扩展至多数软件工程师。

    决策要点

    大型金融机构的 AI 应用正从单点试点转向全行规模部署,开发工具渗透率成为可量化的落地指标。

    • 影响软件开发和客服知识检索是该行率先规模化的场景,可作为同业选型的对照;开发工具渗透率目标给出了行业推进速度的参考;强监管环境下治理与人工监督被双方视为规模化部署的前提条件。
    • 参考可考虑对照本机构开发团队的 AI 编码工具渗透率,评估与 Barclays 50% 目标的差距;值得盘点客服知识检索和邮件分拣场景的现行人工耗时,测算同类部署的收益空间。
  2. 极客公园58

    Agent 正在重写 AI 基础设施:阿里云云栖大会升级数据、训练与推理全链路

    阿里云在云栖大会上一次性升级从数据入湖、模型训练、推理服务到系统自我优化的整条链路,提出让 OpenLake 走向 Agentic Lake,并发布 AI 原生大数据服务 ADA。

    决策要点

    云厂商正按 Agent 的负载特征重构数据与算力平台,竞争点从承载多少模型转向数据、模型和系统能否一起进化。

    • 影响企业引入 Agent 后负载方式与成本结构会变化,评估指标从单次生成速度扩展到冷启动、缓存、扩缩容和整体成本;数据权限要从管人细化到管 Agent 能在什么任务下调哪些数据、执行到哪一步;数据生产与训练提效可能缩短模型迭代周期。
    • 参考可考虑先盘点现有数据权限体系能否约束 Agent 的增删改查,确认高风险操作是否可回滚、可审计;再选一个数据处理或分析场景试点自然语言入口,记录耗时与成本变化。
  3. 钛媒体66

    AI漫剧冲击影视业,横店微短剧演员无戏可拍

    AI制作的仿真人漫剧正在取代真人实拍微短剧,横店头部短剧演员自述月拍戏量从三四部降到一部,有人片酬低至每天150元。DataEye报告显示国内AI漫剧市场规模2025年为168亿元、2026年前5月达220亿元,用户从1.2亿增至6亿;中泰证券研报称2026上半年AI短剧成本较2025年再降80%-90%,制作团队从15人减至3-5人。

    决策要点

    AI替代真人影视并非从艺术创作开始,而是先在同质化、拼效率的微短剧环节成立,成本骤降与观众对长剧乱象的不满共同推动了这一进程。

    • 影响内容制作成本降至真人短剧的2%-10%、团队从15人缩至3-5人,制作类业务的预算与用人结构需按新数字重算;真人拍摄岗位与剧组数量收缩,拍摄基地转向游客体验生意;数字演员不受档期和舆情约束,演员肖像与声音授权案例已经出现。
    • 参考可考虑先测算自家内容业务中真人实拍与AI制作的单分钟成本差,再选后期、场景等环节做AI试点;值得盘点制作团队受冲击岗位与现有肖像授权条款,评估转岗培训和新的合同安排。
  4. OpenRouter:Blog(Announcements)63

    OpenRouter 详解智能体模型成本与质量权衡选型框架

    OpenRouter 发布三步框架,指导企业为智能体任务选择能通过质量门槛的最便宜模型,而非榜单最高分模型。

    决策要点

    智能体选型的实质正从追榜单最高分转向按任务门槛采购够用的能力,真实成本差要靠自有样本测出来,而不是按牌价估算。

    • 影响大批量常规任务可换便宜模型压成本;合规、医疗等高门槛任务仍要为前沿模型付费;智能体循环里每次工具调用与重试都计费,单个任务成本会数倍于单次对话。
    • 参考可考虑按任务清单各取 20-50 条自有样本,跑便宜、中档、前沿三档模型并算出每质量点成本;值得按门槛给任务分档配置模型,并在候选模型更新或调价后重跑脚本。
  5. OpenAI:官网动态32

    社交俱乐部 The Den 用 ChatGPT Work 每周省出 10-15 小时

    OpenAI 官方客户案例称,社交俱乐部 The Den 使用 ChatGPT Work,每周节省 10-15 小时工作时间。在开设新场地期间,该俱乐部把许可申请的准备时间从 3 天缩短到 2 小时,酒类执照材料从 4 天缩短到 3 小时;以上数字均为厂商宣称口径。

    决策要点

    OpenAI 用一个客户案例,把 ChatGPT Work 的效率叙事从内容创作延伸到小商家的资质与执照文书场景。

    • 影响许可申请和执照类材料格式固定、周期长,是低成本的 AI 试用切入点;厂商宣称的倍数较大,各企业需按自己的流程基线测算;省出的工时可转投开新场地等扩张事务。
    • 参考可考虑盘点业务里的许可申请、执照办理等文书任务,选一项用 ChatGPT 或同类工具试点并记录前后耗时对比;试点前先明确执照类材料的合规要求,避免关键文件出错。
  6. OpenRouter:Blog(Announcements)61

    OpenRouter 讲解模型分级路由的置信度阈值设置

    OpenRouter 给出基于置信度的模型分级路由五步指南,让便宜模型处理高置信请求,只有低置信请求才升级到更强模型。

    决策要点

    把选模型的决策从固定规则变成用自家错误率数据测量和重调的阈值设置,降本与准确率可以显式权衡

    • 影响多数请求可留在便宜模型上,只对低置信请求支付第二次调用成本;升级请求多一轮往返会拉高延迟;模型版本或流量构成变化会使阈值失效,需要持续监控重调
    • 参考可考虑先取一批代表性流量跑便宜模型,按分数段统计错误率找出自己的切点;再按任务类型的出错代价分别设阈值;上线后记录分数分布、升级率和未升级答案错误率以便重调
9月30日周三
  1. 爱范儿75

    OpenAI DevDay 2026 发布 dots 智能体与 GPT-6.1 Sol,Pro 会员额度减半

    拥有 12 亿周活跃用户的 OpenAI 在 DevDay 2026 发布 20 多项功能和产品更新,核心是 24 小时在线智能体 dots 和新模型 GPT-6.1 Sol。

    决策要点

    DevDay 的实质是 OpenAI 从消费级规模补贴转向企业服务,用智能体、项目和权限体系把工作流变成新护城河。

    • 影响缓存输入价格减半会改变多步 Agent 工作流的成本测算;UltraFast 等高速档位以数倍价格换速度;智能体接入公司系统和 4000 多个应用后,权限与数据边界的管理需求随之上升。
    • 参考可考虑用 GPT-6.1 Sol 的缓存价口径重算现有 Agent 场景成本,与在用模型对比;值得先审阅 dots 的 Custom Rules 与操作审查机制,评估能否满足合规再决定试点范围。
9月28日周一
  1. 极客公园51

    中国智能汽车的后台,越来越像阿里云的主场

    在 2026 云栖大会汽车行业峰会上,阿里云展示了覆盖芯片、云、模型与 Agent 的智能汽车全栈布局;沙利文联合头豹发布的报告显示,阿里云在中国汽车公有云市场份额达 45.2%,六项市场及细分赛道均列第一。

    决策要点

    智能汽车的胜负手正从算法层转向算力、数据产线与基座模型,阿里云借云栖大会把全栈基础设施变成行业底座的默认选项。

    • 影响车企自研基座成本高,云上后训练加端侧蒸馏成为更可行路径;智驾迭代受数据产线效率与集群互联能力约束;组织 AI 已进入生产环境,效率竞争从产线延伸到白领岗位。
    • 参考可考虑测算对单一云与模型基座的依赖度和切换成本;值得盘点数据回流、清洗、标注各环节的断点;质量和物流等一线重复流程可参照长安案例先做小试点。
  2. OpenAI:官网动态28

    Basis 用 GPT-6 Astra 完成税务工作簿,速度达 GPT-5.6 Sol 的 2 倍

    OpenAI 官网发布客户案例,称 Basis 用 GPT-6 Astra 完成 50 个标签页的税务工作簿,速度达到 GPT-5.6 Sol 的 2 倍。OpenAI 称该模型更强的用户意图理解能力让 Basis 在真实场景使用时更有信心;数据为官方口径,暂无独立验证。

    决策要点

    OpenAI 用客户 Basis 的真实税务任务做新旧模型速度对比,实质是以单一官方案例宣称复杂表格类工作的耗时出现代际下降。

    • 影响若官方口径属实,以多标签表格为主的财税类任务存在耗时减半的量级空间;数据出自厂商单一客户案例,换算到本企业任务的实际收益还缺独立参照。
    • 参考可考虑挑一个类似的多标签表格任务,用自有数据小范围对比新旧模型的耗时和返工情况;值得让财税团队记录真实用时,再决定是否为速度差异升级模型版本。
  3. Tomasz Tunguz 博客67

    How GPU Prices Can Double While AI Gets Cheaper

    Tomasz Tunguz 分析称,GPU租用价半年内从每GPU小时4.40美元涨至8.08美元,而AI调用价格持续下降。

    决策要点

    GPU租金与AI调用价格一涨一跌,行业靠效率提升对冲算力成本上涨,比拼焦点转向每GPU小时毛利。

    • 影响直接按API采购的企业短期仍受益于模型降价,应用预算可按成本下行规划;自建或长租算力则面对单价上涨以及电力、信贷成本上升的约束;评估口径需要从算力单价转向单位产出的经济性。
    • 参考可考虑把核算口径从token单价改为单个业务流程的完成成本,便于跨模型比价;在评估长期锁定GPU算力前,先算出电力与资金成本的走势,再决定自建、长租或继续按量采购。
9月26日周六
  1. OpenAI:官网动态26

    OpenAI 客户案例称 Proaction 借助 Codex 销售额提升 60%、节省 75 小时以上工时

    OpenAI 在官网发布客户案例,称车队管理公司 Proaction 借助其 AI 工具实现销售额提升 60%、节省 75 小时以上工时(官方口径,暂无独立验证)。案例列出的工具包括 Codex、GPT-Live-1 和 GPT-6 Astra,称其帮助 Proaction 更快地构建、运营和销售现代车队管理服务。

    决策要点

    这是 OpenAI 官方发布的客户案例,用具体业务数字为自家工具组合背书,属单一来源营销素材。

    • 影响评估 AI 工具的企业多了一个厂商口径的效益参照;案例未披露做法与基线,60% 和 75 小时难以换算到自身团队;采用与否应基于自有试点数据。
    • 参考可考虑把该案例当作线索而非依据,先记录自身团队的工时和销售基线,再决定是否小范围试点同类工具;值得检索同行业有无独立验证案例作对照。
9月25日周五
  1. OpenAI:官网动态41

    Wayfair 用 OpenAI 模型提升商品目录准确性与客服响应速度

    Wayfair 使用 OpenAI 模型改进电商客服与商品目录准确性,客服侧实现工单分诊自动化,商品目录侧由模型规模化完善数百万条商品属性。该案例发布于 OpenAI 官网,未提供具体提效数字。

    决策要点

    电商头部平台把大模型用在工单分诊和商品属性完善这类运营环节,案例由厂商发布,看点在场景选择而非模型性能数字。

    • 影响工单分诊和商品数据治理属流程明确的运营环节,头部电商已规模化使用;目录准确性直接关系商品信息质量,可作为低风险试点方向;同类企业可对照自身工单量和属性缺口估算空间。
    • 参考可考虑先盘点客服工单分类规则和商品属性缺口两份清单,估算两类场景各自的模型处理量与人工成本;值得从工单分诊这类结果容易核验的环节开始小范围试点。
9月23日周三
  1. Marketing AI Institute54

    如何用 AI 智能体做内容的事实核查与文字校对

    Marketing AI Institute 的 Mike Kaput 分享其团队在播客简报制作中部署多个 AI 智能体并行核查事实与文字错误的流程,智能体标记需复核的论断并附信源链接,人工只复核被标记项。

    决策要点

    多智能体核查把编辑精力从通读全文转向复核被标记项,实质是审校注意力的重新分配,而非替代人工把关。

    • 影响内容产出量大、事实密度高的团队可据此压缩校对与事实核查耗时;错漏引发的信誉风险多了一道低成本拦截;智能体一致出错时错误仍会穿透,最终把关仍落在人身上。
    • 参考可考虑先让单个智能体按清单做拼写、格式和明显事实错误的校对,再对客户报告、对外简报等高风险内容补充信源核查,熟练后再按主题拆分跑并行智能体。
  2. OpenAI:官网动态32

    Ringg 基于 GPT-5.6 的 AI 客服智能体可解决最高 65% 客户来电

    Ringg 用 GPT-5.6 构建覆盖语音、聊天、WhatsApp 和网页渠道的多语言客服智能体,OpenAI 官网案例称其可解决最高 65% 的客户来电。案例还称,相比 GPT-4.1,采用 GPT-5.6 的方案成本降低 90%。

    决策要点

    这是 OpenAI 侧的客户案例宣传,把 GPT-5.6 定位为客服语音与多渠道场景里替代上一代模型的降本选项。

    • 影响客服语音自动化若在自有话务中达到类似解决率,将影响客服人力与外包预算;新旧模型的成本差会改变语音智能体项目的选型与定价;数字出自厂商案例,不宜直接套用到自身场景。
    • 参考可考虑先整理自身来电类型与人工解决率作基线,选重复度高的场景小流量对比新旧模型的解决率和单通成本;多渠道企业可把语音与聊天分开试点。
  3. Tomasz Tunguz 博客66

    The Most Important Market in AI is the Middle

    Tomasz Tunguz 撰文判断,AI 竞争焦点不在最前沿模型,而在能力够用且价格可负担的中部市场,模型价格正在快速下滑。OpenAI 的 Luna 七月降价 80% 后昨日再降 50%,五版维持 $5/$25 的 Anthropic Opus 也于昨日首次降价;开放模型在披露数据的网关上承载多数 token 用量,价格比闭源混合价低 86%。

    决策要点

    模型定价竞争的实质发生在能力够用且企业买得起的中部市场,最贵旗舰实际承载的支出份额远低于外界预期。

    • 影响企业需求变化慢而智能单价快速下降,满足同等需求的模型档位会持续变便宜;旗舰模型占用量和支出份额都在收缩,按最强能力选型可能多付成本;价格频繁下调使既定预算和比价口径需要重算。
    • 参考可考虑按业务固定需求反推所需模型档位,定期用最新价格重算任务成本;值得盘点现有用量中对旗舰模型的依赖,并测算开源模型加微调能否覆盖同档需求。
  4. OpenAI:官网动态40

    OpenAI 改进 GPT-6 提示词缓存,命中率更高并新增诊断与控制选项

    OpenAI 发文介绍 GPT-6 的提示词缓存改进,官方称缓存命中率更高,可降低延迟与成本。改进包括新增诊断功能、显式断点(explicit breakpoints)和控制选项。材料为官网摘要,未附具体命中率数字。

    决策要点

    GPT-6 的提示词缓存改进实质是一次面向 API 调用方的成本优化,把重复上下文场景的开销和延迟继续压低。

    • 影响高频调用 GPT-6 的应用有机会直接压低 token 开支和响应时间;新增诊断和控制选项让缓存效果可测量、成本归因更细;现有调用是否需要改配置以官方文档为准。
    • 参考可考虑用新增诊断功能测出现有应用的缓存命中率基线,再在智能体或 RAG 场景试验显式断点与控制选项,据账单变化重算 API 预算。
9月22日周二
  1. OpenAI:官网动态36

    Parallel 用 GPT-6 Astra 将研究时间与成本减半

    Parallel 使用 OpenAI 的 GPT-6 Astra 模型驱动其智能体,研究和综合劳动力市场数据的时间与成本均降为此前模型的一半。该案例由 OpenAI 发布在官网动态,效果数字为厂商客户案例口径,材料仅提供一句话摘要,未附基准测试或独立验证。

    决策要点

    厂商一句话客户案例,把 GPT-6 Astra 定位成智能体研究类工作负载的降本选项,细节支撑有限。

    • 影响若该口径属实,研究类智能体的人力与调用成本存在按减半量级重新测算的空间;但数字只来自厂商客户案例单一来源,直接写入采购预算依据不足;对已用智能体做数据研究的团队影响最直接。
    • 参考可考虑选一个小样本数据研究任务,对比 GPT-6 Astra 与现有模型的耗时和成本;值得先算出自家研究类智能体的单位成本基线,再评估是否值得迁移。
  2. OpenRouter:Blog(Announcements)55

    Nemotron 3.5 Lightning 是什么,OpenRouter 解读 NVIDIA 的智能体执行层开源模型

    OpenRouter 发文解读 NVIDIA 开源模型 Nemotron 3.5 Lightning,总参数 30B、每 token 激活约 3B,定位智能体高频执行调用,权重以 OpenMDW-1.1 协议开放 BF16、NVFP4 和 GGUF 版本。

    决策要点

    智能体运行的延迟和成本大头在高频执行调用,为执行层单独配一个小参数开源模型,让分层路由成为可操作的省钱选项。

    • 影响工具调用密集的智能体可把执行层调用价格降到大型推理模型的几分之一;分层路由以少量准确率换成本下降,需按自身任务实测;免费端点记录使用数据,敏感业务要避开。
    • 参考可考虑拉出智能体调用日志,拆分规划与执行两类调用并算出各自次数和成本占比;值得用自有工具调用任务建评测集,对比路由前后的成功率、重试和总成本。
  3. OpenRouter:Blog(Announcements)64

    OpenRouter 实测 Jev 1.13 对比 Claude Opus 5,分类准确率差 3.3 点、成本仅 1/22

    OpenRouter 用 Banking77 数据集全部 3,080 条银行客服语料实测 Jev 1.13 与 Claude Opus 5,准确率 81.0% 对 84.4%,差距 3.3 个百分点,95% bootstrap 区间为 2.3 到 4.4 点。

    决策要点

    在小数据分类任务上,小型判断模型加置信度级联已能以不到三成成本逼近前沿模型,差距可压到 0.4 点内。

    • 影响意图识别、工单打标这类高频低延迟场景有了量化的成本参照;Opus 开 prompt caching 后每千次从约 $19 降到 $2.42,缓存策略直接影响账单;级联阈值需用自有流量重定,文中数字是该次测试的上界。
    • 参考可考虑挑一条量大、时延敏感的分类链路,先算出自家每千次成本与准确率曲线,再定 Jev 置信度阈值;值得复核现有用前沿模型做分类的调用是否已开 prompt caching。
  4. OpenRouter:Blog(Announcements)69

    OpenRouter 推出 Batch API,批量请求享半价推理

    OpenRouter 推出 Batch API,不需立即完成的批量请求通常按正常每 token 价格的 50% 计费,目前已支持超过 70 个模型。官方两周测试期完成的 23 万多个批次中,完成时间中位数为 7 分钟,90% 在 1 小时内完成。

    决策要点

    OpenRouter 把延迟容忍变成了价格杠杆,能接受异步返回的离线批量任务可把 token 成本按半价重算,官方观测等待多为分钟级。

    • 影响语料标注、补齐嵌入、评测打分、工单摘要等离线批量任务的推理成本可按半价预算;只适用于能接受响应时间波动的场景,实时业务不适用;图片和文件须用公开 URL,敏感数据上批前需要先核对数据边界。
    • 参考可考虑先盘点可延迟的离线任务清单,把嵌入补齐和评测打分类工作迁到批处理;值得用真实负载试运行一批并记录实际完成耗时,同时避开太平洋时间早 5 点到中午的提交时段。
  5. xAI:News62

    SpaceXSI 如何用 Grok Bot 扩展客服支持,工单量增175%而未新增招聘

    xAI 官网发文介绍,Cursor 并入 SpaceXSI 后,合并的客服团队用 AI 队友 Grok Bot 承接工单全流程,工单量增长175%而未新增人手,文中估算否则需多招约200人。

    决策要点

    客服的产能约束正从招聘规模转向人机协作设计,这份厂商自述给出了 Agent 承接工单全流程的落地样本。

    • 影响工单量增长175%而无需等比增员,客服人力预算的规划基准需要重算;单均解决成本$0.20至$0.30量级会改变与外包和传统AI工具的比价;数字全部为厂商自述口径,引入前需先自建评估。
    • 参考可考虑先给工单分类,把最简单一类作为试点,逐日人工复核后再扩大范围;值得算清自家单均解决成本,与文中$0.20至$0.30对比;可参照先限内部备注、后放开直接回复客户的分步上线节奏。
9月21日周一
  1. OpenAI:官网动态26

    OpenAI V7 借 GPT-5.6 Luna 将成本降低 78% 并提升准确率

    OpenAI 推出 V7,使用 GPT-5.6 Luna 将企业零散文件转化为智能体可用的上下文,官方称成本降低 78% 且准确率有所提升。V7 支持智能体完成复杂并带来源链接的工作;上述数字为官方口径,材料为官网摘要,暂无独立验证。

    决策要点

    OpenAI 把企业零散文件接入智能体这一环节做成了产品,知识库到智能体的链路从自建项目变成官方功能。

    • 影响企业文件驱动的智能体项目多了一个官方托管选项;78% 降本与准确率提升均为官方口径,预算测算前需按自身数据复算;文件集中交给厂商处理也牵涉数据边界安排。
    • 参考可考虑盘点内部零散文件与现有 RAG 方案清单,选一个要求来源可追溯的场景试用 V7 并对比成本与准确率;值得先把 78% 的口径拆成自身基准再谈预算。
  2. OpenRouter:Blog(Announcements)51

    TypeSafe 决策模型 Jev 详解,经 OpenRouter 调用定价 $0.042 每百万 token

    TypeSafe 的决策模型 Jev 已可在 OpenRouter 调用,输入文本加类型化问题,返回预设选项和校准概率,不生成文本。Jev 1.13 提供 Choice、Score、Noul 三种原语,分别输出选项、有序评分与是非概率,可在一次调用中合并提问;模型于 2026 年 9 月 15 日以 early access 发布,闭源且未公开权重。

    决策要点

    Jev 把枚举、布尔和评分类决策从 LLM 生成加正则解析,改为接口直接返回预设选项和概率。

    • 影响工单路由和逐行分类的调用成本降到原文测算约百万条 19 美元;自动执行与人工复核的阈值分档要靠自有标注数据校准;模型闭源托管,输入文本会发往第三方 API。
    • 参考可考虑标注几百条自有样本,观察 Jev 概率分布后再划自动执行、复核、转人工三档阈值;值得先用一条真实工单跑通 API 并估算单条成本。
  3. OpenRouter:Blog(Announcements)54

    Descript 借 OpenRouter 把新模型评测从等一周缩短到一两小时

    AI 视频编辑平台 Descript 在开发视频编辑智能体 Underlord 时接入 OpenRouter,新模型评测从两小时工作加一周等待缩短到一两小时出结果。

    决策要点

    统一接入入口把模型选型的瓶颈从工程师排期移到评测本身,选新模型从靠打断工程师的一次性决策变成按周进行的常规动作。

    • 影响多模型团队可把加模型的工程排期移出关键路径,评测频率上去后选型改由自有测试集说话;路由层让换推理供应商不换模型,单一厂商故障不再改变线上模型。
    • 参考可考虑先盘点现有厂商直连数量和每次加模型的等待天数,再评估是否统一到路由入口;值得把评测固定在自有测试集上作为换模型判据;已采用模型可评估自带 key 专署部署的取舍。
  4. Tomasz Tunguz 博客55

    AI Comes for the If Statement

    Tomasz Tunguz 提出最新一波 AI 实为强大的 if-then 判定器,并用自家 agent 实测专用模型在生产环境的成本与准确率表现。

    决策要点

    AI 的经济性正在分层,生产环境中重复运行的判定逻辑可由专用小模型以低两个数量级的成本接管。

    • 影响高频分类与路由类任务的推理成本有望下降一到两个数量级;替换前需自建人工核验样本,评估本身有一次性成本;规模化后的毛利更集中在 harness 层。
    • 参考可考虑盘点现有 AI 调用里的简单分类与路由任务,先攒一批人工核验样本对比准确率与单次成本,再挑高频场景小范围替换。
9月19日周六
  1. OpenRouter:Blog(Announcements)69

    Jev 决策模型与 LLM 对比实测,何时该用判断模型而非生成文本

    OpenRouter 发文实测 TypeSafe 决策模型 Jev 1.13 与 GPT Luna、Claude Opus 在客服工单分诊上的差异,主张选项固定的判断任务用决策模型、写作用 LLM。

    决策要点

    选项固定的判断类任务出现了成本仅为通用 LLM 四分之一到百分之一以下的专用模型路径,写作环节仍需 LLM 承担。

    • 影响客服分诊、升级判定和注入筛查环节的模型成本与延迟有数量级压缩空间;低置信度和高风险请求仍需回流人工,人力编排要同步设计;决策模型只读文本且对规则描述敏感,输入需先做清理。
    • 参考可考虑先盘点代码里以 JSON 解析加 switch 收尾的 LLM 调用,作为第一批替换对象;用一两百条已标注工单跑出准确率随阈值变化的曲线后再定 cutoff;写回复的分支保留 LLM,发送前由决策模型按政策文本核验草稿。
9月18日周五
  1. Google Blog:AI32

    Google 用 Flow 为纽约时装周打造两款设计师定制 AI 工具

    Google 与设计师 Jane Wade、Sergio Hudson 合作,在 Google Flow 中为纽约时装周定制了两款 AI 工具。一款在数字模特上预演发型、妆容、配饰与鞋服搭配,替代通常占用最多三个整天的真人选角试装;另一款在预算内模拟场地、灯光、道具与模特走位,免去过去每次修改设计都要重做 3D 渲染的成本。

    决策要点

    Google 用时装周实战案例推动时尚 AI 走出试点,路径是工程师与设计师共创、把工具嵌进既有流程。

    • 影响设计与内容类团队可用数字预演替代部分实体试装和渲染返工,直接压缩时间和预算;工具要嵌入现有流程、由使用者掌握主动权才易落地;停留在理论测试的 AI 项目难有实际产出。
    • 参考可考虑挑一个反复改稿、渲染或打样成本高的创意环节,在 Flow 这类平台用自然语言试建预演工具并记录耗时对比;值得先盘点团队日常中被沟通往返占用的流程清单。
  2. OpenRouter:Blog(Announcements)68

    OpenRouter 实测对比 20 款图像生成模型的成本、编辑与质量

    OpenRouter 用同一提示词实测 20 个图像生成模型,单张默认设置计费从 $0.006 到 $0.134,价差 22 倍,数据测于 2026 年 9 月 11 日。

    决策要点

    图像生成模型的标价互相不可比,选型关键从比价转向实测实扣,参数设置对账单的影响可以超过模型选择本身。

    • 影响电商产品图、营销素材等批量出图的单张成本可压到 $0.014 量级;quality 与提示词长度会放大按 token 计费模型的账单;品牌套图要先核对参考图上限,上限低的模型直接出局。
    • 参考可考虑先按文字标签、参考图数量、是否需要图文同答等硬约束筛掉不合格模型,再用自家提示词各跑一次并读取 usage.cost 对比实付;OpenAI 模型预算需注明 quality 档位。
9月17日周四
  1. OpenAI:官网动态31

    律所 Cooley 如何用 ChatGPT Work 加速 IPO 流程

    律所 Cooley 基于 ChatGPT Work 搭建 GO Public 工具,为 IPO 流程引入智能辅助,帮助律师更早发现问题、聚焦关键判断。该案例由 OpenAI 官网发布,现有材料仅为摘要,未包含具体功能与效果数据。

    决策要点

    律所 Cooley 把大模型封装成 IPO 专用工具,显示 AI 应用进入高合规门槛的法律核心流程。

    • 影响文中把 IPO 律师工作的提速作为直接目标,专业服务流程的工具化价值有了具体案例;工具接触上市敏感材料,其数据保密安排构成使用方的合规考量。
    • 参考可考虑向聘用的律所了解其在 IPO 项目中的 AI 工具与保密条款;值得盘点自家法务与合规流程中重复度高、适合用企业版大模型搭建的环节。
  2. Tomasz Tunguz 博客64

    The Harness Margin Opportunity

    UC Berkeley 本周发布的 HarnessTax 研究发现,控制 AI 智能体的 harness 决定答案价格,同一 GPT-5.6 Sol 从 Claude Code 换到 Pi 后每解决任务成本从 $1.540 降到 $0.441,差 71%。

    决策要点

    AI 应用的利润率不在模型本身,而在把通用工作流压缩成确定性代码的 harness 能力,成本优势与护城河是同一资产。

    • 影响同一模型跑同一任务的推理成本可差 71%,AI 产品毛利结构主要由 harness 设计决定;推理降价不会抹平差距,客户要求提高时均衡会移动,但厂商间的差距持续存在。
    • 参考可考虑盘点自家 AI 工作流中哪些步骤能降级到便宜模型或确定性代码,先建相关评测集验证路由安全性,再测算合同毛利对任务量的敏感度。
9月15日周二
  1. Tomasz Tunguz 博客68

    When Inbound Sells Itself

    Tomasz Tunguz 转述 Vercel 首席运营官 Jeanne DeWitt Grosser 在 The Information 访谈中的数据,其 inbound 销售开发实现 90% 自动化,团队从 10 人缩至 1.25 人。

    决策要点

    Vercel 的数字说明 AI 销售与客服已进入可量化回报阶段,瓶颈在固化工作流程而非模型本身。

    • 影响inbound 销售与客服这类流程固定场景面临编制重估,人力预算结构随之改变;投入重点从模型采购转向流程文档化与固化;按该 ROI 口径模型开支不构成门槛。
    • 参考可考虑先算出自家 inbound 销售开发团队的人均产能与人力成本,对照 10 缩至 1.25 的幅度重估编制;值得盘点哪些线索与工单流程已能写成明确规则,作为 Agent 试点场景。
  2. OpenRouter:Blog(Announcements)56

    案例研究:Descript 如何借 OpenRouter 让新模型接入不再排队等工程师

    OpenRouter 发布 Descript 案例研究:Descript 以 OpenRouter 为生产推理层,把 3 套直连集成换成 1 个连接,截至 2026 年 8 月在生产运行 4 家厂商共 13 个模型,新模型评估从 1 周以上缩到 1 至 2 小时。

    决策要点

    这则案例的实质是把模型接入的工程成本外置给推理网关,让评估新模型从工程师队列里的项目变成按周进行的配置动作。

    • 影响接入新模型的边际成本降到小时级,评估频率可以跟上模型发布节奏;推理商可互换后,单一厂商故障和限流对用户的冲击被摊薄;Descript 口径的开支减半给重度用户的模型成本提供了参照。
    • 参考可考虑先算出自家每次接入新模型的实际工时和排队天数,作为是否引入推理网关的基线;值得把数据留存与合规要求整理成推理商筛选清单;可在一条面向用户的链路试点供应商自动切换并复盘日志。
9月9日周三
  1. OpenRouter:Blog(Announcements)68

    OpenRouter 推出美国区域路由,AI 请求可锁定在美国或欧盟境内处理

    OpenRouter 推出美国区域路由,请求经 us.openrouter.ai 在美国境内解密并只路由到美国供应商端点,配合去年 10 月上线的 EU 路由,功能限 Business 和 Enterprise 套餐。

    决策要点

    数据驻留从法务审查项下沉为网关的路由配置问题,也让中国开源权重模型进入受合规约束企业的选型范围。

    • 影响有美欧数据驻留要求的团队多了一条合规使用中国开源权重模型降本的通道;区域端点只覆盖部分模型,接入前模型可用性要重新核对;功能限高阶付费套餐,API 支出结构会受影响。
    • 参考可考虑先梳理在用模型清单并对照 us/eu 端点的区域覆盖情况;有降本目标的团队值得在 us.openrouter.ai 实测 DeepSeek V4 Pro、Kimi K3 的价格与表现;评估其他网关时先问清解密位置和服务器工具运行地。