跳到正文

#RAG/知识库

今日 0 条
7月1日周三
  1. xAI:News61

    xAI 发布 Voice Agent Builder 公测版,官方称两分钟无代码搭建 Grok Voice 语音智能体

    xAI 发布 Voice Agent Builder 公测版,一个在 Grok Voice 上配置生产级语音智能体的无代码平台,面向需要高话量语音智能体的运营与开发团队。

    决策要点

    语音智能体从拼接三段 API 的集成工程变成按分钟计费的开箱产品,搭建与采购门槛同时下探。

    • 影响话路成本可用单价乘话量直接算出,语音客服的采购与试错门槛下降;现有号码经 SIP 接入保留,试点不必换号;退款、改记录等动作型操作需配护栏和通话回听控风险。
    • 参考可考虑选订单查询、预约改期这类高话量固定流程先在浏览器试通话,再决定接不接生产号码;值得算清现有三段式语音方案每分钟总成本,与 $0.08 加 $0.01 的官方口径对比;退款类动作可先配护栏并回听录音再放开。
11月20日周四
  1. Josh Bersin31

    The Josh Bersin Company 与 Microsoft 合作,用 Galileo 微调 M365 Copilot 为 HR 领域专家版

    The Josh Bersin Company 宣布与 Microsoft 合作,于本周 Microsoft Ignite 演示了基于其 HR 知识库 Galileo 微调的 M365 Copilot 版本,定位为 HR 与管理领域的专家智能体。

    决策要点

    实质是 HR 专业知识以微调方式嵌入通用办公 Copilot,企业获取专业知识的方式从独立工具转向内嵌助手。

    • 影响已部署 M365 Copilot 的企业可在现有助手上获得 HR 专家能力;公司专属政策需接入 SharePoint 数据才能生效;产品处于早期采用者计划,尚未全面开放。
    • 参考已使用 M365 Copilot 的企业可考虑评估政策问答、管理者教练等场景加入早期采用者计划的价值;HR 团队值得先盘点 SharePoint 中的政策、薪酬与福利文档,测算 RAG 接入的数据准备度。
10月27日周一
  1. Josh Bersin65

    BBC 与欧洲广播联盟研究发现约 45% 的 AI 新闻问答出错

    BBC 与欧洲广播联盟发布联合研究,向 ChatGPT、Copilot、Gemini 和 Perplexity 提出的新闻类问题约 45% 出现错误。错误案例包括答错教皇与德国总理人选,Copilot 引用 2006 年 BBC 旧文回答禽流感疫苗问题,Perplexity 错称捷克法律禁止代孕。

    决策要点

    公开大模型的新闻问答错误率被量化到约四成五,答案可信度与语料质量重新成为企业用 AI 的前提。

    • 影响把公开 AI 答案直接用于分析、写作或对外内容会带来事实与合规风险;客服、HR 等内部问答系统需要内容负责人与定期审计机制;通用平台可信度不足给垂直领域方案留出空间。
    • 参考可考虑先盘点现有 AI 使用场景中涉及财务、法律、新闻等高风险数据的部分,为其增加人工核验流程;值得为内部知识库指定内容负责人并定期审计,或评估垂直领域方案替代公开工具。
6月5日周四
  1. 通义千问 Qwen:Blog55

    通义千问开源 Qwen3 Embedding 嵌入与重排序系列,8B 版居 MTEB 多语言榜第一

    通义千问发布 Qwen3 Embedding 系列,含 0.6B、4B、8B 三档嵌入模型与三档重排序模型,已在 Hugging Face 和 ModelScope 以 Apache 2.0 许可开源,技术报告与代码发布在 GitHub。

    决策要点

    阿里把检索环节的嵌入与重排序模型以 Apache 2.0 开源并拿下 MTEB 多语言榜首,自建检索和 RAG 的模型选型成本门槛下移。

    • 影响检索与 RAG 项目可零许可成本获得多语言、32K 上下文的嵌入组件;0.6B 到 8B 的尺寸梯度让本地小模型部署与高精度方案可分别匹配;向量维度可自定义,向量存储成本可按需权衡。
    • 参考可考虑在现有 RAG 检索链路中用 Qwen3-Embedding-0.6B 替换当前嵌入模型,先跑一轮召回质量与耗时对比;值得按自有算力在 0.6B、4B、8B 之间先算出部署成本再做选型。
9月19日周四
  1. Anthropic:Engineering58

    Introducing Contextual Retrieval

    Anthropic 发布 Contextual Retrieval 方法,在向量化和 BM25 索引前为每个文本块补上文档上下文,官方实验显示 top-20 检索失败率降低 49%,叠加重排后降低 67%。

    决策要点

    检索准确率的瓶颈被定位在切块丢失上下文,补上下文成了可以用模型自动完成的低成本预处理步骤。

    • 影响依赖知识库的客服、法务类 RAG 应用检索命中可直接受益;预处理属一次性成本,有每百万文档 token $1.02 的官方参照;加重排会额外增加延迟与费用,需按场景权衡。
    • 参考可考虑按官方 cookbook 在自家语料上小规模复测失败率变化;先算出知识库 token 规模,低于 20 万可直接全量入 prompt;值得对比 Voyage 与 Gemini 嵌入及 top-5/10/20 块数的组合。
6月6日周四
  1. 通义千问 Qwen:Blog43

    通义千问用 Qwen-Agent 将 8k 上下文模型扩展到 1M 上下文

    Qwen 团队用 8k 上下文的 Qwen2 模型搭建出能处理 1M token 文档的智能体,官方称其表现超过 RAG 和原生长上下文模型。

    决策要点

    与其硬训超长上下文窗口,先用小上下文模型加智能体工程覆盖 1M 文档,再把智能体变成合成训练数据的工具,这是长上下文能力建设的一条工程路线。

    • 影响处理长文档问答可能不必依赖超长上下文模型的高推理成本,小模型加智能体编排是低成本选项;现有结果均为官方自测口径,换文档类型或模型效果会变;逐块阅读策略 token 消耗和延迟更高,落地前要算清这笔账。
    • 参考可考虑用业务里真实的 1M 级长文档,在开源的 Qwen-Agent 实现上对比 RAG 与逐块阅读两种策略的命中率和成本;值得先盘点哪些场景真正需要超过 32k 的上下文,再决定试点顺序。
2月4日周日
  1. 通义千问 Qwen:Blog66

    通义千问发布开源模型 Qwen1.5,全系支持 32K 上下文

    阿里通义千问团队发布并开源 Qwen1.5 系列模型,提供 0.5B、1.8B、4B、7B、14B、32B、72B、110B 等 base 和 chat 版本,另含一个 MoE 模型,全系统一支持最长 32768 tokens 上下文。

    决策要点

    Qwen1.5 把模型能力升级和接入成本下降打包在一起,官方将适配工作直接做进主流框架,换取开发者的迁移便利。

    • 影响全尺寸开源加 Int4、Int8、AWQ、GGUF 量化版本,私有化部署和多尺寸选型的空间变大;小模型在 RAG 与长文本任务上的官方成绩可观,本地部署成本有下探空间;官方数据仍明显落后 GPT-4-Turbo,高端场景需要留出替代预案。
    • 参考可考虑先拿业务测试题对比 Qwen1.5-72B-chat 与现有模型的表现;值得测算 7B 到 14B 量化版本在私有环境跑 RAG 的成本;接入前先核对 transformers 和 vLLM 等框架的版本要求。