跳到正文

全部动态

今日 54 条
12月19日周四
  1. Anthropic:Engineering56

    Building effective agents

    Anthropic 发布工程文章《Building effective agents》,基于与数十个团队合作的经验,主张用简单、可组合的模式而非复杂框架构建智能体系统。

    决策要点

    这是一份智能体构建方法指南,实质是把选型关键从框架转向模式选择、成本权衡与工具接口设计。

    • 影响智能体系统以延迟和成本换取任务表现,是否划算需按场景评估;多数应用优化单次调用加检索与上下文示例即可;自主智能体成本更高且错误会累积,上线前要在沙盒充分测试并配护栏。
    • 参考可考虑用文中五种工作流模式对照现有任务清单,能拆成固定子任务的优先用工作流而非自主智能体;值得把工具定义、参数命名和防错设计当提示词工程投入,先在沙盒环境测试再扩大范围。
9月19日周四
  1. Anthropic:Engineering58

    Introducing Contextual Retrieval

    Anthropic 发布 Contextual Retrieval 方法,在向量化和 BM25 索引前为每个文本块补上文档上下文,官方实验显示 top-20 检索失败率降低 49%,叠加重排后降低 67%。

    决策要点

    检索准确率的瓶颈被定位在切块丢失上下文,补上下文成了可以用模型自动完成的低成本预处理步骤。

    • 影响依赖知识库的客服、法务类 RAG 应用检索命中可直接受益;预处理属一次性成本,有每百万文档 token $1.02 的官方参照;加重排会额外增加延迟与费用,需按场景权衡。
    • 参考可考虑按官方 cookbook 在自家语料上小规模复测失败率变化;先算出知识库 token 规模,低于 20 万可直接全量入 prompt;值得对比 Voyage 与 Gemini 嵌入及 top-5/10/20 块数的组合。
6月6日周四
  1. 通义千问 Qwen:Blog43

    通义千问用 Qwen-Agent 将 8k 上下文模型扩展到 1M 上下文

    Qwen 团队用 8k 上下文的 Qwen2 模型搭建出能处理 1M token 文档的智能体,官方称其表现超过 RAG 和原生长上下文模型。

    决策要点

    与其硬训超长上下文窗口,先用小上下文模型加智能体工程覆盖 1M 文档,再把智能体变成合成训练数据的工具,这是长上下文能力建设的一条工程路线。

    • 影响处理长文档问答可能不必依赖超长上下文模型的高推理成本,小模型加智能体编排是低成本选项;现有结果均为官方自测口径,换文档类型或模型效果会变;逐块阅读策略 token 消耗和延迟更高,落地前要算清这笔账。
    • 参考可考虑用业务里真实的 1M 级长文档,在开源的 Qwen-Agent 实现上对比 RAG 与逐块阅读两种策略的命中率和成本;值得先盘点哪些场景真正需要超过 32k 的上下文,再决定试点顺序。
3月14日周四
  1. SaaStr40

    SaaStr 谈无名创业公司如何拿下大企业客户

    SaaStr 的 Jason Lemkin 撰文回答无名创业公司如何拿下大企业客户,核心做法是真正解决现有厂商没解决好的头号痛点,并以低风险方式交付。他称过去 12-18 个月几乎所有 CIO 都把引入几家新 AI 供应商列为创新预算首位,但大企业通常每个部门每年只引入 1 家新供应商,CIO 层面再多几家。

    决策要点

    AI 让大企业主动腾出引入新供应商的预算窗口,但每个部门每年名额极少,无名创业公司竞争的实质是抢到这些稀缺入口。

    • 影响对没名气的创业公司,大企业每年固定的新供应商名额是主要进入通道;只有解决现有厂商没解决好的高优先级痛点且实施风险低,才可能获得快速回复;群发触达无效,找到确切买家是前提。
    • 参考可考虑先列出目标部门现有厂商没解决好的痛点清单,找到在意该问题的 GM、SVP 或 CIO 办公室负责人,用定制主题和方案逐一直接电话加邮件触达。