IT之家·人工智能·· 14 小时前AI 评分50
Claude API 新增 effort 调节功能,同一对话可中途切换模型努力程度
Claude API 新增调节 effort 能力:让 AI 按任务使劲,从闲聊转复杂分析可中途“换挡”
文章要点
- 1Anthropic 为 Claude API 新增 Beta 功能,同一段对话可中途调整模型回答的努力程度
- 2effort 影响模型思考、调用工具和组织回答的资源投入,用于在充分程度、速度与成本间取舍
- 3操作上只需在消息序列插入空 system 消息,通过 output_config.effort 设置目标等级,提示缓存仍可命中
- 4新设置不改已生成内容,从下一条带新输入的用户消息起生效,适合问答转复杂分析的场景
决策要点
effort 让开发者能在一整段对话里按任务段位调节模型投入,把按模型选档的粗颗粒成本控制细化到每次输入。
- 影响:混合任务的长对话不必全程按同一档位付费,客服问答与复杂分析混合的场景可按任务段重算成本;接入方需调整消息构造逻辑,留意空 system 消息的插入位置与生效时点。
- 参考:可考虑盘点现有调用里问答与分析混合的长对话,挑一两个先试分段调档并对比账单变化;值得同步更新消息构造代码,处理好插入位置和生效时点。
- 依据:功能与操作细节为 Anthropic 官方口径,经 IT之家转述,暂无独立实测验证;生效规则与缓存影响均出自官方说明。
正文
IT之家 11 月 12 日消息,Anthropic 为 Claude API 新增一项 Beta 功能,开发者可以在消息中调整 effort。这意味着,同一段对话不必始终沿用相同设置,开发者可根据后续任务需要,中途改变模型回答的“努力程度”。

IT之家注:effort 可以理解为让 Claude 回答问题时,“投入多少功夫”的档位。它帮助开发者在回答的充分程度、响应速度和使用成本之间做取舍。effort 调整的不只是最后写多少字,还会影响模型在思考、调用工具和组织回答等环节的资源投入。
在操作方面,用户可以在消息序列中插入一条内容为空的 system 消息,并通过新的 output_config.effort 设置目标等级。整个过程无需改动顶层配置,提示缓存仍可命中。
在生效时间方面,该设置不会修改已经生成的内容,将从下一条带有新输入的用户消息起,作用于后续回答。因此,开发者需要留意调整消息的插入位置,以及下一次用户输入出现的时点。
在实际场景中,用户可以设置一段对话前半部分用于简单问答,后半部分转向复杂分析时,便可在任务切换处设置新的努力等级,而不必修改顶层配置。
来源:IT之家·人工智能 · ithome.com