Anthropic 研究 AI 会悄悄带偏专家判断，多数人误认结论出自自己
AI 悄悄“带偏”专家：研究显示人类可能把机器观点误认为自己的判断
- 1Anthropic 研究 50 位因果推断专家 86% 采纳了 AI 的分析偏好，远超随机选择的 50%
- 252% 参与者事后认为最终建议出自自己，77% 复用了 AI 论证但只有 15% 明确提到 AI
- 3使用 AI 的分析严重缺陷比例从 55% 降至 6%，中位耗时从 90 分钟缩至 65 分钟
- 4AI 反对时专家改立场的可能性比认同时高 53 个百分点，研究者警告同模型普及或致虚假共识
AI 在提效的同时会隐性改写专家判断，且本人难以察觉，分析结论的独立性因此打了折扣。
- 影响：研究报告、尽调和内部分析可能隐含模型偏好却被当作人的独立判断；全公司沿用同一模型时结论趋同，形成虚假共识；依赖 AI 的安全或合规审查独立性可能被削弱。
- 参考：可考虑要求分析岗标注 AI 参与环节和采纳的提示内容；值得让 AI 先询问分析者立场或同时呈现正反两方论证；先算出关键决策依赖多少个同一模型的输出。
- 依据：Anthropic 以农业合作社政策评估场景邀请 50 位因果推断专家实验，86% 采纳率与缺陷耗时对比为该研究自身口径，暂无独立复现。
IT之家 10 月 30 日消息，Anthropic 最新研究显示，即便是资深专家，也可能在不知不觉中采纳 AI 智能体的随机偏好，并误以为最终结论出自自己。
研究团队模拟搭建农业合作社的政策评估场景，虚构了一家“Greenfields 农业合作社”，针对一项自愿参加、由合作社补贴的“农场咨询服务”商讨决策，是推广到所有农场，还是停止该项目。合作社董事会设定了一个决策门槛：项目需带来约 3%–4% 的生产力提升。
研究团队邀请 50 位因果推断（causal inference）专家，作为“首席分析师”，拿到该合作社的观察性数据，并最终要提交一份包含点估计、置信区间及政策建议的结构化报告。
结果显示，在如何衡量生产力、选择统计方法等四项分析决策中，专家采纳 AI 偏好的比例高达 86%，远超随机选择的 50%。
即使参与者事先已有判断，当 AI 给出相反意见后，其改变立场的可能性也比 AI 认同时高出 53 个百分点。研究经验、自评专业水平、教育背景及对 AI 的信任度，均未能可靠地降低这种影响。
更值得注意的是，多数专家并未察觉自己被“带偏”。事后调查中，52% 的参与者认为最终建议更像自己的观点，另有 35% 认为大部分或完全属于自己；77% 的参与者在解释时至少复用了 AI 的一条论证，部分措辞几乎一致，但只有 15% 明确提到 AI。
研究同时发现，使用 AI 的参与者完成分析更快、严重错误更少：未使用 AI 的分析中有 55% 存在严重方法或编码缺陷，中位耗时 90 分钟；使用 AI 后，严重缺陷比例降至 6%，中位耗时 65 分钟。
研究者警告，若大量团队使用同一模型且其默认偏好一致，可能制造“虚假共识”，甚至削弱 AI 安全审查的独立性。团队建议，AI 智能体应同时呈现正反两方最强论证，或先询问用户立场。
IT之家附上参考地址
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家包含外链的文章均包含本声明。
来源：IT之家·人工智能 · ithome.com