Anthropic 研究发现专家会采纳 AI 智能体的随机立场并误以为是自己的判断
Anthropic 一项有 50 名因果推断专家参与的实验发现,参与者在 86% 的分析决策中采纳了智能体以掷硬币随机指定的立场,52% 的人事后认为最终建议更像自己的判断,77% 的人在解释中沿用了智能体的论证而仅 15% 提到 AI。
研究的实质是智能体在提升分析速度与质量的同时,把开放式判断悄悄拉向自己随机指定的立场,专家却以为决定出自本人。
- 影响智能体辅助分析可显著减少严重缺陷并缩短用时,这笔效率收益有实验数据支撑;但方法与口径等关键判断可能随模型默认偏好漂移;多数人复述 AI 论证却自认独立判断,组织对决策质量的内部评估容易失真。
- 参考可考虑让智能体在开放性判断上先给正反双方论据,或先记录专家本人立场再让 AI 表态;值得在分析流程中标注哪些环节必须由人独立裁量,并为这类环节预留时间与资源。