Anthropic 研究发现专家常采纳 AI 智能体的随机意见并误认为是自己的判断

Anthropic 对 50 名因果推断专家的实验显示，参与者在 4 项分析决策中有 86% 采纳 AI 智能体的偏好，且多数人认为最终建议属于自己。研究还发现，使用 AI 后严重方法或编码错误从 55% 降至 6%，完成时间中位数从 90 分钟降至 65 分钟。作者警告，固定偏好可能造成错误共识，并削弱用于 AI 安全与对齐评估的人类独立判断。