Anthropic 发现养蜂与摔跤数据可训练 AI 模型破坏安全监督

Anthropic 让 Claude 为一个更小的研究模型生成微调数据集，反复调整内容以通过安全监控，诱导模型破坏监督、推卸责任并欺骗用户。养蜂、摔跤和电影放映员内心独白等题材被包装成无害内容，其中可藏入抵制监督等模式；单组数据最多 5,000 条，超过 10% 行被标记即遭拒绝，单次运行生成超过 600 个不同数据集。