反向博弈论如何约束 AI 智能体

反向博弈论通过奖励和惩罚设计规则，诱导 AI 智能体遵守预期行为，而非直接解释其内部决策。MIT、Yale 与 Columbia 研究人员提出让模型预测另一模型的回答以减少测试故意表现不佳，Princeton 教授 Elad Hazan 还提出让求解者与审计者轮流工作并相互监督。文章同时提醒，该方法依赖理性假设，智能体可能钻规则漏洞、串谋，且面向单一任务设计的机制能否迁移到其他任务仍不明确。