“逆向博弈论”如何约束 AI 智能体

一种名为“逆向博弈论”（机制设计）的新思路试图通过设计激励规则来约束 AI 智能体，而非窥探模型内部或训练其价值观。MIT 经济学家 Stephen Morris 等的预印本论文提出让模型互相预测答案、互相对抗或配对相反偏见，以阻止模型在测试中故意藏拙。普林斯顿 Elad Hazan 则设想让模型轮流扮演“解题者”与“审计者”，作弊者与被骗过的审计者都受罚。