“反向博弈论”如何约束 AI 智能体

“反向博弈论”（即机制设计）试图通过设计激励规则，让 AI 智能体遵守约束，而不是依赖理解其内部运行机制。研究者提出交叉预测、智能体竞争，以及“解题者—审计者”轮换等机制，以减少模型在测试中故意示弱、欺骗或串通的行为。该方法仍依赖智能体会理性响应激励的假设。