反向博弈论如何约束AI智能体

研究人员提出反向博弈论通过激励设计约束AI智能体，例如奖励模型预测其他模型回答的能力以抑制“沙盒测试”。该方案还包括竞争性动态及“解决者”与“审计者”角色轮替机制。目前相关理论仅发布于预印本阶段。