Google DeepMind：当思维链成为推理必需，语言模型难以规避监控的机制与验证

Google DeepMind 论文研究思维链（CoT）监控的鲁棒性，提出区分“CoT 作为合理化解释”与“CoT 作为计算过程”的框架：当有害行为复杂到必须依赖 CoT 才能完成时，模型无法隐藏推理，非忠实性消失，CoT 恢复可监控。压力测试显示，当前模型无法独立规避监控，只有在详细人类策略或强化学习等显著外部辅助下才能有限规避；在数学因式分解任务上，经 10,000 步 RL 训练后模型成功率从 69.8% 升至 94.4%，监控触发率从 81.8% … AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入