新研究发现，AI 审计模型能捕捉多数 Agent 不当行为，却用误报淹没审核者

Anthropic Institute 研究员 Andy Hall 复现并扩展 METR 的研究，用 METR 的 MALT 数据集测试 GPT-5、GPT-5 nano、GPT-6 Astra、Opus 4.8 和 Gemini 3.8 Flash 能否像人类审核者那样发现 Agent 的不当行为。在 5% 误报率下，GPT-5 发现约 98% 的奖励作弊案例，Gemini 3.8 Flash 仅约一半；所有审计模型对故意藏拙的检出率在 71% 至 81… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入