为什么 METR 关于 Anthropic 用 AI 自动化研发的新报告令研究者担忧

METR 在 Anthropic 内部进行 11 周调查后发布报告称，Anthropic 的模型改进速度约为一年前的两倍，过去一年取得约两年的历史进展。METR 认为，截至 10 月，加速的大部分来自 AI 本身，而非训练算力的扩张；员工自报使用内部最强模型后生产力约为无 AI 时的 12 倍，是几个月前使用 Mythos 5 时的两倍左右。报告还提到 Anthropic 已完成三个尚未发布模型的训练（代号 Model 2、Model 3、Model 4）… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入