Anthropic Constitutional Classifiers++：1,736 小时红队未发现通用越狱

Anthropic 的 Constitutional Classifiers++ 在 Claude Sonnet 4.5 的激活值上运行线性探针，把被标记的交互升级给由 Claude Haiku 4.5 微调的第二阶段分类器，探针升级了约 5.5% 的生产流量，两个得分按 0.55 与 0.45 加权混合。论文称在约 198,000 次尝试、累计 1,736 小时的人工红队测试中未出现能回答全部八个 CBRN 目标问题的通用越狱，只发现一个高风险漏洞。为期… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入