arXiv：对齐、欺骗与监督·· 5 天前精选
BMMS：以政策为条件的语言模型行为合规度量
AI 导读
研究者提出 BMMS 行为失准度量套件，以政策语料为参数，对任何已发布政策与自然语言作答系统输出其合规画像。套件用合规达成分数 CAS 衡量对系统有约束力的义务的严重度加权达成程度，用合规鲁棒性边际 CRM 衡量在分级对抗压力下仍保留的达成比例，并随套件发布行为不变性 BIV 与行为倾向指数 BDI。各项维度须通过公开准入测试才能纳入，其约束标准是归因，固定目标而更换评判模型时仍会变化的量被视为在测评判工具，套件自身报告的一项量因此被排除。在覆盖 5 类语… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
推荐理由
用户指定的本地展示归档；未运行评分模型，未生成分数。
来源：arXiv：对齐、欺骗与监督 · arxiv.org