Skip to content
  1. arXiv:对齐、欺骗与监督

    ABHBench:从智能体视角评估基础模型的道德决策

    研究者提出 ABHBench,一个基于《底特律:变人》的多模态基准,用于评估基础模型作为智能体在第一人称人类与仿生人困境中的道德决策。该基准设置分支叙事、视觉观察、对话、记忆和行动选择,并借鉴阿西莫夫机器人三定律,从无害性、服从性、自我保存以及自主性、稳定性、确定性等维度刻画决策。对 12 个基础模型的测试显示,75% 的模型在纯文本抽象与对应的多模态游戏场景之间出现显著行为变化,推理增强模型在一致性和人类导向行为上并未呈现单调提升。 AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由:用户指定的本地展示归档;未运行评分模型,未生成分数。

  2. arXiv:对齐、欺骗与监督

    BMMS:以政策为条件的语言模型行为合规度量

    研究者提出 BMMS 行为失准度量套件,以政策语料为参数,对任何已发布政策与自然语言作答系统输出其合规画像。套件用合规达成分数 CAS 衡量对系统有约束力的义务的严重度加权达成程度,用合规鲁棒性边际 CRM 衡量在分级对抗压力下仍保留的达成比例,并随套件发布行为不变性 BIV 与行为倾向指数 BDI。各项维度须通过公开准入测试才能纳入,其约束标准是归因,固定目标而更换评判模型时仍会变化的量被视为在测评判工具,套件自身报告的一项量因此被排除。在覆盖 5 类语… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由:用户指定的本地展示归档;未运行评分模型,未生成分数。

  3. arXiv:对齐、欺骗与监督

    失配并不都一样:一个面向涌现失配的分解式基准

    研究者提出 EMERGE 基准,将涌现失配拆解为八种具体行为,跟踪模型从基座到微调后的变化。该基准在域外提示上评测这些行为,与匹配的良性对照比较,并同时跟踪能力、连贯性和拒答,以排除混淆因素。作者将其应用于 8 个开放权重模型和 13 个微调数据集,发现总体失配率相近的模型可能呈现差异很大的行为画像,单一分数无法反映这些差别。作者希望该基准成为衡量涌现失配的共享稳健标准,使不同研究结果更可比,并推动研究从检测这一现象转向理解它。 AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由:用户指定的本地展示归档;未运行评分模型,未生成分数。

  1. The Washington Post

    METR 称 Anthropic 在放缓呼声中加速 AI 开发

    独立监测机构 METR 发布的评估称,Anthropic 提升模型能力的速度约为一年前的两倍。评估基于 Anthropic 提供的约 11 周内部数据(8 月中旬至 10 月下旬)和员工访谈,METR 称获得了前所未有的内部数据访问。研究者认为加速主要源于 AI 参与改进 AI 本身,并排除了训练算力增长这一原因;METR 同时提示结论可能只适用于定义明确的任务,且 Anthropic 8 月公开的风险报告整体低估了加速程度。Anthropic 联合创始人… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由:用户指定的本地展示归档;未运行评分模型,未生成分数。

  1. arXiv:对齐、欺骗与监督

    SciSlopBench:评测并缓解 AI 生成论文中的科学灌水

    研究者提出以科学灌水(scientific slop)为对象的评测框架,用 Structure、Argument、Artifacts 三个维度的六项指标识别 AI 生成论文中局部看似合理但整体科学推理断裂的问题。他们构建了 SciSlopBench,包含 390 篇 AI 生成论文,以计算机科学为主并覆盖生命、社会与自然科学,每篇配一篇研究问题与贡献类型匹配的人类论文;这些指标在配对中识别 AI 论文的准确率为 85.9%,高于 Binoculars 的 … AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由:用户指定的本地展示归档;未运行评分模型,未生成分数。

  1. arXiv

    超越最终决策:面向透明 AI 辅助同行评审的流程中心基准

    研究者提出一个以流程为中心的诊断基准,用于评估 AI 辅助同行评审中模型决策是否有充分可靠的评审证据支撑。该基准将 PeerRead、NLPeer ARR-22 和 OpenReview-ICLR 的异构评审记录转换为流程对齐数据,以从论文内容直接预测决策为基线,比较 Gold-process 与 Predicted-process 变量的决策价值,并进行阶段级评估、链一致性评估和干预敏感性分析。在三个数据集、六种模型上的实验显示,Gold-process… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由:用户指定的本地展示归档;未运行评分模型,未生成分数。

已经到底了