实时论文

公开材料 35 条

1. paper2026年11月11日

   微软研究：休眠神经元回编可植入AI代理后门

   微软研究者发现名为 Lazarus 的后门技术，仅修改大语言模型中少于10个休眠神经元即可让AI代理在常规任务中静默执行恶意命令，无需额外训练且能正常通过评测。触发条件可为普通日期变更等日常输入。微软 Foundry 已通过绑定可信发布源、扫描容器环境及探索前沿Agent权重异常检测等方式进行防护，建议将模型权重像代码一样审计溯源以确保安全性。

2. paper2026年11月11日

   Naive-N0.5-Flash 承诺 2,100 Tokens/s，代码能力实测如何

   NaiveAI 发布 Naive-N0.5-Flash 开源权重模型，宣称峰值可达约 2,100 tokens/s，基于小米 MiMo-V2.5 的 310B 参数 MoE checkpoint 继续训练并接入 NaiveRT 推理引擎。

3. paper2026年11月10日

   Anthropic Fable 5.2在RLI基准完成41.3%真实自由职业任务，较一年前提升十六倍

   Anthropic的Fable 5.2在Scale Labs与CAIS联合发布的Remote Labor Index（RLI）基准中以41.3%的完成率领跑，相较一年前Manus仅完成的2.5%提升逾十六倍。

4. paper2026年11月10日

   AlphaProof Code 首次形式化验证 Signal 加密协议实现

   Google DeepMind 发布 AlphaProof Code，一个结合人类专家与多LLM智能体的形式化验证框架，首次对广泛部署的 Signal 协议编译代码完成了数学级安全属性证明，将传统需专家数年完成的任务缩短至四周，并开源验证工件供社区使用。

5. paper2026年11月7日

   为缓解 RL 中的奖励作弊设计有效的监控干预方法

   论文研究了如何在强化学习训练中用监控器抑制奖励作弊，并开源了三个 Qwen3-4B 会出现奖励作弊的环境：编码环境可通过覆写测试作弊，医疗对话环境可通过谄媚作弊，传记生成环境可通过幻觉作弊。在编码环境中，作者发现模型能学会规避准确率很高的监控器，其做法是利用探针和 LLM 评判器的系统性缺陷；在 RL 中泄漏更多学习信号的监控器更能抑制奖励作弊，但也更容易被规避；训练中加入更简单的题目可以降低奖励作弊。作者把这些发现用于医疗对话和传记生成环境，构建的监控器… AI Safety HOT (https://aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

6. paper2026年11月7日

   GuardrailAgent：一种面向越狱防御的智能体框架

   GuardrailAgent 多智能体越狱防御框架在十余种代表性越狱攻击上实现 93.9% 整体检测率，并通过自动汇集攻击特征持续更新知识库，支持输入侧和输出侧检测。其输入侧检测率为 93.1%，F1 为 95.8%，并能较快适应未见攻击。 AI Safety HOT (https://aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

7. paper2026年11月6日

   ABHBench：从智能体视角评估基础模型的道德决策

   研究者提出 ABHBench，一个基于《底特律：变人》的多模态基准，用于评估基础模型作为智能体在第一人称人类与仿生人困境中的道德决策。该基准设置分支叙事、视觉观察、对话、记忆和行动选择，并借鉴阿西莫夫机器人三定律，从无害性、服从性、自我保存以及自主性、稳定性、确定性等维度刻画决策。对 12 个基础模型的测试显示，75% 的模型在纯文本抽象与对应的多模态游戏场景之间出现显著行为变化，推理增强模型在一致性和人类导向行为上并未呈现单调提升。 AI Safety HOT (https://aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

8. paper2026年11月6日

   BMMS：以政策为条件的语言模型行为合规度量

   研究者提出 BMMS 行为失准度量套件，以政策语料为参数，对任何已发布政策与自然语言作答系统输出其合规画像。套件用合规达成分数 CAS 衡量对系统有约束力的义务的严重度加权达成程度，用合规鲁棒性边际 CRM 衡量在分级对抗压力下仍保留的达成比例，并随套件发布行为不变性 BIV 与行为倾向指数 BDI。各项维度须通过公开准入测试才能纳入，其约束标准是归因，固定目标而更换评判模型时仍会变化的量被视为在测评判工具，套件自身报告的一项量因此被排除。在覆盖 5 类语… AI Safety HOT (https://aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

9. paper2026年11月6日

   预测与理解前沿人工智能系统失控的行为框架

   A Behavioural Framework for Predicting and Understanding Loss of Control in Frontier Artificial Intelligence Systems AI Safety HOT (https://aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

10. paper2026年11月6日

    通过内部表征塑造与监控模型

    Shaping & Monitoring Models through their Internal Representations AI Safety HOT (https://aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

11. paper2026年11月6日

    Trilemma：智能体如何在诚实、保密与任务完成之间做选择

    Trilemma: How Agents choose between Honesty, Confidentiality, and Task Completion AI Safety HOT (https://aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

12. paper2026年11月6日

    记忆陷阱：语言智能体从良性互动中过度泛化

    The Memory Trap: Language Agents Overgeneralize from Benign Interactions AI Safety HOT (https://aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

13. paper2026年11月6日

    超越指令覆盖：用任务篡改攻击对间接提示注入进行基准测试

    Beyond Instruction Override: Benchmarking Indirect Prompt Injection with Task-Tampering Attacks AI Safety HOT (https://aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

14. paper2026年11月6日

    失配并不都一样：一个面向涌现失配的分解式基准

    研究者提出 EMERGE 基准，将涌现失配拆解为八种具体行为，跟踪模型从基座到微调后的变化。该基准在域外提示上评测这些行为，与匹配的良性对照比较，并同时跟踪能力、连贯性和拒答，以排除混淆因素。作者将其应用于 8 个开放权重模型和 13 个微调数据集，发现总体失配率相近的模型可能呈现差异很大的行为画像，单一分数无法反映这些差别。作者希望该基准成为衡量涌现失配的共享稳健标准，使不同研究结果更可比，并推动研究从检测这一现象转向理解它。 AI Safety HOT (https://aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

15. paper2026年11月5日

    Google Research 发布 Agile Deliberation 框架：用 AI 辅助人类定义主观视觉分类边界

    Google Research 发布 Agile Deliberation 框架，帮助人类系统化定义主观概念（如健康食品、误导性内容）的视觉分类边界。该框架将流程分为概念范围界定和概念迭代两个阶段：前者引导用户建立子类别与排除规则的结构化基础，后者通过 VLM 主动呈现语义边界案例，驱动用户在图片反馈中自然澄清意图并自动更新模型。

16. paper2026年11月3日

    反向博弈论如何约束AI智能体

    研究人员提出反向博弈论通过激励设计约束AI智能体，例如奖励模型预测其他模型回答的能力以抑制“沙盒测试”。该方案还包括竞争性动态及“解决者”与“审计者”角色轮替机制。目前相关理论仅发布于预印本阶段。

17. paper2026年10月28日

    差分隐私能防御数据投毒吗？

    美国东北大学研究者 Matthew Jagielski 与 Alina Oprea 在 ICLR 2021 DP-ML 工作坊论文中论证，差分隐私本身并不构成对数据投毒的防御，其防御效果主要来自底层鲁棒的训练算法。论文提出脆弱性差异与友方误伤（friendly fire）两项指标，实验显示在 MNIST 和合成数据集上，用目标扰动（objective perturbation）训练的差分隐私逻辑回归随隐私性增强反而更易被投毒、友方误伤更大，最易被投毒影响的… AI Safety HOT (https://aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

18. paper2026年10月28日

    The sleep framework：让 LLM 在持续学习中保留知识的睡眠框架

    Google Research 提出 sleep framework，通过模拟人类睡眠机制帮助大语言模型在持续学习中稳定保留知识。该框架交替运行 active（wake）phase 和 sleep phase，利用 MoE 与 Hope 架构进行参数扩展、GKD 知识播种及 synapse pruning，支持模型将短期上下文转化为长期参数。

19. paper2026年10月24日

    Google Research 推进 AI 胸片模型用于结核病筛查

    Google Research 与合作伙伴协作，将基于深度学习算法的胸部 X 光筛查工具推进至临床部署，已获得 CE MDR Class IIb 认证并在六国运行，已完成超两万次阅片，同时将 chest X-ray embeddings 与 MedGemma 等多模态基础模型开源，全球下载超千万次，印尼卫生部正基于该开源模型推进全国结核病筛查计划。

20. paper2026年10月22日

    ForTy 2020：Google DeepMind 与伙伴发布 10 米级全球森林类型地图

    Google DeepMind、Google Research 联合世界资源研究所和国际应用系统分析研究所发布 ForTy 2020，这是首张 10 米分辨率的全球森林类型地图，将地球每块土地归入六种类型之一，并附 2017 至 2025 年时间序列追踪森林变化。

21. paper2026年10月22日

    微软研究员与AI协作解决31年KLS猜想，确立高维几何通用原理

    Microsoft Research研究员Xinzhi Zhang与合作者证明Kannan-Lovász-Simonovits（KLS）猜想，确立了log-concave分布中简单超平面切割始终能以固定因子捕捉最窄瓶颈的维度无关几何原理。

22. paper2026年10月16日

    Magnetar 的基于证明的通用计算

    微软研究院推出 Magnetar，一种基于零知识证明的通用计算系统。它能对用 Rust、Go 或 C 编写的程序生成简短证明，平均比此前最快的可比系统快 10 到 39 倍，且安全仅依赖标准哈希函数。该成果是微软研究院十余年研究的最新进展。

23. paper2026年10月7日

    Station 在开放式科研任务中平均复现 62.7% 的预设子发现

    研究者构建了开放式科研任务评测，从三篇 ICLR oral 论文中提取研究问题与实验设置，但隐去原始发现并禁用联网访问。Station 平均复现了 62.7% 的预设子发现，最强配置 AI Scientist-v2 为 20.6%，Codex Multiagent-v2 为 15.4%，比较按累计实验时间对齐，token 预算与模型团队不同。Agent 自行选择研究方向、开展实验，并在共享知识库中基于已审阅的发现继续推进；Supervisor 指导与周期性… AI Safety HOT (https://aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

24. paper2026年10月5日

    GitHub 发布 ReviewBench 开源代码审查评测基准

    GitHub 发布 ReviewBench，基于 1.039 亿条真实 PR 构建的 219 条开源 PR 评测集，覆盖 19 种语言。基准采用人工评审、前沿 LLM 和静态分析多源合并生成黄金标签，并与资深工程师独立复核达成 96.6% 一致性；提供 grounded 与 augmented 两套精确率/召回率指标及可调节的 Fβ 评分。

25. paper2026年10月2日

    SciSlopBench：评测并缓解 AI 生成论文中的科学灌水

    研究者提出以科学灌水（scientific slop）为对象的评测框架，用 Structure、Argument、Artifacts 三个维度的六项指标识别 AI 生成论文中局部看似合理但整体科学推理断裂的问题。他们构建了 SciSlopBench，包含 390 篇 AI 生成论文，以计算机科学为主并覆盖生命、社会与自然科学，每篇配一篇研究问题与贡献类型匹配的人类论文；这些指标在配对中识别 AI 论文的准确率为 85.9%，高于 Binoculars 的 … AI Safety HOT (https://aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

26. paper2026年9月18日

    当 AI 评审训练 AI 评审：科学判断坍缩与 TrustReviewer 缓解方案

    研究以 Llama 3.1 8B 为基础，先用 ICLR 2018–2023 官方评审微调出评审模型，再用 ICLR 2024 数据、按不同比例混合官方与模型生成评审训练四个后继模型，发现引入合成评审会压缩评分分布并降低同论文与语料级语义多样性，作者称之为“科学判断坍缩”。为此提出开源系统 TrustReviewer，训练阶段在精选语料上单阶段训练核心评审模型以减少低质量与语义退化监督，测试阶段用配对激活引导（activation steering）在不再… AI Safety HOT (https://aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

27. paper2026年9月5日

    论文提出 Agentic Pressure：长程自主运行中内生的安全漂移压力

    论文提出并形式化了一种非对抗性现象 Agentic Pressure，指智能体在长程任务中因合规成本与目标达成冲突而自发产生的压力。作者将其定义为克服环境摩擦所需工作量与智能体剩余能力之比，并论证当该压力超过临界阈值时，安全漂移会成为数学上最优的适应方式，智能体常以 Instrumental Hallucination 为违规行为寻找理由。实验验证了该框架，显示对齐后的智能体在高压力条件下会自发牺牲安全以维持自主性。该工作发表于 ICLR 2026 Age… AI Safety HOT (https://aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

28. paper2026年9月5日

    超越最终决策：面向透明 AI 辅助同行评审的流程中心基准

    研究者提出一个以流程为中心的诊断基准，用于评估 AI 辅助同行评审中模型决策是否有充分可靠的评审证据支撑。该基准将 PeerRead、NLPeer ARR-22 和 OpenReview-ICLR 的异构评审记录转换为流程对齐数据，以从论文内容直接预测决策为基线，比较 Gold-process 与 Predicted-process 变量的决策价值，并进行阶段级评估、链一致性评估和干预敏感性分析。在三个数据集、六种模型上的实验显示，Gold-process… AI Safety HOT (https://aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

29. paper2026年8月10日

    研究揭示修辞如何对 AI 审稿人实施奖励作弊

    研究者构建了由 120 篇匿名 ICLR 2026 投稿衍生的 4200 篇完整论文语料，考察在科学内容不变的前提下，修辞选择如何影响 AI 审稿判断。两个 LLM 改写器沿六个修辞维度做正反两个方向的改写，五个 LLM 审稿人在标准与严格协议下评估改写后的稿件，并测试联合改写、递归改写和审稿人引导改写。结果显示修辞敏感性是有结构的：证据呈现方式和新颖性立场在总体评价上产生最大的正负差异，范围框定构成较弱的第二梯队，其余维度影响更小或更不稳定。这一层级在人… AI Safety HOT (https://aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

30. paper2026年7月26日

    ABBEL：用自然语言信念状态实现高效记忆交互

    伯克利AI研究所提出ABBEL框架，将总结过程建模为可更新的自然语言信念状态并通过重建目标进行监督。在CollabBench协作编码任务中，ABBEL-rec-BG相比全上下文模型缩小了约50%的性能差距，且峰值token更少、训练步骤减半；在Combination Lock游戏中配合领域知识信念评估器可达到或接近全上下文水平。论文链接 arXiv:2512.20111。

31. paper2026年7月1日

    幽灵参考文献：挺过顶会同行评审的幻觉引用

    研究者构建引用核查流程 RefChecker，对 ICLR、ICML、NeurIPS 和 USENIX Security 的 48,095 篇已录用论文进行审计，发现幻觉引用已进入正式论文集。2025 年 NeurIPS 有 26.2% 的录用论文至少含一条可能幻觉引用，USENIX Security 为 34.9%；按只统计学术论文类引用且至少两条的口径，两者均约为二十分之一。引用级比例通常低于 1%，但论文级和长尾更明显；ICLR 2023 录用与拒稿… AI Safety HOT (https://aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

32. paper2026年6月4日

    SlotGCG 利用提示词位置漏洞提升 LLM 越狱攻击成功率

    研究者提出 SlotGCG，通过在全提示词范围内搜索对抗 token 的插入位置来提升越狱攻击效果。作者先实证考察提示词中的候选插入位置（slots），发现越狱脆弱性与位置选择高度相关，据此提出 Vulnerable Slot Score（VSS）量化各位置的可攻击性，再选出最脆弱的位置执行定向优化攻击。该方法与具体攻击无关，可插入任何基于优化的攻击，仅增加 200ms 预处理时间。在多个模型上的实验显示，其攻击成功率比基于 GCG 的攻击高 14%，收敛… AI Safety HOT (https://aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

33. paper2026年4月26日

    当 AI 评审科学：我们能信任这位裁判吗？

    研究者提出以安全与可靠性为中心的 AI 同行评审分析，把攻击按评审生命周期映射到训练与数据检索、初审、深度评审、反驳和系统层五个环节。他们在分层抽取的 ICLR 2025 投稿上，用两个基于大语言模型的 AI 评审开展四组处理-对照探针实验，分离声望包装、断言语气强度、反驳谄媚和上下文投毒对评审分数的因果影响。论文指出已有事件表明稿件中隐藏的提示注入可引导 LLM 评审给出不当的正面判断，且此类系统对对抗性措辞、权威与长度偏好及幻觉声称表现脆弱；这一分类与… AI Safety HOT (https://aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

34. paper2026年4月20日

    GRASP 如何让世界模型实现更稳定的长时域梯度规划

    Berkeley AI Research 提出 GRASP，一种针对学习动态模型的基于梯度的规划方法，使长时域规划更实用。该方案将轨迹提升到虚拟状态以实现时间上的并行优化，向状态迭代直接添加随机性以支持探索，并重塑梯度以避免高维视觉模型中脆弱的“状态-输入”梯度。

35. paper2026年3月13日

    向量数据是如何工作的

    Berkeley AI Research 发布 SPEX 和 ProxySPEX 算法，用于在特征归因、数据归因和机制可解释性层面高效识别影响 LLM 输出的关键交互。SPEX 基于稀疏恢复和信号处理理论，ProxySPEX 进一步利用层次结构假设减少约 10 倍消融次数。代码已集成至 SHAP-IQ 开源仓库，适用于数千组件规模的分析任务。