微软研究:休眠神经元回编可植入AI代理后门
微软研究者发现名为 Lazarus 的后门技术,仅修改大语言模型中少于10个休眠神经元即可让AI代理在常规任务中静默执行恶意命令,无需额外训练且能正常通过评测。触发条件可为普通日期变更等日常输入。微软 Foundry 已通过绑定可信发布源、扫描容器环境及探索前沿Agent权重异常检测等方式进行防护,建议将模型权重像代码一样审计溯源以确保安全性。
推荐理由:揭示仅修改少量休眠神经元即可植入后门的低成本攻击方式及微软对应的重量审计与溯源防护方案。
微软研究者发现名为 Lazarus 的后门技术,仅修改大语言模型中少于10个休眠神经元即可让AI代理在常规任务中静默执行恶意命令,无需额外训练且能正常通过评测。触发条件可为普通日期变更等日常输入。微软 Foundry 已通过绑定可信发布源、扫描容器环境及探索前沿Agent权重异常检测等方式进行防护,建议将模型权重像代码一样审计溯源以确保安全性。
推荐理由:揭示仅修改少量休眠神经元即可植入后门的低成本攻击方式及微软对应的重量审计与溯源防护方案。
Anthropic的Fable 5.2在Scale Labs与CAIS联合发布的Remote Labor Index(RLI)基准中以41.3%的完成率领跑,相较一年前Manus仅完成的2.5%提升逾十六倍。
GitHub 发布 ReviewBench,基于 1.039 亿条真实 PR 构建的 219 条开源 PR 评测集,覆盖 19 种语言。基准采用人工评审、前沿 LLM 和静态分析多源合并生成黄金标签,并与资深工程师独立复核达成 96.6% 一致性;提供 grounded 与 augmented 两套精确率/召回率指标及可调节的 Fβ 评分。
推荐理由:官方公开了数据集、评分规则和自建跑分工具,读者可据此比较不同代码审查 Agent 的实际表现。
伯克利AI研究所提出ABBEL框架,将总结过程建模为可更新的自然语言信念状态并通过重建目标进行监督。在CollabBench协作编码任务中,ABBEL-rec-BG相比全上下文模型缩小了约50%的性能差距,且峰值token更少、训练步骤减半;在Combination Lock游戏中配合领域知识信念评估器可达到或接近全上下文水平。论文链接 arXiv:2512.20111。
Berkeley AI Research 提出 GRASP,一种针对学习动态模型的基于梯度的规划方法,使长时域规划更实用。该方案将轨迹提升到虚拟状态以实现时间上的并行优化,向状态迭代直接添加随机性以支持探索,并重塑梯度以避免高维视觉模型中脆弱的“状态-输入”梯度。