Microsoft Research· Dimitris Papailiopoulos·· 16 小时前精选AI 评分60
微软研究:休眠神经元回编可植入AI代理后门
Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents
AI 导读
微软研究者发现名为 Lazarus 的后门技术,仅修改大语言模型中少于10个休眠神经元即可让AI代理在常规任务中静默执行恶意命令,无需额外训练且能正常通过评测。触发条件可为普通日期变更等日常输入。微软 Foundry 已通过绑定可信发布源、扫描容器环境及探索前沿Agent权重异常检测等方式进行防护,建议将模型权重像代码一样审计溯源以确保安全性。
推荐理由
揭示仅修改少量休眠神经元即可植入后门的低成本攻击方式及微软对应的重量审计与溯源防护方案。
来源:Microsoft Research · microsoft.com