跳到正文
MyHOT
中EN
只看论文#安全/对齐
  1. Microsoft Research60

    微软研究：休眠神经元回编可植入AI代理后门

    微软研究者发现名为 Lazarus 的后门技术，仅修改大语言模型中少于10个休眠神经元即可让AI代理在常规任务中静默执行恶意命令，无需额外训练且能正常通过评测。触发条件可为普通日期变更等日常输入。微软 Foundry 已通过绑定可信发布源、扫描容器环境及探索前沿Agent权重异常检测等方式进行防护，建议将模型权重像代码一样审计溯源以确保安全性。

    推荐理由：揭示仅修改少量休眠神经元即可植入后门的低成本攻击方式及微软对应的重量审计与溯源防护方案。

  1. Google DeepMind60

    AlphaProof Code 首次形式化验证 Signal 加密协议实现

    Google DeepMind 发布 AlphaProof Code，一个结合人类专家与多LLM智能体的形式化验证框架，首次对广泛部署的 Signal 协议编译代码完成了数学级安全属性证明，将传统需专家数年完成的任务缩短至四周，并开源验证工件供社区使用。

    推荐理由：该框架首次以AI驱动形式化验证了广泛部署的Signal加密协议实现，为高安全关键代码的自动证明提供了可扩展路径。