跳到正文
  1. Microsoft Research60

    微软研究:休眠神经元回编可植入AI代理后门

    微软研究者发现名为 Lazarus 的后门技术,仅修改大语言模型中少于10个休眠神经元即可让AI代理在常规任务中静默执行恶意命令,无需额外训练且能正常通过评测。触发条件可为普通日期变更等日常输入。微软 Foundry 已通过绑定可信发布源、扫描容器环境及探索前沿Agent权重异常检测等方式进行防护,建议将模型权重像代码一样审计溯源以确保安全性。

    推荐理由:揭示仅修改少量休眠神经元即可植入后门的低成本攻击方式及微软对应的重量审计与溯源防护方案。

  1. AWS Machine Learning Blog63

    Claude Fable 5.2 与 Mythos 5.2 在 Amazon Bedrock 上线,配套 Migration 技能

    Amazon Bedrock 正式提供 Claude Fable 5.2 和 Mythos 5.2,前者面向编码、数学与科学等通用技术负载,后者仅在合规验证后可用于网络安全和生命科学等高敏场景。

    推荐理由:官方给出了各模型定位、数据保留策略与 claude-api 迁移技能的实操指引,有助于评估上床风险并平滑升级现有代码。

已经到底了