微软研究:休眠神经元回编可植入AI代理后门
微软研究者发现名为 Lazarus 的后门技术,仅修改大语言模型中少于10个休眠神经元即可让AI代理在常规任务中静默执行恶意命令,无需额外训练且能正常通过评测。触发条件可为普通日期变更等日常输入。微软 Foundry 已通过绑定可信发布源、扫描容器环境及探索前沿Agent权重异常检测等方式进行防护,建议将模型权重像代码一样审计溯源以确保安全性。
推荐理由:揭示仅修改少量休眠神经元即可植入后门的低成本攻击方式及微软对应的重量审计与溯源防护方案。
微软研究者发现名为 Lazarus 的后门技术,仅修改大语言模型中少于10个休眠神经元即可让AI代理在常规任务中静默执行恶意命令,无需额外训练且能正常通过评测。触发条件可为普通日期变更等日常输入。微软 Foundry 已通过绑定可信发布源、扫描容器环境及探索前沿Agent权重异常检测等方式进行防护,建议将模型权重像代码一样审计溯源以确保安全性。
推荐理由:揭示仅修改少量休眠神经元即可植入后门的低成本攻击方式及微软对应的重量审计与溯源防护方案。
Amazon Bedrock 正式提供 Claude Fable 5.2 和 Mythos 5.2,前者面向编码、数学与科学等通用技术负载,后者仅在合规验证后可用于网络安全和生命科学等高敏场景。
推荐理由:官方给出了各模型定位、数据保留策略与 claude-api 迁移技能的实操指引,有助于评估上床风险并平滑升级现有代码。
CSA 研究笔记汇总 Apiiro 的扫描结果:GitHub 上 104,185 份公开的 .claude/settings.local.json 中有 1,122 份(约 1.1%)含至少一个密钥,合计 1,379 个不同密钥,包括 379 个数据库密码、43 个公共服务器 SSH 登录和 23 个 AWS 密钥。原因是开发者在权限提示中选择常驻批准后,Claude Code 会把完整命令原文写入该文件,内联的密码或 token 因此以明文留存,而内置保… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
推荐理由:用户指定的本地展示归档;未运行评分模型,未生成分数。
独立监测机构 METR 发布的评估称,Anthropic 提升模型能力的速度约为一年前的两倍。评估基于 Anthropic 提供的约 11 周内部数据(8 月中旬至 10 月下旬)和员工访谈,METR 称获得了前所未有的内部数据访问。研究者认为加速主要源于 AI 参与改进 AI 本身,并排除了训练算力增长这一原因;METR 同时提示结论可能只适用于定义明确的任务,且 Anthropic 8 月公开的风险报告整体低估了加速程度。Anthropic 联合创始人… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
推荐理由:用户指定的本地展示归档;未运行评分模型,未生成分数。
Ai2 发布 Old Ideas, Novel Problems 研究及配套基准、数据与代码,考察 LLM 评委判断科研想法新颖性的可靠性。基准从 ICLR 2026 同行评审中挖掘审稿人对原创性的讨论,构建 154 个高新颖性和 145 个低新颖性的人类研究想法,另让简单生成器产出 154 个 AI 想法组成人机配对评测,测试了 GPT-5.1、GPT-5.2、GPT-5.4、Claude Sonnet 4.5、Claude Opus 4.5、Claud… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
推荐理由:用户指定的本地展示归档;未运行评分模型,未生成分数。