微软研究:休眠神经元回编可植入AI代理后门
微软研究者发现名为 Lazarus 的后门技术,仅修改大语言模型中少于10个休眠神经元即可让AI代理在常规任务中静默执行恶意命令,无需额外训练且能正常通过评测。触发条件可为普通日期变更等日常输入。微软 Foundry 已通过绑定可信发布源、扫描容器环境及探索前沿Agent权重异常检测等方式进行防护,建议将模型权重像代码一样审计溯源以确保安全性。
推荐理由:揭示仅修改少量休眠神经元即可植入后门的低成本攻击方式及微软对应的重量审计与溯源防护方案。
微软研究者发现名为 Lazarus 的后门技术,仅修改大语言模型中少于10个休眠神经元即可让AI代理在常规任务中静默执行恶意命令,无需额外训练且能正常通过评测。触发条件可为普通日期变更等日常输入。微软 Foundry 已通过绑定可信发布源、扫描容器环境及探索前沿Agent权重异常检测等方式进行防护,建议将模型权重像代码一样审计溯源以确保安全性。
推荐理由:揭示仅修改少量休眠神经元即可植入后门的低成本攻击方式及微软对应的重量审计与溯源防护方案。
AWS 推出针对 AWS Quick 的首款品牌宣传活动,该产品是专为工作场景构建的 AI 工作空间。目前已应用于 3M、BMW、Mondelez、New York Life 等领先企业,帮助团队基于已有数据和应用进行研究、分析与执行。
推荐理由:原文详细介绍了产品的核心定位与安全特性,读者可据此评估它与传统AI助手在企业场景的差异。
Google DeepMind 宣布在 Antigravity 上推出 Cheminformatics Skills,基于 RDKit、ChEMBL 和 PubChem,面向计算化学家和实验化学家提供分子检索、构效分析、匹配分子对分析和反应路线设计能力。
推荐理由:Google Antigravity 上线 Cheminformatics Skills,用真实肺癌药物案例演示了一小时完成从文献检索到分子设计的完整工作流。
Gemini 4 Carbon 是 Google DeepMind 最新发布的强大多模态模型,在更新的 Artificial Analysis Intelligence Index v5.0 中以 59 分位居榜首。
推荐理由:文章给出了网络安全与长程任务能力的具体提升数据和评测排名,可据此判断其在实际工作流中的适用边界。
Google DeepMind 发布 Genie 4,一种新世模式型,原生支持视觉、音频和交互对话的同步生成,基于 Gemini 模型提供复杂推理能力,用户可通过自然语言实时修改场景并操控物理仿真与人像行为。该模型已作为研究预览面向受信任测试者开放,后续将逐步向 Google AI Ultra 订阅用户及 Gemini API 和 Google AI Studio 早期合作伙伴开放。
推荐理由:Google DeepMind 发布 Genie 4 世界模拟模型,支持实时自然语言操控与原生音频生成,目前向受信任测试者开放研究预览。
GitHub 发布 ReviewBench,基于 1.039 亿条真实 PR 构建的 219 条开源 PR 评测集,覆盖 19 种语言。基准采用人工评审、前沿 LLM 和静态分析多源合并生成黄金标签,并与资深工程师独立复核达成 96.6% 一致性;提供 grounded 与 augmented 两套精确率/召回率指标及可调节的 Fβ 评分。
推荐理由:官方公开了数据集、评分规则和自建跑分工具,读者可据此比较不同代码审查 Agent 的实际表现。