微软研究:休眠神经元回编可植入AI代理后门
微软研究者发现名为 Lazarus 的后门技术,仅修改大语言模型中少于10个休眠神经元即可让AI代理在常规任务中静默执行恶意命令,无需额外训练且能正常通过评测。触发条件可为普通日期变更等日常输入。微软 Foundry 已通过绑定可信发布源、扫描容器环境及探索前沿Agent权重异常检测等方式进行防护,建议将模型权重像代码一样审计溯源以确保安全性。
推荐理由:揭示仅修改少量休眠神经元即可植入后门的低成本攻击方式及微软对应的重量审计与溯源防护方案。
微软研究者发现名为 Lazarus 的后门技术,仅修改大语言模型中少于10个休眠神经元即可让AI代理在常规任务中静默执行恶意命令,无需额外训练且能正常通过评测。触发条件可为普通日期变更等日常输入。微软 Foundry 已通过绑定可信发布源、扫描容器环境及探索前沿Agent权重异常检测等方式进行防护,建议将模型权重像代码一样审计溯源以确保安全性。
推荐理由:揭示仅修改少量休眠神经元即可植入后门的低成本攻击方式及微软对应的重量审计与溯源防护方案。
Amazon Bedrock AgentCore提供内置、DeepEval和AutoEval三类评估器,帮助团队从业务目标出发评估AI代理的实际表现。评估器覆盖响应质量、任务完成、工具使用、技能与安全等维度,支持trace级与session级指标。自定义评估器可在上述评估器基础上替换模型或修改提示词与评分准则。
在 KubeCon + CloudNativeCon 上,NVIDIA 宣布将开源 AI 智能体安全运行时 OpenShell 捐赠给 CNCF,并贡献 Google 主导的 Agent Substrate 框架。
CrossnoKaye 基于 Amazon Bedrock AgentCore 构建了 AURA 智能体系统,通过将大语言模型与隔离 Python 计算沙箱相结合,实现对工业设施的实时监控、故障诊断与优化调度。
AWS 推出针对 AWS Quick 的首款品牌宣传活动,该产品是专为工作场景构建的 AI 工作空间。目前已应用于 3M、BMW、Mondelez、New York Life 等领先企业,帮助团队基于已有数据和应用进行研究、分析与执行。
推荐理由:原文详细介绍了产品的核心定位与安全特性,读者可据此评估它与传统AI助手在企业场景的差异。
GitHub 发布 Agentic Engineering 工作流指南,将智能体介入覆盖 Plan、Build、Verify、Observe 四个阶段。
Microsoft Research 发布 PDD Kit,将 Proof-Driven Development 理念落地为一个可在 GitHub Next Chopin 中运行的工具包。
Google DeepMind 宣布在 Antigravity 上推出 Cheminformatics Skills,基于 RDKit、ChEMBL 和 PubChem,面向计算化学家和实验化学家提供分子检索、构效分析、匹配分子对分析和反应路线设计能力。
推荐理由:Google Antigravity 上线 Cheminformatics Skills,用真实肺癌药物案例演示了一小时完成从文献检索到分子设计的完整工作流。
Gemini 4 Carbon 是 Google DeepMind 最新发布的强大多模态模型,在更新的 Artificial Analysis Intelligence Index v5.0 中以 59 分位居榜首。
推荐理由:文章给出了网络安全与长程任务能力的具体提升数据和评测排名,可据此判断其在实际工作流中的适用边界。
Google DeepMind 发布 Genie 4,一种新世模式型,原生支持视觉、音频和交互对话的同步生成,基于 Gemini 模型提供复杂推理能力,用户可通过自然语言实时修改场景并操控物理仿真与人像行为。该模型已作为研究预览面向受信任测试者开放,后续将逐步向 Google AI Ultra 订阅用户及 Gemini API 和 Google AI Studio 早期合作伙伴开放。
推荐理由:Google DeepMind 发布 Genie 4 世界模拟模型,支持实时自然语言操控与原生音频生成,目前向受信任测试者开放研究预览。
Flint-interactive 是一种基于 Flint 的语言,允许用户和 AI 智能体直接定义点击、过滤、缩放等高语义级别的视觉交互,无需编写底层渲染代码。该系统借助编译器的语义事件解析与更新算子处理布局和依赖逻辑,使对话环境或画布应用中生成的图表能实现跨视图联动、文本高亮及个性化定制操作,显著降低生成复杂交互式数据故事的可靠性门槛与开发成本。
三位拥有十余年经验的 Java Champion 分享了他们在生产与开源项目中用 GitHub Copilot 的具体案例与最佳实践。Vlad Mihalcea 将原本需数周的内部工具开发缩短至两天,并通过自定义技能让生成文档符合个人写作风格。
GitHub 发布教程,演示如何将 Copilot app 中的会话转移到 VS Code 继续处理。用户可以在 VS Code 的 Copilot 侧边栏中直接打开已有会话,保留任务背景、计划对话和 worktree 上下文不变。随后逐行审查 agent 改动、手动微调代码、在本地终端运行测试验证,最后通过 Source Control 视图提交并推送至关联 pull request。
Google Antigravity 平台的 agentic science workbench 集成 ProtNLM 蛋白质功能预测模型,将微生物对抗菌肽的碎片化数据库搜索压缩至单次协作会话。
GitHub 发布 GitHub Copilot 入门系列文章,介绍四种让 Copilot 了解项目规则的方法:自定义指令(custom instructions)定义仓库级约定、Agent Skills 封装可复用流程、自定义 Agent 处理更复杂的多文件任务、MCP Server 连接外部工具和浏览器。四项能力可在 .github 目录下分别配置,适用于不同的工程场景。
GitHub 发布 ReviewBench,基于 1.039 亿条真实 PR 构建的 219 条开源 PR 评测集,覆盖 19 种语言。基准采用人工评审、前沿 LLM 和静态分析多源合并生成黄金标签,并与资深工程师独立复核达成 96.6% 一致性;提供 grounded 与 augmented 两套精确率/召回率指标及可调节的 Fβ 评分。
推荐理由:官方公开了数据集、评分规则和自建跑分工具,读者可据此比较不同代码审查 Agent 的实际表现。
GitHub 博客指出 AI 正在重塑开发者工作流程,建议重点强化三项技能:学会指挥 AI 而非仅使用它;不要盲目信任 AI 的首个答案,可用不同模型互相校验——GitHub Copilot 内置的 Rubber Duck agent 即采用第二模型对代码和方案进行评审;让 AI 承担更多实现工作,从而腾出时间解决理解客户需求、评估架构权衡和技术决策等更大范围的问题。
伯克利AI研究所提出ABBEL框架,将总结过程建模为可更新的自然语言信念状态并通过重建目标进行监督。在CollabBench协作编码任务中,ABBEL-rec-BG相比全上下文模型缩小了约50%的性能差距,且峰值token更少、训练步骤减半;在Combination Lock游戏中配合领域知识信念评估器可达到或接近全上下文水平。论文链接 arXiv:2512.20111。
Berkeley AI Research 提出 GRASP,一种针对学习动态模型的基于梯度的规划方法,使长时域规划更实用。该方案将轨迹提升到虚拟状态以实现时间上的并行优化,向状态迭代直接添加随机性以支持探索,并重塑梯度以避免高维视觉模型中脆弱的“状态-输入”梯度。