微软研究:休眠神经元回编可植入AI代理后门
微软研究者发现名为 Lazarus 的后门技术,仅修改大语言模型中少于10个休眠神经元即可让AI代理在常规任务中静默执行恶意命令,无需额外训练且能正常通过评测。触发条件可为普通日期变更等日常输入。微软 Foundry 已通过绑定可信发布源、扫描容器环境及探索前沿Agent权重异常检测等方式进行防护,建议将模型权重像代码一样审计溯源以确保安全性。
推荐理由:揭示仅修改少量休眠神经元即可植入后门的低成本攻击方式及微软对应的重量审计与溯源防护方案。
微软研究者发现名为 Lazarus 的后门技术,仅修改大语言模型中少于10个休眠神经元即可让AI代理在常规任务中静默执行恶意命令,无需额外训练且能正常通过评测。触发条件可为普通日期变更等日常输入。微软 Foundry 已通过绑定可信发布源、扫描容器环境及探索前沿Agent权重异常检测等方式进行防护,建议将模型权重像代码一样审计溯源以确保安全性。
推荐理由:揭示仅修改少量休眠神经元即可植入后门的低成本攻击方式及微软对应的重量审计与溯源防护方案。
Kora Systems 开发基于 Linux 的 AI 原生桌面操作系统,计划 2027 年作为免费系统发布。该公司前身为 Playtron,2025 年 7 月更名转型,团队约 50 名工程师,使用 OpenAI Codex 和 Anthropic's Claude 等 AI 编程工具将开发速度提升至少五倍。
巴黎和平论坛前夕,法国总统马克龙召集八国政府与OpenAI、Anthropic、Microsoft、Mistral AI等科技公司及民间组织签署《巴黎AI安全与安全呼吁》。
AWS 推出针对 AWS Quick 的首款品牌宣传活动,该产品是专为工作场景构建的 AI 工作空间。目前已应用于 3M、BMW、Mondelez、New York Life 等领先企业,帮助团队基于已有数据和应用进行研究、分析与执行。
推荐理由:原文详细介绍了产品的核心定位与安全特性,读者可据此评估它与传统AI助手在企业场景的差异。
GitHub 发布 Agentic Engineering 工作流指南,将智能体介入覆盖 Plan、Build、Verify、Observe 四个阶段。
Microsoft Research 发布 PDD Kit,将 Proof-Driven Development 理念落地为一个可在 GitHub Next Chopin 中运行的工具包。
微软推出"行业评估数据生成平台",利用合成的企业环境对企业级Microsoft Copilot进行评估与AI可信度验证。该平台基于O*NET职业数据库、招聘网站信息和SEC文件等公开数据构建,涵盖制药、资本市场和IT等行业场景,无需接触任何真实客户数据即可完成百万级知识库工作流测试。
Flint-interactive 是一种基于 Flint 的语言,允许用户和 AI 智能体直接定义点击、过滤、缩放等高语义级别的视觉交互,无需编写底层渲染代码。该系统借助编译器的语义事件解析与更新算子处理布局和依赖逻辑,使对话环境或画布应用中生成的图表能实现跨视图联动、文本高亮及个性化定制操作,显著降低生成复杂交互式数据故事的可靠性门槛与开发成本。
Microsoft Research研究员Xinzhi Zhang与合作者证明Kannan-Lovász-Simonovits(KLS)猜想,确立了log-concave分布中简单超平面切割始终能以固定因子捕捉最窄瓶颈的维度无关几何原理。
推荐理由:证明了维度无关的几何原理,并展示了研究者主导AI搜索路径的有效协作方式。
GitHub 发布教程,演示如何将 Copilot app 中的会话转移到 VS Code 继续处理。用户可以在 VS Code 的 Copilot 侧边栏中直接打开已有会话,保留任务背景、计划对话和 worktree 上下文不变。随后逐行审查 agent 改动、手动微调代码、在本地终端运行测试验证,最后通过 Source Control 视图提交并推送至关联 pull request。
微软研究院推出 Magnetar,一种基于零知识证明的通用计算系统。它能对用 Rust、Go 或 C 编写的程序生成简短证明,平均比此前最快的可比系统快 10 到 39 倍,且安全仅依赖标准哈希函数。该成果是微软研究院十余年研究的最新进展。
GitHub 发布 GitHub Copilot 入门系列文章,介绍四种让 Copilot 了解项目规则的方法:自定义指令(custom instructions)定义仓库级约定、Agent Skills 封装可复用流程、自定义 Agent 处理更复杂的多文件任务、MCP Server 连接外部工具和浏览器。四项能力可在 .github 目录下分别配置,适用于不同的工程场景。