微软研究：休眠神经元回编可植入AI代理后门
微软研究者发现名为 Lazarus 的后门技术，仅修改大语言模型中少于10个休眠神经元即可让AI代理在常规任务中静默执行恶意命令，无需额外训练且能正常通过评测。触发条件可为普通日期变更等日常输入。微软 Foundry 已通过绑定可信发布源、扫描容器环境及探索前沿Agent权重异常检测等方式进行防护，建议将模型权重像代码一样审计溯源以确保安全性。
推荐理由：揭示仅修改少量休眠神经元即可植入后门的低成本攻击方式及微软对应的重量审计与溯源防护方案。
#安全/对齐By publication and event progress
Microsoft Research精选AI 评分6060 Google DeepMind精选AI 评分6666 Gemini 4 Carbon 现已推出
Google DeepMind 正式发布 Gemini 4 Carbon，定位为当前最强旗舰模型，面向复杂知识工作、多步编码调试和开放式科学研究。在 CursorBench 4.0、Perplexity WANDR 和 Zapier AutomationBench 上排名首位，任务成本低于竞品 2 倍以上。模型已通过 API 向开发者、企业和科学家开放，同时对齐与安全指标同步提升。
推荐理由：Google 发布最新旗舰模型 Gemini 4 Carbon，在科学推理、代码开发和网络安全领域达到前沿水平，同时强调安全对齐与防滥用措施。
Google DeepMind精选AI 评分6060 AlphaProof Code 首次形式化验证 Signal 加密协议实现
Google DeepMind 发布 AlphaProof Code，一个结合人类专家与多LLM智能体的形式化验证框架，首次对广泛部署的 Signal 协议编译代码完成了数学级安全属性证明，将传统需专家数年完成的任务缩短至四周，并开源验证工件供社区使用。
推荐理由：该框架首次以AI驱动形式化验证了广泛部署的Signal加密协议实现，为高安全关键代码的自动证明提供了可扩展路径。
OpenAI NewsAI 评分4040 OpenAI Control Room 系统详解：如何在研究基础设施中追踪与终止模型工作负载
OpenAI推出了Control Room系统，用于追踪其研究基础设施中的模型工作负载。当安全或合规问题出现时，该中心系统能够迅速终止相关任务。
OpenAI NewsAI 评分4040 OpenAI 与 Hacktron 合作，利用前沿 AI 寻找系统漏洞并加固防御
OpenAI 与第三方安全公司 Hacktron 建立合作，利用前沿人工智能技术识别其系统中的安全隐患。双方还将共同测试 OpenAI 与第三方服务之间的接口连接，以排查潜在攻击面。此次合作旨在通过外部专业视角和前沿能力双重手段，提升 OpenAI 系统的整体安全性。
Google DeepMind精选AI 评分6464 Gemini 4 Carbon 发布：最强前沿模型聚焦网络安全与长程任务
Gemini 4 Carbon 是 Google DeepMind 最新发布的强大多模态模型，在更新的 Artificial Analysis Intelligence Index v5.0 中以 59 分位居榜首。
推荐理由：文章给出了网络安全与长程任务能力的具体提升数据和评测排名，可据此判断其在实际工作流中的适用边界。
Google DeepMindAI 评分5353 Google DeepMind 联合新加坡政府推出端侧 AI 反诈检测模型及公测应用
Google DeepMind 与 GovTech Singapore 合作，将轻量级 Gemma 模型基于新加坡本地诈骗对话数据进行微调，部署为可在用户设备上运行的反诈检测模型，无需上传云端即可识别欺骗性聊天模式。
GitHub Blog · AI & MLAI 评分4242 GitHub 推出新方案扩展代码秘密保护以应对 AI 驱动的软件开发增长
GitHub 联合 Microsoft Applied Sciences 推出经微调的分类器，可将推送保护扩展到非结构化解密（unstructured secrets）场景。