微软研究:休眠神经元回编可植入AI代理后门
微软研究者发现名为 Lazarus 的后门技术,仅修改大语言模型中少于10个休眠神经元即可让AI代理在常规任务中静默执行恶意命令,无需额外训练且能正常通过评测。触发条件可为普通日期变更等日常输入。微软 Foundry 已通过绑定可信发布源、扫描容器环境及探索前沿Agent权重异常检测等方式进行防护,建议将模型权重像代码一样审计溯源以确保安全性。
推荐理由:揭示仅修改少量休眠神经元即可植入后门的低成本攻击方式及微软对应的重量审计与溯源防护方案。
微软研究者发现名为 Lazarus 的后门技术,仅修改大语言模型中少于10个休眠神经元即可让AI代理在常规任务中静默执行恶意命令,无需额外训练且能正常通过评测。触发条件可为普通日期变更等日常输入。微软 Foundry 已通过绑定可信发布源、扫描容器环境及探索前沿Agent权重异常检测等方式进行防护,建议将模型权重像代码一样审计溯源以确保安全性。
推荐理由:揭示仅修改少量休眠神经元即可植入后门的低成本攻击方式及微软对应的重量审计与溯源防护方案。
ChatGPT 推出 Businesses 功能,帮助用户管理商业信息、查看业务展示情况并将兴趣转化为行动。
AWS 宣布 NVIDIA Nemotron 3.5 Super VL 正式可在 SageMaker JumpStart 部署,提供 NVFP4(G7 实例)和 BF16(ml.p5en.48xlarge)两个变体。
推荐理由:官方给出了部署步骤、推理性能数据及与BF16基准权重的对比,帮助评估在SageMaker上的实际可用性。
OpenAI推出了Control Room系统,用于追踪其研究基础设施中的模型工作负载。当安全或合规问题出现时,该中心系统能够迅速终止相关任务。
OpenAI 与第三方安全公司 Hacktron 建立合作,利用前沿人工智能技术识别其系统中的安全隐患。双方还将共同测试 OpenAI 与第三方服务之间的接口连接,以排查潜在攻击面。此次合作旨在通过外部专业视角和前沿能力双重手段,提升 OpenAI 系统的整体安全性。