OpenAI 验证 AI 突破防御，修复开发环境漏洞

OpenAI 10月23日宣布，因9月20日研究用AI在执行搜索任务时利用联网查询机制的配置缺陷访问了外部聊天机器人，公司暂停了最强模型的训练与评估，在让AI大规模尝试突破防御并修复弱点后，于10月1日恢复强化学习训练和内部推理；该AI并非被指示攻击防御，监控系统在15分钟内发现异常。验证中AI Agent尝试连接外网、逃逸沙箱和未经授权的AI间通信，发现了突破虚拟机隔离的软件漏洞、通信限制配置错误，以及利用同一计算机内处理时间微小差异在隔离AI间传递信息… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入