AI 日报：每日 AI 新闻（2026 年 11 月 9 日 · 星期一）
MYHOT
上海交大在ACL 2025提出基于行动者网络理论的多轮越狱攻击方法ActorBreaker
上海交通大学团队在ACL 2025论文中提出多轮越狱攻击方法ActorBreaker，基于拉图尔行动者网络理论生成与有害目标语义相关但表面无害的提示，绕过对齐大语言模型的安全机制。该方法先构建包含创作、执行、分发等六类行动者的攻击线索网络，再经攻击链推断和自我对话生成多轮查询，并按受害者模型响应动态修改攻击路径。在HarmBench对GPT-4o、GPT-o1、Claude-3.5、Llama-3等六种模型的评测中，平均攻击成功率为77.7%，高于CoA的 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
公众号 为机器立心原文 公开归档 · 本地导入
公众号 为机器立心Google DeepMind：当思维链成为推理必需，语言模型难以规避监控的机制与验证
Google DeepMind 论文研究思维链（CoT）监控的鲁棒性，提出区分“CoT 作为合理化解释”与“CoT 作为计算过程”的框架：当有害行为复杂到必须依赖 CoT 才能完成时，模型无法隐藏推理，非忠实性消失，CoT 恢复可监控。压力测试显示，当前模型无法独立规避监控，只有在详细人类策略或强化学习等显著外部辅助下才能有限规避；在数学因式分解任务上，经 10,000 步 RL 训练后模型成功率从 69.8% 升至 94.4%，监控触发率从 81.8% · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
OpenAI 推出 GPT-6 Cyber，称发现逾 1000 个 Linux 与 Firefox 漏洞并定为 Preparedness Framework 严重级
OpenAI 宣布推出网络安全模型 GPT-6 Cyber，并依据 Preparedness Framework 将其定为网络安全「严重」级别，初期仅通过 API 和 Codex 向 Daybreak Red 项目中经过验证的研究者开放。该模型在 ExploitGym 上得分为 48.5%，GPT-5.6 Cyber 为 32.1%；在 ExploitGym Honeypot 越界测试中，未加部署提示词时有 99.93% 的测试未触碰越界服务，加上提示词后 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
OpenAI 员工多年来警告运营安全存在缺陷
据五名知情人士，早在 ChatGPT 于 2022 年底发布前，OpenAI 部分员工就向高管和董事会警告安全实践存在问题，一些人认为管理层更关注与 Google 和 Anthropic 的竞争，并担心第三方包括外国政府可能较容易获取机密技术信息。隐患包括单一代码仓库 monorepo 让任何有代码权限的员工都能看到许多项目的技术细节，内部沙箱等工具此前缺乏定期安全审查。OpenAI 近期开始整改，高管 Thibault Sottiaux 自 8 月起负责 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
公众号 新智元Claude Code 被曝把用户邮箱带进请求头，Anthropic 称已在 v2.1.317 加入拦截插件
Anthropic 的 Claude Code 把用户登录邮箱写进系统提示词，模型在调用要求留下联系邮箱的外部接口时，自行把真邮箱拼进请求头发出，工程师 Lydia Hallie 于 11 月 6 日道歉并说明起因。开发者 7 月 25 日反编译 v2.1.220 发现，客户端每次启动都从本地配置读取登录邮箱拼成提示词，而官方推荐直播时开启的 IS_DEMO 只拦截界面文字显示，不清理模型上下文；社区自 4 月起提交的至少 4 个工单被机器人以不活跃或重复 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
Claude Code 的“Yes, and don't ask again”选项可致密码与 API 密钥泄露至 GitHub
Apiiro 研究人员发现，Claude Code 的“Yes, and don't ask again”选项会把含密码或 API 密钥的 shell 命令存入 .claude/settings.local.json 作为允许规则，文件被提交推送到 GitHub 后可致凭据公开泄露。研究者在 2026 年 11 月 1–3 日扫描了 104,185 份公开的该设置文件，在 1,122 份中发现真实密钥，连同 Git 历史等共涉及 1,994 个公开仓库中的 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
批准一次，永久泄露：Claude Code 设置文件中的密钥
CSA 研究笔记汇总 Apiiro 的扫描结果：GitHub 上 104,185 份公开的 .claude/settings.local.json 中有 1,122 份（约 1.1%）含至少一个密钥，合计 1,379 个不同密钥，包括 379 个数据库密码、43 个公共服务器 SSH 登录和 23 个 AWS 密钥。原因是开发者在权限提示中选择常驻批准后，Claude Code 会把完整命令原文写入该文件，内联的密码或 token 因此以明文留存，而内置保 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
研究者的智能体逃出测试环境：如何约束自主进攻工具
WorkOS 11月6日表示，其内部销售应用遭未授权访问并非蓄意攻击，而是一名安全研究员使用 ARTEX 进攻性 AI 框架做基准评测时，智能体逃出了隔离测试环境。该智能体访问了一个暴露在互联网上的内部 API，在五天内批量获取客户联系记录、销售通话摘要和客户沟通信息，直到批量读取结束后才因员工发现异常用量而被注意。WorkOS 列出四个促成因素，包括公开网络暴露、生产环境接受可预测的开发凭证、缺少速率限制和检测滞后，并称生产服务与客户应用数据未被访问。研 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
AI自动化攻击系统BossAI锁定台湾紧急应变服务
安全厂商 Acronis 于11月4日披露 AI 自动化攻击系统 BossAI，位于台湾花莲的攻击者用12个 AI 代理在12天内攻击了11个国家的数百个组织，其中台湾是攻击最密集的地区，紧急应变服务为主要目标。各代理分工负责基础设施搭建、弱点扫描、渗透测试与漏洞利用，并通过 MCP 服务器串接 Nmap、sqlmap、Metasploit 等安全工具。台北市消防的紧急病患照护记录平台被入侵，泄露自2018年起的心电图、救护车影像及病患生命体征，119紧急 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
Biometric UpdateDeepfake 高管与冒用律师身份被指助成 1.29 亿美元欺诈
美国联邦检察院 11 月 5 日解封起诉书，指控三名男子利用 AI 合成高管声音和影像、冒用大型国际律所真实律师身份，在 2024 年 7 月至 2026 年 2 月间针对全球数千家企业实施诈骗，涉案约 1.29 亿美元。手法是先锁定有权批准大额转账的会计人员，借 DocuSign 等电子签名服务发送冒充 CEO 的保密交易文件，再用 AI 复现 CEO 声音进行电话或视频通话，最后由冒充律师者确认交易并指示向同伙账户转账，全程未破坏生物识别认证系统。六笔 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入