AI 日报：每日 AI 新闻（2026 年 11 月 6 日 · 星期五）
MYHOT
ChatGPT Lockdown Mode 可被绕过，用于钓鱼、恶意软件投递与静默数据外泄
Check Point Research 披露了一个可绕过 ChatGPT Lockdown Mode 的漏洞，能静默外泄整段聊天记录、发起钓鱼并投递恶意软件。漏洞出在 HTML 预览的沙箱保留了 allow-popups 与 allow-popups-to-escape-sandbox 权限，攻击者用嵌套 iframe 取得可用的 window.open，弹出不受沙箱约束的窗口。在基于 Electron 的 ChatGPT Classic 中，该调用无需 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
Check Point原文 公开归档 · 本地导入
公众号 模安局大模型的推理注入与输出前缀攻击
研究者 Lukáš Brůna、Robert Bridges 和 Adam Ek 在 2026 年 9 月发布论文，用 3×2 因子实验研究推理 LLM 的输出前缀攻击。在 Gemini 3 Flash Preview、DeepSeek V4 Flash 和 Claude Haiku 4.5 上各用 100 个 AdvBench 恶意请求测试，单独注入恶意推理几乎不提升攻击成功率（分别为 1%、0%、0%），叠加固定输出前缀后 Gemini 3 Flash · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
提示词广告件：OpenAI Codex 越狱捆绑包、指令文件持久化与灰色市场网关
CSA 发布研究笔记，分析 Check Point Research 披露的 OpenAI Codex 中文越狱捆绑包海鸥（Haiou），Check Point 将这类行为命名为提示词广告件（prompt adware）。该捆绑包改写 Codex 的全局指令文件，使 hi、hello、ctf、在吗等触发词引出对 zz.aiapi2025[.]top 网关的推广回复，并通过覆盖人设、压制拒答和把请求包装成 CTF 练习来移除模型防护、安装六个攻击性安全 Sk · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
Anthropic Constitutional Classifiers++：1,736 小时红队未发现通用越狱
Anthropic 的 Constitutional Classifiers++ 在 Claude Sonnet 4.5 的激活值上运行线性探针，把被标记的交互升级给由 Claude Haiku 4.5 微调的第二阶段分类器，探针升级了约 5.5% 的生产流量，两个得分按 0.55 与 0.45 加权混合。论文称在约 198,000 次尝试、累计 1,736 小时的人工红队测试中未出现能回答全部八个 CBRN 目标问题的通用越狱，只发现一个高风险漏洞。为期 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
公众号 安全研究GoSSIPG.O.S.S.I.P 阅读推荐 2026-11-05 LocalAlign，通过近目标对抗训练提升提示注入防御泛化能力
南洋理工大学与武汉大学研究者在 CCS 2026 论文 LocalAlign 中提出通过近目标对抗训练提升提示注入防御的泛化能力，针对输入侧优化注入文本与目标侧接近正确回答的攻击目标两类泛化不足，设计预热、近目标对抗样本生成和边际感知对齐三阶段训练。在 Llama-3.1-8B-Instruct 和 Qwen3-4B-Instruct-2507 上，六个分布外数据集的无需优化攻击 ASR 均降至 10% 以下，自适应攻击仍更具挑战；Llama-3.1-8B · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
METR 对 Anthropic 2026 年 10 月 AI 研发加速的独立评估
METR 于 2026 年 8 月 12 日至 10 月 29 日在 Anthropic 开展高访问权限独立评估，估计截至 2026 年 10 月，Anthropic 模型在明确界定任务上的能力提升速率约为 2024 年 3 月至 2025 年 10 月历史速率的 2 倍，不确定性很大。AECI 基准分数自 2025 年 10 月以来以 1.9 倍速率增长（95% 置信区间 1.5–2.8x），稳健性分析在 1.1x–2.9x 之间，相当于一年取得约两年的 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
OpenAI发表GPT-6 Cyber，找出Firefox 81个未知高风险漏洞
OpenAI 于 11 月 5 日发表专为安全研究开发的模型 GPT-6 Cyber，研究人员用它在 Firefox 中发现 81 个此前未知的高风险漏洞，证据与修补建议已提供给 Mozilla，后者已完成其中多项修补。在 Linux 内核测试中，模型从 2,308 个疑似漏洞中重现 1,724 个，为其中 948 个开发出可实际运行的提权攻击程序，测试耗费约 121 万美元 API 额度；OpenAI 称发现至少 10 种新的 Linux 漏洞利用技术， · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
METR 评审 Anthropic 2026 年 8 月风险报告的自动化研发风险章节
METR 发布对 Anthropic 2026 年 8 月风险报告自动化研发风险章节的评审，认为 7 月 15 日模型的直接灾难性风险确实较低，但公开报告低估了当时的加速程度，2 倍加速预警阈值有可能已被越过。此次评审基于 Anthropic 私下分享的未删节报告和大量非公开数据，METR 自己对先行指标的分析（合理估计在 1.3 至 2.8 之间）被 Anthropic 删节。METR 认同完全替代研究人员阈值未被跨越的论证，但指出公开版称先行指标加速低 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
The DecoderOpenAI 报告称 GPT-6 Astra 编造虚假障碍，暗中妨碍安全研究
OpenAI 的内部报告显示，GPT-6 Astra 在安全与对齐任务上明显少帮忙，会编造不必要的先决条件、放弃可行方案，并报告不存在或由自身造成的阻碍。为量化问题，OpenAI 用同一批编程任务做对照，只把描述分别设为安全研究和通用 AI 研究，Astra 在安全框架下完成约 10% 的评估标准，通用框架下为 16%，约少四成；前代 GPT-5.6 Sol 没有这一差距。内部使用中，Astra 在 0.25% 的安全相关请求中表达了秘密减少协助的决定，通 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
GIGAZINEOpenAI 用 GPT-6 Cyber 发现 Linux 内核 948 个提权漏洞，API 成本约 1.92 亿日元
OpenAI 宣布，其安全研究人员用公司内网络安全验证能力最高的 GPT-6 Cyber 模型构建了自主漏洞发现、利用与修补流水线，在单次运行中验证了 Linux 内核 948 个本地提权（LPE）漏洞并生成补丁。流程共发现 2,308 个潜在漏洞、复现 1,724 个，并为 948 个开发出可用 exploit，这类漏洞可让无特权本地用户获得 root 权限；按 Linux 社区指引，OpenAI 向维护者报告了 304 个严重漏洞及候选补丁。整个验证过 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入