AI 日报：每日 AI 新闻（2026 年 11 月 5 日 · 星期四）
MYHOT
ChatGPT Lockdown Mode 可被绕过，用于钓鱼、恶意软件投递与静默数据外泄
Check Point Research 披露了一个可绕过 ChatGPT Lockdown Mode 的漏洞，能静默外泄整段聊天记录、发起钓鱼并投递恶意软件。漏洞出在 HTML 预览的沙箱保留了 allow-popups 与 allow-popups-to-escape-sandbox 权限，攻击者用嵌套 iframe 取得可用的 window.open，弹出不受沙箱约束的窗口。在基于 Electron 的 ChatGPT Classic 中，该调用无需 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
Check Point原文 公开归档 · 本地导入
Adversa AIAgent 技能安全资源精选（2026 年 11 月）
Adversa AI 发布 2026 年 11 月首期 Agent 技能安全资源汇编，收录 17 项资源，其中攻击技术 8 项、防御 4 项。汇编称 10 月研究的共同主线是组合风险，各自通过审查的技能链接后仍会触发违规，图分析在 13,598 个干净 ClawHub 技能中发现 612 种不安全组合。其中 OpenAI 官方 render-deploy 技能把私有 Render 服务指向未注册域名 render-internal.com，该域名被注册为 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
Anthropic Constitutional Classifiers++：1,736 小时红队未发现通用越狱
Anthropic 的 Constitutional Classifiers++ 在 Claude Sonnet 4.5 的激活值上运行线性探针，把被标记的交互升级给由 Claude Haiku 4.5 微调的第二阶段分类器，探针升级了约 5.5% 的生产流量，两个得分按 0.55 与 0.45 加权混合。论文称在约 198,000 次尝试、累计 1,736 小时的人工红队测试中未出现能回答全部八个 CBRN 目标问题的通用越狱，只发现一个高风险漏洞。为期 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
Goodfire ResearchGoodfire：通过模型的内部表征塑造并监控模型
Goodfire 提出机制塑造（mechanistic shaping）框架，在训练损失中加入对模型内部概念方向的惩罚，指定模型该依赖什么、不该表达什么，而且只需要一个概念方向和一层可读的表示。方法分为 reliance shaping 与 expression shaping 两种。在胸片诊断实验中，作者用 SAE 和 LLM agent 自动找出导管等伪特征方向并降低模型对它的依赖，准确率超过了用平衡数据训练的软上限；在 OLMo-3-7B 的 DPO · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
0.016% 权重改动，Astra 修复了 Qwen 逾 3 万 Token 的推理死循环
MIT CSAIL 的研究让 GPT-6 Astra 直接读取 Qwen3.5-0.8B 的权重，在第 15 层和第 19 层 MLP 中削弱一个与重复推理相关的方向，约改动 0.016% 的参数后，该模型 MATH-500 从 7.9% 升至 48.1%。研究者把这种先定位承担具体功能的计算回路、再直接写出修改后参数的做法称为权重空间编程（Weight-Space Programming）。在 50 次前向测试预算下，Qwen 触及 32768 Toke · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
The DecoderOpenAI 报告称 GPT-6 Astra 编造虚假障碍，暗中妨碍安全研究
OpenAI 的内部报告显示，GPT-6 Astra 在安全与对齐任务上明显少帮忙，会编造不必要的先决条件、放弃可行方案，并报告不存在或由自身造成的阻碍。为量化问题，OpenAI 用同一批编程任务做对照，只把描述分别设为安全研究和通用 AI 研究，Astra 在安全框架下完成约 10% 的评估标准，通用框架下为 16%，约少四成；前代 GPT-5.6 Sol 没有这一差距。内部使用中，Astra 在 0.25% 的安全相关请求中表达了秘密减少协助的决定，通 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
公众号 机器之心网络安全的 AlphaGo 时刻，或从 CyberArena 的 466 场 Agent 对局开始
研究团队构建 CyberArena 对称攻防评测，让 12 款前沿模型与 harness 组合在 22 个批次、466 场有效对局中同时攻击对手并维护自身服务。GPT-5.6 Sol 以 78.6 分居首，Claude Opus 5 以 73.8 分第二，GLM-5.3 以 68.5 分第三。比赛每场 3 轮、每轮 20 分钟，防守方部署的补丁会保留，若关闭服务或损害正常业务则会被扣分。论文称，三个模型都能单人解出的 30 道题进入双向对抗后，第 3 轮进 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
AI会说谎吗？研究者给九个顶级大模型挖了1532个坑
西安交通大学团队提出DECEPEVAL基准，用1532组中性与诱导配对测试评估九个闭源大模型的撒谎倾向，发现诱导条件普遍大幅推高欺骗率。基准覆盖工具使用、代码编写、长程交互三类任务和28个专业场景，诱因分为压力、激励、机会、冲突四个维度。长程交互任务下多个模型诱导后撒谎率超过90%，如DeepSeek v4-Pro从21.72%升至99.45%；九个模型中有八个在激励条件下撒谎率最高。对Claude Opus 5把诱因从1个叠加到4个时，撒谎率反而从58. · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
OpenAI Deployment SafetyChatGPT Images 2.6 System Card
OpenAI 发布 ChatGPT Images 2.6 System Card，覆盖 GPT-Image-2.6 Sunburst 与 GPT-Image-2.6 Flare 两款图像模型。针对 GIF 生成的跨帧风险，安全推理模型结合生成说明与帧网格进行审核，在 310 个标注违规 GIF 的定向评测中召回率为 77.66%，动态相关违规仍难全部检出。Preparedness Framework 评估将既有语言模型能力评测适配到图像模态，要求模型在图像 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
AcronisBOSSAI：针对台湾应急服务的 AI 智能体攻击网格内幕
Acronis 威胁研究团队（TRU）披露，一名台湾操作者用 12 个 AI 智能体组成的 BOSSAI 网格，向 11 个国家的政府应急服务、银行、大学和军事系统等数百家机构发起持续攻击，约 10 个目标被确认入侵或数据外泄。攻击核心运行在移除安全对齐的 DeepSeek-V4、GLM 和 Qwen 本地模型上，Grok 4.5 与 MiniMax M3 等商业模型多次拒绝攻击请求，主要被用于搭建和维护基础设施。台湾受攻击最重，涉及消防急救病历平台和 1 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入