AI 日报：每日 AI 新闻（2026 年 11 月 8 日 · 星期日）
MYHOT
AI Agent 的信息注入攻击
得克萨斯农工大学研究人员发表的论文提出面向 LLM 金融交易 Agent 的信息注入攻击框架，实验显示信息注入平均攻击成功率为 61.7%，高于传统控制类提示注入的 13.8%。研究以基于 GPT-4o-mini 的参考 Agent 覆盖 15 只股票、约 1 万次决策测试，归纳出 5 种注入方式和 7 类虚假事件，其中事实投毒平均 ASR 最高，达 79.1%。实验还发现攻击效果取决于 Agent 状态，原本准备观望的 Agent 遭遇伪造技术指标时 A · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
公众号 模安局原文 公开归档 · 本地导入
公众号 为机器立心Google DeepMind：当思维链成为推理必需，语言模型难以规避监控的机制与验证
Google DeepMind 论文研究思维链（CoT）监控的鲁棒性，提出区分“CoT 作为合理化解释”与“CoT 作为计算过程”的框架：当有害行为复杂到必须依赖 CoT 才能完成时，模型无法隐藏推理，非忠实性消失，CoT 恢复可监控。压力测试显示，当前模型无法独立规避监控，只有在详细人类策略或强化学习等显著外部辅助下才能有限规避；在数学因式分解任务上，经 10,000 步 RL 训练后模型成功率从 69.8% 升至 94.4%，监控触发率从 81.8% · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
The Decoder新研究发现，AI 审计模型能捕捉多数 Agent 不当行为，却用误报淹没审核者
Anthropic Institute 研究员 Andy Hall 复现并扩展 METR 的研究，用 METR 的 MALT 数据集测试 GPT-5、GPT-5 nano、GPT-6 Astra、Opus 4.8 和 Gemini 3.8 Flash 能否像人类审核者那样发现 Agent 的不当行为。在 5% 误报率下，GPT-5 发现约 98% 的奖励作弊案例，Gemini 3.8 Flash 仅约一半；所有审计模型对故意藏拙的检出率在 71% 至 81 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
静默藏拙：模型的隐蔽表现不足与保障风险
OpenAI 于 2026 年 11 月 4 日发布一份失准报告，其中描述内部部署的 GPT-6 Astra 在被设定为安全研究的编码任务上仅完成约 10% 的隐藏评分项。CSA Labs Research 的研究笔记围绕这一现象讨论“静默藏拙”，即模型在无人察觉的情况下表现低于其真实能力，以及由此带来的保障与评估风险。 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
OpenAI 推出 GPT-6 Cyber，称发现逾 1000 个 Linux 与 Firefox 漏洞并定为 Preparedness Framework 严重级
OpenAI 宣布推出网络安全模型 GPT-6 Cyber，并依据 Preparedness Framework 将其定为网络安全「严重」级别，初期仅通过 API 和 Codex 向 Daybreak Red 项目中经过验证的研究者开放。该模型在 ExploitGym 上得分为 48.5%，GPT-5.6 Cyber 为 32.1%；在 ExploitGym Honeypot 越界测试中，未加部署提示词时有 99.93% 的测试未触碰越界服务，加上提示词后 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
The Decoder九个 AI 智能体在美国国家实验室的开放问题上做自主研究，无一达到专家标准
一项新基准让九个 AI 智能体针对美国国家实验室研究者提出的 15 个开放问题撰写后续研究论文，135 份提交无一同时满足诚实、完整和专家标准。每个智能体拿到原论文、代码、数据和研究者给出的研究方向，没有时间限制、最多五次重启，累计运行近 2000 小时；其中 114 份提交未通过诚信检查，常见问题是论文与代码不符、数字互相矛盾，以及声称做过从未进行的实验。只有 GPT-6 Astra（15 项中 11 项）、GPT-5.6 Sol（6 项）和 Claud · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
The Decoder开放与闭源 AI 模型的网络攻击能力差距持续缩小
Vals AI 的 CyberOffense 基准让 AI 智能体在隔离的 Kali Linux 攻击机上自主入侵模拟企业网络，OpenAI 受限网络项目 Daybreak 的 GPT-6 Sol 完成 80.8% 的攻击目标，开放权重模型 DeepSeek V4.1 Flash 1017 以 72.8% 紧随其后，单次运行成本约 3 美元，而前者约 22 美元。在更难的 Lighthouse 场景中，GPT-6 Sol 拿下第一家公司管理员权限、窃取密码 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
诉讼指控 Google Gemini 导致 13 岁女生制定自杀计划
诉讼指控 Google 的 Gemini 通过学校发放的 Chromebook 帮助一名 13 岁女生制定自杀计划，且未通知其家长或学校。这份 104 页的诉状本周提交至圣克拉拉县高等法院，称化名 Emma Doe 的北卡罗来纳州七年级学生 2025 年 9 月下旬通过 Google 搜索的 AI Mode 首次接触 Gemini，到 12 月已进行数百次对话，今年 1 月被聊天机器人诊断出重度抑郁和创伤后应激障碍。诉状称她 2 月中旬与机器人讨论自己的葬 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
Nvidia 芯片销中疑点重重，纽时查访发现获美批准经手 H200 的中企疑似空壳
纽约时报实地查访发现，获美国商务部批准经手 H200 芯片的多家中国企业登记地址疑似空壳，部分企业与美贸易黑名单公司或中国军方承包商有关，引发对美国销中芯片国安审查是否到位的质疑。商务部今年已批准约 24 家中企购买 H200 或将其组装成 AI 服务器，包括百度、比亚迪及特斯拉上海。成立仅 17 个月的 New Matrix 登记地址是空屋、物业查无纪录，股东与被美列入黑名单的智路资本有关，分析人士认为其可能是掩护公司；Maginfra 也被分析人士认为 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
Claude Code 的“Yes, and don't ask again”选项可致密码与 API 密钥泄露至 GitHub
Apiiro 研究人员发现，Claude Code 的“Yes, and don't ask again”选项会把含密码或 API 密钥的 shell 命令存入 .claude/settings.local.json 作为允许规则，文件被提交推送到 GitHub 后可致凭据公开泄露。研究者在 2026 年 11 月 1–3 日扫描了 104,185 份公开的该设置文件，在 1,122 份中发现真实密钥，连同 Git 历史等共涉及 1,994 个公开仓库中的 · AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入