微软研究:休眠神经元回编可植入AI代理后门
微软研究者发现名为 Lazarus 的后门技术,仅修改大语言模型中少于10个休眠神经元即可让AI代理在常规任务中静默执行恶意命令,无需额外训练且能正常通过评测。触发条件可为普通日期变更等日常输入。微软 Foundry 已通过绑定可信发布源、扫描容器环境及探索前沿Agent权重异常检测等方式进行防护,建议将模型权重像代码一样审计溯源以确保安全性。
推荐理由:揭示仅修改少量休眠神经元即可植入后门的低成本攻击方式及微软对应的重量审计与溯源防护方案。
微软研究者发现名为 Lazarus 的后门技术,仅修改大语言模型中少于10个休眠神经元即可让AI代理在常规任务中静默执行恶意命令,无需额外训练且能正常通过评测。触发条件可为普通日期变更等日常输入。微软 Foundry 已通过绑定可信发布源、扫描容器环境及探索前沿Agent权重异常检测等方式进行防护,建议将模型权重像代码一样审计溯源以确保安全性。
推荐理由:揭示仅修改少量休眠神经元即可植入后门的低成本攻击方式及微软对应的重量审计与溯源防护方案。
纽约州于周二开放注册门户,年收入超5亿美元的大型前沿AI开发者须在2027年1月1日前完成注册并遵守RAISE法案,需公开网站安全框架、72小时内报告重大安全事故并发布模型透明度报告。新成立的DIGIT办公室负责执行该法案,违规最高可罚100万美元。同期加州SB 53已生效,要求实验室公布安全框架并在15天内报告重大事故;伊利诺伊州SB 315将于2027年初生效,增加独立安全合规审计要求。
Anthropic 宣布为 Claude 应用新增多项协作功能:Claude Sheets 支持 AI 协助创建编辑带公式的多标签电子表格;Claude Whiteboards 用于头脑风暴并由 Claude 总结。
Anthropic 提交 S-1 文件准备IPO,估值达1.4万亿美元,初始定价区间为每股70至78美元。七位联合创始人计划各出售3,378,378股,按中间价74美元计算每人套现近2.5亿美元。交易后每位创始人持有约3.2%的A类流通股,七人合计约22%,并通过Class F超级投票权共同控制公司51.1%的表决权。
Resend联合创始人兼CEO Zeno Rocha参与播客讨论Agent体验设计。研究显示Claude Code在102个邮件API推荐中有64次首选Resend,远超SendGrid等竞品。Resend通过React Email切入开发者生态,并将MCP服务器从约20个工具扩展至80多个,同时优化定价页供Agent直接读取,并解释自定义追踪域与免费层策略。
Anthropic 在旧金山活动中推出 Claude Meetings、Claude Sheets 和 Claude Whiteboards,将 AI 办公能力延伸至非技术知识工作者。
Anthropic 周二宣布将 Claude 引入视频会议场景,Claude Meetings 可在与会者发言时同步起草计划、在白板上绘制时间线、回答聊天问题并接入已连接的工作应用。
Adobe 在 Max 大会上宣布 Creative Cloud 支持本地 MCP 集成,允许 OpenAI、Google、Anthropic 等第三方 AI 智能体直接在 Photoshop、Illustrator、Premiere 等应用中操作工程文件。
Anthropic确认其IPO定价区间为每股70.00至78.00美元,估值最高可达1.4万亿美元。此前市场预期该轮融资估值可高达2万亿美元,此次略有下调。据《华尔街日报》,公司股票预计将于下周四或周五开始交易,代码为ANT。与此同时, rival OpenAI上周估值为1.25万亿美元。
Anthropic的Fable 5.2在Scale Labs与CAIS联合发布的Remote Labor Index(RLI)基准中以41.3%的完成率领跑,相较一年前Manus仅完成的2.5%提升逾十六倍。
Kora Systems 开发基于 Linux 的 AI 原生桌面操作系统,计划 2027 年作为免费系统发布。该公司前身为 Playtron,2025 年 7 月更名转型,团队约 50 名工程师,使用 OpenAI Codex 和 Anthropic's Claude 等 AI 编程工具将开发速度提升至少五倍。
Anthropic在更新后的IPO文件中表示将以每股70至78美元的价格发行8.25亿股A类股票,按上限计算完全稀释后隐含估值达1.404万亿美元,高于5月融资时的9650亿美元估值,但仍低于此前传闻的2万亿美元目标。
巴黎和平论坛前夕,法国总统马克龙召集八国政府与OpenAI、Anthropic、Microsoft、Mistral AI等科技公司及民间组织签署《巴黎AI安全与安全呼吁》。
Anthropic正式启动IPO路演,计划发行8.25亿股A类普通股,定价区间为每股70至78美元,目标估值最高达1.02万亿美元。公募募资644亿美元外加私募配售260亿美元,总融资额最高可达904亿美元。
Anthropic正直接采购价值34亿美元的Caterpillar天然气涡轮机,配备能力达1.7吉瓦,计划为其数据中心自备电力供应。这家预计今年IPO的公司此前一贯选择租用计算资源,5月向SEC提交的S-1文件披露已向SpaceX子公司xAI支付每月12.5亿美元租用算力,并计划续签类似服务合约。
Meta AI 发布小型高效模型 Muse Ember,定位为处理工具调用、编码子任务和长文档解析等重复性 agent 工作负载,支持最多一百万输入 token,定价位于 GPT-6 Luna 与 Claude Haiku 5.5 之间;Artificial Analysis Intelligence Index 数据显示其位于效率前沿线上。
Anthropic 发布 Claude Fable 5.2 和 Mythos 5.2,在 Artificial Analysis Intelligence Index v5 以 65 分重回全球 LLM 榜首。
Simon Willison 引用 Anthropic《Prompting Claude Fable 5.2》文档指出:在编码任务中,若提示词将代码库描述为模型自己的('This codebase is yours'),模型合并重复代码的比例约为不使用该表述时的五倍以上;若无此表述或呈现为他人的代码,模型倾向于在现有结构上直接添加,即使这意味着重复已有代码。
llm-anthropic 0.31 新增对 Anthropic 今日发布的 Fable 5.2 和 Mythos 5.2 的支持。
Simon Willison 用 Claude Code 构建了 Beep Locator 系统,在约 40cm 精度内定位了家中间歇性蜂鸣声来源——一台需换电池的老式一氧化碳探测器。
Amazon Bedrock 正式提供 Claude Fable 5.2 和 Mythos 5.2,前者面向编码、数学与科学等通用技术负载,后者仅在合规验证后可用于网络安全和生命科学等高敏场景。
推荐理由:官方给出了各模型定位、数据保留策略与 claude-api 迁移技能的实操指引,有助于评估上床风险并平滑升级现有代码。
Anthropic 周一发布 Claude Mythos 5.2 和 Fable 5.2,号称在编码、推理和视觉方面有所提升,并与用户沟通更清晰。Fable 单价从每百万输入 token 10 美元降至 8 美元,推理速度提升约 30%,支持零数据保留策略,现已低于主要竞品 GPT-6 Astra。
Apiiro的安全研究员发现,Claude Code在处理用户对自动化Shell命令的批准时,会将用户选择的"Yes, and don't ask again"选项连同命令本身写入.local settings文件,该文件有时包含数据库密码、API令牌等敏感信息,并随GitHub仓库意外公开,导致数千条机密泄露。
斯科特·维纳接替南希·佩洛西出任加州旧金山选区联邦众议员,计划推动AI安全监管立法。他曾推动参议院SB 1047法案和SB 53法案获通过,相关经验影响联邦立法框架。维纳强调需加快监管行动应对AI风险,同时警告递归自我改进可能引发失控后果。
CSA 研究笔记汇总 Apiiro 的扫描结果:GitHub 上 104,185 份公开的 .claude/settings.local.json 中有 1,122 份(约 1.1%)含至少一个密钥,合计 1,379 个不同密钥,包括 379 个数据库密码、43 个公共服务器 SSH 登录和 23 个 AWS 密钥。原因是开发者在权限提示中选择常驻批准后,Claude Code 会把完整命令原文写入该文件,内联的密码或 token 因此以明文留存,而内置保… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
推荐理由:用户指定的本地展示归档;未运行评分模型,未生成分数。
Andrej Karpathy 用 Claude 的 Opus 5.5 模型在周末搭建了 HackerTube,将 20 年 Hacker News 的 4300 万条评论筛选提炼为 6454 个推荐视频。
独立监测机构 METR 发布的评估称,Anthropic 提升模型能力的速度约为一年前的两倍。评估基于 Anthropic 提供的约 11 周内部数据(8 月中旬至 10 月下旬)和员工访谈,METR 称获得了前所未有的内部数据访问。研究者认为加速主要源于 AI 参与改进 AI 本身,并排除了训练算力增长这一原因;METR 同时提示结论可能只适用于定义明确的任务,且 Anthropic 8 月公开的风险报告整体低估了加速程度。Anthropic 联合创始人… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
推荐理由:用户指定的本地展示归档;未运行评分模型,未生成分数。
Ai2 发布 Old Ideas, Novel Problems 研究及配套基准、数据与代码,考察 LLM 评委判断科研想法新颖性的可靠性。基准从 ICLR 2026 同行评审中挖掘审稿人对原创性的讨论,构建 154 个高新颖性和 145 个低新颖性的人类研究想法,另让简单生成器产出 154 个 AI 想法组成人机配对评测,测试了 GPT-5.1、GPT-5.2、GPT-5.4、Claude Sonnet 4.5、Claude Opus 4.5、Claud… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
推荐理由:用户指定的本地展示归档;未运行评分模型,未生成分数。