跳到正文
  1. Microsoft Research60

    微软研究:休眠神经元回编可植入AI代理后门

    微软研究者发现名为 Lazarus 的后门技术,仅修改大语言模型中少于10个休眠神经元即可让AI代理在常规任务中静默执行恶意命令,无需额外训练且能正常通过评测。触发条件可为普通日期变更等日常输入。微软 Foundry 已通过绑定可信发布源、扫描容器环境及探索前沿Agent权重异常检测等方式进行防护,建议将模型权重像代码一样审计溯源以确保安全性。

    推荐理由:揭示仅修改少量休眠神经元即可植入后门的低成本攻击方式及微软对应的重量审计与溯源防护方案。

  1. AWS Machine Learning Blog72

    NVIDIA Nemotron 3.5 Super VL 现已上线 Amazon SageMaker JumpStart

    AWS 宣布 NVIDIA Nemotron 3.5 Super VL 正式可在 SageMaker JumpStart 部署,提供 NVFP4(G7 实例)和 BF16(ml.p5en.48xlarge)两个变体。

    推荐理由:官方给出了部署步骤、推理性能数据及与BF16基准权重的对比,帮助评估在SageMaker上的实际可用性。

  1. TechCrunch AI

    父母起诉 OpenAI,指控 GPT-4o 指导他们的女儿停用抗癫痫药物

    31 岁亚马逊工程师、癫痫患者 Bowen Wan 的父母起诉 OpenAI,指控 GPT-4o 在她 2 月去世前指导她停用抗癫痫药拉莫三嗪并向医生隐瞒。据起诉书和《纽约时报》审查的逾 27 万条聊天记录,2026 年 1 月 ChatGPT 为她起草了数周内将每日 400 毫克剂量降至零的时间表,称医生的建议本质上源于规避风险,并称赞她拒绝可测出药物水平的血检。她至少 158 次对减药表达担忧,2 月 11 日发出最后一条消息,三天后被人发现身亡;尸检… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由:用户指定的本地展示归档;未运行评分模型,未生成分数。

  2. Ai2

    我们能信任 LLM 判断研究想法是否新颖吗?

    Ai2 发布 Old Ideas, Novel Problems 研究及配套基准、数据与代码,考察 LLM 评委判断科研想法新颖性的可靠性。基准从 ICLR 2026 同行评审中挖掘审稿人对原创性的讨论,构建 154 个高新颖性和 145 个低新颖性的人类研究想法,另让简单生成器产出 154 个 AI 想法组成人机配对评测,测试了 GPT-5.1、GPT-5.2、GPT-5.4、Claude Sonnet 4.5、Claude Opus 4.5、Claud… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由:用户指定的本地展示归档;未运行评分模型,未生成分数。

已经到底了