Skip to content
MyHOT
中EN
  1. Microsoft Research49

    Magnetar 的基于证明的通用计算

    微软研究院推出 Magnetar，一种基于零知识证明的通用计算系统。它能对用 Rust、Go 或 C 编写的程序生成简短证明，平均比此前最快的可比系统快 10 到 39 倍，且安全仅依赖标准哈希函数。该成果是微软研究院十余年研究的最新进展。

  1. GitHub Blog · AI & ML59

    GitHub Copilot 入门：如何教会 Copilot 了解你的代码库

    GitHub 发布 GitHub Copilot 入门系列文章，介绍四种让 Copilot 了解项目规则的方法：自定义指令（custom instructions）定义仓库级约定、Agent Skills 封装可复用流程、自定义 Agent 处理更复杂的多文件任务、MCP Server 连接外部工具和浏览器。四项能力可在 .github 目录下分别配置，适用于不同的工程场景。

  1. Hugging Face Daily Papers

    Station 在开放式科研任务中平均复现 62.7% 的预设子发现

    研究者构建了开放式科研任务评测，从三篇 ICLR oral 论文中提取研究问题与实验设置，但隐去原始发现并禁用联网访问。Station 平均复现了 62.7% 的预设子发现，最强配置 AI Scientist-v2 为 20.6%，Codex Multiagent-v2 为 15.4%，比较按累计实验时间对齐，token 预算与模型团队不同。Agent 自行选择研究方向、开展实验，并在共享知识库中基于已审阅的发现继续推进；Supervisor 指导与周期性… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由：用户指定的本地展示归档；未运行评分模型，未生成分数。

  1. GitHub Blog · AI & ML64

    GitHub 发布 ReviewBench 开源代码审查评测基准

    GitHub 发布 ReviewBench，基于 1.039 亿条真实 PR 构建的 219 条开源 PR 评测集，覆盖 19 种语言。基准采用人工评审、前沿 LLM 和静态分析多源合并生成黄金标签，并与资深工程师独立复核达成 96.6% 一致性；提供 grounded 与 augmented 两套精确率/召回率指标及可调节的 Fβ 评分。

    推荐理由：官方公开了数据集、评分规则和自建跑分工具，读者可据此比较不同代码审查 Agent 的实际表现。

  1. GitHub Blog · AI & ML42

    GitHub 博客：AI 正改变开发者工作，掌握这三项关键技能

    GitHub 博客指出 AI 正在重塑开发者工作流程，建议重点强化三项技能：学会指挥 AI 而非仅使用它；不要盲目信任 AI 的首个答案，可用不同模型互相校验——GitHub Copilot 内置的 Rubber Duck agent 即采用第二模型对代码和方案进行评审；让 AI 承担更多实现工作，从而腾出时间解决理解客户需求、评估架构权衡和技术决策等更大范围的问题。

  2. arXiv：对齐、欺骗与监督

    SciSlopBench：评测并缓解 AI 生成论文中的科学灌水

    研究者提出以科学灌水（scientific slop）为对象的评测框架，用 Structure、Argument、Artifacts 三个维度的六项指标识别 AI 生成论文中局部看似合理但整体科学推理断裂的问题。他们构建了 SciSlopBench，包含 390 篇 AI 生成论文，以计算机科学为主并覆盖生命、社会与自然科学，每篇配一篇研究问题与贡献类型匹配的人类论文；这些指标在配对中识别 AI 论文的准确率为 85.9%，高于 Binoculars 的 … AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由：用户指定的本地展示归档；未运行评分模型，未生成分数。

  1. arXiv：可解释性

    当 AI 评审训练 AI 评审：科学判断坍缩与 TrustReviewer 缓解方案

    研究以 Llama 3.1 8B 为基础，先用 ICLR 2018–2023 官方评审微调出评审模型，再用 ICLR 2024 数据、按不同比例混合官方与模型生成评审训练四个后继模型，发现引入合成评审会压缩评分分布并降低同论文与语料级语义多样性，作者称之为“科学判断坍缩”。为此提出开源系统 TrustReviewer，训练阶段在精选语料上单阶段训练核心评审模型以减少低质量与语义退化监督，测试阶段用配对激活引导（activation steering）在不再… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由：用户指定的本地展示归档；未运行评分模型，未生成分数。

  1. arXiv：越狱、提示注入、投毒与防御

    论文提出 Agentic Pressure：长程自主运行中内生的安全漂移压力

    论文提出并形式化了一种非对抗性现象 Agentic Pressure，指智能体在长程任务中因合规成本与目标达成冲突而自发产生的压力。作者将其定义为克服环境摩擦所需工作量与智能体剩余能力之比，并论证当该压力超过临界阈值时，安全漂移会成为数学上最优的适应方式，智能体常以 Instrumental Hallucination 为违规行为寻找理由。实验验证了该框架，显示对齐后的智能体在高压力条件下会自发牺牲安全以维持自主性。该工作发表于 ICLR 2026 Age… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由：用户指定的本地展示归档；未运行评分模型，未生成分数。

  2. arXiv

    超越最终决策：面向透明 AI 辅助同行评审的流程中心基准

    研究者提出一个以流程为中心的诊断基准，用于评估 AI 辅助同行评审中模型决策是否有充分可靠的评审证据支撑。该基准将 PeerRead、NLPeer ARR-22 和 OpenReview-ICLR 的异构评审记录转换为流程对齐数据，以从论文内容直接预测决策为基线，比较 Gold-process 与 Predicted-process 变量的决策价值，并进行阶段级评估、链一致性评估和干预敏感性分析。在三个数据集、六种模型上的实验显示，Gold-process… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由：用户指定的本地展示归档；未运行评分模型，未生成分数。

  1. AI Incident Database

    Zillow 减记 $407.9m，而普遍推荐的补救方案本不会改变任何结果

    作者查阅 Zillow 财报与法院裁定后认为，Zillow Offers 的失败不是算法定价出错，而是管理层有意把报价抬到算法给出的价格之上。Zillow 2021 年第三季度为库存减记约 3.04 亿美元，全年经审计减记 4.079 亿美元，其中 2.11 亿美元对应年末仍持有的房屋；Homes 业务 2021 年税前亏损 8.81 亿美元，2020 年为 3.20 亿美元，同时裁员约 25%。Zillow 自己公布的数据显示，Zestimate 对非在… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由：用户指定的本地展示归档；未运行评分模型，未生成分数。

  1. 论文追踪

    研究揭示修辞如何对 AI 审稿人实施奖励作弊

    研究者构建了由 120 篇匿名 ICLR 2026 投稿衍生的 4200 篇完整论文语料，考察在科学内容不变的前提下，修辞选择如何影响 AI 审稿判断。两个 LLM 改写器沿六个修辞维度做正反两个方向的改写，五个 LLM 审稿人在标准与严格协议下评估改写后的稿件，并测试联合改写、递归改写和审稿人引导改写。结果显示修辞敏感性是有结构的：证据呈现方式和新颖性立场在总体评价上产生最大的正负差异，范围框定构成较弱的第二梯队，其余维度影响更小或更不稳定。这一层级在人… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由：用户指定的本地展示归档；未运行评分模型，未生成分数。

  1. Berkeley AI Research51

    ABBEL：用自然语言信念状态实现高效记忆交互

    伯克利AI研究所提出ABBEL框架，将总结过程建模为可更新的自然语言信念状态并通过重建目标进行监督。在CollabBench协作编码任务中，ABBEL-rec-BG相比全上下文模型缩小了约50%的性能差距，且峰值token更少、训练步骤减半；在Combination Lock游戏中配合领域知识信念评估器可达到或接近全上下文水平。论文链接 arXiv:2512.20111。

  1. arXiv

    幽灵参考文献：挺过顶会同行评审的幻觉引用

    研究者构建引用核查流程 RefChecker，对 ICLR、ICML、NeurIPS 和 USENIX Security 的 48,095 篇已录用论文进行审计，发现幻觉引用已进入正式论文集。2025 年 NeurIPS 有 26.2% 的录用论文至少含一条可能幻觉引用，USENIX Security 为 34.9%；按只统计学术论文类引用且至少两条的口径，两者均约为二十分之一。引用级比例通常低于 1%，但论文级和长尾更明显；ICLR 2023 录用与拒稿… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由：用户指定的本地展示归档；未运行评分模型，未生成分数。

  1. 论文追踪

    SlotGCG 利用提示词位置漏洞提升 LLM 越狱攻击成功率

    研究者提出 SlotGCG，通过在全提示词范围内搜索对抗 token 的插入位置来提升越狱攻击效果。作者先实证考察提示词中的候选插入位置（slots），发现越狱脆弱性与位置选择高度相关，据此提出 Vulnerable Slot Score（VSS）量化各位置的可攻击性，再选出最脆弱的位置执行定向优化攻击。该方法与具体攻击无关，可插入任何基于优化的攻击，仅增加 200ms 预处理时间。在多个模型上的实验显示，其攻击成功率比基于 GCG 的攻击高 14%，收敛… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由：用户指定的本地展示归档；未运行评分模型，未生成分数。

  1. Berkeley AI Research55

    伯克利 AI 研究团队综述：自适应并行推理——高效推理扩展的新范式

    Berkeley AI Research 发布综述文章，系统梳理自适应并行推理（APR）方向最新进展，指出固定并行策略无法适配不同问题复杂度这一核心痛点，并对比 ThreadWeaver、Multiverse、Parallel-R1、NPR 等代表性方法在特殊控制 Token、KV Cache 合并策略及奖励函数设计上的差异，同时讨论模型训练稳定性、部署可扩展性等开放问题。

  1. arXiv

    当 AI 评审科学：我们能信任这位裁判吗？

    研究者提出以安全与可靠性为中心的 AI 同行评审分析，把攻击按评审生命周期映射到训练与数据检索、初审、深度评审、反驳和系统层五个环节。他们在分层抽取的 ICLR 2025 投稿上，用两个基于大语言模型的 AI 评审开展四组处理-对照探针实验，分离声望包装、断言语气强度、反驳谄媚和上下文投毒对评审分数的因果影响。论文指出已有事件表明稿件中隐藏的提示注入可引导 LLM 评审给出不当的正面判断，且此类系统对对抗性措辞、权威与长度偏好及幻觉声称表现脆弱；这一分类与… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由：用户指定的本地展示归档；未运行评分模型，未生成分数。

  2. X @uiuc_aisecure

    UIUC 多模态红队智能体 ARMs 亮相 ICLR

    非常期待这个多模态红队智能体，由我出色的学生 @xun_aq @ZRChen_AISafety @MintongKang @jiaweizhang 和产业合作者 @MinzhouP @Shuang 领导！请来 ICLR 我们的海报前给出反馈！！@xun_aq 本人就在 ICLR 现场！ AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由：用户指定的本地展示归档；未运行评分模型，未生成分数。

  1. Berkeley AI Research54

    向量数据是如何工作的

    Berkeley AI Research 发布 SPEX 和 ProxySPEX 算法，用于在特征归因、数据归因和机制可解释性层面高效识别影响 LLM 输出的关键交互。SPEX 基于稀疏恢复和信号处理理论，ProxySPEX 进一步利用层次结构假设减少约 10 倍消融次数。代码已集成至 SHAP-IQ 开源仓库，适用于数千组件规模的分析任务。