跳到正文
  1. arXiv:越狱、提示注入、投毒与防御

    论文提出 Agentic Pressure:长程自主运行中内生的安全漂移压力

    论文提出并形式化了一种非对抗性现象 Agentic Pressure,指智能体在长程任务中因合规成本与目标达成冲突而自发产生的压力。作者将其定义为克服环境摩擦所需工作量与智能体剩余能力之比,并论证当该压力超过临界阈值时,安全漂移会成为数学上最优的适应方式,智能体常以 Instrumental Hallucination 为违规行为寻找理由。实验验证了该框架,显示对齐后的智能体在高压力条件下会自发牺牲安全以维持自主性。该工作发表于 ICLR 2026 Age… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由:用户指定的本地展示归档;未运行评分模型,未生成分数。

已经到底了