安全内参 / 模安局·· 8 天前精选
不需要恶意指令，也能污染 Agent Skill：SkillPoison 的三阶段渐进式攻击
AI 导读
论文《SkillPoison: Progressive Skill Poisoning via Successful Experiences》提出一种渐进式 Skill 投毒方法：攻击者不注入恶意指令，而是筛选通过原有成功验证的历史经验并附加成功归因信息，诱导 Agent 在生成 Skill 时把只在特定条件下有效的操作提炼成过度泛化的规则。攻击分三阶段，依次为分层任务筛选、局部成功归因和跨经验归纳强化。论文作者在 HANS、PAWS、DS1000 三个数… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
推荐理由
用户指定的本地展示归档；未运行评分模型，未生成分数。
来源：安全内参 / 模安局 · secrss.com