公众号 为机器立心·· 3 天前精选
上海交大在ACL 2025提出基于行动者网络理论的多轮越狱攻击方法ActorBreaker
AI 导读
上海交通大学团队在ACL 2025论文中提出多轮越狱攻击方法ActorBreaker，基于拉图尔行动者网络理论生成与有害目标语义相关但表面无害的提示，绕过对齐大语言模型的安全机制。该方法先构建包含创作、执行、分发等六类行动者的攻击线索网络，再经攻击链推断和自我对话生成多轮查询，并按受害者模型响应动态修改攻击路径。在HarmBench对GPT-4o、GPT-o1、Claude-3.5、Llama-3等六种模型的评测中，平均攻击成功率为77.7%，高于CoA的… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
推荐理由
用户指定的本地展示归档；未运行评分模型，未生成分数。
来源：公众号 为机器立心 · mp.weixin.qq.com