公众号 安全研究GoSSIP·· 6 天前精选
G.O.S.S.I.P 阅读推荐 2026-11-05 LocalAlign，通过近目标对抗训练提升提示注入防御泛化能力
AI 导读
南洋理工大学与武汉大学研究者在 CCS 2026 论文 LocalAlign 中提出通过近目标对抗训练提升提示注入防御的泛化能力，针对输入侧优化注入文本与目标侧接近正确回答的攻击目标两类泛化不足，设计预热、近目标对抗样本生成和边际感知对齐三阶段训练。在 Llama-3.1-8B-Instruct 和 Qwen3-4B-Instruct-2507 上，六个分布外数据集的无需优化攻击 ASR 均降至 10% 以下，自适应攻击仍更具挑战；Llama-3.1-8B… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
推荐理由
用户指定的本地展示归档；未运行评分模型，未生成分数。
来源：公众号 安全研究GoSSIP · mp.weixin.qq.com