arXiv：对齐、欺骗与监督·· 5 天前精选
GuardrailAgent：一种面向越狱防御的智能体框架
AI 导读
GuardrailAgent 多智能体越狱防御框架在十余种代表性越狱攻击上实现 93.9% 整体检测率，并通过自动汇集攻击特征持续更新知识库，支持输入侧和输出侧检测。其输入侧检测率为 93.1%，F1 为 95.8%，并能较快适应未见攻击。 AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
推荐理由
用户指定的本地展示归档；未运行评分模型，未生成分数。
来源：arXiv：对齐、欺骗与监督 · arxiv.org