科技行者·· 10 天前精选
噪声中偷出来的偏见：扩散语言模型为什么能被一边去噪一边操控
AI 导读
研究者提出一种针对扩散语言模型的闭环目标偏见注入攻击：用PI控制器在每次去噪时读取目标答案的概率，并动态调整一个固定方向的干预强度，在不改模型权重和提示词的情况下放大模型的偏见。在LLaDA的BBQ测试中，黑人目标的偏见差距从1.8个百分点升到16.7，阿拉伯裔目标升到22.3，老年人目标提升37.2个百分点；在SocialStigmaQA上，污名化答案的选中比例从17.6%升到58.1%。这种按去噪过程动态调节攻击强度的闭环方法，乱码率为7.8%，低于固… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
推荐理由
用户指定的本地展示归档；未运行评分模型，未生成分数。
来源：科技行者 · techwalker.com