公众号 模安局·· 4 天前精选
AI Agent 的信息注入攻击
AI 导读
得克萨斯农工大学研究人员发表的论文提出面向 LLM 金融交易 Agent 的信息注入攻击框架，实验显示信息注入平均攻击成功率为 61.7%，高于传统控制类提示注入的 13.8%。研究以基于 GPT-4o-mini 的参考 Agent 覆盖 15 只股票、约 1 万次决策测试，归纳出 5 种注入方式和 7 类虚假事件，其中事实投毒平均 ASR 最高，达 79.1%。实验还发现攻击效果取决于 Agent 状态，原本准备观望的 Agent 遭遇伪造技术指标时 A… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
推荐理由
用户指定的本地展示归档；未运行评分模型，未生成分数。
来源：公众号 模安局 · mp.weixin.qq.com