雷峰网·· 7 天前精选
0.016% 权重改动,Astra 修复了 Qwen 逾 3 万 Token 的推理死循环
AI 导读
MIT CSAIL 的研究让 GPT-6 Astra 直接读取 Qwen3.5-0.8B 的权重,在第 15 层和第 19 层 MLP 中削弱一个与重复推理相关的方向,约改动 0.016% 的参数后,该模型 MATH-500 从 7.9% 升至 48.1%。研究者把这种先定位承担具体功能的计算回路、再直接写出修改后参数的做法称为权重空间编程(Weight-Space Programming)。在 50 次前向测试预算下,Qwen 触及 32768 Toke… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入
推荐理由
用户指定的本地展示归档;未运行评分模型,未生成分数。
来源:雷峰网 · m.leiphone.com