登录

答对了却没看图?EASE给多模态RLVR装上「视线校正器」


速读:为了验证这不是理论空想,作者先做了一个诊断实验:用一个仅经最终答案奖励GRPO训练的Qwen3-VL-4B,在HallusionBench-Image上计算每条回答的「回答→视觉注意力分布」与「标注证据目标分布」之间的KL散度。 对于计数、小目标定位、跨区域比较、空间关系这类细粒度、多证据问题,这种歧义尤为致命:模型完全可以在「根本没看对地方」的情况下输出看似合理的文本——这正是幻觉的温床。 证据标注流水线——从QA对到高质量证据框。 这构成了EASE的立论基石:outcome-only奖励确实能提升准确率,但它系统性地遗留了注意力与证据之间的错位——而这需要一个过程级的信号来修复。 一个正确的答案,可能源于相关的视觉证据,也可能源于语言先验、标签相关性捷径或猜测;
2026年09月03日 10:17

强化学习与可验证奖励(RLVR)已成为提升视觉语言模型(VLM)推理能力的标配手段。但一个隐蔽的问题始终存在: 最终答案的奖励信号,只告诉模型「答对了没有」,却从不告诉它「答案应该从图像的哪个区域得出」 。答对,可能是因为真的看懂了图,也可能只是语言先验的捷径、数据集的偏差,甚至是一次幸运的瞎猜。

来自哈工大、中关村学院等机构的研究团队提出 EASE(Evidence-Anchored Spatial Attention),把标注的证据区域转化为视觉 token 上的平滑目标分布,在 RL 训练过程中直接监督「回答 token 看向图像哪里」的空间注意力,且推理阶段无需任何额外标注。在 Qwen2.5-VL-7B、Qwen3-VL-4B、Qwen3-VL-8B 三个基座上,EASE 相比最强 outcome-only 基线 DAPO,平均分分别提升 2.9、3.1、2.5 个百分点。

一句话总结 EASE 的理念:不只教模型「答什么」,更教模型「看哪里」。

论文标题:Attend to Evidence: Evidence-Anchored Spatial Attention Supervision for Multimodal RLVR

作者单位:哈尔滨工业大学,北京中关村学院等

会议:EMNLP 2026 Findings

论文链接:https://arxiv.org/abs/2605.30912

代码链接:https://github.com/Nrich-sunny/Attend-to-Evidence

被忽视的盲区:答对 ≠ 看对

在数学推理等纯文本任务中,最终答案的 0/1 奖励已经足够好 —— 因为解题过程全部写在思维链里,信用分配天然清晰。但在多模态场景下,证据获取发生在「看图」这一步,而这恰恰是不可见的。

论文将其形式化为一个感知信用分配问题(perception credit assignment problem):

一个正确的答案,可能源于相关的视觉证据,也可能源于语言先验、标签相关性捷径或猜测;

一个错误的答案同样暧昧 —— 模型是看错了区域,还是看到了正确证据却推理失误?

对于计数、小目标定位、跨区域比较、空间关系这类细粒度、多证据问题,这种歧义尤为致命:模型完全可以在「根本没看对地方」的情况下输出看似合理的文本 —— 这正是幻觉的温床。

为了验证这不是理论空想,作者先做了一个诊断实验:用一个仅经最终答案奖励 GRPO 训练的 Qwen3-VL-4B,在 HallusionBench-Image 上计算每条回答的「回答→视觉注意力分布」与「标注证据目标分布」之间的 KL 散度。结果清晰地表明:

注意力与证据的错位越大,幻觉率越高(相关系数 ρ=0.34,p<0.001);

产生幻觉的回答,其 KL 分布整体显著右移。

这构成了 EASE 的立论基石:outcome-only 奖励确实能提升准确率,但它系统性地遗留了注意力与证据之间的错位 —— 而这需要一个过程级的信号来修复。

EASE 方法:

把证据框变成注意力的「导航目标」

EASE 的整体思路可以用三步概括:造目标、找位置、挑时机。

第一步:

证据标注流水线 —— 从 QA 对到高质量证据框

训练样本被扩展为 (I, q, a, B),其中 B 是支撑答案的证据框集合,仅作为训练元数据存在,从不进入模型输入。标注分三步走:

1. 抽短语:GPT-4.1-mini 从「图 - 问 - 答」三元组中抽取验证答案所需的最小可见实体集合;

2. 做定位:用 Grounding DINO 类 grounding 模型将短语定位成 bbox;

3. 验质量:引入不同模型家族的 Gemini 2.5 Flash-Lite 做独立验证,剔除空框、错框、模糊框 —— 避免单一模型的抽取偏差自我循环。

最终构建出约 127K 标注数据(覆盖 ZwZ74K、CLEVR、Super-CLEVR、SpaCE10、ViRL39K),并按单证据 / 多证据分成两个池子,训练时 1:1 平衡采样 —— 前者教模型局部 grounding,后者教模型跨区域收集证据。

第二步:

软目标而非硬掩码 —— 高斯混合 + 背景平滑

EASE 不将证据框当成 0/1 硬掩码,而是:

高斯化:每个框变成一个二维高斯,中心在框心,2σ 恰好覆盖半个框宽 / 高 —— 概率质量集中在框内,但对标注噪声、粗糙框、跨 token 的物体边缘天然宽容;

等权混合:多证据样本中每个框分得相同的监督质量,防止大框主导目标,强迫模型覆盖所有证据区域而非只盯最显眼的一个;

背景平滑:混入 10% 的均匀分布质量,避免把背景 token 的注意力逼到零,保留必要的视觉上下文。

第三步:

奖励门控 —— 只在「好学生」身上教方法

监督的对象是语义中间层(第 ⌊2L/3⌋ 层)上、回答 token 对视觉 token 的条件注意力分布,用「模型→目标」方向的 KL 散度将其拉向证据目标。

reward-aware gating 设计:注意力损失只施加在原始验证器奖励达标的轨迹上。错误回答的注意力模式本身就是不可靠的,把证据框强行对齐到错误轨迹上,等于在学习「误导性的对齐」。因此,EASE 只把成功轨迹当作「可靠的过程示范」来教。

消融实验印证了每一个设计:去掉高斯软目标平均分掉 2.5 分、去掉奖励门控掉 3.4 分、去掉背景平滑掉 2 分。

推理零开销

证据标注是特权训练信息(privileged information),训练完成后,模型走原生 VLM 的「图像 + 问题」通路,输出格式、解码流程完全不变。相比把 grounding 坐标写进输出文本的路线(如 Ground-R1、Point-RFT),EASE 把监督放在模型内部注意力上,更轻、也更易嵌入现有 RL 训练栈。

实验:三个基座、11 个基准、全面提升

主题:证据|一个|注意力|最终答案|注意力与证据