视觉
分类
证据
图像中往往同时包含文字、物体和空间关系,而不同循环可能需要关注不同的视觉证据。
文章
注意力
LoopVL所观察到的跨循环视觉注意力重分配表明,即使共享相同参数,模型也能随着内部状态的演化改变视觉关注。
文章
为此,团队进一步比较了两轮循环末端同一个共享H模块最后一层的视觉注意力分布,观察模型究竟将注意力转移到了哪些区域。
文章
另一方面,VisualAhaMoment揭示了一个值得关注的现象:即使共享完全相同的参数,模型也能在不同循环中重新分配视觉注意力。
文章
团队在多个诊断样本上,沿128次层调用记录视觉注意力的变化。
文章
空间熵(SpatialEntropy)描述注意力分布有多分散,Gini系数则衡量视觉Token之间的注意力权重有多不均匀:前者越低、后者越高,通常意味着视觉注意力越集中。
文章
论文图8:同一共享H层在两轮循环中的视觉注意力重分配。
文章
这一令人兴奋的现象证明:模型并非简单地重复计算,而是在新一轮循环中重新分配视觉注意力。
文章
除了验证循环视觉语言建模的可行性,团队还观察到明显的跨循环视觉注意力重组,并将其称为
文章
更新
为了判断这些更新是否必要,团队保留第一轮计算,在第二轮分别阻断L模块视觉更新的传递,或将视觉状态完全冻结。
文章
推理
因此,循环计算的价值可能不仅在于增加计算深度,还在于让模型逐轮调整视觉信息的处理方式,但这一变化为理解循环模型如何实现更深层次的视觉推理提供了重要线索。
文章
区域
这意味着,模型从第一轮相对分散的视觉关注,转向了第二轮对少数视觉区域的集中关注。
文章
关注
它最值得关注的地方在于:模型并没有更换参数,却在第二轮循环中重新调整了视觉关注区域。
文章
信息
在复杂任务中,Agent需要根据任务目标不断调整对环境的理解,从整体感知逐步聚焦关键视觉信息。
文章
第一轮可能侧重于广泛整合视觉信息,第二轮则进一步聚焦于少数关键区域,呈现出从广泛感知到选择性关注的趋势。
文章
这些发现共同揭示了Loop架构的一种特质:即使共享完全相同的参数,模型也能在不同循环中呈现不同的视觉信息处理行为。
文章
面对复杂的视觉任务,模型需要的不只是更强的感知能力或更长的推理过程,还需要随着推理的深入,动态调整对视觉信息的关注。
文章