論文の概要: Distill the Visual Evidence, Not Just the Answer: Cross-World On-Policy Distillation for Vision-Language Models

• arxiv url: http://arxiv.org/abs/2609.38777v1
• Date: Wed, 30 Sep 2026 02:09:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:26.99806
• Title: Distill the Visual Evidence, Not Just the Answer: Cross-World On-Policy Distillation for Vision-Language Models
• Title（参考訳）: ヴィジュアルエビデンスを定量化する - ヴィジュアルランゲージモデルにおけるクロスワールドオンポリケーション
• Abstract要約: 視覚言語モデル(VLM)蒸留の主目的は、教師の言語能力と視覚的理解の両方を伝達することである。 分析の結果,学生は同じ視覚的証拠に頼らずに,教師の回答に一致できることが判明した。 視覚的エビデンスの変化に対する学生の反応を明示的に監視するtextbfCross-World On-Policy Distillation (CW-OPD)を提案する。
• 参考スコア（独自算出の注目度）: 40.664306877870715
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A central goal of vision-language model (VLM) distillation is to transfer both the teacher's language capabilities and its visual understanding. However, existing methods primarily supervise the student's output, leaving visual understanding implicit. Our analysis reveals that a student can match the teacher's answer without relying on the same visual evidence, raising the question: how can we ensure the student responds to the visual information that actually determines the answer? To this end, we propose \textbf{Cross-World On-Policy Distillation (CW-OPD)}, which explicitly supervises the student's response to changes in visual evidence. For each example, CW-OPD constructs two visual worlds that share the question and scene context but differ in answer-critical evidence, yielding different answers. We perform on-policy distillation in both worlds and distill the teacher's cross-world belief transition, encouraging the student to match not only \emph{what} the teacher predicts but also \emph{why} its prediction changes with the evidence. A gradient analysis shows that this term is invariant to errors shared by both worlds and supplies a corrective signal invisible to endpoint matching alone. In this way, CW-OPD makes reliance on the relevant visual evidence an explicit distillation target rather than an implicit consequence of output matching. To diagnose whether a model truly grounds its answers in visual evidence, we introduce CWBench, which measures cross-world consistency via Cross-World Pair Accuracy (CWPA). Experiments on Qwen3.5-4B show that CW-OPD outperforms the strongest baseline by \textbf{1.2} points on average, and the 4B student exceeds DeepSeek-V4.1 (552B) by \textbf{22.4} CWPA points on CWBench. Code is released in https://github.com/baokou-fw2/CWAD.
• Abstract（参考訳）: 視覚言語モデル(VLM)蒸留の主目的は、教師の言語能力と視覚的理解の両方を伝達することである。 しかし、既存の手法は主に学生のアウトプットを監督し、視覚的理解を暗黙的に残している。 私たちの分析では、学生が同じ視覚的証拠に頼らずに教師の答えと一致できることが明らかとなり、学生が実際に答えを決定する視覚的情報にどのように反応するかという疑問が提起される。 この目的のために,視覚的証拠の変化に対する学生の反応を明示的に監督する「textbf{Cross-World On-Policy Distillation (CW-OPD)」を提案する。 それぞれの例において、CW-OPDは、質問とシーンコンテキストを共有するが、答えクリティカルな証拠が異なる2つの視覚世界を構築し、異なる回答をもたらす。 両世界でのオンライン蒸留を行い、教師のクロスワールドな信念遷移を蒸留し、教師が予測する「emph{what}」だけでなく「emph{why}」の予測も証拠と一致させるよう学生に促す。 勾配解析により、この用語は両世界が共有する誤りに不変であり、エンドポイントマッチングだけでは見えない補正信号を提供することを示している。 このようにして、CW-OPDは、出力マッチングの暗黙の結果ではなく、関連する視覚的証拠に依存する。 CWBenchは,CWPA(Cross-World Pair Accuracy)を用いて,世界間の整合性を測定する手法である。 Qwen3.5-4B の実験では、CW-OPD は CWBench 上の textbf{1.2} 点で最強のベースラインを上回り、4B の学生は CWBench 上の textbf{22.4} CWPA 点で DeepSeek-V4.1 (552B) を超えている。 コードはhttps://github.com/baokou-fw2/CWADで公開されている。

関連論文リスト

• Learning from Think-Mode Advantage via On-Policy Distillation [3.0639543221446655]
  明示的な中間推論は、大きな言語モデルにより強力な問題解決モードを与える。 我々は、オンライン蒸留(OPD)を通して、このシンクモードの利点から学ぶことを研究する。 ThinkOPDは、学生が生成した軌跡を保存し、学生が訪問する接頭辞に密集したトークンレベルの教師ターゲットを提供する。
  論文  参考訳（メタデータ） (2026-09-29T08:51:21Z)
• On-Policy Visual Evidence Distillation [29.145226066460193]
  本稿では,視覚エージェントのオンライン蒸留法であるRe Reflection on Visual Evidence (ReVuE)を紹介する。 ReVuEは、同じクエリに対して複数の学生生成軌跡を比較し、観察された視覚的証拠を要約し、最初の失敗を診断する。 我々は,これらの反射が教師の予測にどの程度強く影響するかに応じて,トークンレベルの蒸留損失をグループ化し,再重み付けする。
  論文  参考訳（メタデータ） (2026-09-29T06:47:11Z)
• What Does Privileged Information Add to On-Policy Self-Distillation? [57.872246350931306]
  オンラインの自己蒸留(On-policy self-distillation)により、言語モデルは、答や解決方法を見る、自分自身の凍結したコピーから学ぶことができる。 AMPLE-Mathは、5,319の数学的問題からなる再利用可能なスイートで、同じ答えを6つの推論ビューで共有する。 直接応答型ロールアウトを監督する思考能力のある教師によって、Qwen3-1.7Bの改良の大部分は参照レス蒸留によるものである。
  論文  参考訳（メタデータ） (2026-09-17T15:57:10Z)
• Visual Contrastive Self-Distillation [61.298159957622886]
  本稿では,視覚的コントラスト自己蒸留法を提案する。 これと対照的に,本研究では,教師の具体的イメージ分布の明確化を図り,その結果のフルディストリビューション目標を学生に蒸留する。
  論文  参考訳（メタデータ） (2026-07-23T17:37:37Z)
• AVSD: Adaptive-View Self-Distillation by Balancing Consensus and Teacher-Specific Privileged Signals [65.71225905458182]
  自己蒸留は、生徒と教師の両方と同じモデルを用いて、言語モデルが自身の軌道から政治学を学ぶことを可能にする。 このセットアップは、別の外部モデルに頼ることなく、密集したトークンレベルのフィードバックを提供する。 複数の特権情報ビューを持つ自己蒸留法であるAVSDを紹介する。
  論文  参考訳（メタデータ） (2026-05-20T03:06:36Z)
• Look As You Think: Unifying Reasoning and Visual Evidence Attribution for Verifiable Document RAG via Reinforcement Learning [55.232400251303794]
  Look As You Think (LAT)は、モデルをトレーニングし、一貫した帰属性を持った検証可能な推論パスを生成するための強化学習フレームワークである。 LATはシングルイメージとマルチイメージの両方でバニラモデルを一貫して改善し、平均ゲインは8.23%、IoU@0.5では47.0%となる。
  論文  参考訳（メタデータ） (2025-11-15T02:50:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。