論文の概要: Deep Thought Alignment: Trajectory-Level Latent Distillation for Video Reasoning

• arxiv url: http://arxiv.org/abs/2608.16316v1
• Date: Mon, 17 Aug 2026 09:23:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-18 19:59:03.6173
• Title: Deep Thought Alignment: Trajectory-Level Latent Distillation for Video Reasoning
• Title（参考訳）: 深い思考のアライメント:ビデオ推論のための軌道レベル遅延蒸留
• Abstract要約: ビデオ推論のための大規模マルチモーダルモデル(LMM)は、膨大なビジュアル情報を処理するための計算コストが高いため、長い間妨げられてきた。 トラジェクトリレベルのラテント蒸留により, オン・ポリシィ蒸留を増強するラテントOPDを提案する。 6つのビデオ推論ベンチマークの実験では、Latent-OPDは出力のみのOPDよりも一貫して優れていた。
• 参考スコア（独自算出の注目度）: 42.05846352410443
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Large Multimodal Models (LMMs) for video reasoning have long been hindered by the high computational cost of processing vast amounts of visual information. This dilemma motivates the transfer of the reasoning capabilities of large models to smaller, more efficient ones. On-Policy Distillation (OPD) offers a promising solution by matching output-token distributions along student-generated trajectories. However, video reasoning often depends on evidence accumulated across multiple frames. In this context, output-level supervision only captures information expressed through token predictions and does not directly constrain the latent representations formed during reasoning. To address this limitation, we propose Latent-OPD, which augments OPD with trajectory-level latent distillation. Specifically, our method focuses on the position at the end of each trajectory, where hidden states effectively summarize the accumulated visual evidence and reasoning context. Furthermore, we introduce a progressive teacher-lookahead strategy, which aligns middle-to-late student layers with increasingly deeper teacher layers. Experiments on six video reasoning benchmarks show that Latent-OPD consistently outperforms output-only OPD. Notably, the improvements are particularly pronounced in scenarios with limited frames, long videos, or tasks requiring complex evidence aggregation. These results establish Latent-OPD as a highly effective approach to frame-efficient video reasoning.
• Abstract（参考訳）: ビデオ推論のための大規模マルチモーダルモデル(LMM)は、膨大なビジュアル情報を処理するための計算コストが高いため、長い間妨げられてきた。 このジレンマは、大きなモデルの推論能力をより小さく、より効率的なものに移す動機となっている。 On-Policy Distillation (OPD) は、学生が生成した軌道に沿った出力-トークン分布をマッチングすることで、有望なソリューションを提供する。 しかし、ビデオの推論は複数のフレームにまたがって蓄積された証拠に依存することが多い。 この文脈では、出力レベルの監督はトークン予測によって表現された情報のみをキャプチャし、推論中に形成された潜在表現を直接拘束しない。 この制限に対処するため, トラジェクトリレベルの潜在蒸留でOPDを増強するLatent-OPDを提案する。 具体的には,各経路の終端の位置に着目し,隠れた状態が蓄積した視覚的証拠と推論コンテキストを効果的に要約する。 さらに、中～後期の生徒層をより深い教師層に整合させるプログレッシブな教師・見張り戦略を導入する。 6つのビデオ推論ベンチマークの実験では、Latent-OPDは出力のみのOPDよりも一貫して優れていた。 特に、改善は、限られたフレーム、長いビデオ、複雑なエビデンスアグリゲーションを必要とするタスクのシナリオで顕著に発音される。 これらの結果から,Latent-OPDはフレーム効率のよいビデオ推論に極めて効果的な手法であることがわかった。

関連論文リスト

• Video-OPSD: Exploiting Privileged Visual Evidence for On-Policy Self-Distillation in Video Large Language Models [58.45264308304815]
  On-policy Self-distillation (OPSD)は、最近、特権的な自己教育者から密集したトークンレベルの監督を通じて政策最適化を改善する効果的なポストトレーニングパラダイムとして登場した。 我々は,自己学習者構築と知識伝達の両方の特権的な視覚的証拠を利用するOPSDフレームワークであるtextbfVideo-OPSD$を提示する。
  論文  参考訳（メタデータ） (2026-08-27T12:51:32Z)
• OPLD: On-Policy Latent Distillation for Multimodal Reasoning [27.842942669819948]
  マルチモーダル・チェーン・オブ・リーブド(CoT)は、補助的な視覚的証拠を中間的推論に組み込むことで視覚的推論を改善する。 既存のアプローチは、外部で定義された推論トレースと視覚操作によって制約される。 本稿では,特権付きマルチモーダルCoTによって引き起こされる推論能力を潜在的推論表現に伝達するフレームワークOPLDを提案する。
  論文  参考訳（メタデータ） (2026-07-30T12:57:45Z)
• Contrastive On-Policy Distillation [36.47487086937924]
  対照的なオンライン蒸留フレームワークである COPD を提案する。 COPDは生徒モデルに直接、より簡潔で効率的な推論戦略を学ぶよう促す。
  論文  参考訳（メタデータ） (2026-07-21T12:35:04Z)
• VideoLatent: Video-Language Learning via Latent Self-Forcing [44.01259508852106]
  VideoLatentはビデオ理解と推論に適した潜伏注入モジュールを備えた新しいMLLMである。 我々のモデルは、一般的なビデオ理解と複雑なビデオ推論において、既存の標準および潜在MLLMよりも一貫して優れています。
  論文  参考訳（メタデータ） (2026-06-22T05:29:30Z)
• InternVideo3: Agentify Foundation Models with Multimodal Contextual Reasoning [61.87294123934038]
  ビデオタスクにおけるマルチモーダル理解を強化するフレームワークであるInternVideo3を提案する。 MCRは理解を、共有、進化するコンテキスト上でのクローズドループプロセスとして扱う。 InternVideo3は、Video-MME、MLVU、Egoなどのベンチマークで強力なパフォーマンスを実現しています。
  論文  参考訳（メタデータ） (2026-06-10T15:17:08Z)
• VideoZoomer: Reinforcement-Learned Temporal Focusing for Long Video Reasoning [49.35834435935727]
  VideoZoomerは、MLLMが推論中に視覚的焦点を制御することができる新しいエージェントフレームワークである。 私たちの7Bモデルは、多種多様な複雑な推論パターンを提供し、幅広いビデオ理解と推論のベンチマークに強いパフォーマンスをもたらします。 これらの創発的な能力は、既存のオープンソースモデルを一貫して上回り、挑戦的なタスクでプロプライエタリなシステムをライバルにさえできる。
  論文  参考訳（メタデータ） (2025-12-26T11:43:21Z)
• Video-R2: Reinforcing Consistent and Grounded Reasoning in Multimodal Language Models [56.851611990473174]
  動的ビジュアルコンテンツに対する推論は、大きな言語モデルにとって依然として中心的な課題である。 本稿では,時間的精度と推論一貫性を両立させる強化学習手法を提案する。 結果のモデルであるVideo R2は、複数のベンチマークでTAC、VAS、精度を一貫して向上させる。
  論文  参考訳（メタデータ） (2025-11-28T18:59:58Z)
• STEP: Enhancing Video-LLMs' Compositional Reasoning by Spatio-Temporal Graph-guided Self-Training [87.58996020705258]
  Video Large Language Models (Video-LLMs) は近年,ビデオ理解タスクに強い派生性を示している。 ビデオLLMは、多段階の明示的時間的推論を必要とする構成的推論と、オブジェクトの関係、相互作用、イベントに苦労する。 本稿では,ビデオLLMが生ビデオから推論に富んだ微調整データを生成し,自己改善を実現するための,グラフ誘導型自己学習手法STEPを提案する。
  論文  参考訳（メタデータ） (2024-11-29T11:54:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。