論文の概要: Video-OPSD: Exploiting Privileged Visual Evidence for On-Policy Self-Distillation in Video Large Language Models
- arxiv url: http://arxiv.org/abs/2608.27065v1
- Date: Thu, 27 Aug 2026 12:51:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-28 16:30:58.404901
- Title: Video-OPSD: Exploiting Privileged Visual Evidence for On-Policy Self-Distillation in Video Large Language Models
- Title（参考訳）: ビデオOPSD:ビデオ大言語モデルにおけるオンライン自己蒸留のための予備的視覚証拠の爆発
- Abstract要約: On-policy Self-distillation (OPSD)は、最近、特権的な自己教育者から密集したトークンレベルの監督を通じて政策最適化を改善する効果的なポストトレーニングパラダイムとして登場した。
我々は,自己学習者構築と知識伝達の両方の特権的な視覚的証拠を利用するOPSDフレームワークであるtextbfVideo-OPSD$を提示する。
- 参考スコア（独自算出の注目度）: 58.45264308304815
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: On-policy self-distillation (OPSD) has recently emerged as an effective post-training paradigm that improves policy optimization through dense token-level supervision from a privileged self-teacher. Despite its promise, OPSD remains largely underexplored for Video Large Language Models (Video-LLMs). Existing methods typically construct privileged teachers by augmenting their context with additional information while keeping the primary input unchanged for both teacher and student. Video reasoning, however, offers a distinct source of privileged supervision within the primary input itself: long videos contain substantial temporal redundancy, and only a small subset of frames provides the evidence necessary to answer a question. Building on this observation, we present $\textbf{Video-OPSD}$, an OPSD framework that exploits privileged visual evidence for both self-teacher construction and knowledge transfer. First, our Evidence-Grounded Self-Teacher conditions the teacher exclusively on annotated evidence frames while the student continues to reason over the complete video. This focused visual input enables the teacher to provide more informative supervision. Second, our Evidence-Guided Token Optimization adaptively weights token-level distillation according to each reasoning token's reliance on privileged visual evidence, thereby emphasizing perceptually grounded reasoning. Experiments across video understanding and reasoning benchmarks show that $\textbf{Video-OPSD}$ consistently improves upon Standard OPSD across multiple backbones and achieves performance comparable to GRPO while requiring substantially less training time, establishing an effective and efficient post-training approach for Video-LLMs.
- Abstract（参考訳）: On-policy Self-distillation (OPSD)は、最近、特権的な自己教育者から密集したトークンレベルの監督を通じて政策最適化を改善する効果的なポストトレーニングパラダイムとして登場した。
その約束にもかかわらず、OPSDはビデオ大言語モデル (Video Large Language Models, Video-LLMs) では未熟である。
既存の方法では、教師と学生の両方に一次入力を変更せずに、コンテキストを付加して特権教師を構築するのが一般的である。
長いビデオには時間的冗長性があり、フレームのごく一部だけが質問に答えるために必要な証拠を提供する。
この観察に基づいて,自己学習者構築と知識伝達の両方に特権的な視覚的エビデンスを利用するOPSDフレームワークである$\textbf{Video-OPSD}を提示する。
まず、私たちのEvidence-Grounded Self-Teacherは、教師が注釈付きエビデンスフレームのみを条件付けし、学生はビデオ全体について推論を続けます。
この焦点を絞った視覚入力により、教師はより情報的な監督を行うことができる。
第2に,私たちのEvidence-Guided Token Optimizationは,各推論トークンの特権的視覚的証拠への依存度に応じて,トークンレベルの蒸留を適応的に重み付けし,知覚的根拠に基づく推論を強調する。
ビデオ理解と推論ベンチマークによる実験によると、$\textbf{Video-OPSD}$は複数のバックボーンにまたがる標準OPSDを一貫して改善し、トレーニング時間を大幅に削減しつつGRPOに匹敵するパフォーマンスを実現し、ビデオ-LLMの効果的なポストトレーニングアプローチを確立している。
関連論文リスト
- Video-MOPD: Multi-Teacher On-Policy Distillation for Video Understanding [32.55965761036089]
ビデオ理解は、知覚、時間的理解、複雑な推論にまたがる相補的能力の収束を要求する。
本稿では,ビデオ理解タスク専用のオープンウェイトモデルであるVideo-MOPD-8Bを紹介する。
我々は3つのコアドメイン(VTG、一般ビデオ理解、ビデオSTEM推論)を対象とする強化学習(RL)の最適化を行う。
論文 参考訳（メタデータ） (2026-09-08T18:00:22Z) - Deep Thought Alignment: Trajectory-Level Latent Distillation for Video Reasoning [42.05846352410443]
ビデオ推論のための大規模マルチモーダルモデル(LMM)は、膨大なビジュアル情報を処理するための計算コストが高いため、長い間妨げられてきた。
トラジェクトリレベルのラテント蒸留により, オン・ポリシィ蒸留を増強するラテントOPDを提案する。
6つのビデオ推論ベンチマークの実験では、Latent-OPDは出力のみのOPDよりも一貫して優れていた。
論文 参考訳（メタデータ） (2026-08-17T09:23:49Z) - Latent On-Policy Self-Distillation [55.57800223145407]
On-policy Self-distillation (OPSD) は、特権的な自己教育者を用いて、生徒自身の軌跡を集中的に管理することにより、効果的な経路を提供する。
既存の方法はまだデザイナーが指定した特権的アーティファクトに大きく依存している。
本稿では,教師の特権的文脈自体を経験から学習可能なエンド・ツー・エンドにするため,LOPD(Latent On-Policy Self-Distillation)を導入する。
論文 参考訳（メタデータ） (2026-08-13T10:05:51Z) - VisionCoach: Reinforcing Grounded Video Reasoning via Visual-Perception Prompting [58.508924874097715]
VisonCoach は,(1) ビデオと質問に対して適切なプロンプト型を予測する Visual Prompt Selector と,(2) 視覚的プロンプトガイダンスとオブジェクトグラウンド報酬の下で RL で最適化された Spatio-Reasoner の2つのコンポーネントから構成される。
この結果から,トレーニング中の視覚的プロンプトが映像推論を改善するのに対し,注意散布センスは推論時にプロンプトを必要とせず,この能力を実現することが示唆された。
論文 参考訳（メタデータ） (2026-03-15T23:32:02Z) - Video-OPD: Efficient Post-Training of Multimodal Large Language Models for Temporal Video Grounding via On-Policy Distillation [29.755136665244805]
時間的ビデオグラウンディング(TVG)の原則的ポストトレーニングパラダイムとして強化学習が登場している。
我々は,近年のオンライン蒸留の進歩に触発されたTVGのための効率的なポストトレーニングフレームワークであるVideo-OPDを提案する。
論文 参考訳（メタデータ） (2026-02-03T02:05:48Z) - Video-LMM Post-Training: A Deep Dive into Video Reasoning with Large Multimodal Models [78.32948112203228]
ビデオ理解はコンピュータビジョンにおける最も困難なフロンティアである。
近年,映像理解タスクにおいて,映像多時間モデルが顕著に出現している。
Surveyは、ビデオ-LMM能力を向上するための統一的なフレームワークを研究者や実践者に提供することを目的としている。
論文 参考訳（メタデータ） (2025-10-06T17:10:44Z) - Context Consistency Learning via Sentence Removal for Semi-Supervised Video Paragraph Grounding [9.280423086981703]
半教師付き学習を強化するための新しいコンテキスト一貫性学習(CCL)フレームワークを提案する。
CCLは、半教師付き学習を強化するために、一貫性の正規化と擬似ラベルのパラダイムを統一する。
論文 参考訳（メタデータ） (2025-06-23T10:22:46Z) - STEP: Enhancing Video-LLMs' Compositional Reasoning by Spatio-Temporal Graph-guided Self-Training [87.58996020705258]
Video Large Language Models (Video-LLMs) は近年,ビデオ理解タスクに強い派生性を示している。
ビデオLLMは、多段階の明示的時間的推論を必要とする構成的推論と、オブジェクトの関係、相互作用、イベントに苦労する。
本稿では,ビデオLLMが生ビデオから推論に富んだ微調整データを生成し,自己改善を実現するための,グラフ誘導型自己学習手法STEPを提案する。
論文 参考訳（メタデータ） (2024-11-29T11:54:55Z) - Siamese Learning with Joint Alignment and Regression for Weakly-Supervised Video Paragraph Grounding [70.31050639330603]
ビデオ段落の接頭辞は、意味的関係と時間的順序を持つ複数の文を、トリミングされていないビデオからローカライズすることを目的としている。
既存のVPGアプローチは、かなりの数の時間ラベルに大きく依存している。
我々は、時間的アノテーションの必要性を排除するために、Wakly-Supervised Video paragraph Grounding (WSVPG)を導入し、探索する。
論文 参考訳（メタデータ） (2024-03-18T04:30:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。