論文の概要: Less Data, Better Timing: Student-Curriculum Coupling for VLM On-Policy Distillation in Temporal Video Grounding
- arxiv url: http://arxiv.org/abs/2609.40055v1
- Date: Wed, 30 Sep 2026 16:18:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:28.033293
- Title: Less Data, Better Timing: Student-Curriculum Coupling for VLM On-Policy Distillation in Temporal Video Grounding
- Title(参考訳): 時空間ビデオグラウンドにおけるVLMオンポリシィ蒸留のための学生とカリキュラムのカップリング
- Abstract要約: SCC(Student-Curriculum Coupling)は、時間的ビデオグラウンドティングのためのデータと計算効率のフレームワークである。
我々は、監督の信頼性と監督の必要性は、まだ明確に結びついていることを示します。
SCCは、元のカリキュラムにおけるビデオOPDに対する平均リコールの相対的な改善を5.1%達成している。
- 参考スコア(独自算出の注目度): 8.185189795375996
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: On-policy distillation (OPD) provides dense supervision directly on student-generated trajectories, making it an effective post-training strategy for vision-language models in temporal video grounding (TVG). However, existing pipelines typically construct the training curriculum from a fixed teacher and the initial student state, implicitly assuming that selected examples retain positive supervision value throughout optimization. We show that supervision trustworthiness and supervision necessity are distinct yet coupled: the former concerns target credibility, while the latter varies with the student's current task competence; together, they shape supervision value. Building on this coupled view, we introduce Student-Curriculum Coupling (SCC), a closed-loop framework in which a compact Anchor-Frontier curriculum defines the candidate supervision space and the evolving student dynamically determines its active subset. Supervision can therefore be activated, suspended, or reactivated as competence changes, concentrating teacher computation and optimization on current task-level deficits. Across three TVG benchmarks, SCC achieves a 5.1% relative improvement in mean recall over Video-OPD on its original curriculum, while using 60.0% fewer training examples and reducing training time by 50.4%. Ablations support the complementary roles of capability-structured curriculum design and student-dependent supervision in achieving these gains. Together, these results establish SCC as a data- and compute-efficient framework for TVG post-training, delivering stronger temporal grounding by aligning trustworthy supervision with the student's evolving learning needs.
- Abstract(参考訳): オンライン蒸留(OPD)は、学生が生成する軌跡を直接監督し、時間的ビデオグラウンド(TVG)における視覚言語モデルのための効果的な後学習戦略となる。
しかしながら、既存のパイプラインは通常、固定された教師と初期学生の状態からトレーニングカリキュラムを構築し、選択されたサンプルが最適化全体を通して正の監督値を保持することを暗黙的に仮定する。
従来の懸念事項は信頼性を目標としており、後者は生徒の現在の課題能力によって異なる。
そこで我々は,Scouts-Curriculum Coupling (SCC)を導入した。これは,コンパクトなアンカー・フランティエカリキュラムが候補監督空間を定義し,進化する学生がその活性サブセットを動的に決定するクローズドループフレームワークである。
そのため、教師の計算と現在のタスクレベルの欠陥の最適化に集中して、能力の変化に応じてスーパービジョンを活性化、停止、または再活性化することができる。
3つのTVGベンチマークで、SCCはビデオ-OPDの平均リコール率を5.1%改善し、トレーニングサンプルを60.0%削減し、トレーニング時間を50.4%短縮した。
アブレーションは、能力構造化カリキュラムデザインの補完的な役割と、これらの成果を達成するための学生依存の監督を支援する。
これらの結果と合わせて,SCCは,学生の発達する学習ニーズと信頼に値する監督を整合させることによって,より強力な時間的基盤を提供する,TVGポストトレーニングのためのデータおよび計算効率の枠組みとして確立された。
関連論文リスト
- CA-OPD: Confidence-Aware On-Policy Distillation for Structured Visual Prediction [12.346416465825627]
信頼できるオン・ポリシィ蒸留(CA-OPD)は、信頼性の高いロールアウト構築と適応的な監視を結合するフレームワークである。
GUIグラウンディングと光学文字認識のためのマルチ教師設定で評価され、CA-OPDはQwen3.5-0.8Bベースラインを大幅に改善する。
論文 参考訳(メタデータ) (2026-09-02T10:11:59Z) - Latent On-Policy Self-Distillation [55.57800223145407]
On-policy Self-distillation (OPSD) は、特権的な自己教育者を用いて、生徒自身の軌跡を集中的に管理することにより、効果的な経路を提供する。
既存の方法はまだデザイナーが指定した特権的アーティファクトに大きく依存している。
本稿では,教師の特権的文脈自体を経験から学習可能なエンド・ツー・エンドにするため,LOPD(Latent On-Policy Self-Distillation)を導入する。
論文 参考訳(メタデータ) (2026-08-13T10:05:51Z) - VISD: Enhancing Video Reasoning via Structured Self-Distillation [4.8876574457819855]
複雑な推論のためのビデオLLMの訓練は、レベルレベルの報酬の順序と、長期的、時間的基盤の推論軌道上のきめ細かいクレジット割り当ての欠如により、依然として困難である。
ビデオ推論のための診断に意味のある特権情報を導入した自己蒸留フレームワークであるVISDを提案する。
論文 参考訳(メタデータ) (2026-05-07T12:13:15Z) - TCOD: Exploring Temporal Curriculum in On-Policy Distillation for Multi-turn Autonomous Agents [55.27396165691312]
マルチターンエージェント設定におけるバニラOPDの鍵となる制限を,トラジェクトリレベルKL不安定(Trajectory-Level KL Instability)と呼ぶ。
学生に露出する軌道深度を制御し,カリキュラムのスケジュールを段階的に拡張するフレームワークであるTCODを提案する。
4組の生徒と教師のペアによる実験結果から,TCODはKLのエスカレーションを軽減し,トレーニングを通してKLの安定性を高め,バニラPDよりも最大18ポイントのエージェント性能を向上させることが示された。
論文 参考訳(メタデータ) (2026-04-27T03:38:27Z) - Enhancing Robustness of Vision-Language Models through Orthogonality Learning and Self-Regularization [77.62516752323207]
そこで本研究では,事前訓練した重みを効率よく微調整する直交微調整法を導入し,頑健さと一般化の強化を実現した。
自己正規化戦略は、OrthSRと呼ばれるVLMのゼロショット一般化の観点から安定性を維持するためにさらに活用される。
筆者らはCLIPとCoOpを再検討し,少数の画像のクラスフィシエーションシナリオにおけるモデルの改善を効果的に行う。
論文 参考訳(メタデータ) (2024-07-11T10:35:53Z) - Continual Learners are Incremental Model Generalizers [70.34479702177988]
本稿では,継続学習モデル(CL)が事前学習者に与える影響を幅広く研究する。
その結果, 微調整性能が著しく低下することなく, 表現の伝達品質が徐々に向上することがわかった。
本稿では,下流タスクの解法において,リッチなタスクジェネリック表現を保存できる新しい微調整方式GLobal Attention Discretization(GLAD)を提案する。
論文 参考訳(メタデータ) (2023-06-21T05:26:28Z) - When Does Contrastive Learning Preserve Adversarial Robustness from
Pretraining to Finetuning? [99.4914671654374]
本稿では,新しい逆比較事前学習フレームワークAdvCLを提案する。
本稿では,AdvCLがモデル精度と微調整効率を損なうことなく,タスク間の堅牢性伝達性を向上できることを示す。
論文 参考訳(メタデータ) (2021-11-01T17:59:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。