論文の概要: On-Policy Distillation for Vision-Language Model Adaptation, an Effective Paradigm on Low-Quality Multimodal Data

• arxiv url: http://arxiv.org/abs/2609.10321v1
• Date: Wed, 09 Sep 2026 15:26:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:09.08192
• Title: On-Policy Distillation for Vision-Language Model Adaptation, an Effective Paradigm on Low-Quality Multimodal Data
• Title（参考訳）: 低品質マルチモーダルデータに対する効果的なパラダイムであるビジョンランゲージモデル適応のためのオンライン蒸留
• Abstract要約: 視覚言語モデル適応のためのオンライン蒸留フレームワークOnPoKDを提案する。 OnPoKDは、サンプルワイド適応ターゲットを構築する軽量コントローラを学習する。 ベース・ツー・ノーベル一般化とクロス・データセット・トランスファー・ベンチマークの実験は、OnPoKDが強い視覚言語蒸留ベースラインよりも一貫して改善していることを示している。
• 参考スコア（独自算出の注目度）: 33.30564104173576
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Knowledge distillation offers an efficient route to transfer a task-adapted vision-language teacher to a compact student. The training target in current vision-language distillation methods is typically constructed from the teacher prediction and applied uniformly to all training samples, making it unreliable under class and domain shifts. In this paper, we argue that distillation target construction should be treated as a dynamic training decision rather than a fixed recipe. To this end, we propose OnPoKD, an on-policy distillation framework for vision-language model adaptation. To the best of our knowledge, OnPoKD is the first framework that applies on-policy distillation to vision-language model adaptation by learning target construction as a policy decision. OnPoKD learns a lightweight controller that constructs sample-wise adaptive targets using reliability and disagreement cues from the teacher model, student model, and zero-shot prior. Instead of relying on a fixed teacher prediction, the controller dynamically balances teacher supervision, zero-shot prior guidance, and hard-label anchoring through bounded policy actions, allowing the distillation target to adapt to varying sample reliability and training stages. The policy controller is updated with validation feedback, encouraging target construction to optimize transferability rather than merely fitting the training distribution. Since the controller is only used during training, OnPoKD can be seamlessly integrated into existing vision-language distillation pipelines while preserving the original inference architecture and test-time cost. Extensive experiments on Base-to-novel generalization and Cross-dataset transfer benchmarks show that OnPoKD consistently improves over strong vision-language distillation baselines.
• Abstract（参考訳）: 知識蒸留は、タスク適応型視覚言語教師をコンパクトな学生に転送する効率的な経路を提供する。 現在の視覚言語蒸留法のトレーニングターゲットは、教師の予測から構築され、すべてのトレーニングサンプルに均一に適用され、クラスやドメインシフト下では信頼性が低い。 本稿では, 蒸留ターゲット構築は, 一定のレシピではなく, ダイナミックなトレーニング決定として扱うべきであると論じる。 そこで本研究では,視覚言語モデル適応のためのオンライン蒸留フレームワークであるOnPoKDを提案する。 我々の知る限りでは、OnPoKDは、政策決定としての目標構築を学習することで、視覚言語モデル適応にオンライン蒸留を適用する最初のフレームワークである。 OnPoKDは、教師モデル、学生モデル、ゼロショットから信頼性と相違点を用いて、サンプルワイド適応ターゲットを構築する軽量コントローラを学習する。 教師の予測を固定する代わりに、教師の監督、ゼロショット事前指導、境界付けられた政策行動によるハードラベルアンカーのバランスを動的に調整し、蒸留ターゲットが様々なサンプルの信頼性と訓練段階に適応できるようにする。 ポリシコントローラは、評価フィードバックを伴って更新され、トレーニング分布に適合するのではなく、転送可能性の最適化を目的としたターゲット構築が推奨される。 コントローラはトレーニング時にのみ使用されるため、OnPoKDはオリジナルの推論アーキテクチャとテスト時間コストを保ちながら、既存のビジョン言語蒸留パイプラインにシームレスに統合することができる。 Base-to-novel Generalization と Cross-dataset Transfer ベンチマークの広範な実験は、OnPoKD が強い視覚言語蒸留ベースラインよりも一貫して改善していることを示している。

関連論文リスト

• Rethinking Reward Supervision: Rubric-Conditioned Self-Distillation [60.55792673956761]
  我々は, ルブリックを構造化, きめ細かいフィードバックとして組み込んだフレームワークであるtextbfRubric-Conditioned Self-Distillationを提案する。 その結果, ルーリック条件の自己蒸留は, ルーリックレベルの基準をトークンレベルのガイダンスに効果的に変換することを示した。
  論文  参考訳（メタデータ） (2026-06-17T17:54:04Z)
• Teacher-Guided Policy Optimization for LLM Distillation [90.49982387646861]
  Teacher-Guided Policy Optimization (TGPO) は、生徒のロールアウトに条件付き教師予測を活用することで、高密度な方向性誘導を取り入れたオンラインアルゴリズムである。 複雑な推論ベンチマークの実験では、TGPOは標準ベースラインを著しく上回り、異なる教師にとって堅牢であることが示されている。
  論文  参考訳（メタデータ） (2026-05-13T09:20:03Z)
• Preference-Based Self-Distillation: Beyond KL Matching via Reward Regularization [18.027254451537342]
  既存の自己蒸留法は、文脈拡張型教師モデルに向けた学習をKLマッチングに大きく還元する。 textbfPreference-textbfBased textbfSelf-textbfDistillation (textbfPBSD)を提案する。
  論文  参考訳（メタデータ） (2026-05-06T15:31:50Z)
• The Illusion of Certainty: Decoupling Capability and Calibration in On-Policy Distillation [67.26315138466312]
  モデルロールアウトから経験的信頼性を推定するキャリブレーション対応のOPDフレームワークであるCaOPDを提案する。 本研究は, 能力蒸留が信頼性を示唆するものではないこと, 信頼性をポストトレーニングの本質的な目的として扱うべきであることを明らかにする。
  論文  参考訳（メタデータ） (2026-04-18T04:43:40Z)
• On-Policy Context Distillation for Language Models [92.82835176360864]
  本稿では, オンライン蒸留とコンテキスト蒸留を橋渡しするフレームワークである, オン・ポリティ・コンテキスト蒸留(OPCD)を提案する。 実験的知識蒸留とシステム急速蒸留の2つの重要な応用におけるOPCDの有効性を実証する。
  論文  参考訳（メタデータ） (2026-02-12T18:58:28Z)
• Preference Distillation via Value based Reinforcement Learning [16.165599808093408]
  我々は,教師モデルの値関数から補助的な報酬を付与し,ソフトガイドを提供する,textitTeacher Value-based Knowledge Distillation (TVKD)を提案する。 TVKDは標準のDPOトレーニングフレームワークに統合することができ、追加のロールアウトを必要としない。 実験の結果,TVKDは様々なベンチマークやモデルサイズで連続的に性能を向上することがわかった。
  論文  参考訳（メタデータ） (2025-09-21T07:52:28Z)
• Enhancing Robustness of Vision-Language Models through Orthogonality Learning and Self-Regularization [77.62516752323207]
  そこで本研究では,事前訓練した重みを効率よく微調整する直交微調整法を導入し,頑健さと一般化の強化を実現した。 自己正規化戦略は、OrthSRと呼ばれるVLMのゼロショット一般化の観点から安定性を維持するためにさらに活用される。 筆者らはCLIPとCoOpを再検討し,少数の画像のクラスフィシエーションシナリオにおけるモデルの改善を効果的に行う。
  論文  参考訳（メタデータ） (2024-07-11T10:35:53Z)
• Self-Distillation for Further Pre-training of Transformers [83.84227016847096]
  我々は、さらなる事前学習段階の正則化として自己蒸留を提案する。 画像およびテキスト分類タスクのための様々なベンチマークデータセットにおける自己蒸留の有効性を実証的に検証する。
  論文  参考訳（メタデータ） (2022-09-30T02:25:12Z)
• Self-Knowledge Distillation with Progressive Refinement of Targets [1.1470070927586016]
  プログレッシブ自己知識蒸留(PS-KD)という,単純で効果的な正則化法を提案する。 PS-KDは、訓練中にハードターゲットを柔らかくするために、モデルの知識を徐々に蒸留する。 分析の結果,PS-KDは,試料の分類の難しさに応じて勾配を再スケーリングすることで,硬い試料採掘の効果を示すことがわかった。
  論文  参考訳（メタデータ） (2020-06-22T04:06:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。