論文の概要: Self-Supervised Visual On-Policy Distillation

• arxiv url: http://arxiv.org/abs/2608.14144v1
• Date: Fri, 14 Aug 2026 09:52:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-17 20:14:29.344815
• Title: Self-Supervised Visual On-Policy Distillation
• Title（参考訳）: 自己監督型視覚オンポリシィ蒸留
• Abstract要約: 視覚的オンライン蒸留は情報的教師-学生非対称性に大きく依存する。 S$2$VOPD(Self-Supervised Visual On-Policy Distillation)を紹介する。 S$2$VOPDは、オリジナルのイメージに条件付けられた教師の分布を、同じイメージの強く強化されたビューで条件付けられた学生の分布に蒸留する。
• 参考スコア（独自算出の注目度）: 63.83705343579541
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Visual on-policy distillation relies heavily on an informative teacher-student asymmetry, through either a larger, stronger teacher or privileged supervision, such as reference answers or ground-truth regions of interest. This raises a fundamental question: where can informative asymmetry come from when nothing privileged is available? We answer this by inverting where the asymmetry comes from. Rather than adding privileged information to the teacher, we subtract information from the student. This asymmetry creates the same effective learning signal for free as a teacher with access to information unavailable to the student, without ground-truth annotations, rewards, or a separate stronger teacher model. Building on this principle, we introduce Self-Supervised Visual On-Policy Distillation (S$^2$VOPD), a simple yet effective method that constructs on-policy learning signals from asymmetric augmented views. S$^2$VOPD distills the teacher's distribution conditioned on the original image on-policy into the student distribution conditioned on a strongly augmented view of the same image. We systematically explore a broad design space of visual augmentations and uncover that (1) asymmetry matters: all four augmentation families improve performance, while symmetric self-distillation degrades it; (2) strength matters: performance peaks at a moderate strength; and (3) the gap must remain task-consistent: augmentations that completely remove the question-relevant evidence can induce large but uninformative discrepancies. Across six fine-grained perception benchmarks, S$^2$VOPD improves Qwen3.5-4B from 70.7% to 77.4%, above all open-source models compared, up to Qwen3-VL at 235B, and surpasses GPT-5.4. While holding training data the same, it recovers 96% of the improvement achieved by methods with privileged information. Website is at https://williamium3000.github.io/s2vopd
• Abstract（参考訳）: 視覚的オンライン蒸留は、より大きく強力な教師または特権的な監督(参考回答や地道的な関心領域など)を通じて、情報的な教師と学生の非対称性に大きく依存する。 これは基本的な疑問を提起する: 特権のない情報的非対称性はどこから来るのか? 我々は、非対称性がどこから来たのかを逆転することによって、これを答える。 教師に特権情報を加えるのではなく、学生から情報を差し引く。 この非対称性は、教師と同じ効果的な学習信号を無償で生成し、学生が入手できない情報にアクセスできるようにする。 この原理に基づいて、非対称な拡張ビューからオンライン学習信号を構成するシンプルで効果的な方法であるセルフ・スーパービジョン・ビジュアル・オン・ポリシィ蒸留(S$^2$VOPD)を導入する。 S$^2$VOPDは、オリジナルのイメージに条件付けられた教師の分布を、同じイメージの強く強化されたビューで条件付けられた学生の分布に蒸留する。 視覚的拡張の広いデザイン空間を体系的に探求し,(1)非対称性が重要であること,(1)非対称性が重要であること,(2)非対称な自己蒸留が低下すること,(2)強み:適度な強度でパフォーマンスピークがピークに達すること,(3) ギャップはタスク一貫性のままでなければならないこと,(3) 疑問に関連のある証拠を完全に取り除く拡張は大きな不整合を生じさせる可能性があることを明らかにする。 S$^2$VOPDは6つの微粒な評価ベンチマークで、Qwen3.5-4Bを70.7%から77.4%に改善し、Qwen3-VLを235Bで上回り、GPT-5.4を上回った。 トレーニングデータを同じに保持しながら、特権情報を持つ手法によって達成された改善の96%を回復する。 Webサイトはhttps://williamium3000.github.io/s2vopdにある。

関連論文リスト

• One Symptom, Three Levers: A Critical Review of On-Policy Self-Distillation [3.0867286767516937]
  オンライン蒸留は、教師がトークンでトークンをスコアする間、自身の世代で言語モデルを訓練する。 教師はモデル自身であり、テスト時に生徒が持たない特権情報に基づいている。 初期の結果は有望であり、生成したトークンのごく一部で強化学習に匹敵する精度であった。 しかし、信号を生成するのと同じ非対称性もそれをバイアスする。
  論文  参考訳（メタデータ） (2026-08-26T15:52:19Z)
• Weak-to-Strong On-Policy Distillation [21.651421588571296]
  Weak-to-Strong On-Policy Distillation (W2S-OPD)を導入した。 4つの数学と3つのコードベンチマークで、W2S-OPDはOPDを上回り、学生がドメイン教師を超越し、監督源が弱くなっても改善を続けることができる。
  論文  参考訳（メタデータ） (2026-07-28T20:31:48Z)
• Visual Contrastive Self-Distillation [61.298159957622886]
  本稿では,視覚的コントラスト自己蒸留法を提案する。 これと対照的に,本研究では,教師の具体的イメージ分布の明確化を図り,その結果のフルディストリビューション目標を学生に蒸留する。
  論文  参考訳（メタデータ） (2026-07-23T17:37:37Z)
• DemoPSD: Disagreement-Modulated Policy Self-Distillation [49.30809363804017]
  大規模言語モデルを訓練するための実践的な方法として、オンデマンド自己蒸留が登場している。 DemoPSDは、教師と生徒の分布の重み付けされた幾何学的組み合わせに向けて学生を操縦する。
  論文  参考訳（メタデータ） (2026-07-02T17:58:29Z)
• DOPD: Dual On-policy Distillation [59.65986569617147]
  オンライン蒸留は、高密度のトークンレベルの信号で学生サンプルの軌跡を監督することで、優れた容量転送を提供する。 特権教師と特権学生の政策の間のトークンレベルの監督を動的にルーティングするアドバンテージ・アウェアな二重蒸留パラダイムであるDOPDを提案する。 大きな言語モデル(LLM)と視覚言語モデル(VLM)の両方の実験は、DOPDがバニラPDを一貫して上回っていることを示している。
  論文  参考訳（メタデータ） (2026-06-29T17:55:53Z)
• AVSD: Adaptive-View Self-Distillation by Balancing Consensus and Teacher-Specific Privileged Signals [65.71225905458182]
  自己蒸留は、生徒と教師の両方と同じモデルを用いて、言語モデルが自身の軌道から政治学を学ぶことを可能にする。 このセットアップは、別の外部モデルに頼ることなく、密集したトークンレベルのフィードバックを提供する。 複数の特権情報ビューを持つ自己蒸留法であるAVSDを紹介する。
  論文  参考訳（メタデータ） (2026-05-20T03:06:36Z)
• SECANT: Self-Expert Cloning for Zero-Shot Generalization of Visual Policies [87.78260740602674]
  総合化は強化学習(RL)の長年にわたる課題である。 本研究では,ゼロショットの一般化を目標としたロバストなポリシー学習を,大規模な分布シフトを伴う視覚環境に対して検討する。 本稿では,2段階のイメージ拡張を利用して,ロバスト表現学習をポリシー最適化から切り離す,新たな自己経験的クローニング手法であるSECANTを提案する。
  論文  参考訳（メタデータ） (2021-06-17T17:28:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。