論文の概要: Timing Matters Twice: When to Query and When to Skip in Flow-Matching On-Policy Distillation
- arxiv url: http://arxiv.org/abs/2610.34191v1
- Date: Sun, 25 Oct 2026 10:00:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.555868
- Title: Timing Matters Twice: When to Query and When to Skip in Flow-Matching On-Policy Distillation
- Title（参考訳）: タイミングは2つ: フローマッチオンポリシィ蒸留におけるクエリのタイミングとスキップのタイミング
- Abstract要約: PhaseOPDは、予測されたクリーンな潜伏剤のリビジョンからオンラインで生成段階を特定する。
PhaseOPDはそのフェーズ設定に基づいて監視状態を選択し、全てのクエリ決定が終了すると、未使用のロールアウトサフィックスをスキップする。
SD3.5-Mでは、フェーズOPDはローカルバッチ毎に16のロールアウト位置のうち5.56しか実行せず、DanceOPDと比較してトレーニング時間を41.3%削減している。
- 参考スコア（独自算出の注目度）: 7.487211715669009
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: On-policy distillation (OPD) enables flow-matching models to acquire complementary capabilities from specialized teachers through supervision on student-generated trajectories. However, different evaluation dimensions, such as aesthetics and OCR accuracy, and different tasks, such as image generation and editing, emphasize different aspects of the denoising process, suggesting that their effective supervision may occur at different stages. Existing methods typically select supervision states from predefined timestep distributions, which may overlook these phase-dependent differences and incur unnecessary computational overhead. This motivates two critical timing decisions: when to adaptively query teachers for effective supervision based on the evolving generative process, and when to skip the remaining rollout to avoid redundant computation. In this paper, we introduce PhaseOPD, a phase-aware query-and-skip framework that identifies generative phases online from revisions of predicted-clean latents, using existing student velocity predictions without additional model evaluations. For each task-assigned teacher, PhaseOPD selects a supervision state based on its phase preference and skips the unused rollout suffix once all query decisions are finalized, preserving the single-query velocity-distillation objective. On SD3.5-M, PhaseOPD executes only 5.56 of 16 rollout positions per local batch, reducing training time by 41.3% relative to DanceOPD while improving Aesthetic, GenEval, and OCR scores.
- Abstract（参考訳）: オンライン蒸留(OPD)は、学生が生み出す軌跡の監督を通じて、専門教師から相補的な能力を習得するフローマッチングモデルを可能にする。
しかし、美学やOCRの精度などの異なる評価次元、画像生成や編集といった異なるタスクは、認知過程の異なる側面を強調しており、それらの効果的な監督が異なる段階で起こる可能性があることを示唆している。
既存の方法は通常、事前に定義されたタイムステップ分布から監視状態を選択するが、これは相依存性の違いを見落とし、不要な計算オーバーヘッドを発生させる可能性がある。
これは、2つの重要なタイミング決定を動機付けている: 進化する生成プロセスに基づいて教師に効果的な監督を依頼する時と、余分な計算を避けるために残りのロールアウトを省略する時である。
本稿では,新たなモデル評価を行なわずに既存の学生の速度予測を用いて,予測クリーン潜伏者の修正からオンライン生成フェーズを識別する,位相認識型クエリ・アンド・スキップフレームワークであるPyseOPDを紹介する。
各タスク指定教師に対して、フェーズ設定に基づいて監督状態を選択し、全てのクエリ決定が終了すると、未使用のロールアウトサフィックスをスキップし、単一クエリのベロシティ蒸留目標を保存する。
SD3.5-Mでは、フェーズOPDはローカルバッチ毎に16のロールアウト位置のうち5.56しか実行せず、DanceOPDと比較してトレーニング時間を41.3%削減し、美学、GenEval、OCRのスコアを改善した。
関連論文リスト
- Simplifying and Improving On-Policy Distillation for Few-Step Diffusion [60.45650436067934]
少ない段階の蒸留は拡散・流動モデルのサンプリングコストを低減させるが、既存の手法では補助的なスコアモデルや特殊なアーキテクチャを必要とすることが多い。
4-NFE生成の基盤として, 簡易なオン・ポリティクス速度回帰法がすでに有効であることを示す。
本稿では,学習者の区間平均予測から局所的な補正を分離する訓練専用残差プロキシであるPivotを紹介する。
論文 参考訳（メタデータ） (2026-10-13T14:35:46Z) - CA-OPD: Confidence-Aware On-Policy Distillation for Structured Visual Prediction [12.346416465825627]
信頼できるオン・ポリシィ蒸留(CA-OPD)は、信頼性の高いロールアウト構築と適応的な監視を結合するフレームワークである。
GUIグラウンディングと光学文字認識のためのマルチ教師設定で評価され、CA-OPDはQwen3.5-0.8Bベースラインを大幅に改善する。
論文 参考訳（メタデータ） (2026-09-02T10:11:59Z) - On-Policy Self-Distillation in Diffusion Models [89.32656931795293]
強化学習は、拡散モデルと人間の好みやタスク固有の目的とを一致させることができるが、エンドポイント報酬は、中間的偏見予測をどのように変更すべきかを規定していない。
そこで我々は、DiffusionOPSDを、画像レベルの報酬誘導を明示的なターゲットに変換して、サンプルクエリにおけるクリーンな出力予測を行うオンライン自己蒸留フレームワークとして導入する。
SD 3.5-Mとステップ蒸留したZ-Image-Turboを用いて、2つのバックボーンと10個の評価器で20の報酬マッチング設定のうち19のファイナルホールトアウトスコアを達成した。
論文 参考訳（メタデータ） (2026-08-25T14:55:24Z) - Context-Matched Distillation: Teacher Causality for Autoregressive Video Distillation [97.02922768457239]
Context-Matched Distillation (CMD) は、教師の監督と、各ターゲットが生成される際に利用可能な情報とを整合させる因果的MDDフレームワークである。
Prefix Corruptionは、このターゲットコンテキストアライメントを維持しながら、トレーニングの初期段階で生成された信頼性の低いプレフィックスを摂動することで、トレーニングを安定化させる。
ショートビデオとロングビデオの両方のベンチマークで、自己回帰手法における最先端の集約性能を実証した。
論文 参考訳（メタデータ） (2026-08-13T15:51:31Z) - Distillation of Foundation Models for Time-dependent PDEs [21.455872116756492]
本研究では,事前学習した基礎モデルの予測能力を,コンパクトで効率的な学生に伝達する知識蒸留フレームワークを提案する。
微調整された教師から始めて、TREXは教師のロールアウトを通じて長い合成軌跡を生成することによって、下流の限られたデータを増やす。
結果として得られた学生は、数桁のパラメータ数を減らしながら、教師の精度を一致または超えることができる。
論文 参考訳（メタデータ） (2026-08-12T11:24:08Z) - BOUND: Brief-Guided Corrective Preference Distillation at Search-Control Boundaries [82.41764922522565]
BOUNDは、永続的な探索ドリフトのための短いガイド付き修正選好蒸留フレームワークである。
Trajectory SFT は Bamboogle で 5.6 EM 、BrowseComp-Plus で 4.8 の精度で上回っている。
論文 参考訳（メタデータ） (2026-08-09T15:32:16Z) - Adaptive FastOPD: Progress-Aware Rollout Horizon Expansion for Efficient On-Policy Distillation [6.296437135279578]
オンライン蒸留(OPD)は、学生が生み出す軌道に沿って密集した教師の監督を提供するが、オンラインのロールアウトプロセスは相当な計算コストを発生させる。
本稿では,現在境界付近で学習している場合にのみ,ロールアウト地平線を拡大するプログレッシブ・アウェア戦略であるAdaptive FastOPDを提案する。
論文 参考訳（メタデータ） (2026-07-31T15:02:53Z) - Prefix-Guided On-Policy Distillation: Mining Golden Trajectories from Rollouts [48.550535291129584]
Prefix-Guided On-Policy Distillation (PG-OPD) は、固定長プレフィックスを用いて、高価な長距離発生前に軌跡値を推定する単純なロールアウト・アロケーションフレームワークである。
AMC、AIME、HMMTベンチマークの様々な教師/学生の組み合わせで、PG-OPDはトレーニング時間を最大2.46倍にし、平均精度を4.80ポイントまで改善している。
論文 参考訳（メタデータ） (2026-06-20T11:18:34Z) - Prune-OPD: Efficient and Reliable On-Policy Distillation for Long-Horizon Reasoning [66.52232008796294]
Prune-OPDはトレーニング予算と監督品質を動的に調整する。
トレーニング時間を37.6%減らし-68.0%削減すると同時に、しばしば改善され、挑戦的なベンチマークのパフォーマンスが向上する。
論文 参考訳（メタデータ） (2026-05-08T14:38:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。