論文の概要: Decompose the Distillation: Interpretable Single-Pass Guidance for Diffusion Models
- arxiv url: http://arxiv.org/abs/2611.05755v1
- Date: Tue, 03 Nov 2026 23:55:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 03:25:57.904844
- Title: Decompose the Distillation: Interpretable Single-Pass Guidance for Diffusion Models
- Title(参考訳): 蒸留を分解する:拡散モデルに対する解釈可能な単一パス誘導
- Abstract要約: CtrlFlowはCFGの分離可能なベースフローとガイダンス指向インターフェースを保持する単一パス誘導方式である。
CtrlFlowは、速度場誤差を抑えるためにスケール適応変調を適用し、時間グリッドはソルバ評価に集中する。
- 参考スコア(独自算出の注目度): 8.339106267520515
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Classifier-Free Guidance is a widely used inference-time guidance rule for conditional image generation with diffusion models, which exposes a guidance scale that adjusts conditioning strength after training. This flexibility requires conditional and unconditional model evaluations at every sampling step, so an N-step trajectory takes 2N forward passes. Single-pass alternatives reduce such cost, yet most collapse CFG's two components into one opaque guided prediction, losing the separable base flow and guidance direction that support per-step control and diagnostics, even when the scale remains adjustable. This work introduces CtrlFlow, a single-pass guidance method that preserves CFG's separable base-flow and guidance-direction interface. To preserve both components at one-pass cost, CtrlFlow attaches two lightweight LoRA adapters to a frozen backbone, each adding 2.5% parameters, and predicts the base flow and guidance direction from one pass of the shared frozen backbone. Because the guidance scale multiplies the guidance direction only after the forward pass, one evaluation yields the guided velocity at any scale, so a single trained checkpoint remains adjustable at inference without retraining. Preserving two outputs introduces a training mismatch: inference amplifies guidance-direction errors by the chosen scale, while naive component-wise losses weight both outputs equally. To align training with this composed inference-time error, CtrlFlow uses a unified multi-scale distillation loss. Residual guidance errors can still persist at extreme scales, where even small guidance-direction errors are amplified by the guidance scale. To reduce this inference-time error, CtrlFlow applies scale-adaptive modulation to damp velocity-field errors and time-grid warping to concentrate solver evaluations where the trajectory changes most rapidly.
- Abstract(参考訳): Classifier-Free Guidanceは、拡散モデルを用いた条件画像生成のための推論時ガイダンスルールとして広く使われている。
この柔軟性はサンプリングの各ステップで条件付きおよび無条件のモデル評価を必要とするため、Nステップの軌道は2N前方を通過する。
シングルパスの代替手段はそのようなコストを削減するが、CFGの2つのコンポーネントを1つの不透明なガイド付き予測に分解し、スケールが調整可能であっても、ステップ単位の制御と診断をサポートする分離可能なベースフローと誘導方向を失う。
CtrlFlowはCFGの分離可能なベースフローとガイダンス指向インターフェースを保存する単一パス誘導方式である。
両方のコンポーネントを1パスのコストで保存するために、CtrlFlowは2つの軽量のLoRAアダプタを冷凍バックボーンに取り付け、それぞれ2.5%のパラメータを追加し、共有された冷凍バックボーンの1パスからベースフローと誘導方向を予測する。
誘導尺度は前方通過後のみ誘導方向を乗算するため、任意のスケールで誘導速度を導出するので、訓練された1つのチェックポイントは、再訓練することなく、推論時に調整可能である。
2つのアウトプットを保存すると、トレーニングミスマッチが発生する: 推論は、選択されたスケールによるガイダンス指向エラーを増幅し、一方、コンポーネント単位の損失重みは、両方のアウトプットが等しくなる。
CtrlFlowは、この合成推論時間誤差とトレーニングを一致させるために、統一されたマルチスケール蒸留損失を使用する。
残留誘導誤差は、ガイダンススケールによって小さな誘導方向誤差が増幅されるような極端なスケールでも継続することができる。
この推定時間誤差を低減するため、CtrlFlowは速度場誤差を抑えるためにスケール適応変調を適用し、軌道が最も高速に変化する解法評価を集中的に行う。
関連論文リスト
- Pairwise AUC Optimization Needs Corrective Power: A Unified View [91.5488253165522]
ペアワイドのミニバッチ更新が、より厳格なランキングエラーに対して、より強く信頼性の高い改善をもたらすかどうかを検討する。
我々の主な観察では、直接的なペアワイズトレーニングは、深刻なエラーが相変わらずありふれた領域に入ることができるが、もはや有用な修正動作は生じない。
論文 参考訳(メタデータ) (2026-10-15T12:02:54Z) - Difficulty-Calibrated Interpolation Paths for Conditional Flow Matching [0.0]
条件付きフローマッチングは、所定のノイズ・データ・パスの速度にネットワークを後退させて生成モデルを訓練する。
本研究では,条件付きフローマッチングの回帰困難度が経路に沿って系統的に変化することを示す。
本稿では,モデル自体からスケジュールを導出するDifficulty-Calibrated Flow Matchingを提案する。
論文 参考訳(メタデータ) (2026-08-21T16:42:52Z) - FlowBender: Feedback-Aware Training for Self-Correcting Conditional Flows [18.746098727212544]
FlowBenderは3D再構成のための新しい拡散流モデルである。
FlowBenderは、標準的な教師付きアライメントトレーニングよりも一貫して優れています。
微分可能な演算子に対して、FlowBenderのいくつかの変種を提案する。
論文 参考訳(メタデータ) (2026-06-18T15:56:07Z) - AnyFlow: Any-Step Video Diffusion Model with On-Policy Flow Map Distillation [70.80207977907908]
フローマップをベースとした,最初のノンステップビデオ拡散蒸留フレームワークであるAnyFlowを紹介した。
我々は、AnyFlowがいくつかの段階において、パフォーマンスの一致を達成するか、一貫性ベースの結果を上回ることを示す。
論文 参考訳(メタデータ) (2026-05-13T16:06:34Z) - Follow the Mean: Reference-Guided Flow Matching [10.73543578064991]
フローマッチングは異なる制御インターフェース(例による適応)を持つことを示す。
決定論的補間子の場合、速度場は条件付き終端平均によってのみ支配される。
これは制御可能な生成の単純な原理である:従う参照集合を変更して事前訓練されたモデルを操る。
論文 参考訳(メタデータ) (2026-05-11T09:57:34Z) - Diffusion Controller: Framework, Algorithms and Parameterization [54.82539154511621]
本稿では,逆拡散サンプリングを(一般化された)線形解法マルコフ決定過程における状態のみの制御として活用する統一的な制御理論的視点を提案する。
このフレームワークでは、制御はトレーニング済みのリバースタイムのトランジションカーネルを再重み付けし、端末の目的と$f$分割コストのバランスをとる。
安定拡散v1.4の実験では、選好調整の勝利率が一貫した上昇を示し、品質効率のトレードオフを改善した。
論文 参考訳(メタデータ) (2026-03-07T01:49:59Z) - General and Efficient Steering of Unconditional Diffusion [25.225845714398364]
非条件拡散を効率的に操るレシピを提案する。
推測中は 勾配誘導なしで
本手法は拡散モデル構造に関する2つの観測に基づいて構築されている。
CIFAR-10、ImageNet、CelebAの実験では、精度/品質のオーバーベース勾配ガイダンスが改善された。
論文 参考訳(メタデータ) (2026-02-11T21:58:26Z) - Rectified Diffusion: Straightness Is Not Your Need in Rectified Flow [65.51671121528858]
拡散モデルは、視覚生成を大幅に改善したが、生成ODEを解くという計算集約的な性質のため、生成速度の遅さによって妨げられている。
広く認識されている解である整流流は、ODEパスを直線化することで生成速度を向上させる。
本稿では,より広範な拡散モデルのカテゴリをカバーするために,設計空間と修正の応用範囲を一般化するRectified Diffusionを提案する。
論文 参考訳(メタデータ) (2024-10-09T17:43:38Z) - Rolling Shutter Correction with Intermediate Distortion Flow Estimation [55.59359977619609]
本稿では,グローバルシャッタ(GS)からRSへの歪み流を直接推定することにより,ローリングシャッタ(RS)歪み画像を補正することを提案する。
既存の手法は通常、RSからGSへの非歪流を用いて補正を行う。
本稿では,歪み流を直接推定し,後方ワープ操作でRS像を補正する新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2024-04-09T14:40:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。