論文の概要: Learning $ω$-Powered Conditional Distributions with Importance-Weighted Flow Matching
- arxiv url: http://arxiv.org/abs/2610.16419v1
- Date: Mon, 12 Oct 2026 08:51:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-18 23:20:54.828006
- Title: Learning $ω$-Powered Conditional Distributions with Importance-Weighted Flow Matching
- Title(参考訳): 重要度重み付きフローマッチングを用いた$ω$パワー条件分布の学習
- Abstract要約: 重要度重み付き条件付きフローマッチング(IW-CFM)を導入する。
IW-CFMは凍結条件および非条件流モデルから得られた密度比を用いて条件付き流れマッチング例を重み付けする。
ImageNetでは、補正された軽量な修正器は、対応する重み付きおよびフィルタリングされた参照と、固定および一致した誘導型CFGよりもアライメントがよい。
- 参考スコア(独自算出の注目度): 46.330022801179474
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Classifier-Free Guidance (CFG) with guidance scale $γ$ is commonly motivated by the $ω$-powered conditional distribution obtained by setting $ω=γ$, but CFG does not, in general, sample from this distribution exactly. We study whether the powered target can instead be learned explicitly. We introduce Importance-Weighted Conditional Flow Matching (IW-CFM), which reweights conditional flow-matching examples using density ratios obtained from frozen conditional and unconditional flow models. With exact normalized weights, the resulting objective has the same gradient as flow matching on the powered target; in practice, we use self-normalized estimation and a regularized empirical approximation for high-dimensional data. On synthetic distributions, IW-CFM recovers analytical powered targets for which numerically matched CFG, $γ=ω$, exhibits a visible mismatch. On ImageNet, an amortized lightweight corrector achieves better alignment than fixed- and matched-guidance CFG with the corresponding weighted and filtered reference distributions. We additionally present an exploratory CLIP analysis of powered-density rankings on real ImageNet data. Aggregate shifts across selected prompt-specific contrasts coexist with heterogeneous classwise responses, including nonmonotonic trajectories. These results provide a practical route for studying and approximating model-defined powered conditional distributions.
- Abstract(参考訳): 指導尺度 $γ$ を持つ分類自由誘導(CFG)は、一般に$ω=γ$ を設定して得られる$ω$ の条件分布によって動機づけられるが、CFGは一般にこの分布から標本を正確に抽出しない。
我々は、その代わりに動力標的を明示的に学習できるかどうかを調査する。
本稿では,凍結条件および非条件フローモデルから得られる密度比を用いて,条件整合例を重み付けしたIW-CFMを提案する。
正確な正規化重みでは, 出力対象のフローマッチングと同じ勾配を有する。実際, 高次元データに対して, 自己正規化推定と正規化経験近似を用いる。
合成分布において、IW-CFMはCFGと数値的に一致した$γ=ω$が可視的ミスマッチを示す解析動力標的を復元する。
ImageNetでは、補正された軽量な修正器は、対応する重み付きおよびフィルタリングされた参照分布と、固定および一致した誘導型CFGよりもアライメントがよい。
また、実画像ネットデータに基づくパワー密度ランキングの探索的CLIP分析について述べる。
アグリゲートは選択されたプロンプト特異的なコントラスト間でシフトし、非単調な軌道を含む不均一なクラスワイド応答と共存する。
これらの結果は,モデル定義型パワードコンディショナル分布の研究および近似のための実用的な経路を提供する。
関連論文リスト
- Efficient Sampling with Discrete Diffusion Models: Sharp and Adaptive Guarantees [9.180350432640912]
連続時間マルコフ連鎖(CTMC)の定式化によるスコアベース離散拡散モデルのサンプリング効率について検討した。
一様離散拡散に対して、$$-leapingアルゴリズムは位数$tilde O(d/varepsilon)$の複雑さを達成することを示す。
離散拡散をマスキングするために,本質的な情報理論量によって収束率を制御した$$-leapingサンプルラを導入する。
論文 参考訳(メタデータ) (2026-02-16T18:48:17Z) - Distillation of Discrete Diffusion by Exact Conditional Distribution Matching [9.460409527892345]
本稿では, 空調分布マッチングに基づく簡易かつ原理的な蒸留法を提案する。
我々は,この構造を利用して,事前学習した教師と低NFE学生の条件分布を直接一致させる蒸留目標を定義する。
論文 参考訳(メタデータ) (2025-12-15T00:16:10Z) - Learn to Guide Your Diffusion Model [84.82855046749657]
本研究では,条件付き拡散モデルによる試料の品質向上手法について検討する。
誘導ウェイトは$omega_c,(s,t)$で、条件付き$c$、飾る時間$t$、飾る時間$s$の関数です。
我々は,モデルが報酬関数によって傾いた分布を目標にすることができるように,フレームワークを拡張して報酬付きサンプリングを行う。
論文 参考訳(メタデータ) (2025-10-01T12:21:48Z) - Conditional Diffusion Models with Classifier-Free Gibbs-like Guidance [19.83064246586143]
CFGは条件付きおよび非条件付きデノイザの出力を線形に結合することにより条件付き拡散モデルを改善する手法である。
CFGは視覚的品質を高め、プロンプトとの整合性を向上させるが、しばしばサンプルの多様性を低下させる。
所望の傾斜分布からサンプルを抽出するギブスライクなサンプリング手法を提案する。
論文 参考訳(メタデータ) (2025-05-27T12:27:33Z) - Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Autoregressive Score Matching [113.4502004812927]
自動回帰条件スコアモデル(AR-CSM)を提案する。
AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。
本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
論文 参考訳(メタデータ) (2020-10-24T07:01:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。