論文の概要: Importance-Weighted Non-IID Sampling for Flow Matching Models
- arxiv url: http://arxiv.org/abs/2511.17812v1
- Date: Fri, 21 Nov 2025 22:05:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-25 18:34:24.441879
- Title: Importance-Weighted Non-IID Sampling for Flow Matching Models
- Title(参考訳): フローマッチングモデルにおける重要度重み付き非IIDサンプリング
- Authors: Xinshuang Liu, Runfa Blark Li, Shaoxiu Wei, Truong Nguyen,
- Abstract要約: 本研究では,フロー分布の多様で健全な領域をカバーするために,複数のサンプルを共同で描画する重要重み付き非IIDサンプリングフレームワークを提案する。
多様性と品質のバランスをとるために,多様性機構のためのスコアベースの正規化を導入する。
提案手法は,重要度と期待値の双方について,多種多様で高品質なサンプルと正確な推定値を生成する。
- 参考スコア(独自算出の注目度): 5.995277983968318
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Flow-matching models effectively represent complex distributions, yet estimating expectations of functions of their outputs remains challenging under limited sampling budgets. Independent sampling often yields high-variance estimates, especially when rare but with high-impact outcomes dominate the expectation. We propose an importance-weighted non-IID sampling framework that jointly draws multiple samples to cover diverse, salient regions of a flow's distribution while maintaining unbiased estimation via estimated importance weights. To balance diversity and quality, we introduce a score-based regularization for the diversity mechanism, which uses the score function, i.e., the gradient of the log probability, to ensure samples are pushed apart within high-density regions of the data manifold, mitigating off-manifold drift. We further develop the first approach for importance weighting of non-IID flow samples by learning a residual velocity field that reproduces the marginal distribution of the non-IID samples. Empirically, our method produces diverse, high-quality samples and accurate estimates of both importance weights and expectations, advancing the reliable characterization of flow-matching model outputs. Our code will be publicly available on GitHub.
- Abstract(参考訳): フローマッチングモデルは, 複雑な分布を効果的に表現するが, 限られたサンプリング予算の下では, 出力関数の期待値を推定することは困難である。
インディペンデントサンプリングは、特に稀であるが、高い影響のある結果が期待を左右する場合、しばしば高分散推定をもたらす。
本研究では,フロー分布の多様で健全な領域をカバーするために複数のサンプルを共同で描画し,推定された重要度重みによる不偏推定を維持しながら,重要度の高い非IIDサンプリングフレームワークを提案する。
多様性と品質のバランスをとるために,データ多様体の高密度領域内でサンプルが押し出されることを保証するために,ログ確率の勾配というスコア関数を用いた多様性機構のスコアベース正規化を導入する。
さらに,非IID試料の限界分布を再現する残留速度場を学習することにより,非IID流動試料の重み付けを重要視する手法を開発した。
実験により,本手法は,フローマッチングモデル出力の信頼性を向上し,多種多様な高品質なサンプルと,重要度と期待値の両方の正確な推定値を生成する。
私たちのコードはGitHubで公開されます。
関連論文リスト
- Learning Robust Diffusion Models from Imprecise Supervision [75.53546939251146]
DMISは、Imrecise Supervisionから堅牢な条件拡散モデルをトレーニングするための統一されたフレームワークである。
我々のフレームワークは、可能性から派生し、その目的を生成的および分類的構成要素に分解する。
画像生成、弱教師付き学習、データセットの凝縮をカバーし、様々な形の不正確な監視実験を行い、DMISが常に高品質でクラス差別的なサンプルを生成することを示した。
論文 参考訳(メタデータ) (2025-10-03T14:00:32Z) - G$^2$RPO: Granular GRPO for Precise Reward in Flow Models [74.21206048155669]
本稿では,サンプリング方向の高精度かつ包括的な報酬評価を実現する新しいグラニュラー-GRPO(G$2$RPO)フレームワークを提案する。
複数の拡散スケールで計算された利点を集約するマルチグラニュラリティ・アドバンテージ・インテグレーション・モジュールを導入する。
G$2$RPOは既存のフローベースGRPOベースラインを著しく上回る。
論文 参考訳(メタデータ) (2025-10-02T12:57:12Z) - Diffusion Sampling Path Tells More: An Efficient Plug-and-Play Strategy for Sample Filtering [18.543769006014383]
拡散モデルはしばしば、サンプリング軌跡に固有の変化のために、一貫性のないサンプル品質を示す。
CFG-リジェクション(CFG-Rejection)は,デノナイジングプロセスの初期段階において,低品質なサンプルをフィルタリングする効率的なプラグアンドプレイ戦略である。
画像生成におけるCFG-Rejectionの有効性を広範囲な実験により検証する。
論文 参考訳(メタデータ) (2025-05-29T11:08:24Z) - Convergence Of Consistency Model With Multistep Sampling Under General Data Assumptions [11.317363635566517]
自己整合性特性がトレーニング分布のほぼ下にある場合の整合性モデルの収束性について検討する。
私たちの分析では、軽度のデータ仮定しか必要とせず、フォワードプロセスのファミリーに適用される。
論文 参考訳(メタデータ) (2025-05-06T05:31:10Z) - Robust Probabilistic Model Checking with Continuous Reward Domains [1.7829696876801548]
本稿では,離散時間マルコフ連鎖における連続と離散の報酬分布を扱う新しい手法を提案する。
本手法は,真の分布の統計的特性を保ちながら,理論的に有界な誤差で報酬分布を近似する。
論文 参考訳(メタデータ) (2025-02-06T22:03:18Z) - Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - Breaking the Spurious Causality of Conditional Generation via Fairness
Intervention with Corrective Sampling [77.15766509677348]
条件生成モデルは、トレーニングデータセットから急激な相関を継承することが多い。
これは別の潜在属性に対して不均衡なラベル条件分布をもたらす。
この問題を緩和するための一般的な2段階戦略を提案する。
論文 参考訳(メタデータ) (2022-12-05T08:09:33Z) - Achieving Efficiency in Black Box Simulation of Distribution Tails with
Self-structuring Importance Samplers [1.6114012813668934]
本稿では,線形プログラムや整数線形プログラム,ピースワイド線形・二次目的,ディープニューラルネットワークで指定された特徴マップなど,多種多様なツールでモデル化されたパフォーマンス指標の分布を推定する,新しいImportance Smpling(IS)方式を提案する。
論文 参考訳(メタデータ) (2021-02-14T03:37:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。