論文の概要: Designing a Conditional Prior Distribution for Flow-Based Generative Models

• arxiv url: http://arxiv.org/abs/2502.09611v1
• Date: Thu, 13 Feb 2025 18:58:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-14 13:49:34.879653
• Title: Designing a Conditional Prior Distribution for Flow-Based Generative Models
• Title（参考訳）: フローベース生成モデルのための条件付き事前分布の設計
• Authors: Noam Issachar, Mohammad Salama, Raanan Fattal, Sagie Benaim,
• Abstract要約: フローベース生成モデルは、最近条件付き生成タスクに顕著な性能を示した。 本研究では、条件付きフローベースモデルの非有効性、すなわち非自明な事前分布を設計する能力を利用する。 この点を中心とするパラメトリック分布から条件的目標分布へのサンプルのマッピングには,フローマッチングの定式化を利用する。
• 参考スコア（独自算出の注目度）: 16.729797131896138
• License:
• Abstract: Flow-based generative models have recently shown impressive performance for conditional generation tasks, such as text-to-image generation. However, current methods transform a general unimodal noise distribution to a specific mode of the target data distribution. As such, every point in the initial source distribution can be mapped to every point in the target distribution, resulting in long average paths. To this end, in this work, we tap into a non-utilized property of conditional flow-based models: the ability to design a non-trivial prior distribution. Given an input condition, such as a text prompt, we first map it to a point lying in data space, representing an ``average" data point with the minimal average distance to all data points of the same conditional mode (e.g., class). We then utilize the flow matching formulation to map samples from a parametric distribution centered around this point to the conditional target distribution. Experimentally, our method significantly improves training times and generation efficiency (FID, KID and CLIP alignment scores) compared to baselines, producing high quality samples using fewer sampling steps.
• Abstract（参考訳）: フローベースの生成モデルは、最近、テキスト・ツー・イメージ生成のような条件付き生成タスクにおいて、印象的なパフォーマンスを示している。 しかし、現在の手法は、一般の単調雑音分布を対象データ分布の特定のモードに変換する。 そのため、初期音源分布のすべての点を対象分布のすべての点にマッピングすることができ、結果として長い平均経路が得られる。 この目的のために,本稿では,条件付きフローベースモデルの非利用特性,すなわち非自明な事前分布を設計する能力を利用する。 テキストプロンプトのような入力条件が与えられたら、まずデータをデータ空間に横たわる点にマッピングし、同じ条件モード(例えば、クラス)のすべてのデータポイントに最小平均距離の ``average' データポイントを表す。 次に,フローマッチングの定式化を用いて,この点を中心とするパラメトリック分布から条件目標分布へサンプルをマッピングする。 実験により,本手法は,ベースラインに比べてトレーニング時間と生成効率(FID,KID,CLIPアライメントスコア)が有意に向上し,サンプリングステップが少なくて高品質なサンプルが得られた。

関連論文リスト

• Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
  本報告では,明示的な次元の一般スコアミスマッチ拡散サンプリング器を用いた最初の性能保証について述べる。 その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。 この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
  論文  参考訳（メタデータ） (2024-10-17T16:42:12Z)
• Distributed Markov Chain Monte Carlo Sampling based on the Alternating Direction Method of Multipliers [143.6249073384419]
  本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。 我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。 シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
  論文  参考訳（メタデータ） (2024-01-29T02:08:40Z)
• Probabilistic Matching of Real and Generated Data Statistics in Generative Adversarial Networks [0.6906005491572401]
  本稿では,あるデータ統計量の分布が実データの分布と一致することを確実にする手法を提案する。 提案手法を合成データセットと実世界のデータセットで評価し,提案手法の性能向上を実証した。
  論文  参考訳（メタデータ） (2023-06-19T14:03:27Z)
• Flow Away your Differences: Conditional Normalizing Flows as an Improvement to Reweighting [0.0]
  本稿では, 条件分布の所望の変化を考慮に入れた再重み付け手法の代替手法を提案する。 条件付き正規化フローを用いて、完全条件付き確率分布を学習する。 この例では、ソースとターゲットの分布を同一のサンプルサイズで再重み付けする手法よりも、統計精度が最大3倍に向上する。
  論文  参考訳（メタデータ） (2023-04-28T16:33:50Z)
• Predicting Out-of-Domain Generalization with Neighborhood Invariance [59.05399533508682]
  局所変換近傍における分類器の出力不変性の尺度を提案する。 私たちの測度は計算が簡単で、テストポイントの真のラベルに依存しません。 画像分類,感情分析,自然言語推論のベンチマーク実験において,我々の測定値と実際のOOD一般化との間に強い相関関係を示す。
  論文  参考訳（メタデータ） (2022-07-05T14:55:16Z)
• Continuous and Distribution-free Probabilistic Wind Power Forecasting: A Conditional Normalizing Flow Approach [1.684864188596015]
  条件正規化フロー(CNF)に基づく確率的風力予測のためのデータ駆動型手法を提案する。 既存の手法とは対照的に、このアプローチは(非パラメトリックおよび量子的アプローチのように)分布自由であり、連続確率密度を直接生成することができる。
  論文  参考訳（メタデータ） (2022-06-06T08:48:58Z)
• VQ-Flows: Vector Quantized Local Normalizing Flows [2.7998963147546148]
  データ多様体上の「チャートマップ」として局所正規化フローの混合を学習するための新しい統計フレームワークを導入する。 本フレームワークは, 正規化フローのシグネチャ特性を保ちながら, 最近の手法の表現性を向上し, 正確な密度評価を行う。
  論文  参考訳（メタデータ） (2022-03-22T09:22:18Z)
• Sampling from Arbitrary Functions via PSD Models [55.41644538483948]
  まず確率分布をモデル化し,そのモデルからサンプリングする。 これらのモデルでは, 少数の評価値を用いて, 高精度に多数の密度を近似することが可能であることが示され, それらのモデルから効果的にサンプルする簡単なアルゴリズムが提示される。
  論文  参考訳（メタデータ） (2021-10-20T12:25:22Z)
• Improving Generative Adversarial Networks with Local Coordinate Coding [150.24880482480455]
  GAN(Generative Adversarial Network)は、事前定義された事前分布から現実的なデータを生成することに成功している。 実際には、意味情報はデータから学んだ潜在的な分布によって表現される。 ローカル座標符号化(LCC)を用いたLCCGANモデルを提案する。
  論文  参考訳（メタデータ） (2020-07-28T09:17:50Z)
• Pre-training Is (Almost) All You Need: An Application to Commonsense Reasoning [61.32992639292889]
  事前学習されたトランスモデルの微調整は、一般的なNLPタスクを解決するための標準的なアプローチとなっている。 そこで本研究では,可視性ランキングタスクをフルテキスト形式でキャストする新たなスコアリング手法を提案する。 提案手法は, ランダム再起動にまたがって, より安定した学習段階を提供することを示す。
  論文  参考訳（メタデータ） (2020-04-29T10:54:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。