論文の概要: The Curse of Conditions: Analyzing and Improving Optimal Transport for Conditional Flow-Based Generation

• arxiv url: http://arxiv.org/abs/2503.10636v2
• Date: Fri, 14 Mar 2025 06:35:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-17 13:08:37.566676
• Title: The Curse of Conditions: Analyzing and Improving Optimal Transport for Conditional Flow-Based Generation
• Title（参考訳）: 条件曲線:条件付き流れ生成のための最適輸送の解析と改善
• Authors: Ho Kei Cheng, Alexander Schwing,
• Abstract要約: 本稿では,最適輸送代入を計算する際に,コスト行列に条件付き重み付け項を追加する条件付き最適輸送C2OTを提案する。 実験では、この単純な修正は8gaussian-to-moons、CIFAR-10、ImageNet-32x32、ImageNet-256x256の離散的条件と連続的条件の両方で動作することを示した。
• 参考スコア（独自算出の注目度）: 56.33404393159126
• License:
• Abstract: Minibatch optimal transport coupling straightens paths in unconditional flow matching. This leads to computationally less demanding inference as fewer integration steps and less complex numerical solvers can be employed when numerically solving an ordinary differential equation at test time. However, in the conditional setting, minibatch optimal transport falls short. This is because the default optimal transport mapping disregards conditions, resulting in a conditionally skewed prior distribution during training. In contrast, at test time, we have no access to the skewed prior, and instead sample from the full, unbiased prior distribution. This gap between training and testing leads to a subpar performance. To bridge this gap, we propose conditional optimal transport C^2OT that adds a conditional weighting term in the cost matrix when computing the optimal transport assignment. Experiments demonstrate that this simple fix works with both discrete and continuous conditions in 8gaussians-to-moons, CIFAR-10, ImageNet-32x32, and ImageNet-256x256. Our method performs better overall compared to the existing baselines across different function evaluation budgets. Code is available at https://hkchengrex.github.io/C2OT
• Abstract（参考訳）: 最適輸送結合の最小化は、非条件流マッチングにおける経路を直線化する。 これにより、積分ステップが小さくなり、テスト時に通常の微分方程式を数値的に解く際には、より複雑な数値解法が使用できるため、計算的に要求される推論がより少なくなる。 しかし、条件設定では、最小限の輸送量は不足する。 これは、デフォルトの最適トランスポートマッピングが条件を無視し、トレーニング中に条件付きで事前分布が歪んだためである。 それとは対照的に、テスト時には、スキューされた前のディストリビューションにアクセスできず、代わりに、完全な、偏りのない前のディストリビューションからサンプルをサンプリングします。 このトレーニングとテストのギャップは、パフォーマンスの低下につながります。 このギャップを埋めるために、最適輸送代入を計算する際に、コスト行列に条件付き重み付け項を追加する条件付き最適輸送C^2OTを提案する。 実験では、この単純な修正は8gaussian-to-moons、CIFAR-10、ImageNet-32x32、ImageNet-256x256の離散的条件と連続的条件の両方で動作することを示した。 提案手法は, 機能評価予算の異なる既存ベースラインと比較して, 全体的な性能を向上する。 コードはhttps://hkchengrex.github.io/C2OTで公開されている。

関連論文リスト

• Pathwise optimization for bridge-type estimators and its applications [49.1574468325115]
  パスワイズ法は、ペナライズされた推定器の完全な経路を効率的に計算することができる。 これらのアルゴリズムを離散時間で観測されたプロセスのペナル化推定に適用する。
  論文  参考訳（メタデータ） (2024-12-05T10:38:29Z)
• Efficient Neural Network Training via Subset Pretraining [5.352839075466439]
  ニューラルネットワークのトレーニングでは、バッチ上で計算された部分勾配を使用するのが一般的である。 トレーニングセットの損失最小限は、そのサブセットのミニマによって適切に近似されることが期待できる。 実験の結果 従来の訓練に匹敵する結果に 達できることが確認されました。
  論文  参考訳（メタデータ） (2024-10-21T21:31:12Z)
• Semi-Discrete Optimal Transport: Nearly Minimax Estimation With Stochastic Gradient Descent and Adaptive Entropic Regularization [38.67914746910537]
  我々は,ラゲールセル推定と密度支持推定の類似性を用いて,OTマップに対して$mathcalO(t-1)$の低いバウンダリレートを証明した。 所望の速さをほぼ達成するために,サンプル数に応じて減少するエントロピー正規化スキームを設計する。
  論文  参考訳（メタデータ） (2024-05-23T11:46:03Z)
• Efficient Neural Network Approaches for Conditional Optimal Transport with Applications in Bayesian Inference [1.740133468405535]
  静的および条件付き最適輸送(COT)問題の解を近似する2つのニューラルネットワークアプローチを提案する。 我々は、ベンチマークデータセットとシミュレーションに基づく逆問題を用いて、両アルゴリズムを競合する最先端のアプローチと比較する。
  論文  参考訳（メタデータ） (2023-10-25T20:20:09Z)
• A Specialized Semismooth Newton Method for Kernel-Based Optimal Transport [92.96250725599958]
  カーネルベース最適輸送(OT)推定器は、サンプルからOT問題に対処するための代替的機能的推定手順を提供する。 SSN法は, 標準正規性条件下でのグローバル収束率$O (1/sqrtk)$, 局所二次収束率を達成できることを示す。
  論文  参考訳（メタデータ） (2023-10-21T18:48:45Z)
• Generalized Schrödinger Bridge Matching [54.171931505066]
  一般化Schr"odinger Bridge (GSB) 問題設定は、機械学習の内外を問わず、多くの科学領域で一般的である。 我々は最近の進歩に触発された新しいマッチングアルゴリズムである一般化シュリンガーブリッジマッチング(GSBM)を提案する。 このような一般化は条件最適制御の解法として、変分近似を用いることができることを示す。
  論文  参考訳（メタデータ） (2023-10-03T17:42:11Z)
• Distributed Extra-gradient with Optimal Complexity and Communication Guarantees [60.571030754252824]
  複数のプロセッサ/ワーカー/クライアントがローカルなデュアルベクトルにアクセス可能なマルチGPU設定において、モノトン変分不等式(VI)問題を考察する。 モノトーンVI問題に対するデファクトアルゴリズムであるExtra-gradientは、通信効率が良くないように設計されている。 そこで本稿では,VI の解法に適した非バイアスで適応的な圧縮手法である量子化一般化外部勾配 (Q-GenX) を提案する。
  論文  参考訳（メタデータ） (2023-08-17T21:15:04Z)
• Minibatch optimal transport distances; analysis and applications [9.574645423576932]
  最適輸送距離は確率分布を比較するための古典的なツールとなり、機械学習に多くの応用を見出した。 一般的な回避策は、これらの距離をミニバッチで計算して、いくつかの小さな最適な輸送問題の結果の平均化です。 本稿では,本手法の広範な分析を行い,その効果を限定したケースで検討した。
  論文  参考訳（メタデータ） (2021-01-05T21:29:31Z)
• Comparing Probability Distributions with Conditional Transport [63.11403041984197]
  新しい発散として条件輸送(CT)を提案し、償却されたCT(ACT)コストと近似します。 ACTは条件付き輸送計画の計算を補正し、計算が容易な非バイアスのサンプル勾配を持つ。 さまざまなベンチマークデータセットのジェネレーティブモデリングでは、既存のジェネレーティブ敵対ネットワークのデフォルトの統計距離をACTに置き換えることで、一貫してパフォーマンスを向上させることが示されています。
  論文  参考訳（メタデータ） (2020-12-28T05:14:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。