論文の概要: BoMb-OT: On Batch of Mini-batches Optimal Transport
- arxiv url: http://arxiv.org/abs/2102.05912v1
- Date: Thu, 11 Feb 2021 09:56:25 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-12 14:22:16.652263
- Title: BoMb-OT: On Batch of Mini-batches Optimal Transport
- Title（参考訳）: BoMb-OT:ミニバッチの最適輸送について
- Authors: Khai Nguyen, Quoc Nguyen, Nhat Ho, Tung Pham, Hung Bui, Dinh Phung,
Trung Le
- Abstract要約: ミニバッチ最適輸送(m-OT)は、難縮密度の確率測度を含む実用的な応用に成功している。
我々は,Batch of Mini-batches Optimal Transport (BoMb-OT)という,最適輸送のための新しいミニバッチ方式を提案する。
この新しいミニバッチ方式は,m-OTよりも2つの当初の手段間のよりよい交通計画を推定できることを示す。
- 参考スコア（独自算出の注目度）: 23.602237930502948
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Mini-batch optimal transport (m-OT) has been successfully used in practical
applications that involve probability measures with intractable density, or
probability measures with a very high number of supports. The m-OT solves
several sparser optimal transport problems and then returns the average of
their costs and transportation plans. Despite its scalability advantage, m-OT
is not a proper metric between probability measures since it does not satisfy
the identity property. To address this problem, we propose a novel
mini-batching scheme for optimal transport, named Batch of Mini-batches Optimal
Transport (BoMb-OT), that can be formulated as a well-defined distance on the
space of probability measures. Furthermore, we show that the m-OT is a limit of
the entropic regularized version of the proposed BoMb-OT when the regularized
parameter goes to infinity. We carry out extensive experiments to show that the
new mini-batching scheme can estimate a better transportation plan between two
original measures than m-OT. It leads to a favorable performance of BoMb-OT in
the matching and color transfer tasks. Furthermore, we observe that BoMb-OT
also provides a better objective loss than m-OT for doing approximate Bayesian
computation, estimating parameters of interest in parametric generative models,
and learning non-parametric generative models with gradient flow.
- Abstract（参考訳）: ミニバッチ最適輸送(m-OT)は、難解密度の確率測度や、非常に多数の支持率を持つ確率測度を含む実用的な応用で成功している。
m-otはいくつかのスパルサー最適輸送問題を解決し、コストと輸送計画の平均値を返す。
スケーラビリティのアドバンテージにもかかわらず、m-otはアイデンティティ特性を満たさないため、確率測度間の適切な指標ではない。
この問題に対処するため,我々は,最小バッチ最適輸送(BoMb-OT)と呼ばれる,確率測度空間上のよく定義された距離を定式化可能な,最適輸送のための新しいミニバッチ方式を提案する。
さらに、正規化パラメータが無限大になると、m-OT は提案された BoMb-OT のエントロピー正規化バージョンの限界であることを示す。
我々は,新しいミニバッチ方式により,m-OTよりも2つの当初の手段間のよりよい輸送計画を推定できることを示す広範囲な実験を行った。
これは、マッチングおよびカラー転送タスクでBoMb-OTの良好なパフォーマンスにつながります。
さらに,近似ベイズ計算やパラメトリック生成モデルに対する関心パラメータの推定,勾配流による非パラメトリック生成モデルの学習において,bomb-otはm-otよりも客観的な損失をも与えている。
関連論文リスト
- Expected Sliced Transport Plans [9.33181953215826]
本研究では, 1次元の最適輸送計画を, もともとの空間に戻す「揚力」操作を提案する。
本研究では、EST計画を用いて、ある点から別の点へ移動する際のユークリッドの個々のコストの和を重み付けし、入力された離散確率測度間の有効距離を求めることを証明する。
論文 参考訳（メタデータ） (2024-10-16T02:44:36Z) - Dynamical Measure Transport and Neural PDE Solvers for Sampling [77.38204731939273]
本研究では, 対象物へのトラクタブル密度関数の移動として, 確率密度からサンプリングする作業に取り組む。
物理インフォームドニューラルネットワーク(PINN)を用いて各偏微分方程式(PDE)の解を近似する。
PINNはシミュレーションと離散化のない最適化を可能にし、非常に効率的に訓練することができる。
論文 参考訳（メタデータ） (2024-07-10T17:39:50Z) - MAP: Low-compute Model Merging with Amortized Pareto Fronts via Quadratic Approximation [80.47072100963017]
Amortized Pareto Front (MAP) を用いた新しい低演算アルゴリズム Model Merging を導入する。
MAPは、複数のモデルをマージするためのスケーリング係数のセットを効率的に識別し、関連するトレードオフを反映する。
また,タスク数が比較的少ないシナリオではベイジアンMAP,タスク数の多い状況ではNested MAPを導入し,計算コストを削減した。
論文 参考訳（メタデータ） (2024-06-11T17:55:25Z) - Light and Optimal Schrödinger Bridge Matching [67.93806073192938]
我々はSB(Schr"odinger Bridges)を学習するための新しい手法を提案し、それを textbf Schr"odinger Bridge matching と呼ぶ。
EOT/SBを学習するための最適橋梁マッチングは,最近発見されたエネルギーベースモデリング(EBM)の目標と一致することを示す。
我々は、Schr"odinger電位の混合パラメタライゼーションを用いて、実際に最適なマッチングを実現するための光解法(LightSB-Mと呼ぶ)を開発した。
論文 参考訳（メタデータ） (2024-02-05T17:17:57Z) - Entropic Neural Optimal Transport via Diffusion Processes [105.34822201378763]
本稿では,連続確率分布間のエントロピー最適輸送(EOT)計画を計算するための新しいアルゴリズムを提案する。
提案アルゴリズムは,シュリンガーブリッジ問題(Schr"odinger Bridge problem)として知られるEOTの動的バージョンのサドル点再構成に基づく。
大規模EOTの従来の手法とは対照的に,我々のアルゴリズムはエンドツーエンドであり,単一の学習ステップで構成されている。
論文 参考訳（メタデータ） (2022-11-02T14:35:13Z) - Low-rank Optimal Transport: Approximation, Statistics and Debiasing [51.50788603386766]
フロゼットボン2021ローランで提唱された低ランク最適輸送(LOT)アプローチ
LOTは興味のある性質と比較した場合、エントロピー正則化の正当な候補と見なされる。
本稿では,これらの領域のそれぞれを対象とし,計算OTにおける低ランクアプローチの影響を補強する。
論文 参考訳（メタデータ） (2022-05-24T20:51:37Z) - An Efficient Mini-batch Method via Partial Transportation [10.127116789814488]
ミニバッチ最適輸送(m-OT)は、大規模アプリケーションにおけるOTのメモリ問題に広く用いられている。
ミニバッチ実験尺度間の部分最適輸送(POT)を用いた新しいミニバッチ手法を提案する。
m-POTはm-UOTに匹敵する性能を持ちながらm-OT深部ドメイン適応アプリケーションよりも優れていることを示す。
論文 参考訳（メタデータ） (2021-08-22T05:45:48Z) - Unbalanced minibatch Optimal Transport; applications to Domain
Adaptation [8.889304968879163]
最適輸送距離は、非パラメトリック確率分布を比較するための機械学習の能力に多くの応用を見出した。
我々は、同じミニバッチ戦略と不均衡な最適輸送が組み合わさって、より堅牢な振る舞いをもたらすと論じる。
実験により, 領域適応に関する課題において, 不均衡な最適移動の利用は, 最近のベースラインと競合するか, はるかに良好な結果をもたらすことが示された。
論文 参考訳（メタデータ） (2021-03-05T11:15:47Z) - Minibatch optimal transport distances; analysis and applications [9.574645423576932]
最適輸送距離は確率分布を比較するための古典的なツールとなり、機械学習に多くの応用を見出した。
一般的な回避策は、これらの距離をミニバッチで計算して、いくつかの小さな最適な輸送問題の結果の平均化です。
本稿では,本手法の広範な分析を行い,その効果を限定したケースで検討した。
論文 参考訳（メタデータ） (2021-01-05T21:29:31Z) - Comparing Probability Distributions with Conditional Transport [63.11403041984197]
新しい発散として条件輸送(CT)を提案し、償却されたCT(ACT)コストと近似します。
ACTは条件付き輸送計画の計算を補正し、計算が容易な非バイアスのサンプル勾配を持つ。
さまざまなベンチマークデータセットのジェネレーティブモデリングでは、既存のジェネレーティブ敵対ネットワークのデフォルトの統計距離をACTに置き換えることで、一貫してパフォーマンスを向上させることが示されています。
論文 参考訳（メタデータ） (2020-12-28T05:14:22Z) - Occam's Ghost [0.0]
データセットのモデルの総ビット要求を最小化することは、より小さな微分、よりスムーズな確率密度関数の推定、そして最も重要なのは、関連するパラメータが少ない位相空間を好む。
また、スムーズで非パラメトリックな確率密度推定器にどのように適用できるかを示す。
論文 参考訳（メタデータ） (2020-06-15T20:25:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。