論文の概要: Light and Optimal Schr\"odinger Bridge Matching
- arxiv url: http://arxiv.org/abs/2402.03207v1
- Date: Mon, 5 Feb 2024 17:17:57 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-06 14:43:41.542053
- Title: Light and Optimal Schr\"odinger Bridge Matching
- Title(参考訳): Light and Optimal Schr\odinger Bridge Matching
- Authors: Nikita Gushchin and Sergei Kholkin and Evgeny Burnaev and Alexander
Korotin
- Abstract要約: Schr"odinger Bridges (SB)は、最近、古典的拡散モデルの将来的な拡張としてMLコミュニティの注目を集めている。
SBの最近の解法は広範に橋梁整合法を利用している。
我々は、textbf Schr"odinger bridge matchingと呼ばれるSBを学習するための新しい手順を提案する。
EOT/SBを学習するための最適橋梁マッチングは,最近発見されたエネルギーベースモデリング(EBM)の目標と一致することを示す。
- 参考スコア(独自算出の注目度): 72.88707358656869
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Schr\"odinger Bridges (SB) have recently gained the attention of the ML
community as a promising extension of classic diffusion models which is also
interconnected to the Entropic Optimal Transport (EOT). Recent solvers for SB
exploit the pervasive bridge matching procedures. Such procedures aim to
recover a stochastic process transporting the mass between distributions given
only a transport plan between them. In particular, given the EOT plan, these
procedures can be adapted to solve SB. This fact is heavily exploited by recent
works giving rives to matching-based SB solvers. The cornerstone here is
recovering the EOT plan: recent works either use heuristical approximations
(e.g., the minibatch OT) or establish iterative matching procedures which by
the design accumulate the error during the training. We address these
limitations and propose a novel procedure to learn SB which we call the
\textbf{optimal Schr\"odinger bridge matching}. It exploits the optimal
parameterization of the diffusion process and provably recovers the SB process
\textbf{(a)} with a single bridge matching step and \textbf{(b)} with arbitrary
transport plan as the input. Furthermore, we show that the optimal bridge
matching objective coincides with the recently discovered energy-based modeling
(EBM) objectives to learn EOT/SB. Inspired by this observation, we develop a
light solver (which we call LightSB-M) to implement optimal matching in
practice using the Gaussian mixture parameterization of the Schr\"odinger
potential. We experimentally showcase the performance of our solver in a range
of practical tasks. The code for the LightSB-M solver can be found at
\url{https://github.com/SKholkin/LightSB-Matching}.
- Abstract(参考訳): Schr\"odinger Bridges (SB) は、エントロピック・オプティマル・トランスポート (EOT) と相互接続された古典的拡散モデルの将来的な拡張として、MLコミュニティの注目を集めている。
SBの最近の解法は広汎な橋梁マッチング手法を利用している。
このような手順は、それらの間の輸送計画のみを与えられた分布間の質量を輸送する確率過程を回復することを目的としている。
特に、EOT計画を考えると、これらの手順はSBを解くために適応することができる。
この事実は、マッチングベースのSBソルバにリブを与える最近の研究によって大いに活用されている。
最近の研究はヒューリスティックな近似(例えばミニバッチOT)を使うか、またはトレーニング中に設計によってエラーを蓄積する反復的なマッチング手順を確立する。
これらの制約に対処し、SBを学習するための新しい手順を提案し、それを \textbf{optimal Schr\"odinger bridge matching} と呼ぶ。
これは拡散過程の最適パラメータ化を利用し、SBプロセス \textbf{ を確実に回復する。
(a)} 単一のブリッジマッチングステップと \textbf{ を持つ。
(b)任意の輸送計画が入力となる。
さらに, 最適橋梁マッチングの目的は, EOT/SB を学習するための最近発見されたエネルギーベースモデリング (EBM) の目的と一致することを示した。
この観察に触発されて、我々はschr\"odingerポテンシャルのガウス混合パラメータ化を用いて実際に最適なマッチングを実装するための光解法(lightsb-mと呼ぶ)を開発した。
我々は, 様々な実用的課題において, 解法の性能を実験的に示している。
LightSB-M ソルバのコードは \url{https://github.com/SKholkin/LightSB-Matching} にある。
関連論文リスト
- Generalized Schr\"odinger Bridge Matching [57.40143569424158]
一般化Schr"odinger Bridge (GSB) 問題設定は、機械学習の内外を問わず、多くの科学領域に広く見られる。
我々は最近の進歩に触発された新しいマッチングアルゴリズムである一般化シュリンガーブリッジマッチング(GSBM)を提案する。
このような一般化は、効率的な変分近似を利用できる条件付き最適制御を解くのに役立てることができることを示す。
論文 参考訳(メタデータ) (2023-10-03T17:42:11Z) - Light Schr\"odinger Bridge [79.62389172166125]
高速かつ簡易なシュロディンガーブリッジ (SB) ソルバを提案する。
私たちの開発は、最近この分野に登場した2つのアイデアの賢い組み合わせです。
これらのアイデアを組み合わせることで、軽量でシミュレーション不要で理論上正当化されたSBソルバが得られることを示す。
論文 参考訳(メタデータ) (2023-10-02T13:06:45Z) - Building the Bridge of Schr\"odinger: A Continuous Entropic Optimal
Transport Benchmark [96.06787302688595]
提案手法は, 基本真理 OT 解が構成によって知られている確率分布のペアを作成する方法である。
これらのベンチマークペアを使用して、既存のニューラルネットワーク EOT/SB ソルバが実際に EOT ソリューションをどれだけよく計算しているかをテストする。
論文 参考訳(メタデータ) (2023-06-16T20:03:36Z) - Unpaired Image-to-Image Translation via Neural Schr\"odinger Bridge [70.79973551604539]
本稿では,SB問題を表すUnpaired Neural Schr"odinger Bridge (UNSB)を提案する。
UNSBはスケーラブルで、様々な未ペアI2I翻訳タスクをうまく解決する。
論文 参考訳(メタデータ) (2023-05-24T12:05:24Z) - Diffusion Schr\"odinger Bridge Matching [36.95088080680221]
反復マルコフフィッティング(IMF)と拡散シュリンガーブリッジマッチング(DSBM)を紹介する。
IMFはSB問題を解決するための新しい手法であり、DSBMはIMFの反復計算のための新しい数値アルゴリズムである。
様々な問題についてDSBMの性能を実証する。
論文 参考訳(メタデータ) (2023-03-29T16:59:22Z) - Bayesian Optimization-Based Beam Alignment for MmWave MIMO Communication
Systems [1.7467279441152421]
ビームアライメント(BA)はミリ波通信(mmWave)における重要な問題である
機械学習戦略,ベイズ最適化(BO)に基づく新しいビームアライメント方式を提案する。
本研究では,ビームアライメント問題をブラックボックス関数とみなし,BOを用いて最適ビーム対を求める。
論文 参考訳(メタデータ) (2022-07-28T15:37:49Z) - The Schr\"odinger Bridge between Gaussian Measures has a Closed Form [101.79851806388699]
我々は OT の動的定式化(Schr"odinger bridge (SB) 問題)に焦点を当てる。
本稿では,ガウス測度間のSBに対する閉形式表現について述べる。
論文 参考訳(メタデータ) (2022-02-11T15:59:01Z) - Likelihood Training of Schr\"odinger Bridge using Forward-Backward SDEs
Theory [29.82841891919951]
SBの最適化原理が深層生成モデルの近代的な訓練と関係しているかどうかは不明である。
本稿では、フォワード・バックワード理論に基づくSBモデルの可能性トレーニングのための新しい計算フレームワークを提案する。
その結果,MNIST,CelebA,CIFAR10上でのリアルな画像生成に比較した結果が得られた。
論文 参考訳(メタデータ) (2021-10-21T17:18:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。