論文の概要: Light and Optimal Schrödinger Bridge Matching
- arxiv url: http://arxiv.org/abs/2402.03207v2
- Date: Tue, 30 Jul 2024 13:43:36 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-31 22:15:57.106258
- Title: Light and Optimal Schrödinger Bridge Matching
- Title(参考訳): 光と最適シュレーディンガー橋の整合
- Authors: Nikita Gushchin, Sergei Kholkin, Evgeny Burnaev, Alexander Korotin,
- Abstract要約: 我々はSB(Schr"odinger Bridges)を学習するための新しい手法を提案し、それを textbf Schr"odinger Bridge matching と呼ぶ。
EOT/SBを学習するための最適橋梁マッチングは,最近発見されたエネルギーベースモデリング(EBM)の目標と一致することを示す。
我々は、Schr"odinger電位の混合パラメタライゼーションを用いて、実際に最適なマッチングを実現するための光解法(LightSB-Mと呼ぶ)を開発した。
- 参考スコア(独自算出の注目度): 67.93806073192938
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Schr\"odinger Bridges (SB) have recently gained the attention of the ML community as a promising extension of classic diffusion models which is also interconnected to the Entropic Optimal Transport (EOT). Recent solvers for SB exploit the pervasive bridge matching procedures. Such procedures aim to recover a stochastic process transporting the mass between distributions given only a transport plan between them. In particular, given the EOT plan, these procedures can be adapted to solve SB. This fact is heavily exploited by recent works giving rise to matching-based SB solvers. The cornerstone here is recovering the EOT plan: recent works either use heuristical approximations (e.g., the minibatch OT) or establish iterative matching procedures which by the design accumulate the error during the training. We address these limitations and propose a novel procedure to learn SB which we call the \textbf{optimal Schr\"odinger bridge matching}. It exploits the optimal parameterization of the diffusion process and provably recovers the SB process \textbf{(a)} with a single bridge matching step and \textbf{(b)} with arbitrary transport plan as the input. Furthermore, we show that the optimal bridge matching objective coincides with the recently discovered energy-based modeling (EBM) objectives to learn EOT/SB. Inspired by this observation, we develop a light solver (which we call LightSB-M) to implement optimal matching in practice using the Gaussian mixture parameterization of the adjusted Schr\"odinger potential. We experimentally showcase the performance of our solver in a range of practical tasks. The code for our solver can be found at https://github.com/SKholkin/LightSB-Matching.
- Abstract(参考訳): Schr\"odinger Bridges (SB) は、エントロピック・オプティマル・トランスポート (EOT) と相互接続された古典的拡散モデルの将来的な拡張として、MLコミュニティの注目を集めている。
SBの最近の解法は広範に橋梁整合法を利用している。
このような手順は、それらの間の輸送計画のみを与えられた分布間の質量を輸送する確率過程を回復することを目的としている。
特に、EOT計画を考えると、これらの手順はSBを解くために適応することができる。
この事実は、マッチングベースのSBソルバを引き起こす最近の研究によって大いに活用されている。
最近の研究では、ヒューリスティックな近似(例えば、ミニバッチOT)を使うか、あるいは、設計によってトレーニング中にエラーを蓄積する反復的なマッチング手順を確立する。
これらの制約に対処し、SBを学習するための新しい手順を提案し、それを \textbf{optimal Schr\"odinger bridge matching} と呼ぶ。
これは拡散過程の最適パラメータ化を利用し、SBプロセス \textbf{ を確実に回復する。
(a)} 単一のブリッジマッチングステップと \textbf{
(b) 任意の輸送プランを入力とする。
さらに, 最適橋梁マッチングの目的は, EOT/SB を学習するための最近発見されたエネルギーベースモデリング (EBM) の目的と一致することを示した。
この観測に触発されて、調整されたシュリンガーポテンシャルのガウス混合パラメタライゼーションを用いて、実際に最適なマッチングを実現するための光解法(LightSB-Mと呼ぶ)を開発した。
本研究は,様々な課題において,解法の性能を実験的に示すものである。
私たちのソルバのコードはhttps://github.com/SKholkin/LightSB-Matching.comで確認できます。
関連論文リスト
- Latent Schrodinger Bridge: Prompting Latent Diffusion for Fast Unpaired Image-to-Image Translation [58.19676004192321]
ノイズからの画像生成とデータからの逆変換の両方を可能にする拡散モデル (DM) は、強力な未ペア画像対イメージ(I2I)翻訳アルゴリズムにインスピレーションを与えている。
我々は、最小輸送コストの分布間の微分方程式(SDE)であるSchrodinger Bridges (SBs) を用いてこの問題に取り組む。
この観測に触発されて,SB ODE を予め訓練した安定拡散により近似する潜在シュロディンガー橋 (LSB) を提案する。
提案アルゴリズムは,従来のDMのコストをわずかに抑えながら,教師なし環境での競合的I2I翻訳を実現していることを示す。
論文 参考訳(メタデータ) (2024-11-22T11:24:14Z) - Adversarial Schrödinger Bridge Matching [66.39774923893103]
反復マルコフフィッティング(IMF)手順は、マルコフ過程の相互射影と相互射影を交互に交互に行う。
本稿では、プロセスの学習を離散時間でほんの少しの遷移確率の学習に置き換える新しい離散時間IMF(D-IMF)手順を提案する。
D-IMFの手続きは、数百ではなく数世代のステップで、IMFと同じ品質の未完成のドメイン翻訳を提供できることを示す。
論文 参考訳(メタデータ) (2024-05-23T11:29:33Z) - Generalized Schrödinger Bridge Matching [54.171931505066]
一般化Schr"odinger Bridge (GSB) 問題設定は、機械学習の内外を問わず、多くの科学領域で一般的である。
我々は最近の進歩に触発された新しいマッチングアルゴリズムである一般化シュリンガーブリッジマッチング(GSBM)を提案する。
このような一般化は条件最適制御の解法として、変分近似を用いることができることを示す。
論文 参考訳(メタデータ) (2023-10-03T17:42:11Z) - Light Schrödinger Bridge [72.88707358656869]
我々は,軽量でシミュレーション不要で理論的に正当化されたSchr"odinger Bridgesソルバを開発した。
我々の光解法は密度推定に広く用いられているガウス混合モデルに類似している。
この類似性に着想を得て、光解法がSBの普遍近似であることを示す重要な理論的結果も証明した。
論文 参考訳(メタデータ) (2023-10-02T13:06:45Z) - Building the Bridge of Schr\"odinger: A Continuous Entropic Optimal
Transport Benchmark [96.06787302688595]
提案手法は, 基本真理 OT 解が構成によって知られている確率分布のペアを作成する方法である。
これらのベンチマークペアを使用して、既存のニューラルネットワーク EOT/SB ソルバが実際に EOT ソリューションをどれだけよく計算しているかをテストする。
論文 参考訳(メタデータ) (2023-06-16T20:03:36Z) - Diffusion Schr\"odinger Bridge Matching [36.95088080680221]
反復マルコフフィッティング(IMF)と拡散シュリンガーブリッジマッチング(DSBM)を紹介する。
IMFはSB問題を解決するための新しい手法であり、DSBMはIMFの反復計算のための新しい数値アルゴリズムである。
様々な問題についてDSBMの性能を実証する。
論文 参考訳(メタデータ) (2023-03-29T16:59:22Z) - Likelihood Training of Schr\"odinger Bridge using Forward-Backward SDEs
Theory [29.82841891919951]
SBの最適化原理が深層生成モデルの近代的な訓練と関係しているかどうかは不明である。
本稿では、フォワード・バックワード理論に基づくSBモデルの可能性トレーニングのための新しい計算フレームワークを提案する。
その結果,MNIST,CelebA,CIFAR10上でのリアルな画像生成に比較した結果が得られた。
論文 参考訳(メタデータ) (2021-10-21T17:18:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。