論文の概要: Variational Online Mirror Descent for Robust Learning in Schrödinger Bridge
- arxiv url: http://arxiv.org/abs/2504.02618v2
- Date: Tue, 08 Apr 2025 17:49:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-04-09 13:31:33.669122
- Title: Variational Online Mirror Descent for Robust Learning in Schrödinger Bridge
- Title(参考訳): シュレーディンガー橋におけるロバスト学習のための変分オンラインミラーダイス
- Authors: Dong-Sig Han, Jaein Kim, Hee Bin Yoo, Byoung-Tak Zhang,
- Abstract要約: Sch"odinger Bridge (SB) は確率的生成モデルの普遍的なクラスへと進化してきた。
ミラー降下(MD)によるシンクホーンアルゴリズムに関する最近の研究が注目されている。
本稿では,SB問題に対する分散オンラインMD(OMD)フレームワークを提案する。
- 参考スコア(独自算出の注目度): 22.516011429301017
- License:
- Abstract: Sch\"odinger bridge (SB) has evolved into a universal class of probabilistic generative models. In practice, however, estimated learning signals are often uncertain, and the reliability promised by existing methods is often based on speculative optimal-case scenarios. Recent studies regarding the Sinkhorn algorithm through mirror descent (MD) have gained attention, revealing geometric insights into solution acquisition of the SB problems. In this paper, we propose a variational online MD (OMD) framework for the SB problems, which provides further stability to SB solvers. We formally prove convergence and a regret bound for the novel OMD formulation of SB acquisition. As a result, we propose a simulation-free SB algorithm called Variational Mirrored Schr\"odinger Bridge (VMSB) by utilizing the Wasserstein-Fisher-Rao geometry of the Gaussian mixture parameterization for Schr\"odinger potentials. Based on the Wasserstein gradient flow theory, the algorithm offers tractable learning dynamics that precisely approximate each OMD step. In experiments, we validate the performance of the proposed VMSB algorithm across an extensive suite of benchmarks. VMSB consistently outperforms contemporary SB solvers on a range of SB problems, demonstrating the robustness predicted by our theory.
- Abstract(参考訳): Sch\"odinger Bridge (SB) は確率的生成モデルの普遍的なクラスへと進化してきた。
しかし、実際には、推定された学習信号はしばしば不確実であり、既存の手法が約束する信頼性は、しばしば投機的最適ケースのシナリオに基づいている。
ミラー降下(MD)によるシンクホーンアルゴリズムに関する最近の研究が注目され、SB問題の解取得に関する幾何学的洞察が明らかになった。
本稿では,SB問題に対する変動型オンラインMD(OMD)フレームワークを提案する。
我々は, SB 獲得の新たな OMD の定式化について, 収束と後悔を正式に証明する。
その結果,シュリンガーポテンシャルに対するガウス混合パラメータ化のWasserstein-Fisher-Rao幾何を利用して,変分ミラード・シュリンガーブリッジ (VMSB) と呼ばれるシミュレーションのないSBアルゴリズムを提案する。
ワッサーシュタイン勾配流理論に基づいて、このアルゴリズムは各OMDステップを正確に近似する抽出可能な学習力学を提供する。
実験では,提案するVMSBアルゴリズムの性能をベンチマークで検証した。
VMSBは一連のSB問題において、同時代のSB解法よりも一貫して優れており、我々の理論によって予測されるロバスト性を示している。
関連論文リスト
- Latent Schrodinger Bridge: Prompting Latent Diffusion for Fast Unpaired Image-to-Image Translation [58.19676004192321]
ノイズからの画像生成とデータからの逆変換の両方を可能にする拡散モデル (DM) は、強力な未ペア画像対イメージ(I2I)翻訳アルゴリズムにインスピレーションを与えている。
我々は、最小輸送コストの分布間の微分方程式(SDE)であるSchrodinger Bridges (SBs) を用いてこの問題に取り組む。
この観測に触発されて,SB ODE を予め訓練した安定拡散により近似する潜在シュロディンガー橋 (LSB) を提案する。
提案アルゴリズムは,従来のDMのコストをわずかに抑えながら,教師なし環境での競合的I2I翻訳を実現していることを示す。
論文 参考訳(メタデータ) (2024-11-22T11:24:14Z) - Light and Optimal Schrödinger Bridge Matching [67.93806073192938]
我々はSB(Schr"odinger Bridges)を学習するための新しい手法を提案し、それを textbf Schr"odinger Bridge matching と呼ぶ。
EOT/SBを学習するための最適橋梁マッチングは,最近発見されたエネルギーベースモデリング(EBM)の目標と一致することを示す。
我々は、Schr"odinger電位の混合パラメタライゼーションを用いて、実際に最適なマッチングを実現するための光解法(LightSB-Mと呼ぶ)を開発した。
論文 参考訳(メタデータ) (2024-02-05T17:17:57Z) - Light Schrödinger Bridge [72.88707358656869]
我々は,軽量でシミュレーション不要で理論的に正当化されたSchr"odinger Bridgesソルバを開発した。
我々の光解法は密度推定に広く用いられているガウス混合モデルに類似している。
この類似性に着想を得て、光解法がSBの普遍近似であることを示す重要な理論的結果も証明した。
論文 参考訳(メタデータ) (2023-10-02T13:06:45Z) - Building the Bridge of Schr\"odinger: A Continuous Entropic Optimal
Transport Benchmark [96.06787302688595]
提案手法は, 基本真理 OT 解が構成によって知られている確率分布のペアを作成する方法である。
これらのベンチマークペアを使用して、既存のニューラルネットワーク EOT/SB ソルバが実際に EOT ソリューションをどれだけよく計算しているかをテストする。
論文 参考訳(メタデータ) (2023-06-16T20:03:36Z) - Unbalanced Diffusion Schr\"odinger Bridge [71.31485908125435]
任意の有限質量の辺縁の時間的進化をモデル化する不均衡DSBを導入する。
これは、殺生項を伴う微分方程式の時間反転を導出することで達成される。
本稿では,非バランスなDSBを学習するためのスケーラブルな目的関数を構成する2つの新しいアルゴリズムスキームを提案する。
論文 参考訳(メタデータ) (2023-06-15T12:51:56Z) - Diffusion Schr\"odinger Bridge Matching [36.95088080680221]
反復マルコフフィッティング(IMF)と拡散シュリンガーブリッジマッチング(DSBM)を紹介する。
IMFはSB問題を解決するための新しい手法であり、DSBMはIMFの反復計算のための新しい数値アルゴリズムである。
様々な問題についてDSBMの性能を実証する。
論文 参考訳(メタデータ) (2023-03-29T16:59:22Z) - The Schr\"odinger Bridge between Gaussian Measures has a Closed Form [101.79851806388699]
我々は OT の動的定式化(Schr"odinger bridge (SB) 問題)に焦点を当てる。
本稿では,ガウス測度間のSBに対する閉形式表現について述べる。
論文 参考訳(メタデータ) (2022-02-11T15:59:01Z) - Likelihood Training of Schr\"odinger Bridge using Forward-Backward SDEs
Theory [29.82841891919951]
SBの最適化原理が深層生成モデルの近代的な訓練と関係しているかどうかは不明である。
本稿では、フォワード・バックワード理論に基づくSBモデルの可能性トレーニングのための新しい計算フレームワークを提案する。
その結果,MNIST,CelebA,CIFAR10上でのリアルな画像生成に比較した結果が得られた。
論文 参考訳(メタデータ) (2021-10-21T17:18:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。