論文の概要: Go With the Flow: Fast Diffusion for Gaussian Mixture Models

• arxiv url: http://arxiv.org/abs/2412.09059v3
• Date: Tue, 24 Dec 2024 09:30:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-25 15:52:22.291649
• Title: Go With the Flow: Fast Diffusion for Gaussian Mixture Models
• Title（参考訳）: Go with the Flow: ガウス混合モデルの高速拡散
• Authors: George Rapakoulias, Ali Reza Pedram, Panagiotis Tsiotras,
• Abstract要約: Schr"odinger Bridges (SB) は、適切なコスト関数を最小化しながら、有限時間で与えられた初期分布を他の最終状態に分配する拡散過程である。 本稿では,ある分布から別の分布へシステムをステアリングするための一組のSBポリシーの潜在メトリゼーションを提案する。 オートエンコーダの空間における画像から画像への変換のような低次元問題におけるこのアプローチの可能性を示す。
• 参考スコア（独自算出の注目度）: 13.03355083378673
• License:
• Abstract: Schr\"{o}dinger Bridges (SB) are diffusion processes that steer, in finite time, a given initial distribution to another final one while minimizing a suitable cost functional. Although various methods for computing SBs have recently been proposed in the literature, most of these approaches require computationally expensive training schemes, even for solving low-dimensional problems. In this work, we propose an analytic parametrization of a set of feasible policies for steering the distribution of a dynamical system from one Gaussian Mixture Model (GMM) to another. Instead of relying on standard non-convex optimization techniques, the optimal policy within the set can be approximated as the solution of a low-dimensional linear program whose dimension scales linearly with the number of components in each mixture. Furthermore, our method generalizes naturally to more general classes of dynamical systems such as controllable Linear Time-Varying systems that cannot currently be solved using traditional neural SB approaches. We showcase the potential of this approach in low-to-moderate dimensional problems such as image-to-image translation in the latent space of an autoencoder, and various other examples. We also benchmark our approach on an Entropic Optimal Transport (EOT) problem and show that it outperforms state-of-the-art methods in cases where the boundary distributions are mixture models while requiring virtually no training.
• Abstract（参考訳）: Schr\"{o}dinger Bridges (SB) は、適切なコスト汎関数を最小化しながら、有限時間で与えられた初期分布を他の最終状態に分配する拡散過程である。 SBを計算するための様々な手法が近年文献で提案されているが、これらの手法の多くは、低次元の問題を解くことさえも、計算的に高価なトレーニングスキームを必要とする。 本研究では,あるガウス混合モデル (GMM) から別のガウス混合モデル (GMM) への力学系の分布を制御可能な一連のポリシーの解析的パラメトリゼーションを提案する。 標準の非凸最適化手法に頼る代わりに、集合内の最適ポリシーは、各混合の成分数と線形にスケールする低次元線形プログラムの解として近似することができる。 さらに,従来のSB手法では解けない制御可能な線形時間バリアリングシステムなど,より一般的な動的システムのクラスに自然に一般化する。 本稿では,オートエンコーダの潜時空間における画像から画像への変換などの低次元問題におけるこのアプローチの可能性について紹介する。 また, エントロピック最適輸送(EOT)問題に対する我々のアプローチをベンチマークし, 境界分布が混合モデルである場合, ほぼ訓練を必要とせず, 最先端の手法よりも優れていることを示す。

関連論文リスト

• Training Deep Learning Models with Norm-Constrained LMOs [56.00317694850397]
  正規球上の線形最小化オラクル(LMO)を利用する最適化手法について検討する。 この問題の幾何学に適応するためにLMOを用いた新しいアルゴリズム群を提案し, 意外なことに, 制約のない問題に適用可能であることを示す。
  論文  参考訳（メタデータ） (2025-02-11T13:10:34Z)
• A Simulation-Free Deep Learning Approach to Stochastic Optimal Control [12.699529713351287]
  最適制御(SOC)における一般問題の解法のためのシミュレーションフリーアルゴリズムを提案する。 既存の手法とは異なり、我々の手法は随伴問題の解を必要としない。
  論文  参考訳（メタデータ） (2024-10-07T16:16:53Z)
• Gaussian Mixture Solvers for Diffusion Models [84.83349474361204]
  本稿では,拡散モデルのためのGMSと呼ばれる,SDEに基づく新しい解法について紹介する。 画像生成およびストロークベース合成におけるサンプル品質の観点から,SDEに基づく多くの解法よりも優れる。
  論文  参考訳（メタデータ） (2023-11-02T02:05:38Z)
• An Optimization-based Deep Equilibrium Model for Hyperspectral Image Deconvolution with Convergence Guarantees [71.57324258813675]
  本稿では,ハイパースペクトル画像のデコンボリューション問題に対処する新しい手法を提案する。 新しい最適化問題を定式化し、学習可能な正規化器をニューラルネットワークの形で活用する。 導出した反復解法は、Deep Equilibriumフレームワーク内の不動点計算問題として表現される。
  論文  参考訳（メタデータ） (2023-06-10T08:25:16Z)
• Clustering based on Mixtures of Sparse Gaussian Processes [6.939768185086753]
  低次元の組込み空間を使ってデータをクラスタする方法は、マシンラーニングにおいて依然として難しい問題である。 本稿では,クラスタリングと次元還元の両立を目的とした共同定式化を提案する。 我々のアルゴリズムはスパースガウス過程の混合に基づいており、スパースガウス過程混合クラスタリング(SGP-MIC)と呼ばれる。
  論文  参考訳（メタデータ） (2023-03-23T20:44:36Z)
• Semi-Implicit Neural Solver for Time-dependent Partial Differential Equations [4.246966726709308]
  本稿では,PDEの任意のクラスに対して,データ駆動方式で最適な反復スキームを学習するためのニューラルソルバを提案する。 従来の反復解法に類似したニューラルソルバの正当性と収束性に関する理論的保証を提供する。
  論文  参考訳（メタデータ） (2021-09-03T12:03:10Z)
• Optimization on manifolds: A symplectic approach [127.54402681305629]
  本稿では、最適化問題を解くための一般的な枠組みとして、ディラックの制約付きハミルトン系理論の散逸拡張を提案する。 我々の(加速された)アルゴリズムのクラスは単純で効率的なだけでなく、幅広い文脈にも適用できる。
  論文  参考訳（メタデータ） (2021-07-23T13:43:34Z)
• Pushing the Envelope of Rotation Averaging for Visual SLAM [69.7375052440794]
  視覚SLAMシステムのための新しい最適化バックボーンを提案する。 従来の単分子SLAMシステムの精度, 効率, 堅牢性を向上させるために, 平均化を活用している。 我々のアプローチは、公開ベンチマークの最先端技術に対して、同等の精度で最大10倍高速に表示することができる。
  論文  参考訳（メタデータ） (2020-11-02T18:02:26Z)
• A Near-Optimal Gradient Flow for Learning Neural Energy-Based Models [93.24030378630175]
  学習エネルギーベースモデル(EBM)の勾配流を最適化する新しい数値スキームを提案する。 フォッカー・プランク方程式から大域相対エントロピーの2階ワッサーシュタイン勾配流を導出する。 既存のスキームと比較して、ワッサーシュタイン勾配流は実データ密度を近似するより滑らかで近似的な数値スキームである。
  論文  参考訳（メタデータ） (2019-10-31T02:26:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。