論文の概要: Efficient Diffusion Models for Symmetric Manifolds
- arxiv url: http://arxiv.org/abs/2505.21640v1
- Date: Tue, 27 May 2025 18:12:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-29 17:35:50.222163
- Title: Efficient Diffusion Models for Symmetric Manifolds
- Title(参考訳): 対称多様体の効率的な拡散モデル
- Authors: Oren Mangoubi, Neil He, Nisheeth K. Vishnoi,
- Abstract要約: 本稿では,$d$次元対称空間に対する効率的な拡散モデル設計のためのフレームワークを提案する。
マンデラ対称性は拡散が「平均ケース」リプシッツ条件を満たすことを保証する。
本モデルは,学習速度において先行手法より優れ,合成データセットのサンプル品質が向上する。
- 参考スコア(独自算出の注目度): 25.99200001269046
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce a framework for designing efficient diffusion models for $d$-dimensional symmetric-space Riemannian manifolds, including the torus, sphere, special orthogonal group and unitary group. Existing manifold diffusion models often depend on heat kernels, which lack closed-form expressions and require either $d$ gradient evaluations or exponential-in-$d$ arithmetic operations per training step. We introduce a new diffusion model for symmetric manifolds with a spatially-varying covariance, allowing us to leverage a projection of Euclidean Brownian motion to bypass heat kernel computations. Our training algorithm minimizes a novel efficient objective derived via Ito's Lemma, allowing each step to run in $O(1)$ gradient evaluations and nearly-linear-in-$d$ ($O(d^{1.19})$) arithmetic operations, reducing the gap between diffusions on symmetric manifolds and Euclidean space. Manifold symmetries ensure the diffusion satisfies an "average-case" Lipschitz condition, enabling accurate and efficient sample generation. Empirically, our model outperforms prior methods in training speed and improves sample quality on synthetic datasets on the torus, special orthogonal group, and unitary group.
- Abstract(参考訳): 我々は、トーラス、球面、特殊直交群、ユニタリ群を含む$d$次元対称空間リーマン多様体に対する効率的な拡散モデルを設計するための枠組みを導入する。
既存の多様体拡散モデルは、閉形式表現に欠ける熱核に依存し、訓練ステップごとに$d$勾配評価または指数-in-d$演算を必要とする。
空間的に変化する共分散を持つ対称多様体に対する新しい拡散モデルを導入し、ユークリッドブラウン運動の射影を利用して熱核計算をバイパスする。
トレーニングアルゴリズムはItoのLemmaによって導出される新しい効率的な目的を最小化し、各ステップが$O(1)$グラデーション評価とほぼ線形-in-$d$$$(O(d^{1.19})$)算術演算で実行でき、対称多様体とユークリッド空間上の拡散のギャップを小さくすることができる。
マニフォールド対称性は、拡散が「平均ケース」リプシッツ条件を満たすことを保証し、正確かつ効率的なサンプル生成を可能にする。
実験により,本モデルは,トーラス,特殊直交群,ユニタリ群などの合成データセットの学習速度において先行手法より優れ,サンプル品質が向上した。
関連論文リスト
- Rao-Blackwell Gradient Estimators for Equivariant Denoising Diffusion [41.50816120270017]
分子やタンパク質の生成のようなドメインでは、物理系はモデルにとって重要な固有の対称性を示す。
学習のばらつきを低減し、確率的に低い分散勾配推定器を提供するフレームワークを提案する。
また,軌道拡散法(Orbit Diffusion)と呼ばれる手法を用いて,損失とサンプリングの手順を取り入れた推定器の実用的実装を提案する。
論文 参考訳(メタデータ) (2025-02-14T03:26:57Z) - Stochastic Runge-Kutta Methods: Provable Acceleration of Diffusion Models [21.961189407928853]
我々は,KL Runge-Kutta法に基づいて,SDEスタイルの拡散サンプリングのための学習自由加速アルゴリズムを提案し,解析する。
提案したサンプルは、$widetilde O(d3/2 / varepsilon)$ score function Evaluationsを用いて、確実に$varepsilon2$エラー(ばらつきで測定)を得る。
論文 参考訳(メタデータ) (2024-10-07T05:34:51Z) - Bayesian Circular Regression with von Mises Quasi-Processes [57.88921637944379]
本研究では、円値ランダム関数上の表現的および解釈可能な分布の族を探索する。
後部推論のために,高速ギブズサンプリングに寄与するストラトノビッチ様拡張法を導入する。
本研究では,このモデルを用いて風向予測と走行歩行周期のパーセンテージを関節角度の関数として適用する実験を行った。
論文 参考訳(メタデータ) (2024-06-19T01:57:21Z) - Scaling Riemannian Diffusion Models [68.52820280448991]
非自明な多様体上の高次元タスクにスケールできることを示す。
我々は、$SU(n)$格子上のQCD密度と高次元超球面上の対照的に学習された埋め込みをモデル化する。
論文 参考訳(メタデータ) (2023-10-30T21:27:53Z) - Generative Modeling on Manifolds Through Mixture of Riemannian Diffusion Processes [57.396578974401734]
一般多様体上に生成拡散過程を構築するための原理的枠組みを導入する。
従来の拡散モデルの認知的アプローチに従う代わりに、橋梁プロセスの混合を用いて拡散過程を構築する。
混合過程を幾何学的に理解し,データ点への接する方向の重み付け平均としてドリフトを導出する。
論文 参考訳(メタデータ) (2023-10-11T06:04:40Z) - Geometric Neural Diffusion Processes [55.891428654434634]
拡散モデルの枠組みを拡張して、無限次元モデリングに一連の幾何学的先行を組み込む。
これらの条件で、生成関数モデルが同じ対称性を持つことを示す。
論文 参考訳(メタデータ) (2023-07-11T16:51:38Z) - Intrinsic Gaussian Processes on Manifolds and Their Accelerations by
Symmetry [9.773237080061815]
既存の手法は主に熱核推定のための低次元制約領域に焦点を当てている。
本研究は一般方程式上でGPを構築するための本質的なアプローチを提案する。
本手法は指数写像を用いてブラウン運動サンプル経路をシミュレーションすることにより熱核を推定する。
論文 参考訳(メタデータ) (2020-06-25T09:17:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。