論文の概要: The Spacetime of Diffusion Models: An Information Geometry Perspective
- arxiv url: http://arxiv.org/abs/2505.17517v2
- Date: Tue, 21 Oct 2025 10:31:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-25 03:08:06.536656
- Title: The Spacetime of Diffusion Models: An Information Geometry Perspective
- Title(参考訳): 拡散モデルの時空:情報幾何学的視点
- Authors: Rafał Karczewski, Markus Heinonen, Alison Pouplin, Søren Hauberg, Vikas Garg,
- Abstract要約: 決定論的確率フローを用いた標準的なプルバック手法であるComplementODEデコーダが根本的に欠陥があることが示される。
遅延時空$z=(x_t,t)$を導入し、すべてのノイズスケールにわたる分布の族を指数化する。
結果として得られた構造は、ジオデシックが最小限のノイズ列を追跡し、データ間の編集を飾る、原則付き拡散距離編集(Diffusion Distance Edit)を誘導する。
- 参考スコア(独自算出の注目度): 40.23096112113255
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present a novel geometric perspective on the latent space of diffusion models. We first show that the standard pullback approach, utilizing the deterministic probability flow ODE decoder, is fundamentally flawed. It provably forces geodesics to decode as straight segments in data space, effectively ignoring any intrinsic data geometry beyond the ambient Euclidean space. Complementing this view, diffusion also admits a stochastic decoder via the reverse SDE, which enables an information geometric treatment with the Fisher-Rao metric. However, a choice of $x_T$ as the latent representation collapses this metric due to memorylessness. We address this by introducing a latent spacetime $z=(x_t,t)$ that indexes the family of denoising distributions $p(x_0 | x_t)$ across all noise scales, yielding a nontrivial geometric structure. We prove these distributions form an exponential family and derive simulation-free estimators for curve lengths, enabling efficient geodesic computation. The resulting structure induces a principled Diffusion Edit Distance, where geodesics trace minimal sequences of noise and denoise edits between data. We also demonstrate benefits for transition path sampling in molecular systems, including constrained variants such as low-variance transitions and region avoidance. Code is available at: https://github.com/rafalkarczewski/spacetime-geometry
- Abstract(参考訳): 拡散モデルの潜在空間に関する新しい幾何学的視点を示す。
まず,決定論的確率フローODEデコーダを用いた標準的なプルバック手法が根本的に欠陥があることを示す。
これは、測地学をデータ空間の直線部分として復号させ、周囲ユークリッド空間を超えた固有のデータ幾何学を事実上無視する。
この見解を補完し、拡散は逆SDEによる確率的デコーダも認め、フィッシャー・ラオ計量による情報幾何学的処理を可能にする。
しかし、潜在表現として$x_T$を選択すると、メモリ不足のためこの指標は崩壊する。
遅延時空$z=(x_t,t)$を導入して、すべてのノイズスケールにわたって分布を非自明な幾何学的構造を導出する$p(x_0 | x_t)$を指数化することで、この問題に対処する。
我々はこれらの分布が指数関数列を形成し、曲線長のシミュレーション不要な推定器を導出し、効率的な測地計算を可能にすることを証明した。
結果として得られた構造は、ジオデシックが最小限のノイズ列を追跡し、データ間の編集をデノネーズする、原則化された拡散編集距離を誘導する。
また、低分散遷移や領域回避といった制約付き変種を含む分子系における遷移経路サンプリングの利点を示す。
https://github.com/rafalkarczewski/spacetime-geometry
関連論文リスト
- Generative Learning for Slow Manifolds and Bifurcation Diagrams [0.35587965024910395]
条件付きスコアベース生成モデル(cSGM)は、あるラベルに条件付けされた対象分布から可塑性データを生成する能力を実証している。
本稿では,cSGMを用いて低次元(高次)スロー多様体を高速に初期化するためのフレームワークを提案する。
この条件付きサンプリングは、還元されたスローマンフォールドの幾何を明らかにするのに役立ち、あるいは分岐図において、''' の欠落した定常状態のセグメントをほぼ満たすのに役立つ。
論文 参考訳(メタデータ) (2025-04-29T02:38:44Z) - Stochastic Reconstruction of Gappy Lagrangian Turbulent Signals by Conditional Diffusion Models [1.7810134788247751]
本研究では, 乱流によって受動的に対流する小物体の軌道に沿って, 空間・速度の欠落を再現する手法を提案する。
近年提案されているデータ駆動機械学習技術である条件付き生成拡散モデルを利用する。
論文 参考訳(メタデータ) (2024-10-31T14:26:10Z) - Bayesian Circular Regression with von Mises Quasi-Processes [57.88921637944379]
本研究では、円値ランダム関数上の表現的および解釈可能な分布の族を探索する。
後部推論のために,高速ギブズサンプリングに寄与するストラトノビッチ様拡張法を導入する。
本研究では,このモデルを用いて風向予測と走行歩行周期のパーセンテージを関節角度の関数として適用する実験を行った。
論文 参考訳(メタデータ) (2024-06-19T01:57:21Z) - Score-based generative models learn manifold-like structures with
constrained mixing [2.843124313496295]
スコアベース生成モデルは低次元多様体上でのデータ分布をどうやって学習するか?
本研究では, 局所特徴ベクトルによる線形近似と部分空間を用いて, 訓練されたSBMのスコアモデルについて検討する。
学習されたベクトル場は、多様体内の非保存的場によってサンプルを混合するが、非多様体方向のエネルギー関数が存在するかのように通常の射影と調和する。
論文 参考訳(メタデータ) (2023-11-16T15:15:15Z) - Geometric Neural Diffusion Processes [55.891428654434634]
拡散モデルの枠組みを拡張して、無限次元モデリングに一連の幾何学的先行を組み込む。
これらの条件で、生成関数モデルが同じ対称性を持つことを示す。
論文 参考訳(メタデータ) (2023-07-11T16:51:38Z) - A Geometric Perspective on Diffusion Models [57.27857591493788]
本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。
我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
論文 参考訳(メタデータ) (2023-05-31T15:33:16Z) - Short and Straight: Geodesics on Differentiable Manifolds [6.85316573653194]
本研究では,測地線長を最小化するための既存の手法をまず解析する。
次に,連続多様体上の距離場と測地流のモデルに基づくパラメータ化を提案する。
第3に,Ricciスカラーのより大きい値を示す多様体の領域において,曲率に基づくトレーニング機構,サンプリングおよびスケーリングポイントを開発する。
論文 参考訳(メタデータ) (2023-05-24T15:09:41Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳(メタデータ) (2022-11-30T05:33:29Z) - Manifold Interpolating Optimal-Transport Flows for Trajectory Inference [64.94020639760026]
最適輸送流(MIOFlow)を補間するマニフォールド補間法を提案する。
MIOFlowは、散発的なタイムポイントで撮影された静的スナップショットサンプルから、連続的な人口動態を学習する。
本手法は, 胚体分化および急性骨髄性白血病の治療から得られたscRNA-seqデータとともに, 分岐とマージによるシミュレーションデータについて検討した。
論文 参考訳(メタデータ) (2022-06-29T22:19:03Z) - Trajectory Inference via Mean-field Langevin in Path Space [0.17205106391379024]
軌道推論は、時間的限界のスナップショットから集団のダイナミクスを回復することを目的としている。
経路空間におけるウィナー測度に対するミンエントロピー推定器は、Lavenantらによって導入された。
論文 参考訳(メタデータ) (2022-05-14T23:13:00Z) - Riemannian Score-Based Generative Modeling [56.20669989459281]
経験的性能を示すスコアベース生成モデル(SGM)を紹介する。
現在のSGMは、そのデータが平坦な幾何学を持つユークリッド多様体上で支えられているという前提を定めている。
これにより、ロボット工学、地球科学、タンパク質モデリングの応用にこれらのモデルを使用することができない。
論文 参考訳(メタデータ) (2022-02-06T11:57:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。