論文の概要: The Spacetime of Diffusion Models: An Information Geometry Perspective
- arxiv url: http://arxiv.org/abs/2505.17517v2
- Date: Tue, 21 Oct 2025 10:31:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-25 03:08:06.536656
- Title: The Spacetime of Diffusion Models: An Information Geometry Perspective
- Title（参考訳）: 拡散モデルの時空:情報幾何学的視点
- Authors: Rafał Karczewski, Markus Heinonen, Alison Pouplin, Søren Hauberg, Vikas Garg,
- Abstract要約: 決定論的確率フローを用いた標準的なプルバック手法であるComplementODEデコーダが根本的に欠陥があることが示される。
遅延時空$z=(x_t,t)$を導入し、すべてのノイズスケールにわたる分布の族を指数化する。
結果として得られた構造は、ジオデシックが最小限のノイズ列を追跡し、データ間の編集を飾る、原則付き拡散距離編集(Diffusion Distance Edit)を誘導する。
- 参考スコア（独自算出の注目度）: 40.23096112113255
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present a novel geometric perspective on the latent space of diffusion models. We first show that the standard pullback approach, utilizing the deterministic probability flow ODE decoder, is fundamentally flawed. It provably forces geodesics to decode as straight segments in data space, effectively ignoring any intrinsic data geometry beyond the ambient Euclidean space. Complementing this view, diffusion also admits a stochastic decoder via the reverse SDE, which enables an information geometric treatment with the Fisher-Rao metric. However, a choice of $x_T$ as the latent representation collapses this metric due to memorylessness. We address this by introducing a latent spacetime $z=(x_t,t)$ that indexes the family of denoising distributions $p(x_0 | x_t)$ across all noise scales, yielding a nontrivial geometric structure. We prove these distributions form an exponential family and derive simulation-free estimators for curve lengths, enabling efficient geodesic computation. The resulting structure induces a principled Diffusion Edit Distance, where geodesics trace minimal sequences of noise and denoise edits between data. We also demonstrate benefits for transition path sampling in molecular systems, including constrained variants such as low-variance transitions and region avoidance. Code is available at: https://github.com/rafalkarczewski/spacetime-geometry
- Abstract（参考訳）: 拡散モデルの潜在空間に関する新しい幾何学的視点を示す。
まず,決定論的確率フローODEデコーダを用いた標準的なプルバック手法が根本的に欠陥があることを示す。
これは、測地学をデータ空間の直線部分として復号させ、周囲ユークリッド空間を超えた固有のデータ幾何学を事実上無視する。
この見解を補完し、拡散は逆SDEによる確率的デコーダも認め、フィッシャー・ラオ計量による情報幾何学的処理を可能にする。
しかし、潜在表現として$x_T$を選択すると、メモリ不足のためこの指標は崩壊する。
遅延時空$z=(x_t,t)$を導入して、すべてのノイズスケールにわたって分布を非自明な幾何学的構造を導出する$p(x_0 | x_t)$を指数化することで、この問題に対処する。
我々はこれらの分布が指数関数列を形成し、曲線長のシミュレーション不要な推定器を導出し、効率的な測地計算を可能にすることを証明した。
結果として得られた構造は、ジオデシックが最小限のノイズ列を追跡し、データ間の編集をデノネーズする、原則化された拡散編集距離を誘導する。
また、低分散遷移や領域回避といった制約付き変種を含む分子系における遷移経路サンプリングの利点を示す。
https://github.com/rafalkarczewski/spacetime-geometry
関連論文リスト
- Riemannian Flow Matching for Disentangled Graph Domain Adaptation [51.98961391065951]
グラフドメイン適応(GDA)は典型的には、ユークリッド空間におけるグラフ埋め込みの整列に逆学習を使用する。
DisRFMは、埋め込みとフローベースのトランスポートを統一する幾何学的なGDAフレームワークである。
論文 参考訳（メタデータ） (2026-01-31T11:05:35Z) - Phase-space entropy at acquisition reflects downstream learnability [54.4100065023873]
楽器分解位相空間に基づく取得レベルスカラー$S_mathcal B$を提案する。
本稿では, (S_mathcal B) が周期サンプリングの位相空間コヒーレンスを正確に同定できることを理論的に示す。
$|S_mathcal B|$は一貫してサンプリングジオメトリをランク付けし、トレーニングなしで下流での再構築/認識の困難を予測します。
論文 参考訳（メタデータ） (2025-12-22T10:03:51Z) - Be Tangential to Manifold: Discovering Riemannian Metric for Diffusion Models [13.063093054280946]
拡散モデルは、高忠実で多様なコンテンツを生成する強力な深層生成モデル(DGM)である。
古典的DGMとは違って、データ多様体をパラメータ化する明示的かつトラクタブルな低次元潜在空間は欠如している。
スコア関数のヤコビアンが局所データ多様体への接空間を捉えるという最近の発見に触発された、ノイズ空間に関する新しい計量を提案する。
論文 参考訳（メタデータ） (2025-10-07T01:54:47Z) - Enforcing Latent Euclidean Geometry in Single-Cell VAEs for Manifold Interpolation [79.27003481818413]
離散的様相変分オートエンコーダの潜在多様体をユークリッド幾何学へ正規化する訓練フレームワークであるFlatVIを紹介する。
遅延空間の直線を復号化された単セル多様体上の測地線に近似させることで、FlatVIは下流アプローチとの整合性を高める。
論文 参考訳（メタデータ） (2025-07-15T23:08:14Z) - What's Inside Your Diffusion Model? A Score-Based Riemannian Metric to Explore the Data Manifold [0.053713376045563095]
スコアに基づくリーマン計量を導入し、データ多様体の内在幾何学を特徴づける。
我々のアプローチは、測地学が自然に多様体の輪郭に従う幾何学を生成する。
我々のスコアに基づく測地学は、基礎となるデータ分布を尊重する有意義な垂直変換を捉えていることを示す。
論文 参考訳（メタデータ） (2025-05-16T11:19:57Z) - Generative Learning for Slow Manifolds and Bifurcation Diagrams [0.35587965024910395]
条件付きスコアベース生成モデル(cSGM)は、あるラベルに条件付けされた対象分布から可塑性データを生成する能力を実証している。
本稿では,cSGMを用いて低次元(高次)スロー多様体を高速に初期化するためのフレームワークを提案する。
この条件付きサンプリングは、還元されたスローマンフォールドの幾何を明らかにするのに役立ち、あるいは分岐図において、''' の欠落した定常状態のセグメントをほぼ満たすのに役立つ。
論文 参考訳（メタデータ） (2025-04-29T02:38:44Z) - Proper Latent Decomposition [4.266376725904727]
内在座標(相対空間)の減少を計算し、数値的な離散化よりも自由度が低い流れを正確に記述する。
提案手法では,多様体上でPLDを実行するアルゴリズムを提案する。
この研究は、オートエンコーダと潜在空間の分析、非線形低次モデリング、高次元データの構造に関する科学的洞察の機会を開放する。
論文 参考訳（メタデータ） (2024-12-01T12:19:08Z) - Stochastic Reconstruction of Gappy Lagrangian Turbulent Signals by Conditional Diffusion Models [1.7810134788247751]
本研究では, 乱流によって受動的に対流する小物体の軌道に沿って, 空間・速度の欠落を再現する手法を提案する。
近年提案されているデータ駆動機械学習技術である条件付き生成拡散モデルを利用する。
論文 参考訳（メタデータ） (2024-10-31T14:26:10Z) - Bayesian Circular Regression with von Mises Quasi-Processes [57.88921637944379]
本研究では、円値ランダム関数上の表現的および解釈可能な分布の族を探索する。
後部推論のために,高速ギブズサンプリングに寄与するストラトノビッチ様拡張法を導入する。
本研究では,このモデルを用いて風向予測と走行歩行周期のパーセンテージを関節角度の関数として適用する実験を行った。
論文 参考訳（メタデータ） (2024-06-19T01:57:21Z) - Score-based generative models learn manifold-like structures with
constrained mixing [2.843124313496295]
スコアベース生成モデルは低次元多様体上でのデータ分布をどうやって学習するか?
本研究では, 局所特徴ベクトルによる線形近似と部分空間を用いて, 訓練されたSBMのスコアモデルについて検討する。
学習されたベクトル場は、多様体内の非保存的場によってサンプルを混合するが、非多様体方向のエネルギー関数が存在するかのように通常の射影と調和する。
論文 参考訳（メタデータ） (2023-11-16T15:15:15Z) - Geometric Neural Diffusion Processes [55.891428654434634]
拡散モデルの枠組みを拡張して、無限次元モデリングに一連の幾何学的先行を組み込む。
これらの条件で、生成関数モデルが同じ対称性を持つことを示す。
論文 参考訳（メタデータ） (2023-07-11T16:51:38Z) - A Geometric Perspective on Diffusion Models [57.27857591493788]
本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。
我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
論文 参考訳（メタデータ） (2023-05-31T15:33:16Z) - Short and Straight: Geodesics on Differentiable Manifolds [6.85316573653194]
本研究では,測地線長を最小化するための既存の手法をまず解析する。
次に,連続多様体上の距離場と測地流のモデルに基づくパラメータ化を提案する。
第3に,Ricciスカラーのより大きい値を示す多様体の領域において,曲率に基づくトレーニング機構,サンプリングおよびスケーリングポイントを開発する。
論文 参考訳（メタデータ） (2023-05-24T15:09:41Z) - Random Smoothing Regularization in Kernel Gradient Descent Learning [24.383121157277007]
古典的ソボレフ空間に属する幅広い基底真理関数を適応的に学習できるランダムなスムーズな正規化のための枠組みを提案する。
我々の推定器は、基礎となるデータの構造的仮定に適応し、次元の呪いを避けることができる。
論文 参考訳（メタデータ） (2023-05-05T13:37:34Z) - Score-based Diffusion Models in Function Space [137.70916238028306]
拡散モデルは、最近、生成モデリングの強力なフレームワークとして登場した。
この研究は、関数空間における拡散モデルをトレーニングするためのDDO(Denoising Diffusion Operators)と呼ばれる数学的に厳密なフレームワークを導入する。
データ解像度に依存しない固定コストで、対応する離散化アルゴリズムが正確なサンプルを生成することを示す。
論文 参考訳（メタデータ） (2023-02-14T23:50:53Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳（メタデータ） (2022-11-30T05:33:29Z) - Diffusion Models for Causal Discovery via Topological Ordering [20.875222263955045]
emphTopological ordering approachは、グラフ空間ではなく置換を探索することによって因果発見の最適化空間を減少させる。
ANMsの場合、データログのようなemphHessianは、葉ノードを因果グラフで見つけるのに使用することができ、トポロジ的順序付けを可能にする。
ニューラルネットワークを再トレーニングすることなく、学習したヘッセンを更新する理論を導入し、サンプルのサブセットによる計算が注文の正確な近似を与えることを示す。
論文 参考訳（メタデータ） (2022-10-12T13:36:29Z) - Manifold Interpolating Optimal-Transport Flows for Trajectory Inference [64.94020639760026]
最適輸送流(MIOFlow)を補間するマニフォールド補間法を提案する。
MIOFlowは、散発的なタイムポイントで撮影された静的スナップショットサンプルから、連続的な人口動態を学習する。
本手法は, 胚体分化および急性骨髄性白血病の治療から得られたscRNA-seqデータとともに, 分岐とマージによるシミュレーションデータについて検討した。
論文 参考訳（メタデータ） (2022-06-29T22:19:03Z) - Trajectory Inference via Mean-field Langevin in Path Space [0.17205106391379024]
軌道推論は、時間的限界のスナップショットから集団のダイナミクスを回復することを目的としている。
経路空間におけるウィナー測度に対するミンエントロピー推定器は、Lavenantらによって導入された。
論文 参考訳（メタデータ） (2022-05-14T23:13:00Z) - Riemannian Score-Based Generative Modeling [56.20669989459281]
経験的性能を示すスコアベース生成モデル(SGM)を紹介する。
現在のSGMは、そのデータが平坦な幾何学を持つユークリッド多様体上で支えられているという前提を定めている。
これにより、ロボット工学、地球科学、タンパク質モデリングの応用にこれらのモデルを使用することができない。
論文 参考訳（メタデータ） (2022-02-06T11:57:39Z) - Inverting brain grey matter models with likelihood-free inference: a
tool for trustable cytoarchitecture measurements [62.997667081978825]
脳の灰白質細胞構造の特徴は、体密度と体積に定量的に敏感であり、dMRIでは未解決の課題である。
我々は新しいフォワードモデル、特に新しい方程式系を提案し、比較的スパースなb殻を必要とする。
次に,提案手法を逆転させるため,確率自由推論 (LFI) として知られるベイズ解析から最新のツールを適用した。
論文 参考訳（メタデータ） (2021-11-15T09:08:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。