論文の概要: Probing the Geometry of Diffusion Models with the String Method
- arxiv url: http://arxiv.org/abs/2602.22122v1
- Date: Wed, 25 Feb 2026 17:10:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-26 18:19:16.925038
- Title: Probing the Geometry of Diffusion Models with the String Method
- Title(参考訳): 弦法による拡散モデルの幾何学の探索
- Authors: Elio Moreau, Florentin Coeurdoux, Grégoire Ferre, Eric Vanden-Eijnden,
- Abstract要約: 本稿では,学習スコア関数の下で曲線を進化させることにより,サンプル間の連続経路を計算する文字列法に基づくフレームワークを提案する。
再訓練なしで 事前訓練されたモデルで 運用する 我々のアプローチは 3つの体制の間を補間する
画像拡散モデルでは、MEPは高解像度であるが非現実的な「カルトゥーン」画像を含み、最大値が非現実的であることを示す。
タンパク質構造予測では,静的構造を訓練したモデルから直接,転移性コンバータ間の遷移経路を計算する。
- 参考スコア(独自算出の注目度): 13.771271465889432
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Understanding the geometry of learned distributions is fundamental to improving and interpreting diffusion models, yet systematic tools for exploring their landscape remain limited. Standard latent-space interpolations fail to respect the structure of the learned distribution, often traversing low-density regions. We introduce a framework based on the string method that computes continuous paths between samples by evolving curves under the learned score function. Operating on pretrained models without retraining, our approach interpolates between three regimes: pure generative transport, which yields continuous sample paths; gradient-dominated dynamics, which recover minimum energy paths (MEPs); and finite-temperature string dynamics, which compute principal curves -- self-consistent paths that balance energy and entropy. We demonstrate that the choice of regime matters in practice. For image diffusion models, MEPs contain high-likelihood but unrealistic ''cartoon'' images, confirming prior observations that likelihood maxima appear unrealistic; principal curves instead yield realistic morphing sequences despite lower likelihood. For protein structure prediction, our method computes transition pathways between metastable conformers directly from models trained on static structures, yielding paths with physically plausible intermediates. Together, these results establish the string method as a principled tool for probing the modal structure of diffusion models -- identifying modes, characterizing barriers, and mapping connectivity in complex learned distributions.
- Abstract(参考訳): 学習された分布の幾何学を理解することは拡散モデルの改善と解釈に不可欠であるが、ランドスケープを探索するための体系的なツールはまだ限られている。
標準潜在空間補間は学習された分布の構造を尊重せず、しばしば低密度領域を横断する。
本稿では,学習スコア関数の下で曲線を進化させることにより,サンプル間の連続経路を計算する文字列法に基づくフレームワークを提案する。
リトレーニングなしで事前トレーニングされたモデルで運用することで、本手法は、連続的なサンプルパスを生成する純粋生成輸送、最小エネルギーパス(MEP)を回復する勾配支配力学、主曲線(エネルギーとエントロピーのバランスをとる自己整合経路)を計算する有限温度弦力学の3つの状態の間で補間される。
我々は体制の選択が実際に重要であることを実証する。
画像拡散モデルでは、MEPは高次だが非現実的な「カルトゥーン」画像を含み、最大値が非現実的であることを示す。
タンパク質構造予測では, 静的構造を訓練したモデルから直接, 転移性コンホメータ間の遷移経路を計算し, 物理的に安定な中間体を持つ経路を生成する。
これらの結果は、拡散モデルのモーダル構造(モードの同定、バリアのキャラクタリゼーション、複雑な学習分布のマッピング接続性)を探索するための原則的ツールとして文字列法を確立した。
関連論文リスト
- The Principles of Diffusion Models [81.12042238390075]
拡散モデリングは、データを徐々にノイズに分解するフォワードプロセスを定義することから始まる。
目標は、ノイズをデータに変換しながら、同じ中間体を回復するリバースプロセスを学ぶことだ。
エネルギーベースモデリングに根ざしたスコアベースビューは、進化するデータ分布の勾配を学習する。
フローベースのビューは、フローの正規化に関連するもので、サンプルをノイズからデータに移すスムーズなパスに従って生成する。
論文 参考訳(メタデータ) (2025-10-24T02:29:02Z) - Hessian Geometry of Latent Space in Generative Models [41.94295877935867]
生成モデルの潜在空間幾何学を解析するための新しい手法を提案する。
提案手法は, 得られた潜伏変数の後方分布を近似する。
IsingモデルとTASEPモデルで検証され、熱力学量の再構築において既存のベースラインを上回っている。
論文 参考訳(メタデータ) (2025-06-12T12:17:40Z) - Flow map matching with stochastic interpolants: A mathematical framework for consistency models [15.520853806024943]
フローマップマッチングは、基礎となる生成モデルの2時間フローマップを学ぶための原則化されたフレームワークである。
FMMは,高速サンプリングのための既存手法の幅広いクラスを統一し,拡張することを示す。
論文 参考訳(メタデータ) (2024-06-11T17:41:26Z) - A Geometric Perspective on Diffusion Models [57.27857591493788]
本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。
我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
論文 参考訳(メタデータ) (2023-05-31T15:33:16Z) - Latent Traversals in Generative Models as Potential Flows [113.4232528843775]
我々は,学習された動的ポテンシャルランドスケープを持つ潜在構造をモデル化することを提案する。
物理、最適輸送、神経科学にインスパイアされたこれらの潜在的景観は、物理的に現実的な偏微分方程式として学習される。
本手法は,最先端のベースラインよりも定性的かつ定量的に歪んだ軌跡を実現する。
論文 参考訳(メタデータ) (2023-04-25T15:53:45Z) - Free-Form Variational Inference for Gaussian Process State-Space Models [21.644570034208506]
ベイズGPSSMにおける新しい推論法を提案する。
本手法はハミルトニアンモンテカルロの誘導による自由形式変分推論に基づく。
提案手法は, 競合する手法よりも, 遷移力学や潜伏状態をより正確に学習できることを示す。
論文 参考訳(メタデータ) (2023-02-20T11:34:16Z) - GELATO: Geometrically Enriched Latent Model for Offline Reinforcement
Learning [54.291331971813364]
オフライン強化学習アプローチは、近近法と不確実性認識法に分けられる。
本研究では,この2つを潜在変動モデルに組み合わせることのメリットを実証する。
提案したメトリクスは、分布サンプルのアウトの品質と、データ内のサンプルの不一致の両方を測定します。
論文 参考訳(メタデータ) (2021-02-22T19:42:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。