論文の概要: Learning Discrete Diffusion of Graphs via Free-Energy Gradient Flows
- arxiv url: http://arxiv.org/abs/2604.11311v1
- Date: Mon, 13 Apr 2026 11:15:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-14 20:13:16.49358
- Title: Learning Discrete Diffusion of Graphs via Free-Energy Gradient Flows
- Title(参考訳): 自由エネルギー勾配流によるグラフの離散拡散学習
- Authors: Dario Rancati, Jan Maas, Francesco Locatello,
- Abstract要約: 勾配流に基づく並列理論の枠組みは、これらの設定に直接$W$距離を変換するという本質的な課題のために、まだ解明されていない。
本研究では,これらの課題に対処する最初の計算手法を提案する。
本稿では,離散空間上の拡散力学を学習するための新しい手法を提案する。
- 参考スコア(独自算出の注目度): 24.6419207456082
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion-based models on continuous spaces have seen substantial recent progress through the mathematical framework of gradient flows, leveraging the Wasserstein-2 (${W}_2$) metric via the Jordan-Kinderlehrer-Otto (JKO) scheme. Despite the increasing popularity of diffusion models on discrete spaces using continuous-time Markov chains, a parallel theoretical framework based on gradient flows has remained elusive due to intrinsic challenges in translating the ${W}_2$ distance directly into these settings. In this work, we propose the first computational approach addressing these challenges, leveraging an appropriate metric $W_K$ on the simplex of probability distributions, which enables us to interpret widely used discrete diffusion paths, such as the discrete heat equation, as gradient flows of specific free-energy functionals. Through this theoretical insight, we introduce a novel methodology for learning diffusion dynamics over discrete spaces, which recovers the underlying functional directly by leveraging first-order optimality conditions for the JKO scheme. The resulting method optimizes a simple quadratic loss, trains extremely fast, does not require individual sample trajectories, and only needs a numerical preprocessing computing $W_K$-geodesics. We validate our method through extensive numerical experiments on synthetic data, showing that we can recover the underlying functional for a variety of graph classes.
- Abstract(参考訳): 連続空間上の拡散に基づくモデルは、ヨルダン・キンデレラー・オットー(JKO)スキームを通じてワッサーシュタイン-2({W}_2$)計量を利用して、勾配流の数学的枠組みを通じて、かなり最近の進歩が見られる。
連続時間マルコフ連鎖を用いた離散空間上の拡散モデルの普及にもかかわらず、${W}_2$ 距離を直接これらの設定に変換するという本質的な問題のために、勾配フローに基づく並列理論の枠組みはいまだ解明されていない。
本研究では, 離散熱方程式などの離散拡散経路を, 特定の自由エネルギー関数の勾配流として解釈することのできる, 確率分布の単純性に基づいて, 適切な計量$W_K$を用いて, これらの課題に対処する最初の計算手法を提案する。
この理論的な洞察を通じて、離散空間上の拡散力学を学習するための新しい方法論を導入し、JKOスキームの1次最適条件を利用して、基礎となる機能を直接回復する。
その結果、単純な二次損失を最適化し、列車を極端に高速に運転し、個々のサンプル軌跡を必要とせず、数値前処理計算に$W_K$-geodesicsしか必要としない。
合成データに対する広範な数値実験により本手法の有効性を検証し,様々なグラフクラスに対して基礎となる関数を復元可能であることを示す。
関連論文リスト
- Data-to-Energy Stochastic Dynamics [16.394074432826823]
正規化されていない密度によって1つ(または両方)の分布が与えられるとき、Schr"odinger Bridgeをモデル化するための最初の一般的な方法を提案する。
提案アルゴリズムは,非政治強化学習の最近の発展に触発されたデータフリーケースに対する反復比例フィッティング(IPF)手順の一般化に依存している。
提案したデータ・トゥ・エネルギIPFの合成問題に対する有効性を示し,マルチモーダル分布間の輸送をうまく学習できることを見出した。
論文 参考訳(メタデータ) (2025-09-30T15:03:55Z) - Almost Linear Convergence under Minimal Score Assumptions: Quantized Transition Diffusion [25.542593757387095]
本稿では,データ量子化と離散拡散力学を統合する新しい手法である量子化遷移拡散(QTD)を提案する。
提案手法はまず,連続データ分布の$p_*$をヒストグラム近似とバイナリ符号化により離散的な$q_*$に変換する。
逆時間サンプリングでは,逆CTMCをシミュレートするために,テクスティットランキャットによる一様化手法を導入する。
論文 参考訳(メタデータ) (2025-05-28T02:10:11Z) - On the Wasserstein Convergence and Straightness of Rectified Flow [54.580605276017096]
Rectified Flow (RF) は、ノイズからデータへの直流軌跡の学習を目的とした生成モデルである。
RFのサンプリング分布とターゲット分布とのワッサーシュタイン距離に関する理論的解析を行った。
本稿では,従来の経験的知見と一致した1-RFの特異性と直線性を保証する一般的な条件について述べる。
論文 参考訳(メタデータ) (2024-10-19T02:36:11Z) - Rigorous dynamical mean field theory for stochastic gradient descent
methods [17.90683687731009]
一階勾配法の一家系の正確な高次元に対する閉形式方程式を証明した。
これには勾配降下(SGD)やネステロフ加速度などの広く使われているアルゴリズムが含まれる。
論文 参考訳(メタデータ) (2022-10-12T21:10:55Z) - A Near-Optimal Gradient Flow for Learning Neural Energy-Based Models [93.24030378630175]
学習エネルギーベースモデル(EBM)の勾配流を最適化する新しい数値スキームを提案する。
フォッカー・プランク方程式から大域相対エントロピーの2階ワッサーシュタイン勾配流を導出する。
既存のスキームと比較して、ワッサーシュタイン勾配流は実データ密度を近似するより滑らかで近似的な数値スキームである。
論文 参考訳(メタデータ) (2019-10-31T02:26:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。