論文の概要: DeFoG: Discrete Flow Matching for Graph Generation
- arxiv url: http://arxiv.org/abs/2410.04263v1
- Date: Sat, 5 Oct 2024 18:52:54 GMT
- ステータス: 処理完了
- システム内更新日: 2024-11-02 08:49:52.175978
- Title: DeFoG: Discrete Flow Matching for Graph Generation
- Title（参考訳）: DeFoG: グラフ生成のための離散フローマッチング
- Authors: Yiming Qin, Manuel Madeira, Dorina Thanou, Pascal Frossard,
- Abstract要約: グラフ生成のための離散フローマッチングを用いた新しいフレームワークであるDeFoGを提案する。
DeFoGはフローベースのアプローチを採用しており、効率的な線形雑音化プロセスと柔軟な雑音化プロセスを備えている。
我々は,DeFoGが合成および分子データセット上で最先端の結果を得ることを示す。
- 参考スコア（独自算出の注目度）: 45.037260759871124
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Graph generation is fundamental in diverse scientific applications, due to its ability to reveal the underlying distribution of complex data, and eventually generate new, realistic data points. Despite the success of diffusion models in this domain, those face limitations in sampling efficiency and flexibility, stemming from the tight coupling between the training and sampling stages. To address this, we propose DeFoG, a novel framework using discrete flow matching for graph generation. DeFoG employs a flow-based approach that features an efficient linear interpolation noising process and a flexible denoising process based on a continuous-time Markov chain formulation. We leverage an expressive graph transformer and ensure desirable node permutation properties to respect graph symmetry. Crucially, our framework enables a disentangled design of the training and sampling stages, enabling more effective and efficient optimization of model performance. We navigate this design space by introducing several algorithmic improvements that boost the model performance, consistently surpassing existing diffusion models. We also theoretically demonstrate that, for general discrete data, discrete flow models can faithfully replicate the ground truth distribution - a result that naturally extends to graph data and reinforces DeFoG's foundations. Extensive experiments show that DeFoG achieves state-of-the-art results on synthetic and molecular datasets, improving both training and sampling efficiency over diffusion models, and excels in conditional generation on a digital pathology dataset.
- Abstract（参考訳）: グラフ生成は、複雑なデータの基盤となる分布を明らかにし、最終的には新しい現実的なデータポイントを生成する能力によって、多様な科学的応用において基本的なものである。
この領域での拡散モデルの成功にもかかわらず、これらの領域はサンプリング効率と柔軟性の限界に直面し、トレーニングとサンプリングステージの密結合から生じる。
そこで本稿では,グラフ生成のための離散フローマッチングを用いた新しいフレームワークであるDeFoGを提案する。
DeFoGは、効率的な線形補間ノイズ発生過程と、連続的なマルコフ連鎖の定式化に基づくフレキシブルな復調過程を特徴とするフローベースのアプローチを採用している。
我々は表現型グラフ変換器を活用し、グラフ対称性を尊重するために望ましいノード置換特性を確保する。
重要な点として,本フレームワークはトレーニングおよびサンプリング段階のアンタングル設計を可能にし,モデル性能のより効率的かつ効率的な最適化を可能にする。
既存の拡散モデルを一貫して超越したモデル性能を向上するアルゴリズム的改善を導入することで、このデザイン空間をナビゲートする。
また、一般的な離散データに対して、離散フローモデルは、グラフデータに自然に拡張し、DeFoGの基礎を強化する結果である、基底真理分布を忠実に再現することができることを理論的に証明する。
大規模な実験により、DeFoGは合成および分子データセットの最先端の結果を達成し、拡散モデルよりもトレーニングとサンプリングの効率を改善し、デジタル病理データセットの条件生成に優れることが示された。
関連論文リスト
- Cometh: A continuous-time discrete-state graph diffusion model [8.444907767842228]
グラフデータの特異性に合わせて連続時間離散状態グラフ拡散モデルであるCometを提案する。
VUNサンプルの面では、Cometは平面グラフデータセットで99.5%のほぼ完全なパフォーマンスを取得し、大きなGuacaMolデータセットでDiGressを12.6%上回っている。
論文 参考訳（メタデータ） (2024-06-10T16:39:39Z) - Fisher Flow Matching for Generative Modeling over Discrete Data [12.69975914345141]
離散データのための新しいフローマッチングモデルであるFisher-Flowを紹介する。
Fisher-Flowは、離散データ上のカテゴリー分布を考慮し、明らかに幾何学的な視点を採っている。
Fisher-Flowにより誘導される勾配流は, 前方KLの発散を低減するのに最適であることを示す。
論文 参考訳（メタデータ） (2024-05-23T15:02:11Z) - Discrete-state Continuous-time Diffusion for Graph Generation [46.626952802292074]
拡散生成モデルはグラフ生成タスクに適用されている。
離散状態連続時間設定でグラフ拡散生成を定式化する。
提案モデルでは,最先端のグラフ生成ソリューションと競合する経験的性能を示す。
論文 参考訳（メタデータ） (2024-05-19T00:09:42Z) - Distribution-Aware Data Expansion with Diffusion Models [55.979857976023695]
本研究では,分散型拡散モデルに基づくトレーニングフリーなデータ拡張フレームワークであるDistDiffを提案する。
DistDiffは、オリジナルデータのみにトレーニングされたモデルと比較して、さまざまなデータセットの精度を一貫して向上させる。
論文 参考訳（メタデータ） (2024-03-11T14:07:53Z) - Fast Graph Generative Model via Spectral Diffusion [38.31052833073743]
空間全体におけるフルランク拡散SDEの実行は、学習グラフトポロジ生成からの拡散モデルを妨げると論じる。
グラフスペクトル空間上の低ランク拡散SDEによって駆動される効率的なグラフスペクトル拡散モデル(GSDM)を提案する。
論文 参考訳（メタデータ） (2022-11-16T12:56:32Z) - Data-heterogeneity-aware Mixing for Decentralized Learning [63.83913592085953]
グラフの混合重みとノード間のデータ不均一性の関係に収束の依存性を特徴付ける。
グラフが現在の勾配を混合する能力を定量化する計量法を提案する。
そこで本研究では,パラメータを周期的かつ効率的に最適化する手法を提案する。
論文 参考訳（メタデータ） (2022-04-13T15:54:35Z) - Score-based Generative Modeling of Graphs via the System of Stochastic
Differential Equations [57.15855198512551]
本稿では,連続時間フレームワークを用いたグラフのスコアベース生成モデルを提案する。
本手法は, トレーニング分布に近い分子を生成できるが, 化学価数則に違反しないことを示す。
論文 参考訳（メタデータ） (2022-02-05T08:21:04Z) - Block-Approximated Exponential Random Graphs [77.4792558024487]
指数乱グラフ(ERG)の分野における重要な課題は、大きなグラフ上の非自明なERGの適合である。
本稿では,非自明なERGに対する近似フレームワークを提案する。
我々の手法は、数百万のノードからなるスパースグラフにスケーラブルである。
論文 参考訳（メタデータ） (2020-02-14T11:42:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。