論文の概要: Towards Fast Graph Generation via Autoregressive Noisy Filtration Modeling
- arxiv url: http://arxiv.org/abs/2502.02415v1
- Date: Tue, 04 Feb 2025 15:35:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-05 14:57:33.887062
- Title: Towards Fast Graph Generation via Autoregressive Noisy Filtration Modeling
- Title(参考訳): 自己回帰雑音フィルタモデリングによる高速グラフ生成に向けて
- Authors: Markus Krimmel, Jenna Wiens, Karsten Borgwardt, Dexiong Chen,
- Abstract要約: グラフ生成モデルはしばしば、複雑な分布の学習と高速な生成速度の達成の間に重要なトレードオフに直面します。
本稿では,両課題に対処する新しい手法である自動回帰ノイズフィルタモデリング(ANFM)を紹介する。
ANFMは極めて短いシーケンスを生成し、拡散モデルと比較して100倍の高速化を実現している。
- 参考スコア(独自算出の注目度): 12.737028324709609
- License:
- Abstract: Graph generative models often face a critical trade-off between learning complex distributions and achieving fast generation speed. We introduce Autoregressive Noisy Filtration Modeling (ANFM), a novel approach that addresses both challenges. ANFM leverages filtration, a concept from topological data analysis, to transform graphs into short sequences of monotonically increasing subgraphs. This formulation extends the sequence families used in previous autoregressive models. To learn from these sequences, we propose a novel autoregressive graph mixer model. Our experiments suggest that exposure bias might represent a substantial hurdle in autoregressive graph generation and we introduce two mitigation strategies to address it: noise augmentation and a reinforcement learning approach. Incorporating these techniques leads to substantial performance gains, making ANFM competitive with state-of-the-art diffusion models across diverse synthetic and real-world datasets. Notably, ANFM produces remarkably short sequences, achieving a 100-fold speedup in generation time compared to diffusion models. This work marks a significant step toward high-throughput graph generation.
- Abstract(参考訳): グラフ生成モデルはしばしば、複雑な分布の学習と高速な生成速度の達成の間に重要なトレードオフに直面します。
本稿では,両課題に対処する新しいアプローチである自動回帰ノイズフィルタモデリング(ANFM)を紹介する。
ANFMは、トポロジカルデータ解析の概念である濾過を利用して、グラフを単調に増大する部分グラフの短いシーケンスに変換する。
この定式化は、以前の自己回帰モデルで使用されるシーケンスファミリーを拡張する。
これらのシーケンスから学習するために,新しい自己回帰グラフミキサーモデルを提案する。
実験の結果, 露光バイアスは自己回帰グラフ生成において大きなハードルとなる可能性が示唆され, ノイズ増強と強化学習アプローチという2つの緩和戦略が導入された。
これらの手法を組み込むことで、ANFMは様々な合成および実世界のデータセットにまたがる最先端の拡散モデルと競合する。
特に、ANFMは極めて短いシーケンスを生成し、拡散モデルと比較して100倍の高速化を実現している。
この研究は、高スループットグラフ生成に向けた重要なステップである。
関連論文リスト
- IFH: a Diffusion Framework for Flexible Design of Graph Generative Models [53.219279193440734]
グラフ生成モデルは,1行にグラフを生成するワンショットモデルと,ノードとエッジの連続的な付加によるグラフを生成するシーケンシャルモデルという,2つの顕著なファミリーに分類される。
本稿では,逐次度を規定するグラフ生成モデルであるInsert-Fill-Halt(IFH)を提案する。
論文 参考訳(メタデータ) (2024-08-23T16:24:40Z) - Unfolding Time: Generative Modeling for Turbulent Flows in 4D [49.843505326598596]
本研究では,4次元生成拡散モデルと物理インフォームドガイダンスを導入し,現実的な流れ状態列の生成を可能にする。
提案手法は, 乱流多様体からのサブシーケンス全体のサンプリングに有効であることが示唆された。
この進展は、乱流の時間的進化を分析するために生成モデリングを適用するための扉を開く。
論文 参考訳(メタデータ) (2024-06-17T10:21:01Z) - Self-Play Fine-Tuning of Diffusion Models for Text-to-Image Generation [59.184980778643464]
ファインチューニング拡散モデル : 生成人工知能(GenAI)の最前線
本稿では,拡散モデル(SPIN-Diffusion)のための自己演奏ファインチューニングという革新的な手法を紹介する。
提案手法は従来の教師付き微調整とRL戦略の代替として,モデル性能とアライメントの両方を大幅に改善する。
論文 参考訳(メタデータ) (2024-02-15T18:59:18Z) - Graph Signal Diffusion Model for Collaborative Filtering [22.727100820178414]
協調フィルタリングはレコメンデータシステムにおいて重要な手法である。
拡散モデルに関する既存の研究は、暗黙のフィードバックをモデル化するための効果的な解決策を欠いている。
協調フィルタリングのためのグラフ信号拡散モデル(GiffCF)を提案する。
論文 参考訳(メタデータ) (2023-11-15T07:25:14Z) - Directional diffusion models for graph representation learning [9.457273750874357]
我々は方向拡散モデルと呼ばれる新しいモデルのクラスを提案する。
これらのモデルは前方拡散過程にデータ依存、異方性、指向性ノイズを含む。
我々は,2つのグラフ表現学習タスクに焦点をあてて,12の公開データセットに関する広範な実験を行った。
論文 参考訳(メタデータ) (2023-06-22T21:27:48Z) - Non-autoregressive Conditional Diffusion Models for Time Series
Prediction [3.9722979176564763]
TimeDiffは、高品質な時系列予測を実現する非自己回帰拡散モデルである。
我々はTimeDiffが既存の時系列拡散モデルより一貫して優れていることを示す。
論文 参考訳(メタデータ) (2023-06-08T08:53:59Z) - Conditional Denoising Diffusion for Sequential Recommendation [62.127862728308045]
GAN(Generative Adversarial Networks)とVAE(VAE)の2つの顕著な生成モデル
GANは不安定な最適化に苦しむ一方、VAEは後続の崩壊と過度に平らな世代である。
本稿では,シーケンスエンコーダ,クロスアテンティブデノナイジングデコーダ,ステップワイズディフューザを含む条件付きデノナイジング拡散モデルを提案する。
論文 参考訳(メタデータ) (2023-04-22T15:32:59Z) - Graph Generation with Diffusion Mixture [57.78958552860948]
グラフの生成は、非ユークリッド構造の複雑な性質を理解する必要がある実世界のタスクにとって大きな課題である。
本稿では,拡散過程の最終グラフ構造を明示的に学習することにより,グラフのトポロジーをモデル化する生成フレームワークを提案する。
論文 参考訳(メタデータ) (2023-02-07T17:07:46Z) - Generative Diffusion Models on Graphs: Methods and Applications [50.44334458963234]
拡散モデルは、新しい生成パラダイムとして、様々な画像生成タスクにおいて顕著な成功を収めた。
グラフ生成は多くの実世界のアプリケーションを持つグラフ上で重要な計算タスクである。
論文 参考訳(メタデータ) (2023-02-06T06:58:17Z) - Fast Graph Generative Model via Spectral Diffusion [38.31052833073743]
空間全体におけるフルランク拡散SDEの実行は、学習グラフトポロジ生成からの拡散モデルを妨げると論じる。
グラフスペクトル空間上の低ランク拡散SDEによって駆動される効率的なグラフスペクトル拡散モデル(GSDM)を提案する。
論文 参考訳(メタデータ) (2022-11-16T12:56:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。