論文の概要: Your Discrete Graph Diffusion Model is Secretly Memorizing
- arxiv url: http://arxiv.org/abs/2610.13786v1
- Date: Fri, 09 Oct 2026 16:04:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-13 04:06:29.664308
- Title: Your Discrete Graph Diffusion Model is Secretly Memorizing
- Title(参考訳): 離散グラフ拡散モデル(動画)
- Abstract要約: グラフ拡散モデルが実際に記憶を示すのは初めてである。
記憶の開始は常に、生成されたグラフにおけるコミュニティ構造の出現に先行する。
- 参考スコア(独自算出の注目度): 9.73681576519524
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Discrete graph diffusion models (GDMs) corrupt the graph structure by adding noise independently to nodes and edges under a Markovian noise model. In the unconditional setting without node features, an equivariant denoiser trained on a single graph is able to generate novel graphs and sample-level metrics such as edge overlap and WL kernel similarity find no evidence of memorization. In this work, we challenge this view and show for the first time that graph diffusion models indeed exhibit memorization. Analyzing the reverse diffusion trajectories of GDMs trained on two-block stochastic block models (SBMs), we find a strong train-data bias: the model recovers a corrupted training graph almost perfectly compared to a held-out test graph. We term this conditional memorization, as it surfaces only when the reverse trajectory is conditioned on a corrupted training graph and is not apparent during inference. It coincides with a growing generalization gap, where the training loss improves as the loss on held-out graphs degrades, and it cannot be mitigated by early stopping. The onset of memorization always precedes the emergence of community structure in the generated graphs, thus every checkpoint earlier produces structureless graphs. This behavior holds across all node sizes we test.
- Abstract(参考訳): 離散グラフ拡散モデル(GDM)はマルコフ雑音モデルの下でノードやエッジに独立してノイズを加えることでグラフ構造を破損させる。
ノードの特徴を持たない非条件設定では、単一グラフで訓練された同変デノイザは、新しいグラフを生成することができ、エッジオーバーラップやWLカーネルの類似性のようなサンプルレベルのメトリクスは記憶の証拠を見出すことができない。
本研究では,この考え方に挑戦し,グラフ拡散モデルが実際に記憶を示すことを初めて示す。
2ブロック確率ブロックモデル(SBM)で訓練されたGDMの逆拡散軌跡を解析した結果、列車データバイアスが強いことが判明した。
この条件記憶は、逆軌道が破損したトレーニンググラフ上で条件づけられた場合にのみ表面化され、推論中に明らかでないためである。
これは、ホールドアウトグラフの損失が減少するにつれてトレーニング損失が向上する一般化ギャップの増加と一致し、早期停止による緩和はできない。
記憶の開始は常に、生成されたグラフにおけるコミュニティ構造の出現に先行するので、以前のチェックポイントはすべて構造のないグラフを生成する。
この振る舞いは、テストするすべてのノードサイズにまたがる。
関連論文リスト
- Discrete Diffusion for Large Graph Generation via Structural Candidate Restriction [12.23929393820587]
ノードペアの構造的動機付けサブセットにトレーニングを制限する離散グラフ拡散モデルを導入する。
我々は,広義の床付きコサインノイズスケジュールで制御される3種類の吸収前処理を設計する。
我々のノードは各ノードの次数に適応し、グラフの構造を完全に消去することはなく、ノイズの多いグラフを全てのステップで知らせる。
論文 参考訳(メタデータ) (2026-10-02T21:07:33Z) - DiPhon: Diffusion on Graphons for Scalable Graph Generation [100.75398811422308]
拡散モデルはグラフ生成の主要なパラダイムであり、分子設計のような領域に顕著な影響を与えている。
有限グラフ上のこれらのダイナミクスを模倣する離散化グラフレベルプロセスであるDiPhonを提案する。
我々は、DiPhonが連続グラノン過程によって引き起こされる限界分布の第一モーメントと正確に一致することを証明し、第二モーメントを閉形式差まで近似する。
論文 参考訳(メタデータ) (2026-07-08T10:15:17Z) - ADA-GAD: Anomaly-Denoised Autoencoders for Graph Anomaly Detection [84.0718034981805]
我々はAnomaly-Denoized Autoencoders for Graph Anomaly Detection (ADA-GAD)という新しいフレームワークを導入する。
第1段階では,異常レベルを低減したグラフを生成する学習自由な異常化拡張法を設計する。
次の段階では、デコーダは元のグラフで検出するために再訓練される。
論文 参考訳(メタデータ) (2023-12-22T09:02:01Z) - Addressing Heterophily in Node Classification with Graph Echo State
Networks [11.52174067809364]
ノード分類のためのグラフエコー状態ネットワーク(GESN)を用いた異種グラフの課題に対処する。
GESNはグラフのための貯水池計算モデルであり、ノードの埋め込みは訓練されていないメッセージパッシング関数によって計算される。
実験の結果, 貯水池モデルでは, ほぼ完全に訓練された深層モデルに対して, より優れた精度あるいは同等の精度が得られることがわかった。
論文 参考訳(メタデータ) (2023-05-14T19:42:31Z) - Graph Generation with Diffusion Mixture [57.78958552860948]
グラフの生成は、非ユークリッド構造の複雑な性質を理解する必要がある実世界のタスクにとって大きな課題である。
本稿では,拡散過程の最終グラフ構造を明示的に学習することにより,グラフのトポロジーをモデル化する生成フレームワークを提案する。
論文 参考訳(メタデータ) (2023-02-07T17:07:46Z) - Node Copying: A Random Graph Model for Effective Graph Sampling [35.957719744856696]
本稿では,グラフ上の分布を構成するノードコピーモデルを提案する。
コピーモデルの有用性を3つのタスクで示す。
提案モデルを用いて,グラフトポロジに対する敵攻撃の効果を緩和する。
論文 参考訳(メタデータ) (2022-08-04T04:04:49Z) - Learning Graph Structure from Convolutional Mixtures [119.45320143101381]
本稿では、観測されたグラフと潜伏グラフのグラフ畳み込み関係を提案し、グラフ学習タスクをネットワーク逆(デコンボリューション)問題として定式化する。
固有分解に基づくスペクトル法の代わりに、近似勾配反復をアンロール・トランケートして、グラフデコンボリューションネットワーク(GDN)と呼ばれるパラメータ化ニューラルネットワークアーキテクチャに到達させる。
GDNは、教師付き方式でグラフの分布を学習し、損失関数を適応させることでリンク予測やエッジウェイト回帰タスクを実行し、本質的に帰納的である。
論文 参考訳(メタデータ) (2022-05-19T14:08:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。