論文の概要: Learning a Prior-Data Fitted Network for Graph Foundation Models via Structural Causal Model Priors

• arxiv url: http://arxiv.org/abs/2610.38335v1
• Date: Wed, 28 Oct 2026 06:35:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-31 05:25:12.378285
• Title: Learning a Prior-Data Fitted Network for Graph Foundation Models via Structural Causal Model Priors
• Title（参考訳）: 構造因果モデルによるグラフ基礎モデルの事前データフィットネットワークの学習
• Abstract要約: SCMに基づく先行データから生成された合成データに基づいて事前学習したグラフPFNである*GSCM-PFN*(グラフSCMに基づく事前データフィットネットワーク)を提案する。 GSCM-PFNは,実世界のグラフデータを利用して事前学習を行うことなく,従来のGFMとPFNベースのGFMのどちらよりも優れていることを示す。
• 参考スコア（独自算出の注目度）: 40.6676539307899
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Graph Foundation Models (GFMs) have recently emerged as a promising paradigm for learning transferable representations across different graphs and domains. However, existing GFMs face notable limitations, including limited pre-training scale or reliance on aligning with textual information in Large Language Models (LLMs). To overcome these limitations, recent studies have drawn inspiration from prior-data fitted networks (PFNs), which learn from large synthetic datasets and support multi-domain prediction backed by causal learning. However, existing graph PFNs encounter severe difficulties in modeling causal relationships within and across node and edge sets, generating diverse graph structures, and designing suitable architectures that can learn from complex synthetic datasets. To address these challenges, we propose **GSCM-PFN** (Graph SCM-based Prior-Data Fitted Network), a graph PFN pre-trained on synthetic data generated from an SCM-based prior that jointly models nodes and graph topology. Specifically, we (1) design a joint feature-edge-label structural causal model (SCM) to guide synthetic graph generation and capture causal relationships within and across node and edge sets; (2) introduce prior-guided node-edge dependency modeling to instantiate diverse graph generation strategies, and prove that our SCM-based generation prior is more expressive than existing priors; and (3) propose a feature-permutation-invariant dual-path graph network with theoretical guarantees for learning from diverse synthetic graphs. Experiments on 23 real-world benchmarks show that GSCM-PFN outperforms both conventional GFMs and PFN-based GFMs, without utilizing real-world graph data for pre-training. Code: https://anonymous.4open.science/r/GSCM-PFN-A3A3/
• Abstract（参考訳）: グラフファウンデーションモデル(GFM)は、最近、異なるグラフやドメイン間で転送可能な表現を学ぶための有望なパラダイムとして登場した。 しかし、既存の GFM には、事前学習の規模が制限されていることや、Large Language Models (LLMs) におけるテキスト情報との整合性への依存など、顕著な制限がある。 これらの制限を克服するために、最近の研究は、大規模な合成データセットから学習し、因果学習によるマルチドメイン予測をサポートする事前データ適合ネットワーク(PFN)からインスピレーションを得ている。 しかし、既存のグラフPFNは、ノードとエッジセット間の因果関係をモデル化し、多様なグラフ構造を生成し、複雑な合成データセットから学習できる適切なアーキテクチャを設計する上で、深刻な困難に直面している。 これらの課題に対処するために、ノードとグラフトポロジを共同でモデル化したSCMベースの先行データから生成された合成データに基づいて事前学習したグラフである*GSCM-PFN*(Graph SCMベースの事前データフィットネットワーク)を提案する。 具体的には,(1)合成グラフの生成を誘導し,ノードとエッジセット間の因果関係を捉えるための共同特徴境界構造因果モデル(SCM)を設計し,(2)様々なグラフ生成戦略をインスタンス化するための事前誘導ノードエッジ依存性モデリングを導入し,SCMに基づく事前生成が既存の先行よりも表現力が高いことを証明し,(3)多様な合成グラフから学習するための理論的保証を備えた特徴置換不変なデュアルパスグラフネットワークを提案する。 23の実世界のベンチマーク実験により、GSCM-PFNは、事前トレーニングに実世界のグラフデータを利用することなく、従来のGFMとPFNベースのGFMの両方より優れた性能を示すことが示された。 コード:https://anonymous.4open.science/r/GSCM-PFN-A3A3/

関連論文リスト

• Surprisingly Simple and Effective Multi-Domain Graph Foundation Model through Graph-to-Table Alignment [27.039467001269614]
  グラフファウンデーションモデル(GFM)は、様々なグラフドメインにわたる転送可能な表現を学習するための有望なパラダイムとして登場した。 GTAlignは、テキストフリーグラフ基盤モデルのための驚くほどシンプルで効果的なグラフツーテイブルアライメントフレームワークである。 5つのベンチマークデータセットの実験では、GTAlignはノード分類とグラフ分類の両方で最先端のベースラインを大幅に上回っている。
  論文  参考訳（メタデータ） (2026-07-13T10:35:56Z)
• Learning Posterior Predictive Distributions for Node Classification from Synthetic Graph Priors [32.18961351570798]
  グラフニューラルネットワーク(GNN)は基本的な制限に直面している。 グラフ固有のトレーニングを使わずに任意のグラフに一般化するNodePFNを導入する。 1つの事前訓練されたNodePFNは、23のベンチマークで71.27の平均精度を達成する。
  論文  参考訳（メタデータ） (2026-04-21T03:23:34Z)
• Graph Foundation Models: Bridging Language Model Paradigms and Graph Optimization [4.502753947356616]
  グラフ構造上の全ての距離に基づく最適化問題を解くことができる最初のフレームワークであるグラフ基礎モデル(GFM)を紹介する。 GFMはグラフの複雑なトポロジカルおよびニューラルルールを内部化し、構造自体の接続を監督信号として扱うことができる。 本研究は, グラフ最適化にプリトレイン・トランスファー・フレームワークを適用する新たなパラダイムを確立し, 基礎モデル革新をオペレーション・リサーチに適用するための扉を開く。
  論文  参考訳（メタデータ） (2025-09-29T04:05:48Z)
• GraphPFN: A Prior-Data Fitted Graph Foundation Model [27.47522328312435]
  大規模データセットで事前訓練された基礎モデルは、自然言語処理やコンピュータビジョンといった分野に変化をもたらした。 ノードレベルの予測のための事前データ付きネットワークであるGraphPFNを提案する。 最大50,000ノードのさまざまな実世界のグラフデータセットでは、GraphPFNは、微調整後の強いコンテキスト内学習のパフォーマンスと最先端の結果を示している。
  論文  参考訳（メタデータ） (2025-09-25T19:47:49Z)
• Deep Learning for School Dropout Detection: A Comparison of Tabular and Graph-Based Models for Predicting At-Risk Students [0.2029906424353094]
  学生の退学は、世界中の教育システムにおいて重要な課題である。 グラフニューラルネットワーク(GNN)は、グラフとして構造化された場合、学生データに固有の複雑な関係をキャプチャすることで潜在的な利点を提供する。
  論文  参考訳（メタデータ） (2025-08-09T01:19:32Z)
• Scalable Graph Generative Modeling via Substructure Sequences [50.32639806800683]
  本稿では,グラフ生成用トランスフォーマー事前学習フレームワークである生成グラフパターンマシン(G$2$PM)を紹介する。 G$2$PMはグラフインスタンス(ノード、エッジ、グラフ全体)をサブ構造のシーケンスとして表現する。 それは、一般化可能かつ伝達可能な表現を学ぶために、シーケンスに関する生成的事前学習を採用する。
  論文  参考訳（メタデータ） (2025-05-22T02:16:34Z)
• A Pure Transformer Pretraining Framework on Text-attributed Graphs [50.833130854272774]
  グラフ構造を先行として扱うことで,特徴中心の事前学習の視点を導入する。 我々のフレームワークであるGraph Sequence Pretraining with Transformer (GSPT)はランダムウォークを通してノードコンテキストをサンプリングする。 GSPTはノード分類とリンク予測の両方に容易に適応でき、様々なデータセットで有望な経験的成功を示す。
  論文  参考訳（メタデータ） (2024-06-19T22:30:08Z)
• Position: Graph Foundation Models are Already Here [53.737868336014735]
  グラフ基礎モデル(GFM)は、グラフ領域において重要な研究トピックとして浮上している。 グラフ語彙の提唱によるGFM開発のための新しい視点」を提案する。 この観点は、将来のGFM設計を、ニューラルネットワークのスケーリング法則に従って前進させる可能性がある。
  論文  参考訳（メタデータ） (2024-02-03T17:24:36Z)
• EGRC-Net: Embedding-induced Graph Refinement Clustering Network [66.44293190793294]
  埋め込みによるグラフリファインメントクラスタリングネットワーク (EGRC-Net) という新しいグラフクラスタリングネットワークを提案する。 EGRC-Netは学習した埋め込みを利用して初期グラフを適応的に洗練し、クラスタリング性能を向上させる。 提案手法はいくつかの最先端手法より一貫して優れている。
  論文  参考訳（メタデータ） (2022-11-19T09:08:43Z)
• Tensor Graph Convolutional Networks for Multi-relational and Robust Learning [74.05478502080658]
  本稿では,テンソルで表されるグラフの集合に関連するデータから,スケーラブルな半教師付き学習(SSL)を実現するためのテンソルグラフ畳み込みネットワーク(TGCN)を提案する。 提案アーキテクチャは、標準的なGCNと比較して大幅に性能が向上し、最先端の敵攻撃に対処し、タンパク質間相互作用ネットワーク上でのSSL性能が著しく向上する。
  論文  参考訳（メタデータ） (2020-03-15T02:33:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。