論文の概要: Learning Posterior Predictive Distributions for Node Classification from Synthetic Graph Priors
- arxiv url: http://arxiv.org/abs/2604.19028v1
- Date: Tue, 21 Apr 2026 03:23:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-22 22:41:49.595629
- Title: Learning Posterior Predictive Distributions for Node Classification from Synthetic Graph Priors
- Title(参考訳): 合成グラフからのノード分類のための後部予測分布の学習
- Authors: Jeongwhan Choi, Jongwoo Kim, Woosung Kang, Noseong Park,
- Abstract要約: グラフニューラルネットワーク(GNN)は基本的な制限に直面している。
グラフ固有のトレーニングを使わずに任意のグラフに一般化するNodePFNを導入する。
1つの事前訓練されたNodePFNは、23のベンチマークで71.27の平均精度を達成する。
- 参考スコア(独自算出の注目度): 32.18961351570798
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: One of the most challenging problems in graph machine learning is generalizing across graphs with diverse properties. Graph neural networks (GNNs) face a fundamental limitation: they require separate training for each new graph, preventing universal generalization across diverse graph datasets. A critical challenge facing GNNs lies in their reliance on labeled training data for each individual graph, a requirement that hinders the capacity for universal node classification due to the heterogeneity inherent in graphs -- differences in homophily levels, community structures, and feature distributions across datasets. Inspired by the success of large language models (LLMs) that achieve in-context learning through massive-scale pre-training on diverse datasets, we introduce NodePFN. This universal node classification method generalizes to arbitrary graphs without graph-specific training. NodePFN learns posterior predictive distributions (PPDs) by training only on thousands of synthetic graphs generated from carefully designed priors. Our synthetic graph generation covers real-world graphs through the use of random networks with controllable homophily levels and structural causal models for complex feature-label relationships. We develop a dual-branch architecture combining context-query attention mechanisms with local message passing to enable graph-aware in-context learning. Extensive evaluation on 23 benchmarks demonstrates that a single pre-trained NodePFN achieves 71.27 average accuracy. These results validate that universal graph learning patterns can be effectively learned from synthetic priors, establishing a new paradigm for generalization in node classification.
- Abstract(参考訳): グラフ機械学習における最も難しい問題の1つは、様々な特性を持つグラフをまたいだ一般化である。
グラフニューラルネットワーク(GNN)は、基本的な制限に直面している。
GNNが直面している重要な課題は、各グラフのラベル付きトレーニングデータへの依存にある。これは、グラフ固有の不均一性(homophily level)、コミュニティ構造、データセット間の特徴分布の違いによる普遍ノード分類のキャパシティを妨げる要件である。
多様なデータセットの大規模事前学習を通じてコンテキスト内学習を実現する大規模言語モデル(LLM)の成功に触発されて,我々はNodePFNを紹介した。
この普遍ノード分類法は、グラフ固有の訓練なしで任意のグラフに一般化する。
NodePFNは、慎重に設計された事前から生成された数千の合成グラフのみをトレーニングすることで、後続予測分布(PPD)を学習する。
我々の合成グラフ生成は、制御可能なホモフィリーレベルを持つランダムネットワークと複雑な特徴-ラベル関係のための構造因果モデルを用いて、実世界のグラフをカバーする。
本研究では、コンテキストクエリアテンション機構とローカルメッセージパッシングを組み合わせた二分岐アーキテクチャを構築し、グラフ対応のコンテキスト内学習を実現する。
23のベンチマークによる大規模な評価は、1つの事前訓練されたNodePFNが71.27の平均精度を達成したことを示している。
これらの結果は, ノード分類における一般化のための新たなパラダイムを確立することを目的として, 任意のグラフ学習パターンを合成先行から効果的に学習できることを検証した。
関連論文リスト
- Toward a universal foundation model for graph-structured data [10.419880239076734]
グラフは生物医学研究の中心的な表現であり、分子相互作用ネットワーク、遺伝子制御回路、細胞間通信マップ、知識グラフを捉えている。
既存のグラフニューラルネットワークは通常、単一のデータセットでトレーニングされ、そのグラフのノードの特徴、トポロジ、ラベル空間に特有の表現を学ぶ。
ここでは、特定のノードの同一性や特徴スキームに特有でない転送可能な構造表現を学習するために設計されたグラフ基礎モデルを紹介する。
論文 参考訳(メタデータ) (2026-04-07T19:21:21Z) - Revisiting Graph Neural Networks on Graph-level Tasks: Comprehensive Experiments, Analysis, and Improvements [54.006506479865344]
グラフレベルグラフニューラルネットワーク(GNN)のための統一評価フレームワークを提案する。
このフレームワークは、さまざまなデータセットにわたるGNNを評価するための標準化された設定を提供する。
また,表現性の向上と一般化機能を備えた新しいGNNモデルを提案する。
論文 参考訳(メタデータ) (2025-01-01T08:48:53Z) - OpenGraph: Towards Open Graph Foundation Models [20.401374302429627]
グラフニューラルネットワーク(GNN)は、構造情報を符号化するための有望な技術として登場した。
主な課題は、異なる性質を持つグラフデータを一般化することの難しさである。
この課題に対処するために,OpenGraphと呼ばれる新しいグラフ基盤モデルを提案する。
論文 参考訳(メタデータ) (2024-03-02T08:05:03Z) - GraphGLOW: Universal and Generalizable Structure Learning for Graph
Neural Networks [72.01829954658889]
本稿では,この新たな問題設定の数学的定義を紹介する。
一つのグラフ共有構造学習者と複数のグラフ固有GNNを協調する一般的なフレームワークを考案する。
十分に訓練された構造学習者は、微調整なしで、目に見えない対象グラフの適応的な構造を直接生成することができる。
論文 参考訳(メタデータ) (2023-06-20T03:33:22Z) - A Robust and Generalized Framework for Adversarial Graph Embedding [73.37228022428663]
本稿では,AGE という逆グラフ埋め込みのための頑健なフレームワークを提案する。
AGEは、暗黙の分布から強化された負のサンプルとして偽の隣接ノードを生成する。
本フレームワークでは,3種類のグラフデータを扱う3つのモデルを提案する。
論文 参考訳(メタデータ) (2021-05-22T07:05:48Z) - Graph Classification by Mixture of Diverse Experts [67.33716357951235]
我々は,不均衡なグラフ分類に多様な専門家の混在を利用したフレームワークであるGraphDIVEを提案する。
GraphDIVEは、分割と並列の原則により、不均衡なグラフデータセットを複数のサブセットに分割するゲーティングネットワークを採用しています。
実世界の不均衡グラフデータセットに関する実験は、GraphDIVEの有効性を示している。
論文 参考訳(メタデータ) (2021-03-29T14:03:03Z) - Multilevel Graph Matching Networks for Deep Graph Similarity Learning [79.3213351477689]
グラフ構造オブジェクト間のグラフ類似性を計算するためのマルチレベルグラフマッチングネットワーク(MGMN)フレームワークを提案する。
標準ベンチマークデータセットの欠如を補うため、グラフグラフ分類とグラフグラフ回帰タスクの両方のためのデータセットセットを作成し、収集した。
総合的な実験により、MGMNはグラフグラフ分類とグラフグラフ回帰タスクの両方において、最先端のベースラインモデルより一貫して優れていることが示された。
論文 参考訳(メタデータ) (2020-07-08T19:48:19Z) - GCC: Graph Contrastive Coding for Graph Neural Network Pre-Training [62.73470368851127]
グラフ表現学習は現実世界の問題に対処する強力な手法として登場した。
自己教師付きグラフニューラルネットワーク事前トレーニングフレームワークであるGraph Contrastive Codingを設計する。
3つのグラフ学習タスクと10のグラフデータセットについて実験を行った。
論文 参考訳(メタデータ) (2020-06-17T16:18:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。