論文の概要: Message Passing Does More with Less for In-Context Learning on Graphs
- arxiv url: http://arxiv.org/abs/2609.37057v1
- Date: Tue, 29 Sep 2026 08:59:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.348679
- Title: Message Passing Does More with Less for In-Context Learning on Graphs
- Title(参考訳): グラフ上でのインコンテキスト学習でメッセージパッシングが向上
- Abstract要約: スパースメッセージパッシング上に構築された新しいグラフ・イン・コンテキスト学習ツールであるEphrisを紹介する。
51ノード分類データセットのEphrisを、15の広範囲に調整されたGNNと既存のグラフICL法に対して評価した。
推論コストは、以前のグラフICLモデルよりも10倍以上高速で、1つのGNNのトレーニングに匹敵する。
- 参考スコア(独自算出の注目度): 31.05167488649796
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Achieving strong performance with graph neural networks (GNNs) typically requires training and hyperparameter tuning for each dataset, incurring repeated costs and effort. Graph in-context learning (ICL) avoids this by using a single pretrained model to predict unknown node labels directly from labeled context nodes. Existing approaches, however, rely on dense attention across nodes, making inference increasingly expensive as graphs grow. In this work, we present Ephris, a new graph in-context learner built on sparse message passing, scaling linearly with the number of node-feature entries and graph edges. Ephris is pretrained entirely on synthetic graphs generated from structural causal models with diverse graph structures and relational dynamics, exposing the model to varied dependencies among topology, features, and labels. We evaluate Ephris on 51 node-classification datasets against 15 extensively tuned GNNs and existing graph ICL methods under both high- and low-label train/validation/test splits. Across both settings, Ephris ranks first on all four aggregate measures: Elo, improvability, average rank, and accuracy. Its inference cost remains comparable to training a single GNN once, while being over 10 times faster than previous graph ICL models. Together, these results advance the performance-runtime Pareto frontier, demonstrating that strong graph ICL does not require dense attention. Code and model weights are available at https://github.com/nums-ai/ephris.
- Abstract(参考訳): グラフニューラルネットワーク(GNN)による強力なパフォーマンスを達成するには、通常、データセット毎にトレーニングとハイパーパラメータチューニングが必要で、繰り返しコストと労力がかかります。
グラフ・イン・コンテキスト・ラーニング(ICL)は、ラベル付きコンテキストノードから直接未知のノードラベルを予測するために、単一の事前訓練モデルを使用することで、これを回避している。
しかし、既存のアプローチはノード間の注意の集中に依存しており、グラフが成長するにつれて推論はますます高価になる。
本研究では,スパースメッセージパッシング上に構築された新しいグラフインコンテキスト学習器であるEphrisについて,ノード特徴エントリ数とグラフエッジ数とを線形にスケーリングする。
エフリスは、様々なグラフ構造と関係力学を持つ構造因果モデルから生成された合成グラフに事前訓練され、そのモデルがトポロジー、特徴、ラベル間の様々な依存関係に露出する。
我々は,51のノード分類データセットに対して,大規模に調整された15のGNNと既存のグラフICL法に対して,高階および低階のトレイン/バリデーション/テスト分割の下でEphrisを評価する。
どちらの設定でも、エフライスはエロ、即効性、平均ランク、正確さの4つの合計で1位である。
推論コストは、以前のグラフICLモデルよりも10倍以上高速で、1つのGNNのトレーニングに匹敵する。
これらの結果と共に、パフォーマンス・ランタイム・パレートフロンティアを前進させ、強いグラフICLは集中的な注意を必要としないことを示した。
コードとモデルの重み付けはhttps://github.com/nums-ai/ephris.comで確認できる。
関連論文リスト
- Learning Posterior Predictive Distributions for Node Classification from Synthetic Graph Priors [32.18961351570798]
グラフニューラルネットワーク(GNN)は基本的な制限に直面している。
グラフ固有のトレーニングを使わずに任意のグラフに一般化するNodePFNを導入する。
1つの事前訓練されたNodePFNは、23のベンチマークで71.27の平均精度を達成する。
論文 参考訳(メタデータ) (2026-04-21T03:23:34Z) - GraphTOP: Graph Topology-Oriented Prompting for Graph Neural Networks [66.07512871031163]
ラベルなしグラフデータよりも強力なグラフニューラルネットワーク(GNN)を事前学習する。
適応段階では、グラフプロンプトは学習可能なプロンプトで入力グラフデータを修正し、事前学習されたGNNモデルを凍結し続ける。
本稿では,事前学習したGNNモデルを下流タスクに効果的に適用するために,最初の**Graph****opology-**O**riented **P**rompting(GraphTOP)フレームワークを提案する。
論文 参考訳(メタデータ) (2025-10-25T22:50:12Z) - Learning on Large Graphs using Intersecting Communities [13.053266613831447]
MPNNは、各ノードの隣人からのメッセージを集約することで、入力グラフ内の各ノードの表現を反復的に更新する。
MPNNは、あまりスパースではないため、すぐに大きなグラフの禁止になるかもしれない。
本稿では,入力グラフを交差するコミュニティグラフ (ICG) として近似することを提案する。
論文 参考訳(メタデータ) (2024-05-31T09:26:26Z) - Spectral Greedy Coresets for Graph Neural Networks [61.24300262316091]
ノード分類タスクにおける大規模グラフの利用は、グラフニューラルネットワーク(GNN)の現実的な応用を妨げる
本稿では,GNNのグラフコアセットについて検討し,スペクトル埋め込みに基づくエゴグラフの選択により相互依存の問題を回避する。
我々のスペクトルグレディグラフコアセット(SGGC)は、数百万のノードを持つグラフにスケールし、モデル事前学習の必要性を排除し、低ホモフィリーグラフに適用する。
論文 参考訳(メタデータ) (2024-05-27T17:52:12Z) - Two Heads Are Better Than One: Boosting Graph Sparse Training via
Semantic and Topological Awareness [80.87683145376305]
グラフニューラルネットワーク(GNN)は、様々なグラフ学習タスクに優れるが、大規模グラフに適用した場合、計算上の課題に直面している。
データレベルで空間を動的に操作するグラフスパーストレーニング(GST)を提案する。
GSTは、最大位相整合性と性能劣化のないスパースグラフを生成する。
論文 参考訳(メタデータ) (2024-02-02T09:10:35Z) - A Robust Stacking Framework for Training Deep Graph Models with
Multifaceted Node Features [61.92791503017341]
数値ノード特徴とグラフ構造を入力とするグラフニューラルネットワーク(GNN)は,グラフデータを用いた各種教師付き学習タスクにおいて,優れた性能を示した。
IID(non-graph)データをGNNに簡単に組み込むことはできない。
本稿では、グラフ認識の伝播をIDデータに意図した任意のモデルで融合するロバストな積み重ねフレームワークを提案する。
論文 参考訳(メタデータ) (2022-06-16T22:46:33Z) - Neural Graph Matching for Pre-training Graph Neural Networks [72.32801428070749]
グラフニューラルネットワーク(GNN)は、構造データのモデリングにおいて強力な能力を示している。
GMPTと呼ばれる新しいグラフマッチングベースのGNN事前学習フレームワークを提案する。
提案手法は,完全自己指導型プレトレーニングと粗粒型プレトレーニングに適用できる。
論文 参考訳(メタデータ) (2022-03-03T09:53:53Z) - Node Feature Extraction by Self-Supervised Multi-scale Neighborhood
Prediction [123.20238648121445]
我々は、新しい自己教師型学習フレームワーク、グラフ情報支援ノード機能exTraction (GIANT)を提案する。
GIANT は eXtreme Multi-label Classification (XMC) 形式を利用しており、これはグラフ情報に基づいた言語モデルの微調整に不可欠である。
我々は,Open Graph Benchmarkデータセット上での標準GNNパイプラインよりもGIANTの方が優れた性能を示す。
論文 参考訳(メタデータ) (2021-10-29T19:55:12Z) - Scalable Graph Neural Networks for Heterogeneous Graphs [12.44278942365518]
グラフニューラルネットワーク(GNN)は、グラフ構造化データを学習するためのパラメトリックモデルの一般的なクラスである。
最近の研究は、GNNが主に機能をスムースにするためにグラフを使用しており、ベンチマークタスクで競合する結果を示していると主張している。
本研究では、これらの結果が異種グラフに拡張可能かどうかを問うとともに、異なるエンティティ間の複数のタイプの関係を符号化する。
論文 参考訳(メタデータ) (2020-11-19T06:03:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。