論文の概要: Message Tuning Outshines Graph Prompt Tuning: A Prismatic Space Perspective
- arxiv url: http://arxiv.org/abs/2606.03290v1
- Date: Tue, 02 Jun 2026 07:52:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-03 22:00:04.849851
- Title: Message Tuning Outshines Graph Prompt Tuning: A Prismatic Space Perspective
- Title(参考訳): メッセージの調整でグラフのプロンプトを調整:原始的な空間観
- Authors: Yancheng Chen, Dun Ma, Shuai Zhang, Yang Liu, Xixun Lin, Xiangyu Zhao, Wenguo Yang, Wei Chen, Chuan Zhou,
- Abstract要約: Graph Foundation Models (GFMs) はグラフ学習のホットスポットとして登場した。
最近の手法では、グラフプロンプトチューニングがなぜ機能するのかが説明されているが、その適応能力を厳密に測定する方法は未解決の問題である。
GNNバックボーンの各レイヤに,学習可能なメッセージプロトタイプを少量注入する,ライトウェイトなアプローチであるMessage Tuning for GFM(MTG)を導入する。
- 参考スコア(独自算出の注目度): 23.433958741344536
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Graph Foundation Models (GFMs), built upon the Pre-training and Adaptation paradigm, have emerged as a research hotspot in graph learning. For GNN-based GFMs, graph prompt tuning has become the prevailing adaptation method for downstream tasks. Although recent methods explain why graph prompt tuning works, how to rigorously measure its adaptation capacity remains an open problem. Addressing this problem is critical for understanding the capability limits of graph prompt tuning and for developing more powerful adaptation methods. In this paper, we propose Prismatic Space Theory (PS-Theory), a novel mathematical framework to quantify the capacity of adaptation methods, while focusing on establishing the upper bound for the adaptation capacity of graph prompt tuning. Building upon the proposed PS-Theory, we further introduce Message Tuning for GFMs (MTG), a lightweight approach that injects a small set of learnable message prototypes into each layer of the GNN backbone to adaptively guide message fusion without updating pre-trained weights. Through our PS-Theory, we prove that the adaptation capacity of MTG can exceed the theoretical upper bound of graph prompt tuning. Extensive experiments demonstrate that MTG consistently outperforms graph prompt baselines across diverse benchmark datasets, providing strong empirical support for our theoretical findings.
- Abstract(参考訳): グラフ基礎モデル(GFM)は、事前学習と適応のパラダイムに基づいて構築され、グラフ学習のホットスポットとして研究されている。
GNNベースのGFMでは、グラフプロンプトチューニングが下流タスクの適応手法として主流となっている。
最近の方法ではグラフプロンプトチューニングが機能する理由が説明されているが、適応能力を厳密に測定する方法は未解決の問題である。
この問題に対処することは、グラフプロンプトチューニングの能力限界を理解し、より強力な適応法を開発するために重要である。
本稿では,適応手法のキャパシティを定量化するための新しい数学的枠組みであるPrismatic Space Theory (PS-Theory)を提案する。
提案したPS-理論に基づいて,GNNバックボーンの各層に少数の学習可能なメッセージプロトタイプを注入し,事前訓練した重みを更新することなくメッセージフュージョンを適応的に誘導する,MTG (Message Tuning for GFMs) という軽量なアプローチを導入する。
我々のPS理論を通して、MTGの適応能力がグラフプロンプトチューニングの理論的上限を超えることを証明した。
MTGは、様々なベンチマークデータセット間でグラフプロンプトベースラインを一貫して上回り、我々の理論的な発見に対して強力な実証的支援を提供することを示した。
関連論文リスト
- Learning and Editing Universal Graph Prompt Tuning via Reinforcement Learning [14.196891839610975]
本稿では,Learning and Editing Universal GrAph Prompt Tuning (LEAP)を提案する。
LEAPはより理想的なプロンプトを追求しながら、普遍グラフプロンプトチューニングの理論的な基礎を保っている。
LEAPは、微調整やその他のプロンプトベースのアプローチよりも一貫して優れていることを示す。
論文 参考訳(メタデータ) (2025-12-09T16:12:21Z) - GRAVER: Generative Graph Vocabularies for Robust Graph Foundation Models Fine-tuning [92.19531718298744]
Graph Foundation Models (GFMs) は、さまざまなグラフタスクやドメインにまたがる広範な適用性を約束している。
既存のGFMは不安定な数発の微調整に苦戦している。
本稿では,ロバスト GFM ファインチューニングフレームワーク GRAVER を提案する。
論文 参考訳(メタデータ) (2025-11-05T13:07:26Z) - GILT: An LLM-Free, Tuning-Free Graph Foundational Model for In-Context Learning [50.40400074353263]
グラフニューラルネットワーク(GNN)は、リレーショナルデータを先行する強力なツールであるが、しばしば目に見えないグラフに一般化するのに苦労する。
textbfGraph textbfIn-context textbfL textbfTransformer (GILT)を導入する。
論文 参考訳(メタデータ) (2025-10-06T08:09:15Z) - Deep Prompt Tuning for Graph Transformers [55.2480439325792]
ファインチューニングはリソース集約型であり、大きなモデルのコピーを複数保存する必要がある。
ファインチューニングの代替として,ディープグラフプロンプトチューニングと呼ばれる新しい手法を提案する。
事前学習したパラメータを凍結し、追加したトークンのみを更新することにより、フリーパラメータの数を減らし、複数のモデルコピーを不要にする。
論文 参考訳(メタデータ) (2023-09-18T20:12:17Z) - Gradient Gating for Deep Multi-Rate Learning on Graphs [62.25886489571097]
グラフニューラルネットワーク(GNN)の性能向上のための新しいフレームワークであるグラディエントゲーティング(G$2$)を提案する。
我々のフレームワークは,GNN層の出力を,基盤となるグラフのノード間でのメッセージパッシング情報のマルチレートフローのメカニズムでゲーティングすることに基づいている。
論文 参考訳(メタデータ) (2022-10-02T13:19:48Z) - Universal Prompt Tuning for Graph Neural Networks [10.250964386142819]
我々は,任意の事前学習戦略の下で,事前学習したGNNモデルに対して,GPF(Graph Prompt Feature)と呼ばれる普遍的なプロンプトベースのチューニング手法を提案する。
GPFは入力グラフの特徴空間上で動作し、理論的には任意の形式のプロンプト関数に等価な効果を達成できる。
本手法は,事前学習戦略を応用したモデルに適用した場合,既存の特殊プロンプトベースのチューニング手法よりも大幅に優れる。
論文 参考訳(メタデータ) (2022-09-30T05:19:27Z) - MentorGNN: Deriving Curriculum for Pre-Training GNNs [61.97574489259085]
本稿では,グラフ間のGNNの事前学習プロセスの監視を目的とした,MentorGNNというエンドツーエンドモデルを提案する。
我々は、事前学習したGNNの一般化誤差に自然かつ解釈可能な上限を導出することにより、関係データ(グラフ)に対するドメイン適応の問題に新たな光を当てた。
論文 参考訳(メタデータ) (2022-08-21T15:12:08Z) - Robust Optimization as Data Augmentation for Large-scale Graphs [117.2376815614148]
学習中に勾配に基づく逆方向摂動を伴うノード特徴を反復的に拡張するFLAG(Free Large-scale Adversarial Augmentation on Graphs)を提案する。
FLAGはグラフデータに対する汎用的なアプローチであり、ノード分類、リンク予測、グラフ分類タスクで普遍的に機能する。
論文 参考訳(メタデータ) (2020-10-19T21:51:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。