論文の概要: Task-Specific Prompt with Global Context for Multi-Task Graph Pre-Training
- arxiv url: http://arxiv.org/abs/2609.00047v1
- Date: Sun, 30 Aug 2026 04:28:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-02 16:31:35.776513
- Title: Task-Specific Prompt with Global Context for Multi-Task Graph Pre-Training
- Title(参考訳): マルチタスクグラフ事前学習のためのグローバルコンテキストをもつタスク特化プロンプト
- Abstract要約: 本稿では,タスク前と構造前との相乗効果を明示的にモデル化する二元的プロンプトソリューションTPGCを提案する。
TPGCは、最先端のベースラインよりも、数ショット設定で一貫してパフォーマンスが向上し、ダウンストリームパラメータが減り、ランタイムが低くなった。
- 参考スコア(独自算出の注目度): 15.126121507828637
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Graph prompt learning is an effective paradigm to adapt pre-trained graph models to downstream tasks in low-resource scenarios. However, existing multi-task graph pre-training frameworks generally use randomly initialized prompts, leading to poor alignment between the prompt space, pretext objectives and graph structural characteristics. This greatly weakens the task relevance, structural awareness and transferability of prompt representations. To address this challenge, we propose TPGC, a dual-prior prompt initialization solution that explicitly models the synergy between task prior and structural prior. Specifically, the Task-Prior Injection Module first conducts a short homologous multi-task pre-training on an auxiliary graph, enabling prompt initialization to inherit optimization preferences associated with multiple pretext tasks. Built on the task-aware representations, the Structure-Prior Injection Module further extracts transferable global structural context from the auxiliary graph, converting it into layer-wise prompt vectors by aggregating structurally informative node embeddings. Extensive experiments on 6 mainstream benchmarks covering node and graph classification show that TPGC achieves consistently better performance under few-shot settings than state-of-the-art baselines, with fewer downstream tunable parameters and lower runtime. The code is available at https://github.com/Virgilqiu/TPGC
- Abstract(参考訳): グラフプロンプト学習は、訓練済みのグラフモデルを低リソースシナリオの下流タスクに適応するための効果的なパラダイムである。
しかし、既存のマルチタスクグラフ事前学習フレームワークは一般にランダムに初期化プロンプトを使用し、プロンプト空間、プリテキスト目的とグラフ構造特性の整合性が低い。
これは、プロンプト表現のタスク関連性、構造的認識、伝達可能性を大幅に弱める。
この課題に対処するために,タスク前と構造前との相乗効果を明示的にモデル化する二元的プロンプト初期化ソリューションTPGCを提案する。
具体的には、タスク・プライア・インジェクション・モジュールは、まず補助グラフ上で短いホモログのマルチタスク事前トレーニングを行い、複数のプリテキストタスクに関連する最適化の好みを迅速に初期化することができる。
タスク対応の表現に基づいて構築されたStructure-Prior Injection Moduleは、補助グラフから転送可能なグローバルな構造コンテキストを抽出し、構造的に有益なノード埋め込みを集約することで、それを階層的にプロンプトベクトルに変換する。
ノードとグラフの分類を対象とする6つの主要なベンチマークに関する大規模な実験によると、TPGCは、最先端のベースラインよりも、数ショット設定で一貫してパフォーマンスが向上し、下流の調整可能なパラメータが減り、ランタイムが低くなった。
コードはhttps://github.com/Virgilqiu/TPGCで公開されている。
関連論文リスト
- Inference-Time Graph Engineering for Multi-Agent LLM Workflows [51.56038180639833]
ReActNetは、クエリとロール特化エージェントのセットを一連の有向通信グラフにコンパイルする、トレーニング不要のフレームワークである。
ReActNetは、競争的推論コストを維持しつつ、固定トポロジと学習トポロジのベースラインを一貫して改善することを示す。
論文 参考訳(メタデータ) (2026-09-04T23:32:11Z) - GILT: An LLM-Free, Tuning-Free Graph Foundational Model for In-Context Learning [50.40400074353263]
グラフニューラルネットワーク(GNN)は、リレーショナルデータを先行する強力なツールであるが、しばしば目に見えないグラフに一般化するのに苦労する。
textbfGraph textbfIn-context textbfL textbfTransformer (GILT)を導入する。
論文 参考訳(メタデータ) (2025-10-06T08:09:15Z) - Can Graph Neural Networks Learn Language with Extremely Weak Text Supervision? [62.12375949429938]
本稿では,事前学習したグラフニューラルネットワークを下流タスクやデータに適用するためのマルチモーダル・プロンプト学習パラダイムを提案する。
我々の新しいパラダイムは、グラフプロンプトとテキストプロンプトの両方を同時に学習することで、Large Language Models(LLM)と直接同じ空間にグラフを埋め込む。
私たちは、GNNを極めて弱いテキスト管理で見えないクラスに一般化できるCLIPスタイルのゼロショット分類プロトタイプを構築した。
論文 参考訳(メタデータ) (2024-12-11T08:03:35Z) - Instance-Aware Graph Prompt Learning [71.26108600288308]
本稿では,インスタンス対応グラフプロンプト学習(IA-GPL)について紹介する。
このプロセスでは、軽量アーキテクチャを使用して各インスタンスの中間プロンプトを生成する。
複数のデータセットと設定で実施された実験は、最先端のベースラインと比較して、IA-GPLの優れたパフォーマンスを示している。
論文 参考訳(メタデータ) (2024-11-26T18:38:38Z) - A Pure Transformer Pretraining Framework on Text-attributed Graphs [50.833130854272774]
グラフ構造を先行として扱うことで,特徴中心の事前学習の視点を導入する。
我々のフレームワークであるGraph Sequence Pretraining with Transformer (GSPT)はランダムウォークを通してノードコンテキストをサンプリングする。
GSPTはノード分類とリンク予測の両方に容易に適応でき、様々なデータセットで有望な経験的成功を示す。
論文 参考訳(メタデータ) (2024-06-19T22:30:08Z) - Generalized Graph Prompt: Toward a Unification of Pre-Training and Downstream Tasks on Graphs [20.406549548630156]
GraphPromptは、グラフに関する新しい事前トレーニングおよびプロンプトフレームワークである。
トレーニング済みタスクとダウンストリームタスクを共通タスクテンプレートに統合する。
また、学習可能なプロンプトを使用して、トレーニング済みモデルから最も関連性の高い知識を見つけるために、下流タスクを支援する。
論文 参考訳(メタデータ) (2023-11-26T14:35:28Z) - HetGPT: Harnessing the Power of Prompt Tuning in Pre-Trained Heterogeneous Graph Neural Networks [22.775933880072294]
HetGPTは、グラフニューラルネットワークのトレーニング後プロンプトフレームワークである。
半教師付きノード分類における最先端HGNNの性能を向上させる。
論文 参考訳(メタデータ) (2023-10-23T19:35:57Z) - ULTRA-DP: Unifying Graph Pre-training with Multi-task Graph Dual Prompt [67.8934749027315]
本稿では,タスク識別と位置識別をGNNに注入する,グラフハイブリッド事前学習のための統合フレームワークを提案する。
また,約$k$-nearest隣人のグループに基づいた,新しい事前学習パラダイムを提案する。
論文 参考訳(メタデータ) (2023-10-23T12:11:13Z) - SimTeG: A Frustratingly Simple Approach Improves Textual Graph Learning [131.04781590452308]
テキストグラフ学習におけるフラストレーションに富んだアプローチであるSimTeGを提案する。
まず、下流タスクで予め訓練されたLM上で、教師付きパラメータ効率の微調整(PEFT)を行う。
次に、微調整されたLMの最後の隠れ状態を用いてノード埋め込みを生成する。
論文 参考訳(メタデータ) (2023-08-03T07:00:04Z) - GraphPrompt: Unifying Pre-Training and Downstream Tasks for Graph Neural
Networks [16.455234748896157]
GraphPromptは、グラフに関する新しい事前トレーニングおよびプロンプトフレームワークである。
トレーニング済みタスクとダウンストリームタスクを共通タスクテンプレートに統合する。
また、トレーニング前のモデルから最も関連性の高い知識を見つけるために、下流タスクを支援するための学習可能なプロンプトも採用している。
論文 参考訳(メタデータ) (2023-02-16T02:51:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。