論文の概要: ReCoG: Relative Node Contexts for Multi-Domain Graph Pre-training
- arxiv url: http://arxiv.org/abs/2611.01753v1
- Date: Sun, 01 Nov 2026 10:00:26 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 20:04:46.480913
- Title: ReCoG: Relative Node Contexts for Multi-Domain Graph Pre-training
- Title(参考訳): ReCoG:マルチドメイングラフ事前トレーニングのための相対ノードコンテキスト
- Abstract要約: Graph Foundation Modelsは、マルチドメイングラフ事前トレーニングを通じて、転送可能な知識を学ぶ。
マルチドメイングラフ事前学習のためのRelative Contexts for Graphs(ReCoG)を紹介する。
ReCoGは、平均1ショットのクロスドメインノード分類精度において、最強のベースラインを7.61ポイント上回る。
- 参考スコア(独自算出の注目度): 21.133621424022248
- License:
- Abstract: The success of foundation models in language and vision has motivated Graph Foundation Models (GFMs), which learn transferable knowledge through multi-domain graph pre-training. Existing methods advance GFMs through feature unification and structural learning, and in doing so they rely on the raw graph structure to organize node contexts. However, we observe that removing a large proportion of edges from source graphs during pre-training improves cross-domain transfer accuracy across four representative methods. Our theoretical analysis identifies the raw graph structure as a source of conflict in cross-graph model sharing. We therefore advocate defining node contexts using criteria consistent across graphs. Achieving this requires (1) constructing node contexts consistently across graphs without a shared positional structure, such as the token order of text or the pixel grid of images, and (2) retaining the structural and neighborhood information of the original graphs. To this end, we introduce Relative Contexts for Graphs (ReCoG) for multi-domain graph pre-training. Specifically, we first construct attribute contexts to provide a comparison rule independent of the raw graph structure. Furthermore, we construct structural contexts based on common neighbors and semantic contexts based on neighborhood attribute summaries to retain the topological and neighborhood information of the original graphs. Since all graphs share these construction rules, we pre-train a single graph encoder by reconstructing node attributes over these contexts, without domain-specific modules. We conduct extensive experiments on 18 target datasets, which demonstrate the effectiveness of ReCoG. In particular, ReCoG exceeds the strongest baseline by 7.61 percentage points in mean 1-shot cross-domain node classification accuracy and by 4.47 points in cross-type transfer to heterophilous graphs.
- Abstract(参考訳): 言語とビジョンにおける基礎モデルの成功は、マルチドメイングラフ事前学習を通じて伝達可能な知識を学習するグラフ基礎モデル(GFM)を動機付けている。
既存の手法は特徴統一と構造学習を通じてGFMを前進させ、ノードコンテキストを整理するために生グラフ構造に依存している。
しかし、事前学習中にソースグラフからエッジを多数取り除くことにより、4つの代表法間でのドメイン間転送精度が向上することが観察された。
理論的解析により、生グラフ構造は、クロスグラフモデル共有における競合の源として特定される。
したがって、グラフ間で整合性のある基準を用いてノードコンテキストを定義することを提唱する。
これを実現するためには,(1) テキストのトークン順序や画像のピクセルグリッドなどの共有位置構造を持たないグラフに対して一貫したノードコンテキストを構築すること,(2) 元のグラフの構造と近傍情報を保持することが必要である。
この目的のために,マルチドメイングラフ事前学習のためのRelative Contexts for Graphs (ReCoG)を導入する。
具体的には、まず属性コンテキストを構築し、生グラフ構造に依存しない比較ルールを提供する。
さらに,従来のグラフのトポロジ的・近傍的な情報を保持するために,近傍属性の要約に基づく共通隣人や意味的文脈に基づく構造的コンテキストを構築する。
すべてのグラフがこれらの構成ルールを共有するため、ドメイン固有のモジュールを使わずに、これらのコンテキスト上でノード属性を再構築することで、単一のグラフエンコーダを事前訓練する。
ReCoGの有効性を実証する18のターゲットデータセットについて広範な実験を行った。
特にReCoGは、平均1ショットのクロスドメインノード分類精度において7.61ポイント、異種グラフへのクロスタイプ転送において4.47ポイントという最強のベースラインを超えている。
関連論文リスト
- GraphProp: Training the Graph Foundation Models using Graph Properties [24.318377459225637]
本研究は,グラフ分類などのグラフレベルのタスクにおいて,強力な一般化能力を有するグラフ基礎モデル(GFM)の訓練に焦点をあてる。
グラフ構造はノードの特徴やグラフラベルよりも整合性のあるクロスドメイン情報を提供する。
実験の結果,GraphPropは教師付き学習や少数ショット学習,特にノード属性のないグラフ処理において,競合相手よりも大幅に優れていた。
論文 参考訳(メタデータ) (2025-08-06T16:12:42Z) - From Features to Structure: Task-Aware Graph Construction for Relational and Tabular Learning with GNNs [6.0757501646966965]
タスク対応グラフ拡張のための統合フレームワークであるauGraphを紹介する。
auGraphは、属性をノードに選択的にプロモートすることで、ベースグラフ構造を強化する。
タスク関連構造信号を注入しながら、元のデータスキーマを保存する。
論文 参考訳(メタデータ) (2025-06-02T20:42:53Z) - Towards Graph Foundation Models: Learning Generalities Across Graphs via Task-Trees [50.78679002846741]
タスクツリーを用いたグラフのクロスタスク一般化のための新しい手法を提案する。
本稿では,グラフニューラルネットワーク(GNN)を多種多様なタスクツリー上で事前学習することにより,伝達可能な知識を誘導することを示す。
これにより、最小限の微調整で下流タスクに効率的に適応できる。
論文 参考訳(メタデータ) (2024-12-21T02:07:43Z) - GaGSL: Global-augmented Graph Structure Learning via Graph Information Bottleneck [5.943641527857957]
我々は,TextitGlobal-augmented Graph Structure Learning (GaGSL) という新しい手法を提案する。
GaGSLの背景にある重要な考え方は、ノード分類タスクのためのコンパクトで情報的なグラフ構造を学ぶことである。
さまざまなデータセットにわたる包括的な評価は、最先端の手法と比較して、GaGSLの優れた性能と堅牢性を示している。
論文 参考訳(メタデータ) (2024-11-07T01:23:48Z) - A Pure Transformer Pretraining Framework on Text-attributed Graphs [50.833130854272774]
グラフ構造を先行として扱うことで,特徴中心の事前学習の視点を導入する。
我々のフレームワークであるGraph Sequence Pretraining with Transformer (GSPT)はランダムウォークを通してノードコンテキストをサンプリングする。
GSPTはノード分類とリンク予測の両方に容易に適応でき、様々なデータセットで有望な経験的成功を示す。
論文 参考訳(メタデータ) (2024-06-19T22:30:08Z) - Local Structure-aware Graph Contrastive Representation Learning [12.554113138406688]
複数のビューからノードの構造情報をモデル化するための局所構造対応グラフ比較表現学習法(LS-GCL)を提案する。
ローカルビューでは、各ターゲットノードのセマンティックサブグラフが共有GNNエンコーダに入力され、サブグラフレベルに埋め込まれたターゲットノードを取得する。
グローバルな視点では、元のグラフはノードの必要不可欠な意味情報を保存しているので、共有GNNエンコーダを利用して、グローバルなグラフレベルでターゲットノードの埋め込みを学習する。
論文 参考訳(メタデータ) (2023-08-07T03:23:46Z) - Semantic Random Walk for Graph Representation Learning in Attributed
Graphs [2.318473106845779]
本稿では,2つの異種ソースの結合最適化を高次近接ベースフレームワークに定式化するための新しい意味グラフ表現(SGR)法を提案する。
高次トポロジ確率を考慮した従来の埋め込み法は、新しく構築されたグラフに容易に適用でき、ノードと属性の両方の表現を学習することができる。
学習された属性の埋め込みは、セマンティック指向の推論タスクを効果的にサポートし、グラフの深いセマンティックを明らかにするのに役立つ。
論文 参考訳(メタデータ) (2023-05-11T02:35:16Z) - EGRC-Net: Embedding-induced Graph Refinement Clustering Network [66.44293190793294]
埋め込みによるグラフリファインメントクラスタリングネットワーク (EGRC-Net) という新しいグラフクラスタリングネットワークを提案する。
EGRC-Netは学習した埋め込みを利用して初期グラフを適応的に洗練し、クラスタリング性能を向上させる。
提案手法はいくつかの最先端手法より一貫して優れている。
論文 参考訳(メタデータ) (2022-11-19T09:08:43Z) - Graph Spectral Embedding using the Geodesic Betweeness Centrality [76.27138343125985]
本稿では、局所的な類似性、接続性、グローバル構造を教師なしで表現するグラフSylvester Embedding (GSE)を紹介する。
GSEはシルヴェスター方程式の解を用いて、ネットワーク構造と近傍の近接を1つの表現で捉える。
論文 参考訳(メタデータ) (2022-05-07T04:11:23Z) - Spectral Embedding of Graph Networks [76.27138343125985]
ローカルノードの類似性と接続性、グローバル構造をトレードオフする教師なしグラフ埋め込みを導入する。
埋め込みは一般化されたグラフ Laplacian に基づいており、固有ベクトルは1つの表現においてネットワーク構造と近傍近傍の両方をコンパクトにキャプチャする。
論文 参考訳(メタデータ) (2020-09-30T04:59:10Z) - Bridging Knowledge Graphs to Generate Scene Graphs [49.69377653925448]
本稿では,2つのグラフ間の情報伝達を反復的に行う新しいグラフベースニューラルネットワークを提案する。
我々のグラフブリッジネットワークであるGB-Netは、エッジとノードを連続的に推論し、相互接続されたシーンとコモンセンスグラフのリッチでヘテロジニアスな構造を同時に活用し、洗練する。
論文 参考訳(メタデータ) (2020-01-07T23:35:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。