論文の概要: Boosting Graph Foundation Model from Structural Perspective
- arxiv url: http://arxiv.org/abs/2407.19941v1
- Date: Mon, 29 Jul 2024 12:22:16 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-30 13:56:27.243950
- Title: Boosting Graph Foundation Model from Structural Perspective
- Title(参考訳): 構造から見たグラフ基礎モデルの構築
- Authors: Yao Cheng, Yige Zhao, Jianxiang Yu, Xiang Li,
- Abstract要約: 構造の観点からグラフ基盤モデルを強化し,BooGを提案する。
BooGは仮想スーパーノードを構築し、異なるドメインからのグラフデータの構造的特性を統合する。
また,グラフデータに対してより表現力のある表現を学習するコントラスト学習に基づく,新しい事前学習目標を提案する。
- 参考スコア(独自算出の注目度): 6.387816922598151
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph foundation models have recently attracted significant attention due to its strong generalizability. Although existing methods resort to language models to learn unified semantic representations across domains, they disregard the unique structural characteristics of graphs from different domains. To address the problem, in this paper, we boost graph foundation model from structural perspective and propose BooG. The model constructs virtual super nodes to unify structural characteristics of graph data from different domains. Specifically, the super nodes fuse the information of anchor nodes and class labels, where each anchor node captures the information of a node or a graph instance to be classified. Instead of using the raw graph structure, we connect super nodes to all nodes within their neighborhood by virtual edges. This new structure allows for effective information aggregation while unifying cross-domain structural characteristics. Additionally, we propose a novel pre-training objective based on contrastive learning, which learns more expressive representations for graph data and generalizes effectively to different domains and downstream tasks. Experimental results on various datasets and tasks demonstrate the superior performance of BooG. We provide our code and data here: https://anonymous.4open.science/r/BooG-EE42/.
- Abstract(参考訳): グラフ基盤モデルは、その強力な一般化性により、最近大きな注目を集めている。
既存の手法は言語モデルを用いてドメイン間の統一意味表現を学習するが、異なるドメインからのグラフのユニークな構造的特徴を無視する。
この問題に対処するため,本論文では,構造的観点からグラフ基盤モデルを強化し,BooGを提案する。
このモデルは仮想スーパーノードを構築し、異なる領域からのグラフデータの構造的特性を統一する。
具体的には、スーパーノードはアンカーノードの情報とクラスラベルを融合させ、各アンカーノードは分類対象のノードまたはグラフインスタンスの情報を取得する。
生グラフ構造を使う代わりに、仮想エッジによって近隣のすべてのノードにスーパーノードを接続する。
この新たな構造は、ドメイン間構造特性を統一しつつ、効果的な情報集約を可能にする。
さらに,グラフデータ表現をより表現的に学習し,異なる領域や下流タスクに効果的に一般化する,コントラスト学習に基づく新しい事前学習目標を提案する。
さまざまなデータセットやタスクの実験結果から,BooGの優れた性能が示された。
https://anonymous.4open.science/r/BooG-EE42/.com//////////////////////////////////////////////////// ////////////////////////////////////////////////////
関連論文リスト
- Node-like as a Whole: Structure-aware Searching and Coarsening for Graph Classification [14.602474387096244]
グラフトランスフォーマー(GT)は、グラフレベルのタスクにおいて顕著な成果を上げている。
グラフ構造全体をノード的に扱うことで、ハイレベルな機能を学ぶことができますか?
本稿では,構造認識探索と粗化による多視点グラフ表現学習モデルを提案する。
論文 参考訳(メタデータ) (2024-04-18T03:03:37Z) - Incorporating Higher-order Structural Information for Graph Clustering [6.027366081402081]
グラフ畳み込みネットワーク(GCN)は、ディープクラスタリングの強力なツールとして登場した。
グラフ構造情報をフル活用するための新しいグラフクラスタリングネットワークを提案する。
提案手法は, 各種データセット上での最先端手法よりも優れる。
論文 参考訳(メタデータ) (2024-03-17T04:42:41Z) - OpenGraph: Towards Open Graph Foundation Models [20.401374302429627]
グラフニューラルネットワーク(GNN)は、構造情報を符号化するための有望な技術として登場した。
主な課題は、異なる性質を持つグラフデータを一般化することの難しさである。
この課題に対処するために,OpenGraphと呼ばれる新しいグラフ基盤モデルを提案する。
論文 参考訳(メタデータ) (2024-03-02T08:05:03Z) - GraphEdit: Large Language Models for Graph Structure Learning [62.618818029177355]
グラフ構造学習(GSL)は、グラフ構造データ中のノード間の固有の依存関係と相互作用をキャプチャすることに焦点を当てている。
既存のGSL法は、監督信号として明示的なグラフ構造情報に大きく依存している。
グラフ構造化データの複雑なノード関係を学習するために,大規模言語モデル(LLM)を利用したグラフ編集を提案する。
論文 参考訳(メタデータ) (2024-02-23T08:29:42Z) - GrannGAN: Graph annotation generative adversarial networks [72.66289932625742]
本稿では,高次元分布をモデル化し,グラフスケルトンと整合した複雑な関係特徴構造を持つデータの新しい例を生成することの問題点を考察する。
提案するモデルは,タスクを2つのフェーズに分割することで,各データポイントのグラフ構造に制約されたデータ特徴を生成する問題に対処する。
第一に、与えられたグラフのノードに関連する機能の分布をモデル化し、第二に、ノードのフィーチャに条件付きでエッジ機能を補完する。
論文 参考訳(メタデータ) (2022-12-01T11:49:07Z) - A Robust Stacking Framework for Training Deep Graph Models with
Multifaceted Node Features [61.92791503017341]
数値ノード特徴とグラフ構造を入力とするグラフニューラルネットワーク(GNN)は,グラフデータを用いた各種教師付き学習タスクにおいて,優れた性能を示した。
IID(non-graph)データをGNNに簡単に組み込むことはできない。
本稿では、グラフ認識の伝播をIDデータに意図した任意のモデルで融合するロバストな積み重ねフレームワークを提案する。
論文 参考訳(メタデータ) (2022-06-16T22:46:33Z) - SHGNN: Structure-Aware Heterogeneous Graph Neural Network [77.78459918119536]
本稿では、上記の制約に対処する構造対応不均一グラフニューラルネットワーク(SHGNN)を提案する。
まず,メタパス内の中間ノードの局所構造情報を取得するために,特徴伝搬モジュールを利用する。
次に、ツリーアテンションアグリゲータを使用して、グラフ構造情報をメタパス上のアグリゲーションモジュールに組み込む。
最後に、メタパスアグリゲータを利用して、異なるメタパスから集約された情報を融合する。
論文 参考訳(メタデータ) (2021-12-12T14:18:18Z) - Graph Information Bottleneck [77.21967740646784]
グラフニューラルネットワーク(GNN)は、ネットワーク構造とノード機能から情報を融合する表現的な方法を提供する。
GIBは、一般的なInformation Bottleneck (IB) を継承し、与えられたタスクに対する最小限の表現を学習することを目的としている。
提案したモデルが最先端のグラフ防御モデルよりも堅牢であることを示す。
論文 参考訳(メタデータ) (2020-10-24T07:13:00Z) - Graph InfoClust: Leveraging cluster-level node information for
unsupervised graph representation learning [12.592903558338444]
本稿では,グラフ InfoClust というグラフ表現学習手法を提案する。
同社はさらに、クラスタレベルの情報コンテンツをキャプチャしようとしている。
この最適化により、ノード表現はよりリッチな情報とノイズ相互作用をキャプチャし、それによって品質が向上する。
論文 参考訳(メタデータ) (2020-09-15T09:33:20Z) - CatGCN: Graph Convolutional Networks with Categorical Node Features [99.555850712725]
CatGCNはグラフ学習に適したノード機能である。
エンドツーエンドでCatGCNを訓練し、半教師付きノード分類でそれを実証する。
論文 参考訳(メタデータ) (2020-09-11T09:25:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。