論文の概要: Towards Graph Foundation Models: The Perspective of Zero-shot Reasoning on Knowledge Graphs

• arxiv url: http://arxiv.org/abs/2410.12609v1
• Date: Wed, 16 Oct 2024 14:26:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-17 13:43:39.717657
• Title: Towards Graph Foundation Models: The Perspective of Zero-shot Reasoning on Knowledge Graphs
• Title（参考訳）: グラフ基礎モデルに向けて:知識グラフにおけるゼロショット推論の展望
• Authors: Kai Wang, Siqiang Luo,
• Abstract要約: 我々は、ゼロショット学習を用いて、多様なグラフタスクを効果的に一般化する統合グラフ推論フレームワークSCOREを紹介する。 SCOREを38種類のグラフデータセットを用いて評価し、ノードレベル、リンクレベル、グラフレベルのタスクを複数のドメインでカバーする。
• 参考スコア（独自算出の注目度）: 14.392577069212292
• License:
• Abstract: Inspired by the success of artificial general intelligence, there is a trend towards developing Graph Foundation Models that excel in generalization across various graph tasks and domains. However, current models often require extensive training or fine-tuning to capture structural and semantic insights on new graphs, which limits their versatility. In this work, we explore graph foundation models from the perspective of zero-shot reasoning on Knowledge Graphs (KGs). Our focus is on utilizing KGs as a unified topological structure to tackle diverse tasks, while addressing semantic isolation challenges in KG reasoning to effectively integrate diverse semantic and structural features. This brings us new methodological insights into KG reasoning, as well as high generalizability towards foundation models in practice. Methodologically, we introduce SCORE, a unified graph reasoning framework that effectively generalizes diverse graph tasks using zero-shot learning. At the core of SCORE is semantic conditional message passing, a technique designed to capture both structural and semantic invariances in graphs, with theoretical backing for its expressive power. Practically, we evaluate the zero-shot reasoning capability of SCORE using 38 diverse graph datasets, covering node-level, link-level, and graph-level tasks across multiple domains. Our experiments reveal a substantial performance improvement over prior foundation models and supervised baselines, highlighting the efficacy and adaptability of our approach.
• Abstract（参考訳）: 人工知能の成功に触発されて、様々なグラフタスクやドメインにまたがる一般化に優れるグラフ基礎モデルの開発が進んでいる。 しかしながら、現在のモデルは、新しいグラフの構造的および意味的な洞察を捉え、その汎用性を制限するために、広範囲なトレーニングや微調整を必要とすることが多い。 本研究では,知識グラフ(KG)のゼロショット推論の観点から,グラフ基礎モデルについて検討する。 我々は,KGを統一的なトポロジ構造として活用して多様な課題に対処するとともに,多様な意味的特徴と構造的特徴を効果的に統合するKG推論における意味的分離課題に対処することに注力している。 これにより、KG推論に対する新たな方法論的洞察と、実際に基礎モデルに対する高い一般化性が得られます。 本稿では,ゼロショット学習を用いた多種多様なグラフタスクを効果的に一般化する統合グラフ推論フレームワークSCOREを紹介する。 SCOREのコアとなる意味的条件付きメッセージパッシングは、グラフの構造的不変性と意味的不変性の両方を捉え、その表現力の理論的裏付けとして設計されている。 実際に,38種類のグラフデータセットを用いてSCOREのゼロショット推論能力を評価し,ノードレベル,リンクレベル,グラフレベルのタスクを複数領域にわたってカバーした。 提案実験は,従来の基礎モデルと教師付きベースラインよりも大幅な性能向上を示し,アプローチの有効性と適応性を強調した。

関連論文リスト

• A Hierarchical Language Model For Interpretable Graph Reasoning [47.460255447561906]
  ノード中心の局所情報と相互作用中心のグローバル構造を捉えるために2ブロックアーキテクチャを用いる階層型グラフ言語モデル(HLM-G)を導入する。 提案手法は,大規模グラフ処理における計算コストを削減しつつ,高い効率性,効率性,ロバスト性で様々なグラフクエリに対処することを可能にする。 多様なグラフ推論およびノード,リンク,グラフレベルの実世界のタスクに対する総合的な評価は,本手法の優位性を強調している。
  論文  参考訳（メタデータ） (2024-10-29T00:28:02Z)
• Foundations and Frontiers of Graph Learning Theory [81.39078977407719]
  グラフ学習の最近の進歩は、複雑な構造を持つデータを理解し分析する方法に革命をもたらした。 グラフニューラルネットワーク(GNN)、すなわちグラフ表現を学習するために設計されたニューラルネットワークアーキテクチャは、一般的なパラダイムとなっている。 本稿では,グラフ学習モデルに固有の近似と学習行動に関する理論的基礎とブレークスルーについて概説する。
  論文  参考訳（メタデータ） (2024-07-03T14:07:41Z)
• Towards Graph Foundation Models: A Survey and Beyond [66.37994863159861]
  ファンデーションモデルは、さまざまな人工知能アプリケーションにおいて重要なコンポーネントとして現れてきた。 基礎モデルがグラフ機械学習研究者を一般化し、適応させる能力は、新しいグラフ学習パラダイムを開発する可能性について議論する。 本稿では,グラフ基礎モデル(GFM)の概念を紹介し,その重要な特徴と基礎技術について概説する。
  論文  参考訳（メタデータ） (2023-10-18T09:31:21Z)
• Towards Foundation Models for Knowledge Graph Reasoning [18.77355708537997]
  知識グラフ(KG)は、一般に重複しない異なる実体と関係語彙を持つ。 本稿では、普遍的および伝達可能なグラフ表現を学習するためのアプローチであるULTRAを提案する。 様々な大きさの未確認グラフ上の単一事前学習ULTRAモデルのゼロショット帰納的推論性能は、特定のグラフ上で訓練された強いベースラインよりも、しばしば同等かそれ以上である。
  論文  参考訳（メタデータ） (2023-10-06T20:00:07Z)
• Group Contrastive Self-Supervised Learning on Graphs [101.45974132613293]
  グラフ上での自己教師型学習をコントラッシブ手法を用いて研究する。 複数の部分空間におけるグラフの対比により、グラフエンコーダはより豊富な特徴を捉えることができる。
  論文  参考訳（メタデータ） (2021-07-20T22:09:21Z)
• Model-Agnostic Graph Regularization for Few-Shot Learning [60.64531995451357]
  グラフ組み込み数ショット学習に関する包括的な研究を紹介します。 本稿では,ラベル間のグラフ情報の組み込みによる影響をより深く理解できるグラフ正規化手法を提案する。 提案手法は,Mini-ImageNetで最大2%,ImageNet-FSで6.7%の性能向上を実現する。
  論文  参考訳（メタデータ） (2021-02-14T05:28:13Z)
• Quantifying Challenges in the Application of Graph Representation Learning [0.0]
  私たちは、一般的な埋め込みアプローチのセットに対して、アプリケーション指向の視点を提供します。 実世界のグラフ特性に関する表現力を評価する。 GRLアプローチは現実のシナリオでは定義が困難であることが示唆された。
  論文  参考訳（メタデータ） (2020-06-18T03:19:43Z)
• GCC: Graph Contrastive Coding for Graph Neural Network Pre-Training [62.73470368851127]
  グラフ表現学習は現実世界の問題に対処する強力な手法として登場した。 自己教師付きグラフニューラルネットワーク事前トレーニングフレームワークであるGraph Contrastive Codingを設計する。 3つのグラフ学習タスクと10のグラフデータセットについて実験を行った。
  論文  参考訳（メタデータ） (2020-06-17T16:18:35Z)
• Principal Neighbourhood Aggregation for Graph Nets [4.339839287869653]
  グラフニューラルネットワーク(GNN)は、グラフ構造化データ上の様々な予測タスクに有効なモデルであることが示されている。 表現力に関する最近の研究は同型タスクと可算特徴空間に焦点を当てている。 我々はこの理論フレームワークを拡張し、現実世界の入力領域で定期的に発生する連続的な特徴を含める。
  論文  参考訳（メタデータ） (2020-04-12T23:30:00Z)
• Goal-directed graph construction using reinforcement learning [3.291429094499946]
  我々は、中央エージェントが試行錯誤によってトポロジを生成する決定過程としてグラフの構築を定式化する。 グラフ構築と改善戦略を学習するための強化学習とグラフニューラルネットワークに基づくアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-01-30T12:11:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。