論文の概要: Towards Graph Foundation Models: The Perspective of Zero-shot Reasoning on Knowledge Graphs

• arxiv url: http://arxiv.org/abs/2410.12609v1
• Date: Wed, 16 Oct 2024 14:26:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-17 13:43:39.717657
• Title: Towards Graph Foundation Models: The Perspective of Zero-shot Reasoning on Knowledge Graphs
• Title（参考訳）: グラフ基礎モデルに向けて:知識グラフにおけるゼロショット推論の展望
• Authors: Kai Wang, Siqiang Luo,
• Abstract要約: 我々は、ゼロショット学習を用いて、多様なグラフタスクを効果的に一般化する統合グラフ推論フレームワークSCOREを紹介する。 SCOREを38種類のグラフデータセットを用いて評価し、ノードレベル、リンクレベル、グラフレベルのタスクを複数のドメインでカバーする。
• 参考スコア（独自算出の注目度）: 14.392577069212292
• License:
• Abstract: Inspired by the success of artificial general intelligence, there is a trend towards developing Graph Foundation Models that excel in generalization across various graph tasks and domains. However, current models often require extensive training or fine-tuning to capture structural and semantic insights on new graphs, which limits their versatility. In this work, we explore graph foundation models from the perspective of zero-shot reasoning on Knowledge Graphs (KGs). Our focus is on utilizing KGs as a unified topological structure to tackle diverse tasks, while addressing semantic isolation challenges in KG reasoning to effectively integrate diverse semantic and structural features. This brings us new methodological insights into KG reasoning, as well as high generalizability towards foundation models in practice. Methodologically, we introduce SCORE, a unified graph reasoning framework that effectively generalizes diverse graph tasks using zero-shot learning. At the core of SCORE is semantic conditional message passing, a technique designed to capture both structural and semantic invariances in graphs, with theoretical backing for its expressive power. Practically, we evaluate the zero-shot reasoning capability of SCORE using 38 diverse graph datasets, covering node-level, link-level, and graph-level tasks across multiple domains. Our experiments reveal a substantial performance improvement over prior foundation models and supervised baselines, highlighting the efficacy and adaptability of our approach.
• Abstract（参考訳）: 人工知能の成功に触発されて、様々なグラフタスクやドメインにまたがる一般化に優れるグラフ基礎モデルの開発が進んでいる。 しかしながら、現在のモデルは、新しいグラフの構造的および意味的な洞察を捉え、その汎用性を制限するために、広範囲なトレーニングや微調整を必要とすることが多い。 本研究では,知識グラフ(KG)のゼロショット推論の観点から,グラフ基礎モデルについて検討する。 我々は,KGを統一的なトポロジ構造として活用して多様な課題に対処するとともに,多様な意味的特徴と構造的特徴を効果的に統合するKG推論における意味的分離課題に対処することに注力している。 これにより、KG推論に対する新たな方法論的洞察と、実際に基礎モデルに対する高い一般化性が得られます。 本稿では,ゼロショット学習を用いた多種多様なグラフタスクを効果的に一般化する統合グラフ推論フレームワークSCOREを紹介する。 SCOREのコアとなる意味的条件付きメッセージパッシングは、グラフの構造的不変性と意味的不変性の両方を捉え、その表現力の理論的裏付けとして設計されている。 実際に,38種類のグラフデータセットを用いてSCOREのゼロショット推論能力を評価し,ノードレベル,リンクレベル,グラフレベルのタスクを複数領域にわたってカバーした。 提案実験は,従来の基礎モデルと教師付きベースラインよりも大幅な性能向上を示し,アプローチの有効性と適応性を強調した。

関連論文リスト

• Revisiting Graph Neural Networks on Graph-level Tasks: Comprehensive Experiments, Analysis, and Improvements [54.006506479865344]
  グラフレベルグラフニューラルネットワーク(GNN)のための統一評価フレームワークを提案する。 このフレームワークは、さまざまなデータセットにわたるGNNを評価するための標準化された設定を提供する。 また,表現性の向上と一般化機能を備えた新しいGNNモデルを提案する。
  論文  参考訳（メタデータ） (2025-01-01T08:48:53Z)
• Towards Graph Foundation Models: Learning Generalities Across Graphs via Task-Trees [50.78679002846741]
  グラフにおけるクロスタスクの一般性を学習するための新しいアプローチを提案する。 グラフ上のタスク空間を整列させるための基本的な学習インスタンスとしてタスクツリーを提案する。 その結果,グラフニューラルネットワークが多種多様なタスクツリーで事前訓練された場合,伝達可能な知識を取得することが示唆された。
  論文  参考訳（メタデータ） (2024-12-21T02:07:43Z)
• Expressivity of Representation Learning on Continuous-Time Dynamic Graphs: An Information-Flow Centric Review [2.310679096120274]
  本稿では,連続時間動的グラフ(CTDG)モデルにおけるグラフ表現学習(GRL)について概観する。 本稿では,情報フロー(IF)レンズを用いてCTDGモデルの表現性を解析する新しい理論フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-12-05T00:12:50Z)
• Towards Data-centric Machine Learning on Directed Graphs: a Survey [23.498557237805414]
  本稿では,有向グラフ学習研究のための新しい分類法を提案する。 我々はこれらの手法をデータ中心の観点から再検討し、データ表現の理解と改善に重点を置いている。 我々はこの分野における主要な機会と課題を特定し、有向グラフ学習における将来の研究と開発を導く洞察を提供する。
  論文  参考訳（メタデータ） (2024-11-28T06:09:12Z)
• A Hierarchical Language Model For Interpretable Graph Reasoning [47.460255447561906]
  ノード中心の局所情報と相互作用中心のグローバル構造を捉えるために2ブロックアーキテクチャを用いる階層型グラフ言語モデル(HLM-G)を導入する。 提案手法は,大規模グラフ処理における計算コストを削減しつつ,高い効率性,効率性,ロバスト性で様々なグラフクエリに対処することを可能にする。 多様なグラフ推論およびノード,リンク,グラフレベルの実世界のタスクに対する総合的な評価は,本手法の優位性を強調している。
  論文  参考訳（メタデータ） (2024-10-29T00:28:02Z)
• Foundations and Frontiers of Graph Learning Theory [81.39078977407719]
  グラフ学習の最近の進歩は、複雑な構造を持つデータを理解し分析する方法に革命をもたらした。 グラフニューラルネットワーク(GNN)、すなわちグラフ表現を学習するために設計されたニューラルネットワークアーキテクチャは、一般的なパラダイムとなっている。 本稿では,グラフ学習モデルに固有の近似と学習行動に関する理論的基礎とブレークスルーについて概説する。
  論文  参考訳（メタデータ） (2024-07-03T14:07:41Z)
• Towards Graph Foundation Models: A Survey and Beyond [66.37994863159861]
  ファンデーションモデルは、さまざまな人工知能アプリケーションにおいて重要なコンポーネントとして現れてきた。 基礎モデルがグラフ機械学習研究者を一般化し、適応させる能力は、新しいグラフ学習パラダイムを開発する可能性について議論する。 本稿では,グラフ基礎モデル(GFM)の概念を紹介し,その重要な特徴と基礎技術について概説する。
  論文  参考訳（メタデータ） (2023-10-18T09:31:21Z)
• Group Contrastive Self-Supervised Learning on Graphs [101.45974132613293]
  グラフ上での自己教師型学習をコントラッシブ手法を用いて研究する。 複数の部分空間におけるグラフの対比により、グラフエンコーダはより豊富な特徴を捉えることができる。
  論文  参考訳（メタデータ） (2021-07-20T22:09:21Z)
• Quantifying Challenges in the Application of Graph Representation Learning [0.0]
  私たちは、一般的な埋め込みアプローチのセットに対して、アプリケーション指向の視点を提供します。 実世界のグラフ特性に関する表現力を評価する。 GRLアプローチは現実のシナリオでは定義が困難であることが示唆された。
  論文  参考訳（メタデータ） (2020-06-18T03:19:43Z)
• GCC: Graph Contrastive Coding for Graph Neural Network Pre-Training [62.73470368851127]
  グラフ表現学習は現実世界の問題に対処する強力な手法として登場した。 自己教師付きグラフニューラルネットワーク事前トレーニングフレームワークであるGraph Contrastive Codingを設計する。 3つのグラフ学習タスクと10のグラフデータセットについて実験を行った。
  論文  参考訳（メタデータ） (2020-06-17T16:18:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。