論文の概要: Towards Graph Foundation Models: A Survey and Beyond
- arxiv url: http://arxiv.org/abs/2310.11829v2
- Date: Sat, 2 Dec 2023 08:36:17 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-05 21:46:29.637561
- Title: Towards Graph Foundation Models: A Survey and Beyond
- Title(参考訳): グラフファウンデーションモデルに向けて:サーベイとその先
- Authors: Jiawei Liu, Cheng Yang, Zhiyuan Lu, Junze Chen, Yibo Li, Mengmei
Zhang, Ting Bai, Yuan Fang, Lichao Sun, Philip S. Yu, Chuan Shi
- Abstract要約: ファンデーションモデルは、さまざまな人工知能アプリケーションにおいて重要なコンポーネントとして現れてきた。
基礎モデルがグラフ機械学習研究者を一般化し、適応させる能力は、新しいグラフ学習パラダイムを開発する可能性について議論する。
本稿では,グラフ基礎モデル(GFM)の概念を紹介し,その重要な特徴と基礎技術について概説する。
- 参考スコア(独自算出の注目度): 68.35562541338865
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Foundation models have emerged as critical components in a variety of
artificial intelligence applications, and showcase significant success in
natural language processing and several other domains. Meanwhile, the field of
graph machine learning is witnessing a paradigm transition from shallow methods
to more sophisticated deep learning approaches. The capabilities of foundation
models to generalize and adapt motivate graph machine learning researchers to
discuss the potential of developing a new graph learning paradigm. This
paradigm envisions models that are pre-trained on extensive graph data and can
be adapted for various graph tasks. Despite this burgeoning interest, there is
a noticeable lack of clear definitions and systematic analyses pertaining to
this new domain. To this end, this article introduces the concept of Graph
Foundation Models (GFMs), and offers an exhaustive explanation of their key
characteristics and underlying technologies. We proceed to classify the
existing work related to GFMs into three distinct categories, based on their
dependence on graph neural networks and large language models. In addition to
providing a thorough review of the current state of GFMs, this article also
outlooks potential avenues for future research in this rapidly evolving domain.
- Abstract(参考訳): ファウンデーションモデルは、さまざまな人工知能アプリケーションにおいて重要なコンポーネントとして登場し、自然言語処理やその他のドメインで大きな成功を収めている。
一方、グラフ機械学習の分野は、浅い手法からより高度なディープラーニングアプローチへのパラダイム移行を目撃している。
モチベーショングラフ機械学習研究者を一般化し、適応させる基盤モデルの能力は、新しいグラフ学習パラダイムの開発の可能性について議論する。
このパラダイムは、広範囲のグラフデータで事前学習され、様々なグラフタスクに適応できるモデルを想定している。
この急成長する関心にもかかわらず、この新しい領域に関する明確な定義と体系的な分析の欠如は顕著である。
本稿では,グラフ基礎モデル(GFM)の概念を紹介し,その重要な特徴と基礎技術について概説する。
本稿では,GFMに関連する既存の研究を,グラフニューラルネットワークと大規模言語モデルに依存する3つのカテゴリに分類する。
本稿では, GFMの現状を概観するとともに, この急速に発展する領域における今後の研究の道のりを概観する。
関連論文リスト
- Graph Foundation Models [55.758728311735645]
Graph Foundation Model (GFM)は、グラフ領域における新しいトレンド研究トピックである。
GFMを構築する上で重要な課題は、さまざまな構造パターンを持つグラフ間でポジティブな転送を可能にする方法である。
我々は「グラフ語彙」を提唱するGFM開発のための新しい視点を提案する。
論文 参考訳(メタデータ) (2024-02-03T17:24:36Z) - A Survey of Data-Efficient Graph Learning [16.858948228451474]
研究フロンティアとして,データ効率グラフ学習(DEGL)の新たな概念を紹介した。
我々は、自己教師付きグラフ学習、半教師付きグラフ学習、少数ショットグラフ学習など、いくつかの重要な側面に関する最近の進歩を体系的にレビューした。
論文 参考訳(メタデータ) (2024-02-01T09:28:48Z) - The Expressive Power of Graph Neural Networks: A Survey [9.08607528905173]
定義の異なる表現力向上モデルに関する第1回調査を行う。
モデルは、グラフ機能拡張、グラフトポロジ拡張、GNNアーキテクチャ拡張という3つのカテゴリに基づいてレビューされる。
論文 参考訳(メタデータ) (2023-08-16T09:12:21Z) - Deep learning for dynamic graphs: models and benchmarks [19.908039059072316]
近年,Deep Graph Networks (DGNs) の研究が進展し,グラフ上の学習領域が成熟した。
この研究分野の成長にもかかわらず、まだ解決されていない重要な課題がまだ残っている。
論文 参考訳(メタデータ) (2023-07-12T12:02:36Z) - State of the Art and Potentialities of Graph-level Learning [54.68482109186052]
グラフレベルの学習は、比較、回帰、分類など、多くのタスクに適用されている。
グラフの集合を学習する伝統的なアプローチは、サブストラクチャのような手作りの特徴に依存している。
ディープラーニングは、機能を自動的に抽出し、グラフを低次元表現に符号化することで、グラフレベルの学習をグラフの規模に適応させるのに役立っている。
論文 参考訳(メタデータ) (2023-01-14T09:15:49Z) - Graph Pooling for Graph Neural Networks: Progress, Challenges, and
Opportunities [128.55790219377315]
グラフニューラルネットワークは多くのグラフレベルのタスクの主要なアーキテクチャとして登場した。
グラフプーリングは、グラフ全体の全体的グラフレベル表現を得るためには不可欠である。
論文 参考訳(メタデータ) (2022-04-15T04:02:06Z) - Bayesian Deep Learning for Graphs [6.497816402045099]
論文は、この分野のほとんどのメソッドが構築される原則のレビューから始まり、続いてグラフ分類問題の研究が続く。
そこから、ディープアーキテクチャを漸進的に構築することで、グラフのディープラーニングに関する基本的なアイデアをベイジアンの世界に橋渡しします。
このフレームワークにより、離散的かつ連続的なエッジ特徴を持つグラフを考慮し、いくつかの分類タスクで最先端に達するのに十分な教師なしの埋め込みを生成することができる。
論文 参考訳(メタデータ) (2022-02-24T20:18:41Z) - Towards Deeper Graph Neural Networks [63.46470695525957]
グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。
いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。
本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
論文 参考訳(メタデータ) (2020-07-18T01:11:14Z) - GCC: Graph Contrastive Coding for Graph Neural Network Pre-Training [62.73470368851127]
グラフ表現学習は現実世界の問題に対処する強力な手法として登場した。
自己教師付きグラフニューラルネットワーク事前トレーニングフレームワークであるGraph Contrastive Codingを設計する。
3つのグラフ学習タスクと10のグラフデータセットについて実験を行った。
論文 参考訳(メタデータ) (2020-06-17T16:18:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。