論文の概要: Towards Graph Foundation Models: A Survey and Beyond
- arxiv url: http://arxiv.org/abs/2310.11829v1
- Date: Wed, 18 Oct 2023 09:31:21 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-19 17:06:29.615769
- Title: Towards Graph Foundation Models: A Survey and Beyond
- Title(参考訳): グラフファウンデーションモデルに向けて:サーベイとその先
- Authors: Jiawei Liu, Cheng Yang, Zhiyuan Lu, Junze Chen, Yibo Li, Mengmei
Zhang, Ting Bai, Yuan Fang, Lichao Sun, Philip S. Yu, and Chuan Shi
- Abstract要約: グラフ基礎モデル(GFM)は、多様な人工知能アプリケーションのためのブロックを構築している。
この記事では、その重要な特徴と技術について、初めて包括的に解明する。
我々は,GFMに対する既存の研究を,グラフニューラルネットワークと大規模言語モデルに依存する3つのカテゴリに分類する。
- 参考スコア(独自算出の注目度): 66.37994863159861
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Emerging as fundamental building blocks for diverse artificial intelligence
applications, foundation models have achieved notable success across natural
language processing and many other domains. Parallelly, graph machine learning
has witnessed a transformative shift, with shallow methods giving way to deep
learning approaches. The emergence and homogenization capabilities of
foundation models have piqued the interest of graph machine learning
researchers, sparking discussions about developing the next graph learning
paradigm that is pre-trained on broad graph data and can be adapted to a wide
range of downstream graph tasks. However, there is currently no clear
definition and systematic analysis for this type of work. In this article, we
propose the concept of graph foundation models (GFMs), and provide the first
comprehensive elucidation on their key characteristics and technologies.
Following that, we categorize existing works towards GFMs into three categories
based on their reliance on graph neural networks and large language models.
Beyond providing a comprehensive overview of the current landscape of graph
foundation models, this article also discusses potential research directions
for this evolving field.
- Abstract(参考訳): 多様な人工知能アプリケーションの基本構成要素として登場し、基礎モデルは自然言語処理や他の多くの領域で顕著な成功を収めてきた。
グラフ機械学習(Graph Machine learning, グラフ機械学習)は、進化的なシフトを目の当たりにしている。
基礎モデルの出現と均質化能力は、グラフ機械学習研究者の関心を喚起し、幅広いグラフデータに基づいて事前訓練され、幅広い下流グラフタスクに適応できる次のグラフ学習パラダイムの開発に関する議論を巻き起こした。
しかし、現時点ではこの種の作業について明確な定義や体系的な分析はされていない。
本稿では,グラフ基礎モデル(gfms)の概念を提案し,その鍵となる特性と技術について,最初の包括的解明を行う。
その後、グラフニューラルネットワークと大規模言語モデルに依存したGFMに対する既存の研究を3つのカテゴリに分類する。
グラフ基盤モデルの現在の展望を包括的に概観するだけでなく、この進化する分野の潜在的研究方向性についても論じる。
関連論文リスト
- From Pixels to Insights: A Survey on Automatic Chart Understanding in the Era of Large Foundation Models [98.41645229835493]
グラフ形式のデータの可視化は、データ分析において重要な役割を担い、重要な洞察を提供し、情報的な意思決定を支援する。
大規模言語モデルのような大規模な基盤モデルは、様々な自然言語処理タスクに革命をもたらした。
本研究は,自然言語処理,コンピュータビジョン,データ解析の分野における研究者や実践者の包括的資源として機能する。
論文 参考訳(メタデータ) (2024-03-18T17:57:09Z) - Graph Foundation Models [55.758728311735645]
Graph Foundation Model (GFM)は、グラフ領域における新しいトレンド研究トピックである。
GFMを構築する上で重要な課題は、さまざまな構造パターンを持つグラフ間でポジティブな転送を可能にする方法である。
我々は「グラフ語彙」を提唱するGFM開発のための新しい視点を提案する。
論文 参考訳(メタデータ) (2024-02-03T17:24:36Z) - A Survey of Data-Efficient Graph Learning [16.858948228451474]
研究フロンティアとして,データ効率グラフ学習(DEGL)の新たな概念を紹介した。
我々は、自己教師付きグラフ学習、半教師付きグラフ学習、少数ショットグラフ学習など、いくつかの重要な側面に関する最近の進歩を体系的にレビューした。
論文 参考訳(メタデータ) (2024-02-01T09:28:48Z) - The Expressive Power of Graph Neural Networks: A Survey [9.08607528905173]
定義の異なる表現力向上モデルに関する第1回調査を行う。
モデルは、グラフ機能拡張、グラフトポロジ拡張、GNNアーキテクチャ拡張という3つのカテゴリに基づいてレビューされる。
論文 参考訳(メタデータ) (2023-08-16T09:12:21Z) - Deep learning for dynamic graphs: models and benchmarks [16.851689741256912]
近年,Deep Graph Networks (DGNs) の研究が進展し,グラフ上の学習領域が成熟した。
この研究分野の成長にもかかわらず、まだ解決されていない重要な課題がまだ残っている。
論文 参考訳(メタデータ) (2023-07-12T12:02:36Z) - State of the Art and Potentialities of Graph-level Learning [54.68482109186052]
グラフレベルの学習は、比較、回帰、分類など、多くのタスクに適用されている。
グラフの集合を学習する伝統的なアプローチは、サブストラクチャのような手作りの特徴に依存している。
ディープラーニングは、機能を自動的に抽出し、グラフを低次元表現に符号化することで、グラフレベルの学習をグラフの規模に適応させるのに役立っている。
論文 参考訳(メタデータ) (2023-01-14T09:15:49Z) - Bayesian Deep Learning for Graphs [6.497816402045099]
論文は、この分野のほとんどのメソッドが構築される原則のレビューから始まり、続いてグラフ分類問題の研究が続く。
そこから、ディープアーキテクチャを漸進的に構築することで、グラフのディープラーニングに関する基本的なアイデアをベイジアンの世界に橋渡しします。
このフレームワークにより、離散的かつ連続的なエッジ特徴を持つグラフを考慮し、いくつかの分類タスクで最先端に達するのに十分な教師なしの埋め込みを生成することができる。
論文 参考訳(メタデータ) (2022-02-24T20:18:41Z) - Towards Deeper Graph Neural Networks [63.46470695525957]
グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。
いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。
本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
論文 参考訳(メタデータ) (2020-07-18T01:11:14Z) - GCC: Graph Contrastive Coding for Graph Neural Network Pre-Training [62.73470368851127]
グラフ表現学習は現実世界の問題に対処する強力な手法として登場した。
自己教師付きグラフニューラルネットワーク事前トレーニングフレームワークであるGraph Contrastive Codingを設計する。
3つのグラフ学習タスクと10のグラフデータセットについて実験を行った。
論文 参考訳(メタデータ) (2020-06-17T16:18:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。