論文の概要: A Survey of Graph Prompting Methods: Techniques, Applications, and
Challenges
- arxiv url: http://arxiv.org/abs/2303.07275v1
- Date: Mon, 13 Mar 2023 16:49:43 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-14 13:57:57.132812
- Title: A Survey of Graph Prompting Methods: Techniques, Applications, and
Challenges
- Title（参考訳）: グラフプロンプト手法に関する調査:技術,応用,課題
- Authors: Xuansheng Wu, Kaixiong Zhou, Mingchen Sun, Xin Wang, Ninghao Liu
- Abstract要約: 限定ラベル付きデータを用いたモデル一般化能力の向上を目的として,事前学習,即時予測の新たな訓練パラダイムが提案されている。
この調査は構造化グラフ間のギャップを埋め、将来の方法論開発を促進するために設計を促す試みである。
- 参考スコア（独自算出の注目度）: 25.32529044997131
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: While deep learning has achieved great success on various tasks, the
task-specific model training notoriously relies on a large volume of labeled
data. Recently, a new training paradigm of ``pre-train, prompt, predict'' has
been proposed to improve model generalization ability with limited labeled
data. The main idea is that, based on a pre-trained model, the prompting
function uses a template to augment input samples with indicative context and
reformalizes the target task to one of the pre-training tasks. In this survey,
we provide a unique review of prompting methods from the graph perspective.
Graph data has served as structured knowledge repositories in various systems
by explicitly modeling the interaction between entities. Compared with
traditional methods, graph prompting functions could induce task-related
context and apply templates with structured knowledge. The pre-trained model is
then adaptively generalized for future samples. In particular, we introduce the
basic concepts of graph prompt learning, organize the existing work of
designing graph prompting functions, and describe their applications and
challenges to a variety of machine learning problems. This survey attempts to
bridge the gap between structured graphs and prompt design to facilitate future
methodology development.
- Abstract（参考訳）: ディープラーニングはさまざまなタスクで大きな成功を収めていますが、タスク固有のモデルのトレーニングは大量のラベル付きデータに依存しています。
近年,限定ラベルデータを用いたモデル一般化能力向上のために, ‘pre-train, prompt, predict’' という新たなトレーニングパラダイムが提案されている。
主なアイデアは、事前学習されたモデルに基づいて、プロンプト関数はテンプレートを使用して入力サンプルを指示的コンテキストで拡張し、対象タスクを事前学習タスクの1つに再構成する。
本稿では,グラフの観点からのプロンプト手法の独特なレビューを行う。
グラフデータは、エンティティ間のインタラクションを明示的にモデル化することで、さまざまなシステムで構造化された知識リポジトリとして機能する。
従来の手法と比較して、グラフプロンプト関数はタスク関連のコンテキストを誘導し、構造化された知識を持つテンプレートを適用することができる。
事前学習されたモデルは、将来のサンプルに対して適応的に一般化される。
特に,グラフプロンプト学習の基本概念,グラフプロンプト関数の設計に関する既存の作業の整理,さまざまな機械学習問題に対するそれらの応用と課題について述べる。
この調査は構造化グラフ間のギャップを埋め、将来の方法論開発を促進するために設計を促す試みである。
関連論文リスト
- Towards Graph Prompt Learning: A Survey and Beyond [38.55555996765227]
大規模"事前訓練と迅速な学習"パラダイムは、顕著な適応性を示している。
この調査は、この分野における100以上の関連する研究を分類し、一般的な設計原則と最新の応用を要約する。
論文 参考訳（メタデータ） (2024-08-26T06:36:42Z) - ProG: A Graph Prompt Learning Benchmark [17.229372585695092]
グラフプロンプト学習が「プレトレイン・ファインチューン」に代わる有望な選択肢として登場
グラフプロンプト学習のための総合ベンチマークを初めて導入する。
本稿では,さまざまなグラフプロンプトモデルの実行を合理化する,使いやすいオープンソースライブラリである'ProG'を紹介する。
論文 参考訳（メタデータ） (2024-06-08T04:17:48Z) - Generalized Graph Prompt: Toward a Unification of Pre-Training and Downstream Tasks on Graphs [20.406549548630156]
GraphPromptは、グラフに関する新しい事前トレーニングおよびプロンプトフレームワークである。
トレーニング済みタスクとダウンストリームタスクを共通タスクテンプレートに統合する。
また、学習可能なプロンプトを使用して、トレーニング済みモデルから最も関連性の高い知識を見つけるために、下流タスクを支援する。
論文 参考訳（メタデータ） (2023-11-26T14:35:28Z) - Deep Prompt Tuning for Graph Transformers [55.2480439325792]
ファインチューニングはリソース集約型であり、大きなモデルのコピーを複数保存する必要がある。
ファインチューニングの代替として,ディープグラフプロンプトチューニングと呼ばれる新しい手法を提案する。
事前学習したパラメータを凍結し、追加したトークンのみを更新することにより、フリーパラメータの数を減らし、複数のモデルコピーを不要にする。
論文 参考訳（メタデータ） (2023-09-18T20:12:17Z) - All in One: Multi-task Prompting for Graph Neural Networks [30.457491401821652]
本稿では,グラフモデルのための新しいマルチタスクプロンプト手法を提案する。
まず、グラフプロンプトと言語プロンプトのフォーマットを、プロンプトトークン、トークン構造、挿入パターンで統一する。
次に、様々なグラフアプリケーションのタスク空間を調査し、下流の問題をグラフレベルのタスクに再構成する。
論文 参考訳（メタデータ） (2023-07-04T06:27:31Z) - Unsupervised Task Graph Generation from Instructional Video Transcripts [53.54435048879365]
本研究では,実世界の活動を行う指導ビデオのテキスト書き起こしを提供する環境について考察する。
目標は、これらの重要なステップ間の依存関係関係と同様に、タスクに関連する重要なステップを特定することです。
本稿では,命令調整言語モデルの推論能力とクラスタリングとランキングコンポーネントを組み合わせたタスクグラフ生成手法を提案する。
論文 参考訳（メタデータ） (2023-02-17T22:50:08Z) - GraphPrompt: Unifying Pre-Training and Downstream Tasks for Graph Neural
Networks [16.455234748896157]
GraphPromptは、グラフに関する新しい事前トレーニングおよびプロンプトフレームワークである。
トレーニング済みタスクとダウンストリームタスクを共通タスクテンプレートに統合する。
また、トレーニング前のモデルから最も関連性の高い知識を見つけるために、下流タスクを支援するための学習可能なプロンプトも採用している。
論文 参考訳（メタデータ） (2023-02-16T02:51:38Z) - State of the Art and Potentialities of Graph-level Learning [54.68482109186052]
グラフレベルの学習は、比較、回帰、分類など、多くのタスクに適用されている。
グラフの集合を学習する伝統的なアプローチは、サブストラクチャのような手作りの特徴に依存している。
ディープラーニングは、機能を自動的に抽出し、グラフを低次元表現に符号化することで、グラフレベルの学習をグラフの規模に適応させるのに役立っている。
論文 参考訳（メタデータ） (2023-01-14T09:15:49Z) - Graph Pooling for Graph Neural Networks: Progress, Challenges, and
Opportunities [128.55790219377315]
グラフニューラルネットワークは多くのグラフレベルのタスクの主要なアーキテクチャとして登場した。
グラフプーリングは、グラフ全体の全体的グラフレベル表現を得るためには不可欠である。
論文 参考訳（メタデータ） (2022-04-15T04:02:06Z) - Data Augmentation for Deep Graph Learning: A Survey [66.04015540536027]
まず,グラフデータ拡張のための分類法を提案し,その拡張情報モダリティに基づいて関連研究を分類し,構造化されたレビューを提供する。
DGLにおける2つの課題(すなわち、最適グラフ学習と低リソースグラフ学習)に焦点を当て、グラフデータ拡張に基づく既存の学習パラダイムについて議論し、レビューする。
論文 参考訳（メタデータ） (2022-02-16T18:30:33Z) - GraphOpt: Learning Optimization Models of Graph Formation [72.75384705298303]
本稿では,グラフ構造形成の暗黙的モデルを学ぶエンドツーエンドフレームワークを提案し,その基盤となる最適化機構を明らかにする。
学習した目的は、観測されたグラフプロパティの説明として機能し、ドメイン内の異なるグラフを渡すために自分自身を貸すことができる。
GraphOptは、グラフ内のリンク生成をシーケンシャルな意思決定プロセスとして、最大エントロピー逆強化学習アルゴリズムを用いて解決する。
論文 参考訳（メタデータ） (2020-07-07T16:51:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。