論文の概要: Curriculum Learning for Graph Neural Networks: A Multiview Competence-based Approach

• arxiv url: http://arxiv.org/abs/2307.08859v1
• Date: Mon, 17 Jul 2023 21:33:35 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-19 17:10:26.247062
• Title: Curriculum Learning for Graph Neural Networks: A Multiview Competence-based Approach
• Title（参考訳）: グラフニューラルネットワークのカリキュラム学習 : 多視点コンピテンスに基づくアプローチ
• Authors: Nidhi Vakil and Hadi Amiri
• Abstract要約: 本稿では,グラフ複雑性形式に基づく新しいアプローチを導入することで,カリキュラム学習の新しい視点を提案する。 提案手法は,グラフの難易度基準のきめ細かいスペクトルを組み込んだグラフニューラルネットワークのカリキュラム学習において,既存の研究を推し進めるものである。
• 参考スコア（独自算出の注目度）: 12.335698325757491
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A curriculum is a planned sequence of learning materials and an effective one can make learning efficient and effective for both humans and machines. Recent studies developed effective data-driven curriculum learning approaches for training graph neural networks in language applications. However, existing curriculum learning approaches often employ a single criterion of difficulty in their training paradigms. In this paper, we propose a new perspective on curriculum learning by introducing a novel approach that builds on graph complexity formalisms (as difficulty criteria) and model competence during training. The model consists of a scheduling scheme which derives effective curricula by accounting for different views of sample difficulty and model competence during training. The proposed solution advances existing research in curriculum learning for graph neural networks with the ability to incorporate a fine-grained spectrum of graph difficulty criteria in their training paradigms. Experimental results on real-world link prediction and node classification tasks illustrate the effectiveness of the proposed approach.
• Abstract（参考訳）: カリキュラムは、計画された学習教材のシリーズであり、学習を人間と機械の両方で効率的かつ効果的にすることができる。 最近の研究は、言語応用におけるグラフニューラルネットワークを訓練するための効果的なデータ駆動カリキュラム学習手法を開発した。 しかし、既存のカリキュラム学習アプローチでは、トレーニングパラダイムにおいて困難を単一の基準で定義することが多い。 本稿では,(難易度基準として)グラフ複雑性形式と学習時のモデル能力に基づく新しいアプローチを導入することで,カリキュラム学習の新しい視点を提案する。 モデルは,学習中のサンプル難易度とモデルの能力の異なる視点を考慮し,効果的なカリキュラムを導出するスケジューリングスキームからなる。 提案手法は、グラフニューラルネットワークのカリキュラム学習における既存の研究を前進させ、グラフの難易度基準の細かいスペクトルを学習パラダイムに組み込むことができる。 実世界のリンク予測とノード分類タスクの実験結果は,提案手法の有効性を示す。

関連論文リスト

• Dynamic Task and Weight Prioritization Curriculum Learning for Multimodal Imagery [0.5439020425819]
  本稿では,カリキュラム学習法を訓練したマルチモーダル深層学習モデルを用いたディザスタ後の分析について検討する。 カリキュラム学習は、ますます複雑なデータに基づいてディープラーニングモデルを訓練することにより、人間の教育における進歩的な学習シーケンスをエミュレートする。
  論文  参考訳（メタデータ） (2023-10-29T18:46:33Z)
• NEVIS'22: A Stream of 100 Tasks Sampled from 30 Years of Computer Vision Research [96.53307645791179]
  我々は,100以上の視覚的分類タスクのストリームからなるベンチマークであるNever-Ending VIsual-classification Stream (NEVIS'22)を紹介する。 分類に制限されているにもかかわらず、OCR、テクスチャ分析、シーン認識など、様々なタスクが生成される。 NEVIS'22は、タスクの規模と多様性のために、現在のシーケンシャルな学習アプローチに対して前例のない課題を提起している。
  論文  参考訳（メタデータ） (2022-11-15T18:57:46Z)
• What Makes Good Contrastive Learning on Small-Scale Wearable-based Tasks? [59.51457877578138]
  本研究では,ウェアラブル型行動認識タスクにおけるコントラスト学習について検討する。 本稿では,PyTorchライブラリのtextttCL-HAR について述べる。
  論文  参考訳（メタデータ） (2022-02-12T06:10:15Z)
• Budget-aware Few-shot Learning via Graph Convolutional Network [56.41899553037247]
  本稿では,いくつかの例から新しい視覚概念を学習することを目的とした,数ショット学習の課題に取り組む。 数ショット分類における一般的な問題設定は、データラベルの取得においてランダムサンプリング戦略を前提としている。 そこで我々は,新しい対象カテゴリーの学習を目的とした,予算に配慮した数発の学習問題を新たに導入する。
  論文  参考訳（メタデータ） (2022-01-07T02:46:35Z)
• Statistical Measures For Defining Curriculum Scoring Function [5.328970912536596]
  実画像データセット上での畳み込みニューラルネットワークとフルコネクテッドニューラルネットワークの性能向上を示します。 暗黙のカリキュラム順序からの洞察に動機づけられ,簡単なカリキュラム学習戦略を導入する。 また,動的カリキュラム学習アルゴリズムの性能について提案・検討する。
  論文  参考訳（メタデータ） (2021-02-27T07:25:49Z)
• Curriculum Learning: A Survey [65.31516318260759]
  カリキュラム学習戦略は、機械学習のあらゆる分野で成功している。 我々は,様々な分類基準を考慮して,カリキュラム学習アプローチの分類を手作業で構築する。 集約型クラスタリングアルゴリズムを用いて,カリキュラム学習手法の階層木を構築する。
  論文  参考訳（メタデータ） (2021-01-25T20:08:32Z)
• Graph-Based Neural Network Models with Multiple Self-Supervised Auxiliary Tasks [79.28094304325116]
  グラフ畳み込みネットワークは、構造化されたデータポイント間の関係をキャプチャするための最も有望なアプローチである。 マルチタスク方式でグラフベースニューラルネットワークモデルを学習するための3つの新しい自己教師付き補助タスクを提案する。
  論文  参考訳（メタデータ） (2020-11-14T11:09:51Z)
• Dynamic Data Selection for Curriculum Learning via Ability Estimation [6.255759848576057]
  難易度を学習難易度パラメータで置き換えることを提案する。 また,能力推定によるカリキュラム学習のための動的選択を提案する。 GLUE分類タスクにおいて、学習難易度および/または能力を用いたモデルは、データに基づくカリキュラム学習モデルより優れていることを示す。
  論文  参考訳（メタデータ） (2020-10-30T20:01:56Z)
• Curriculum Learning with Diversity for Supervised Computer Vision Tasks [1.5229257192293197]
  本稿では,学習データの多様性と入力の難しさを考慮に入れた,新たなカリキュラムサンプリング戦略を提案する。 我々は、我々の戦略が不均衡なデータセットに対して非常に効率的であることを証明し、より高速な収束とより正確な結果をもたらす。
  論文  参考訳（メタデータ） (2020-09-22T15:32:49Z)
• A Competence-aware Curriculum for Visual Concepts Learning via Question Answering [95.35905804211698]
  本稿では,視覚概念学習のための質問応答型カリキュラムを提案する。 視覚概念を学習するためのニューラルシンボリックな概念学習者と学習プロセスを導くための多次元項目応答理論(mIRT)モデルを設計する。 CLEVRの実験結果から,コンピテンスを意識したカリキュラムにより,提案手法は最先端のパフォーマンスを実現することが示された。
  論文  参考訳（メタデータ） (2020-07-03T05:08:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。