論文の概要: Uniform Sampling over Episode Difficulty

• arxiv url: http://arxiv.org/abs/2108.01662v1
• Date: Tue, 3 Aug 2021 17:58:54 GMT
• ステータス: 処理完了
• システム内更新日: 2021-08-04 14:35:21.716761
• Title: Uniform Sampling over Episode Difficulty
• Title（参考訳）: エピソード困難に対する一様サンプリング
• Authors: S\'ebastien M. R. Arnold, Guneet S. Dhillon, Avinash Ravichandran, Stefano Soatto
• Abstract要約: 本稿では,その難易度に基づいて,エピソードサンプリング分布を近似する手法を提案する。 提案手法はアルゴリズムに依存しないため,これらの知見を利用して数発の学習精度を向上させることができる。
• 参考スコア（独自算出の注目度）: 55.067544082168624
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Episodic training is a core ingredient of few-shot learning to train models on tasks with limited labelled data. Despite its success, episodic training remains largely understudied, prompting us to ask the question: what is the best way to sample episodes? In this paper, we first propose a method to approximate episode sampling distributions based on their difficulty. Building on this method, we perform an extensive analysis and find that sampling uniformly over episode difficulty outperforms other sampling schemes, including curriculum and easy-/hard-mining. As the proposed sampling method is algorithm agnostic, we can leverage these insights to improve few-shot learning accuracies across many episodic training algorithms. We demonstrate the efficacy of our method across popular few-shot learning datasets, algorithms, network architectures, and protocols.
• Abstract（参考訳）: エピソディクストレーニングは、限定されたラベル付きデータを持つタスクでモデルをトレーニングするための、数少ない学習の中核となる要素である。 その成功にもかかわらず、エピソディクスのトレーニングはほとんど未熟であり、エピソードをサンプリングする最良の方法は何ですか? 本稿では,まず,その難易度に基づいてエピソードサンプリング分布を近似する手法を提案する。 本手法を用いて, エピソード難易度を均一にサンプリングすることで, カリキュラムや簡単な, ハードマイニングなど, 他のサンプリング手法よりも優れた結果が得られる。 提案手法はアルゴリズム非依存であるので,これらの知見を活用し,多くのエピソディック学習アルゴリズムにおける数発学習精度を向上させることができる。 提案手法の有効性を,一般的な数ショット学習データセット,アルゴリズム,ネットワークアーキテクチャ,プロトコルで実証する。

関連論文リスト

• Detection of Under-represented Samples Using Dynamic Batch Training for Brain Tumor Segmentation from MR Images [0.8437187555622164]
  磁気共鳴イメージング(MR)における脳腫瘍は困難であり、時間を要する。 これらの課題は、MR画像から自動脳腫瘍分割法を開発することで解決できる。 U-Netに基づく様々なディープラーニングモデルが提案されている。 これらのディープラーニングモデルは、腫瘍画像のデータセットに基づいてトレーニングされ、マスクのセグメント化に使用される。
  論文  参考訳（メタデータ） (2024-08-21T21:51:47Z)
• Data-CUBE: Data Curriculum for Instruction-based Sentence Representation Learning [85.66907881270785]
  本稿では,学習用マルチタスクデータの順序を列挙するデータカリキュラム,すなわちData-CUBEを提案する。 タスクレベルでは、タスク間の干渉リスクを最小化するために最適なタスクオーダーを見つけることを目的としている。 インスタンスレベルでは、タスク毎のすべてのインスタンスの難易度を測定し、トレーニングのためにそれらを簡単に微分できるミニバッチに分割します。
  論文  参考訳（メタデータ） (2024-01-07T18:12:20Z)
• A Maximum Log-Likelihood Method for Imbalanced Few-Shot Learning Tasks [3.2895195535353308]
  数ショットアーキテクチャのための新しい最大ログ類似度指標を提案する。 提案手法は,従来の類似度指標よりも優れた性能を実現することを示す。 また,提案アルゴリズムは,評価データが不均衡である場合に,最先端のトランスダクティブな数ショット性能を実現することを示す。
  論文  参考訳（メタデータ） (2022-11-26T21:31:00Z)
• Sampling Through the Lens of Sequential Decision Making [9.101505546901999]
  我々はアダプティブ・サンプル・ウィズ・リワード(ASR)と呼ばれる報酬誘導型サンプリング戦略を提案する。 提案手法は,サンプリング過程を最適に調整し,最適性能を実現する。 情報検索とクラスタリングの実証的な結果は、異なるデータセット間でのASRのスーパーブパフォーマンスを示している。
  論文  参考訳（メタデータ） (2022-08-17T04:01:29Z)
• BatchFormer: Learning to Explore Sample Relationships for Robust Representation Learning [93.38239238988719]
  本稿では,各ミニバッチからサンプル関係を学習可能なディープニューラルネットワークを提案する。 BatchFormerは各ミニバッチのバッチ次元に適用され、トレーニング中のサンプル関係を暗黙的に探索する。 我々は10以上のデータセットに対して広範な実験を行い、提案手法は異なるデータ不足アプリケーションにおいて大幅な改善を実現する。
  論文  参考訳（メタデータ） (2022-03-03T05:31:33Z)
• Beyond Farthest Point Sampling in Point-Wise Analysis [52.218037492342546]
  本稿では,ポイントワイズ分析タスクのための新しいデータ駆動型サンプル学習手法を提案する。 我々はサンプルと下流のアプリケーションを共同で学習する。 実験により, 従来のベースライン法に比べて, サンプルとタスクの同時学習が顕著に改善することが示された。
  論文  参考訳（メタデータ） (2021-07-09T08:08:44Z)
• AutoSampling: Search for Effective Data Sampling Schedules [118.20014773014671]
  モデル学習のためのサンプリングスケジュールを自動的に学習するAutoSampling法を提案する。 提案手法の有効性を示す様々な画像分類タスクに本手法を適用した。
  論文  参考訳（メタデータ） (2021-05-28T09:39:41Z)
• Adaptive Task Sampling for Meta-Learning [79.61146834134459]
  数ショットの分類のためのメタラーニングの鍵となるアイデアは、テスト時に直面した数ショットの状況を模倣することである。 一般化性能を向上させるための適応型タスクサンプリング手法を提案する。
  論文  参考訳（メタデータ） (2020-07-17T03:15:53Z)
• Efficient Deep Representation Learning by Adaptive Latent Space Sampling [16.320898678521843]
  監視されたディープラーニングには、アノテーションを備えた大量のトレーニングサンプルが必要です。 本稿では,学習プロセスに供給される情報サンプルを適応的に選択する新しいトレーニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-03-19T22:17:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。