論文の概要: Unravelling Small Sample Size Problems in the Deep Learning World

• arxiv url: http://arxiv.org/abs/2008.03522v1
• Date: Sat, 8 Aug 2020 13:35:49 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-01 11:39:24.752365
• Title: Unravelling Small Sample Size Problems in the Deep Learning World
• Title（参考訳）: 深層学習における微小サンプルサイズ問題の解法
• Authors: Rohit Keshari, Soumyadeep Ghosh, Saheb Chhabra, Mayank Vatsa, Richa Singh
• Abstract要約: 筆者らはまず,アルゴリズムが動作空間に応じて分離される小さなサンプルサイズ問題に対するディープラーニングアルゴリズムのレビューを行う。 第2に,特徴マップの最も識別性の高い部分からグローバル情報を抽出することに焦点を当てた動的注意プーリング手法を提案する。
• 参考スコア（独自算出の注目度）: 69.82853912238173
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The growth and success of deep learning approaches can be attributed to two major factors: availability of hardware resources and availability of large number of training samples. For problems with large training databases, deep learning models have achieved superlative performances. However, there are a lot of \textit{small sample size or $S^3$} problems for which it is not feasible to collect large training databases. It has been observed that deep learning models do not generalize well on $S^3$ problems and specialized solutions are required. In this paper, we first present a review of deep learning algorithms for small sample size problems in which the algorithms are segregated according to the space in which they operate, i.e. input space, model space, and feature space. Secondly, we present Dynamic Attention Pooling approach which focuses on extracting global information from the most discriminative sub-part of the feature map. The performance of the proposed dynamic attention pooling is analyzed with state-of-the-art ResNet model on relatively small publicly available datasets such as SVHN, C10, C100, and TinyImageNet.
• Abstract（参考訳）: ディープラーニングアプローチの成長と成功は、ハードウェアリソースの可用性と、多数のトレーニングサンプルの可用性の2つの大きな要因に起因する。 大規模トレーニングデータベースの問題に対して、ディープラーニングモデルは最高のパフォーマンスを達成している。 しかし、大規模なトレーニングデータベースを収集できないような、多くの \textit{small sample size や $S^3$} の問題がある。 深層学習モデルは$s^3$問題に対してうまく一般化せず、特殊な解が必要であることが観察されている。 本稿では,まず,入力空間,モデル空間,特徴空間などの操作空間に応じてアルゴリズムを分離する小標本サイズ問題に対するディープラーニングアルゴリズムのレビューを行う。 次に,特徴マップの最も識別的な部分からグローバル情報を抽出することに焦点を当てた動的注意プーリング手法を提案する。 提案手法の性能は,SVHN,C10,C100,TinyImageNetなどの比較的小さな公開データセット上で,最先端のResNetモデルを用いて解析する。

関連論文リスト

• Towards Scalable and Versatile Weight Space Learning [51.78426981947659]
  本稿では,重み空間学習におけるSANEアプローチを紹介する。 ニューラルネットワーク重みのサブセットの逐次処理に向けて,超表現の概念を拡張した。
  論文  参考訳（メタデータ） (2024-06-14T13:12:07Z)
• Scalable Learning of Item Response Theory Models [53.43355949923962]
  項目応答理論(IRT)モデルは、分類データから、$m$テスト項目の遅延困難特性とともに、$n$試験の潜時能力を評価することを目的としている。 我々はこれらのモデルの類似性をロジスティック回帰に利用し、コアセットと呼ばれる小さな重み付き部分集合を用いて正確に近似することができる。
  論文  参考訳（メタデータ） (2024-03-01T17:12:53Z)
• Interpretable ML for Imbalanced Data [22.355966235617014]
  不均衡なデータは、クラス間の関係が歪んで不明瞭である可能性があるため、ディープ・ネットワークのブラックボックスの性質を合成する。 不均衡なデータの複雑性を調査する既存の手法は、バイナリ分類、浅い学習モデル、低次元データを対象としている。 本稿では,ディープラーニングモデルの利用者がクラスプロトタイプ,サブコンセプト,アウトリアインスタンスを識別し,視覚化し,理解するために利用できる一連の手法を提案する。
  論文  参考訳（メタデータ） (2022-12-15T11:50:31Z)
• Learning the Space of Deep Models [12.785442275745973]
  訓練された深層モデルの固定サイズ低次元埋め込み空間を,表現学習を用いて学習する方法を示す。 信号のイメージ分類とニューラル表現に対処し、我々の埋め込み空間をどのように学習し、性能と3次元形状の概念を捉えるかを示す。
  論文  参考訳（メタデータ） (2022-06-10T15:53:35Z)
• CHALLENGER: Training with Attribution Maps [63.736435657236505]
  ニューラルネットワークのトレーニングに属性マップを利用すると、モデルの正規化が向上し、性能が向上することを示す。 特に、我々の汎用的なドメインに依存しないアプローチは、ビジョン、自然言語処理、時系列タスクにおける最先端の結果をもたらすことを示す。
  論文  参考訳（メタデータ） (2022-05-30T13:34:46Z)
• CvS: Classification via Segmentation For Small Datasets [52.821178654631254]
  本稿では,分類ラベルをセグメントマップの予測から導出する小型データセットのコスト効率の高い分類器であるCvSを提案する。 我々は,CvSが従来の手法よりもはるかに高い分類結果が得られることを示す多種多様な問題に対して,本フレームワークの有効性を評価する。
  論文  参考訳（メタデータ） (2021-10-29T18:41:15Z)
• Few-Cost Salient Object Detection with Adversarial-Paced Learning [95.0220555274653]
  本稿では,少数のトレーニング画像にのみ手動アノテーションを応用して,効果的なサルエント物体検出モデルを学習することを提案する。 我々は,このタスクを,少額の有能な物体検出とみなし,少数のコストの学習シナリオを促進するために,APL(Adversarialpaced Learning)ベースのフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-04-05T14:15:49Z)
• Spatial Classification With Limited Observations Based On Physics-Aware Structural Constraint [18.070762916388272]
  限られた特徴観察による空間分類は、機械学習において難しい問題である。 本稿では,各クラスにおけるサンプルの特徴値にマルチモーダル分布を従わせることによって,最近のアプローチを拡張した。 マルチモーダル分布を持つ拡張モデルの学習アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-08-25T20:07:28Z)
• Reinforced active learning for image segmentation [34.096237671643145]
  深部強化学習(RL)に基づく意味的セグメンテーションのための新しいアクティブラーニング戦略を提案する。 エージェントは、ラベルなしデータのプールからラベル付けされる小さな情報領域(画像全体とは対照的に)のサブセットを選択するポリシーを学ぶ。 本手法では, 意味的セグメンテーション問題の大規模性質に適応して, 能動的学習のための深部Q-network (DQN) の定式化を新たに提案する。
  論文  参考訳（メタデータ） (2020-02-16T14:03:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。