論文の概要: Biologically-Motivated Deep Learning Method using Hierarchical Competitive Learning

• arxiv url: http://arxiv.org/abs/2001.01121v1
• Date: Sat, 4 Jan 2020 20:07:36 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-14 12:31:59.529699
• Title: Biologically-Motivated Deep Learning Method using Hierarchical Competitive Learning
• Title（参考訳）: 階層型競合学習を用いた生物学的動機付き深層学習法
• Authors: Takashi Shinozaki
• Abstract要約: 本稿では,CNNの事前学習方法として,前方伝播信号のみを必要とする教師なしの競争学習を導入することを提案する。 提案手法は,例えば時系列や医療データなど,ラベルの粗末なデータに対して有用である。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This study proposes a novel biologically-motivated learning method for deep convolutional neural networks (CNNs). The combination of CNNs and back propagation (BP) learning is the most powerful method in recent machine learning regimes. However, it requires large labeled data for training, and this requirement can occasionally become a barrier for real world applications. To address this problem and utilize unlabeled data, I propose to introduce unsupervised competitive learning which only requires forward propagating signals as a pre-training method for CNNs. The method was evaluated by image discrimination tasks using MNIST, CIFAR-10, and ImageNet datasets, and it achieved a state-of-the-art performance as a biologically-motivated method in the ImageNet experiment. The results suggested that the method enables higher-level learning representations solely from forward propagating signals without a backward error signal for the learning of convolutional layers. The proposed method could be useful for a variety of poorly labeled data, for example, time series or medical data.
• Abstract（参考訳）: 本研究では, 深層畳み込みニューラルネットワーク(CNN)のための生物学的学習手法を提案する。 CNNと後方伝播(BP)学習の組み合わせは、最近の機械学習システムにおいて最も強力な方法である。 しかし、トレーニングには大きなラベル付きデータが必要であり、この要件は時として現実世界のアプリケーションにとって障壁となることがある。 この問題に対処し,ラベルなしデータを活用するために,cnnの事前学習方法として,前方伝播信号のみを必要とする教師なし競争学習を導入することを提案する。 本手法は, MNIST, CIFAR-10, ImageNetデータセットを用いて画像識別タスクを用いて評価し, 生物学的に動機づけられた手法として, 最先端の性能を達成した。 提案手法は,畳み込み層を学習するための後方誤り信号なしで,前方伝播信号のみから高次学習表現を可能にする。 提案手法は, 時系列データや医療データなど, 様々な不適切なラベル付きデータに対して有用である。

関連論文リスト

• Gradient-Free Supervised Learning using Spike-Timing-Dependent Plasticity for Image Recognition [3.087000217989688]
  スパイキングニューラルネットワークにおける教師あり学習へのアプローチは、画像認識のためのスパイクタイピング依存の可塑性と組み合わせて、勾配のない手法を用いて提示される。 提案するネットワークアーキテクチャは、複数の層にスケーラブルであり、より複雑で深いSNNモデルの開発を可能にする。
  論文  参考訳（メタデータ） (2024-10-21T21:32:17Z)
• Data Efficient Contrastive Learning in Histopathology using Active Sampling [0.0]
  ディープラーニングアルゴリズムは、デジタル病理学において堅牢な定量的分析を提供することができる。 これらのアルゴリズムは大量の注釈付きトレーニングデータを必要とする。 アドホックなプリテキストタスクを用いて特徴を学習するための自己教師付き手法が提案されている。 そこで本研究では,小規模なプロキシネットワークを用いたトレーニングセットから情報的メンバを積極的に抽出する手法を提案する。
  論文  参考訳（メタデータ） (2023-03-28T18:51:22Z)
• Learning from Data with Noisy Labels Using Temporal Self-Ensemble [11.245833546360386]
  ディープニューラルネットワーク(DNN)はノイズラベルを記憶する膨大な能力を持つ。 現在最先端の手法では、損失の少ないサンプルを用いて二重ネットワークを訓練するコトレーニング方式が提案されている。 本稿では,単一のネットワークのみをトレーニングすることで,シンプルで効果的なロバストトレーニング手法を提案する。
  論文  参考訳（メタデータ） (2022-07-21T08:16:31Z)
• Adaptive Convolutional Dictionary Network for CT Metal Artifact Reduction [62.691996239590125]
  本稿では,金属人工物削減のための適応畳み込み辞書ネットワーク(ACDNet)を提案する。 我々のACDNetは、トレーニングデータを介して、アーティファクトフリーCT画像の事前を自動で学習し、入力されたCT画像ごとに表現カーネルを適応的に調整することができる。 本手法は,モデルに基づく手法の明確な解釈可能性を継承し,学習に基づく手法の強力な表現能力を維持する。
  論文  参考訳（メタデータ） (2022-05-16T06:49:36Z)
• Neural Maximum A Posteriori Estimation on Unpaired Data for Motion Deblurring [87.97330195531029]
  本稿では、ニューラルネットワークをトレーニングし、失明したデータから視覚情報や鋭いコンテンツを復元するためのニューラルネットワークの最大Aポストエリオリ(NeurMAP)推定フレームワークを提案する。 提案されたNeurMAPは、既存のデブロアリングニューラルネットワークに対するアプローチであり、未使用データセット上のイメージデブロアリングネットワークのトレーニングを可能にする最初のフレームワークである。
  論文  参考訳（メタデータ） (2022-04-26T08:09:47Z)
• FF-NSL: Feed-Forward Neural-Symbolic Learner [70.978007919101]
  本稿では,Feed-Forward Neural-Symbolic Learner (FF-NSL) と呼ばれるニューラルシンボリック学習フレームワークを紹介する。 FF-NSLは、ラベル付き非構造化データから解釈可能な仮説を学習するために、Answer Setセマンティクスに基づく最先端のICPシステムとニューラルネットワークを統合する。
  論文  参考訳（メタデータ） (2021-06-24T15:38:34Z)
• Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
  ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。 本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
  論文  参考訳（メタデータ） (2021-06-17T17:26:31Z)
• Knowledge Distillation By Sparse Representation Matching [107.87219371697063]
  本稿では,一方の畳み込みネットワーク(cnn)から他方へ,スパース表現を用いて中間知識を伝達するスパース表現マッチング(srm)を提案する。 勾配降下を利用して効率的に最適化し、任意のCNNにプラグアンドプレイで統合できるニューラルプロセッシングブロックとして定式化します。 実験の結果,教師と生徒のネットワーク間のアーキテクチャの違いに頑健であり,複数のデータセットにまたがる他のkd技術よりも優れていた。
  論文  参考訳（メタデータ） (2021-03-31T11:47:47Z)
• STDP enhances learning by backpropagation in a spiking neural network [0.0]
  提案手法は,少量のラベル付きデータを使用する場合,ラベル付けを加味せずに精度を向上する。 イベント駆動システムのための学習手法を提案することができる。
  論文  参考訳（メタデータ） (2021-02-21T06:55:02Z)
• An Online Learning Algorithm for a Neuro-Fuzzy Classifier with Mixed-Attribute Data [9.061408029414455]
  General Fuzzy min-max Neural Network (GFMMNN) は、データ分類のための効率的な神経ファジィシステムの一つである。 本稿ではGFMMNNのための拡張オンライン学習アルゴリズムを提案する。 提案手法は連続的特徴と分類的特徴の両方でデータセットを処理できる。
  論文  参考訳（メタデータ） (2020-09-30T13:45:36Z)
• Belief Propagation Reloaded: Learning BP-Layers for Labeling Problems [83.98774574197613]
  最も単純な推論手法の1つとして、切り詰められた最大積のBelief伝播を取り上げ、それをディープラーニングモデルの適切なコンポーネントにするために必要となるものを加えます。 このBP-Layerは畳み込みニューラルネットワーク(CNN)の最終ブロックまたは中間ブロックとして使用できる このモデルは様々な密集予測問題に適用可能であり、パラメータ効率が高く、ステレオ、光フロー、セマンティックセグメンテーションにおける堅牢な解を提供する。
  論文  参考訳（メタデータ） (2020-03-13T13:11:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。