論文の概要: A Review of Neuroscience-Inspired Machine Learning
- arxiv url: http://arxiv.org/abs/2403.18929v1
- Date: Fri, 16 Feb 2024 18:05:09 GMT
- ステータス: 処理完了
- システム内更新日: 2024-04-01 02:25:04.072314
- Title: A Review of Neuroscience-Inspired Machine Learning
- Title(参考訳): 神経科学にインスパイアされた機械学習の展望
- Authors: Alexander Ororbia, Ankur Mali, Adam Kohan, Beren Millidge, Tommaso Salvatori,
- Abstract要約: バイオプルーシブル・クレジット・アサインメントは、事実上あらゆる学習条件と互換性があり、エネルギー効率が高い。
本稿では,人工ニューラルネットワークにおける信用代入の生体評価可能なルールをモデル化する,いくつかの重要なアルゴリズムについて検討する。
我々は,このようなアルゴリズムを実用アプリケーションでより有用にするためには,今後の課題に対処する必要があることを論じる。
- 参考スコア(独自算出の注目度): 58.72729525961739
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: One major criticism of deep learning centers around the biological implausibility of the credit assignment schema used for learning -- backpropagation of errors. This implausibility translates into practical limitations, spanning scientific fields, including incompatibility with hardware and non-differentiable implementations, thus leading to expensive energy requirements. In contrast, biologically plausible credit assignment is compatible with practically any learning condition and is energy-efficient. As a result, it accommodates hardware and scientific modeling, e.g. learning with physical systems and non-differentiable behavior. Furthermore, it can lead to the development of real-time, adaptive neuromorphic processing systems. In addressing this problem, an interdisciplinary branch of artificial intelligence research that lies at the intersection of neuroscience, cognitive science, and machine learning has emerged. In this paper, we survey several vital algorithms that model bio-plausible rules of credit assignment in artificial neural networks, discussing the solutions they provide for different scientific fields as well as their advantages on CPUs, GPUs, and novel implementations of neuromorphic hardware. We conclude by discussing the future challenges that will need to be addressed in order to make such algorithms more useful in practical applications.
- Abstract(参考訳): ディープラーニングに対する大きな批判の1つは、学習に使用される信用代入スキーマの生物学的不確実性 -- エラーのバックプロパゲーション -- に関するものだ。
この不確実性は、ハードウェアと非微分不可能な実装との非互換性を含む科学分野にまたがる実践的な制限に変換され、結果として高価なエネルギー要求がもたらされる。
対照的に、生物学的に妥当なクレジット割り当ては、事実上あらゆる学習条件と互換性があり、エネルギー効率が高い。
結果として、ハードウェアと科学的モデリング、例えば物理システムによる学習、および微分不可能な振る舞いに対応できる。
さらに、リアルタイム適応型ニューロモルフィック処理システムの開発にも繋がる可能性がある。
この問題を解決するために、神経科学、認知科学、機械学習の交差点に位置する人工知能研究の学際部門が誕生した。
本稿では, 人工ニューラルネットワークにおける信用代入の生体証明可能なルールをモデル化し, 異なる科学分野のソリューションとCPU, GPU, ニューロモルフィックハードウェアの新規実装に対する優位性について検討する。
我々は,このようなアルゴリズムを実用アプリケーションでより有用にするためには,今後の課題に対処する必要があることを論じる。
関連論文リスト
- Enhancing learning in spiking neural networks through neuronal heterogeneity and neuromodulatory signaling [52.06722364186432]
人工ニューラルネットワーク(ANN)の強化のための生物学的インフォームドフレームワークを提案する。
提案したデュアルフレームアプローチは、多様なスパイキング動作をエミュレートするためのスパイキングニューラルネットワーク(SNN)の可能性を強調している。
提案手法は脳にインスパイアされたコンパートメントモデルとタスク駆動型SNN, バイオインスピレーション, 複雑性を統合している。
論文 参考訳(メタデータ) (2024-07-05T14:11:28Z) - Brain-Inspired Machine Intelligence: A Survey of
Neurobiologically-Plausible Credit Assignment [65.268245109828]
本稿では,神経生物学にインスパイアされた,あるいは動機付けられた人工ニューラルネットワークにおける信用割当を行うアルゴリズムについて検討する。
我々は、脳にインスパイアされた学習スキームを6つの一般的なファミリーにまとめ、これらを誤りのバックプロパゲーションの文脈で検討する。
本研究の成果は,神経ミメティックシステムとその構成的学習プロセスの今後の発展を促進することを目的としている。
論文 参考訳(メタデータ) (2023-12-01T05:20:57Z) - Neuronal Auditory Machine Intelligence (NEURO-AMI) In Perspective [0.0]
ニューラル・オーディトリー・マシン・インテリジェンス(Neuro-AMI)と競合するバイオインスパイアされた連続学習型ニューラル・ニューラル・ニューラル・ニューラル・インテリジェンス(Neuro-AMI)の概要を述べる。
本稿では,ニューラル・オーディトリー・マシン・インテリジェンス(Neuro-AMI)と競合するバイオインスパイアされた連続学習型ニューラル・ラーニング・ツールについて概説する。
論文 参考訳(メタデータ) (2023-10-14T13:17:58Z) - Brain-Inspired Computational Intelligence via Predictive Coding [89.6335791546526]
予測符号化(PC)は、マシンインテリジェンスタスクにおいて有望なパフォーマンスを示している。
PCは様々な脳領域で情報処理をモデル化することができ、認知制御やロボティクスで使用することができる。
論文 参考訳(メタデータ) (2023-08-15T16:37:16Z) - Physics-Guided, Physics-Informed, and Physics-Encoded Neural Networks in
Scientific Computing [0.0]
コンピュータパワーの最近の進歩は、機械学習とディープラーニングを使って科学計算を進歩させることを可能にした。
固有のアーキテクチャのため、従来のニューラルネットワークは、データがスパースである場合には、うまくトレーニングされ、スコープ化できない。
ニューラルネットワークは、物理的駆動あるいは知識に基づく制約を消化するための強力な基盤を提供する。
論文 参考訳(メタデータ) (2022-11-14T15:44:07Z) - Neuromorphic Artificial Intelligence Systems [58.1806704582023]
フォン・ノイマンアーキテクチャと古典的ニューラルネットワークに基づく現代のAIシステムは、脳と比較して多くの基本的な制限がある。
この記事では、そのような制限と、それらが緩和される方法について論じる。
これは、これらの制限が克服されている現在利用可能なニューロモーフィックAIプロジェクトの概要を示す。
論文 参考訳(メタデータ) (2022-05-25T20:16:05Z) - Mapping and Validating a Point Neuron Model on Intel's Neuromorphic
Hardware Loihi [77.34726150561087]
インテルの第5世代ニューロモルフィックチップ「Loihi」の可能性について検討する。
Loihiは、脳内のニューロンをエミュレートするスパイキングニューラルネットワーク(SNN)という新しいアイデアに基づいている。
Loihiは従来のシミュレーションを非常に効率的に再現し、ネットワークが大きくなるにつれて、時間とエネルギーの両方のパフォーマンスにおいて顕著にスケールする。
論文 参考訳(メタデータ) (2021-09-22T16:52:51Z) - Off-the-shelf deep learning is not enough: parsimony, Bayes and
causality [0.8602553195689513]
材料科学における深層学習の実現に向けた機会と障害について論じる。
私たちは、ディープラーニングとAIは、因果関係が知られている分野に革命をもたらすのに十分な位置にあると論じています。
論文 参考訳(メタデータ) (2020-05-04T15:16:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。