論文の概要: Brain-inspired global-local learning incorporated with neuromorphic
computing
- arxiv url: http://arxiv.org/abs/2006.03226v3
- Date: Tue, 22 Jun 2021 01:15:53 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-25 02:42:00.179758
- Title: Brain-inspired global-local learning incorporated with neuromorphic
computing
- Title(参考訳): ニューロモルフィックコンピューティングを取り入れた脳誘発グローバルローカル学習
- Authors: Yujie Wu, Rong Zhao, Jun Zhu, Feng Chen, Mingkun Xu, Guoqi Li, Sen
Song, Lei Deng, Guanrui Wang, Hao Zheng, Jing Pei, Youhui Zhang, Mingguo
Zhao, and Luping Shi
- Abstract要約: 我々は,脳に触発されたメタラーニングパラダイムと,神経力学とシナプス可塑性を取り入れた識別可能なスパイキングモデルを導入することで,ニューロモルフィックハイブリッド学習モデルを報告した。
ニューロモルフィック・ビジョン・センサにおける数ショット学習、連続学習、フォールトトレランス学習を含む複数のタスクにおいて、このモデルの利点を実証する。
- 参考スコア(独自算出の注目度): 35.70151531581922
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Two main routes of learning methods exist at present including error-driven
global learning and neuroscience-oriented local learning. Integrating them into
one network may provide complementary learning capabilities for versatile
learning scenarios. At the same time, neuromorphic computing holds great
promise, but still needs plenty of useful algorithms and algorithm-hardware
co-designs for exploiting the advantages. Here, we report a neuromorphic hybrid
learning model by introducing a brain-inspired meta-learning paradigm and a
differentiable spiking model incorporating neuronal dynamics and synaptic
plasticity. It can meta-learn local plasticity and receive top-down supervision
information for multiscale synergic learning. We demonstrate the advantages of
this model in multiple different tasks, including few-shot learning, continual
learning, and fault-tolerance learning in neuromorphic vision sensors. It
achieves significantly higher performance than single-learning methods, and
shows promise in empowering neuromorphic applications revolution. We further
implemented the hybrid model in the Tianjic neuromorphic platform by exploiting
algorithm-hardware co-designs and proved that the model can fully utilize
neuromorphic many-core architecture to develop hybrid computation paradigm.
- Abstract(参考訳): 現在、エラー駆動グローバルラーニングと神経科学指向ローカルラーニングの2つの主要な学習方法が存在する。
それらをひとつのネットワークに統合することで、多彩な学習シナリオのための補完的な学習能力を提供できる。
同時に、ニューロモルフィックコンピューティングは大きな可能性を秘めているが、その利点を活かすには、多くの有用なアルゴリズムとアルゴリズムハードウェアの共同設計が必要である。
本稿では,脳にインスパイアされたメタ学習パラダイムと,神経動力学とシナプス可塑性を組み込んだ分化可能なスパイクモデルを紹介する。
局所可塑性をメタ学習し、マルチスケールシナジー学習のためのトップダウンの監督情報を受け取ることができる。
我々は,このモデルの利点を,脳型視覚センサにおける少数ショット学習,連続学習,フォールトトレランス学習など,複数の異なるタスクで実証する。
シングルラーニング手法よりもはるかに高いパフォーマンスを達成し、ニューロモルフィックなアプリケーション革命の促進を約束している。
さらに,アルゴリズム・ハードウエアの共設計を利用して,Tianjicのニューロモーフィックプラットフォームにハイブリッドモデルを実装し,ニューロモーフィック多コアアーキテクチャを十分に活用してハイブリッド計算パラダイムを開発できることを実証した。
関連論文リスト
- Mechanistic Neural Networks for Scientific Machine Learning [58.99592521721158]
我々は、科学における機械学習応用のためのニューラルネットワーク設計であるメカニスティックニューラルネットワークを提案する。
新しいメカニスティックブロックを標準アーキテクチャに組み込んで、微分方程式を表現として明示的に学習する。
我々のアプローチの中心は、線形プログラムを解くために線形ODEを解く技術に着想を得た、新しい線形計画解法(NeuRLP)である。
論文 参考訳(メタデータ) (2024-02-20T15:23:24Z) - Hebbian Learning based Orthogonal Projection for Continual Learning of
Spiking Neural Networks [74.3099028063756]
我々は,側方接続とヘビアン学習に基づくニューラル操作を用いた新しい手法を開発した。
我々は,反復する側方接続におけるヘビアン学習と反ヘビアン学習が,神経活動の主部分空間を効果的に抽出できることを示した。
我々の手法は、ほとんど忘れることなくニューラルネットワークをスパイクするために一貫して解決する。
論文 参考訳(メタデータ) (2024-02-19T09:29:37Z) - Meta-Learning in Spiking Neural Networks with Reward-Modulated STDP [2.179313476241343]
本研究では,海馬と前頭前皮質にインスパイアされた生物工学的メタラーニングモデルを提案する。
我々の新しいモデルはスパイクベースのニューロモーフィックデバイスに容易に適用でき、ニューロモーフィックハードウェアにおける高速な学習を可能にする。
論文 参考訳(メタデータ) (2023-06-07T13:08:46Z) - Meta Neural Coordination [0.0]
メタラーニングは、新しい変化する環境に適応するために、他の学習アルゴリズムから学習できるアルゴリズムを開発することを目的としている。
従来のディープニューラルネットワークの予測の不確かさは、世界の部分的な予測可能性を強調している。
生物学的にインスパイアされたマシンインテリジェンスを構築するために必要な潜在的な進歩について論じる。
論文 参考訳(メタデータ) (2023-05-20T06:06:44Z) - Multimodal foundation models are better simulators of the human brain [65.10501322822881]
1500万の画像テキストペアを事前訓練した,新たに設計されたマルチモーダル基礎モデルを提案する。
視覚的エンコーダも言語的エンコーダもマルチモーダルで訓練され,脳に近いことが判明した。
論文 参考訳(メタデータ) (2022-08-17T12:36:26Z) - SPAIC: A Spike-based Artificial Intelligence Computing Framework [22.133585707508963]
本稿では,Python ベースのスパイキングニューラルネットワーク (SNN) シミュレーションおよびトレーニングフレームワーク SPAIC を提案する。
ディープラーニングと神経科学の両方の機能と統合された、脳にインスパイアされたモデルとアルゴリズムの研究をサポートすることを目指している。
ニューラルサーキット、深層SNN学習、ニューロモルフィック応用など、さまざまな例を挙げる。
論文 参考訳(メタデータ) (2022-07-26T08:57:42Z) - Learning to learn online with neuromodulated synaptic plasticity in
spiking neural networks [0.0]
神経科学からの神経調節性シナプス可塑性のモデルは、勾配降下を通して学習するために訓練可能であることを示す。
このフレームワークは、神経科学にインスパイアされたオンライン学習アルゴリズムを開発するための新しい道を開く。
論文 参考訳(メタデータ) (2022-06-25T00:28:40Z) - CogNGen: Constructing the Kernel of a Hyperdimensional Predictive
Processing Cognitive Architecture [79.07468367923619]
神経生物学的に妥当な2つの計算モデルを組み合わせた新しい認知アーキテクチャを提案する。
我々は、現代の機械学習技術の力を持つ認知アーキテクチャを開発することを目指している。
論文 参考訳(メタデータ) (2022-03-31T04:44:28Z) - EINNs: Epidemiologically-Informed Neural Networks [75.34199997857341]
本稿では,疫病予測のための新しい物理インフォームドニューラルネットワークEINNを紹介する。
メカニスティックモデルによって提供される理論的柔軟性と、AIモデルによって提供されるデータ駆動表現性の両方を活用する方法について検討する。
論文 参考訳(メタデータ) (2022-02-21T18:59:03Z) - Backprop-Free Reinforcement Learning with Active Neural Generative
Coding [84.11376568625353]
動的環境におけるエラー(バックプロップ)のバックプロパゲーションを伴わない行動駆動型生成モデルの学習のための計算フレームワークを提案する。
我々は、まばらな報酬でも機能するインテリジェントエージェントを開発し、推論として計画の認知理論からインスピレーションを得ている。
我々のエージェントの堅牢な性能は、神経推論と学習のためのバックプロップフリーアプローチがゴール指向の行動を促進するという有望な証拠を提供する。
論文 参考訳(メタデータ) (2021-07-10T19:02:27Z) - A multi-agent model for growing spiking neural networks [0.0]
このプロジェクトでは、学習メカニズムとして、スパイキングニューラルネットワークのニューロン間の接続を拡大するためのルールについて検討している。
シミュレーション環境での結果は、与えられたパラメータセットに対して、テストされた関数を再現するトポロジに到達可能であることを示した。
このプロジェクトはまた、モデルパラメーターに最適な値を得るために、遺伝的アルゴリズムのようなテクニックを使用するための扉を開く。
論文 参考訳(メタデータ) (2020-09-21T15:11:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。