論文の概要: Domain Wall Leaky Integrate-and-Fire Neurons with Shape-Based
Configurable Activation Functions
- arxiv url: http://arxiv.org/abs/2011.06075v1
- Date: Wed, 11 Nov 2020 21:07:02 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-27 00:06:30.483067
- Title: Domain Wall Leaky Integrate-and-Fire Neurons with Shape-Based
Configurable Activation Functions
- Title（参考訳）: 形状制御可能な活性化機能を有する磁壁漏洩脳ニューロン
- Authors: Wesley H. Brigner, Naimul Hassan, Xuan Hu, Christopher H. Bennett,
Felipe Garcia-Sanchez, Can Cui, Alvaro Velasquez, Matthew J. Marinella, Jean
Anne C. Incorvia, Joseph S. Friedman
- Abstract要約: スピントロニクスデバイスは、ニューロモルフィックコンピューティングに好適な非揮発性とアナログの特徴の両方を示す。
これらの新しいデバイスは、CMOS以外の人工知能アプリケーションの最前線にある。
本研究は、活性化関数の設定を可能にするこれらのスピントロニクスニューロンの変更を提案する。
- 参考スコア（独自算出の注目度）: 9.975010985493256
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Complementary metal oxide semiconductor (CMOS) devices display volatile
characteristics, and are not well suited for analog applications such as
neuromorphic computing. Spintronic devices, on the other hand, exhibit both
non-volatile and analog features, which are well-suited to neuromorphic
computing. Consequently, these novel devices are at the forefront of
beyond-CMOS artificial intelligence applications. However, a large quantity of
these artificial neuromorphic devices still require the use of CMOS, which
decreases the efficiency of the system. To resolve this, we have previously
proposed a number of artificial neurons and synapses that do not require CMOS
for operation. Although these devices are a significant improvement over
previous renditions, their ability to enable neural network learning and
recognition is limited by their intrinsic activation functions. This work
proposes modifications to these spintronic neurons that enable configuration of
the activation functions through control of the shape of a magnetic domain wall
track. Linear and sigmoidal activation functions are demonstrated in this work,
which can be extended through a similar approach to enable a wide variety of
activation functions.
- Abstract（参考訳）: 補完金属酸化物半導体(CMOS)デバイスは揮発性特性を示しており、ニューロモルフィックコンピューティングのようなアナログ用途には適していない。
一方、スピントロニクスデバイスは、ニューロモルフィックコンピューティングによく適合する不揮発性とアナログの両方の特徴を示す。
その結果、これらの新しいデバイスは、CMOS以外の人工知能アプリケーションの最前線にある。
しかし、これらの人工ニューロモルフィックデバイスの多くは依然としてcmosの使用を必要とするため、システムの効率は低下する。
そこで我々はこれまで,CMOSを必要としない人工ニューロンやシナプスを多数提案してきた。
これらのデバイスは、従来よりも大幅に改善されているが、ニューラルネットワークの学習と認識を可能にする能力は、固有のアクティベーション機能によって制限されている。
本研究は、磁区壁の形状を制御することによって活性化関数の設定を可能にするスピントロニクスニューロンの修正を提案する。
この研究で線形およびシグモダル活性化関数が示され、様々な活性化関数を実現するために同様のアプローチで拡張することができる。
関連論文リスト
- Single Neuromorphic Memristor closely Emulates Multiple Synaptic
Mechanisms for Energy Efficient Neural Networks [71.79257685917058]
我々はこれらのシナプス機能を本質的にエミュレートするSrTiO3に基づく膜状ナノデバイスを実証する。
これらのメムリスタは、安定かつエネルギー効率の良い運転を可能にする非定常低導電系で機能する。
論文 参考訳（メタデータ） (2024-02-26T15:01:54Z) - The Expressive Leaky Memory Neuron: an Efficient and Expressive Phenomenological Neuron Model Can Solve Long-Horizon Tasks [64.08042492426992]
本稿では,脳皮質ニューロンの生物学的モデルであるExpressive Memory(ELM)ニューロンモデルを紹介する。
ELMニューロンは、上記の入力-出力関係を1万以下のトレーニング可能なパラメータと正確に一致させることができる。
本稿では,Long Range Arena(LRA)データセットなど,時間構造を必要とするタスクで評価する。
論文 参考訳（メタデータ） (2023-06-14T13:34:13Z) - A perspective on physical reservoir computing with nanomagnetic devices [1.9007022664972197]
我々は、スピントロニクスデバイスを用いた計算に適した単純なトレーニングアルゴリズムを備えたリカレントネットワークである貯水池コンピューティングパラダイムに焦点を当てた。
我々はニューロモルフィック・スピントロニクスデバイスを開発するための技術や手法をレビューし、そのようなデバイスが広く使われるようになる前に対処すべき重要なオープン・イシューを結論付ける。
論文 参考訳（メタデータ） (2022-12-09T13:43:21Z) - Neuromorphic Artificial Intelligence Systems [58.1806704582023]
フォン・ノイマンアーキテクチャと古典的ニューラルネットワークに基づく現代のAIシステムは、脳と比較して多くの基本的な制限がある。
この記事では、そのような制限と、それらが緩和される方法について論じる。
これは、これらの制限が克服されている現在利用可能なニューロモーフィックAIプロジェクトの概要を示す。
論文 参考訳（メタデータ） (2022-05-25T20:16:05Z) - Parametrized constant-depth quantum neuron [56.51261027148046]
本稿では,カーネルマシンをベースとした量子ニューロン構築フレームワークを提案する。
ここでは、指数的に大きい空間にテンソル積特徴写像を適用するニューロンについて述べる。
パラメトリゼーションにより、提案されたニューロンは、既存のニューロンが適合できない基礎となるパターンを最適に適合させることができることが判明した。
論文 参考訳（メタデータ） (2022-02-25T04:57:41Z) - Mapping and Validating a Point Neuron Model on Intel's Neuromorphic
Hardware Loihi [77.34726150561087]
インテルの第5世代ニューロモルフィックチップ「Loihi」の可能性について検討する。
Loihiは、脳内のニューロンをエミュレートするスパイキングニューラルネットワーク(SNN)という新しいアイデアに基づいている。
Loihiは従来のシミュレーションを非常に効率的に再現し、ネットワークが大きくなるにつれて、時間とエネルギーの両方のパフォーマンスにおいて顕著にスケールする。
論文 参考訳（メタデータ） (2021-09-22T16:52:51Z) - Growing Cosine Unit: A Novel Oscillatory Activation Function That Can
Speedup Training and Reduce Parameters in Convolutional Neural Networks [0.1529342790344802]
畳み込みニューラルネットワークは多くの社会的に重要で経済的に重要な問題を解くことに成功した。
ディープネットワークのトレーニングを可能にする重要な発見は、Rectified Linear Unit (ReLU) アクティベーション機能の採用であった。
新しい活性化関数 C(z) = z cos z は様々なアーキテクチャ上で Sigmoids, Swish, Mish, ReLU より優れる。
論文 参考訳（メタデータ） (2021-08-30T01:07:05Z) - Controllable reset behavior in domain wall-magnetic tunnel junction
artificial neurons for task-adaptable computation [1.4505273244528207]
ドメイン壁-磁気トンネル接合(DW-MTJ)デバイスは、生物学的ニューロンの挙動を本質的に捉えることができることが示されている。
そこで本研究では,DW-MTJ人工ニューロンにおいて,3つの代替メカニズムを用いてエジラックス動作を実装可能であることを示す。
論文 参考訳（メタデータ） (2021-01-08T16:50:29Z) - Towards Efficient Processing and Learning with Spikes: New Approaches
for Multi-Spike Learning [59.249322621035056]
各種タスクにおける他のベースラインよりも優れた性能を示すための2つの新しいマルチスパイク学習ルールを提案する。
特徴検出タスクでは、教師なしSTDPの能力と、その制限を提示する能力を再検討する。
提案した学習ルールは,特定の制約を適用せずに,幅広い条件で確実にタスクを解くことができる。
論文 参考訳（メタデータ） (2020-05-02T06:41:20Z) - CMOS-Free Multilayer Perceptron Enabled by Four-Terminal MTJ Device [1.3381026029365257]
ニューロモルフィックコンピューティングは、非構造化情報を処理するアプリケーションに対して、従来のシステムよりも革命的な改善を約束する。
本研究は、純粋にスピントロニクス多層パーセプトロンを可能にする新しいスピントロニクスニューロンを提案する。
論文 参考訳（メタデータ） (2020-02-03T16:14:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。