論文の概要: Reminding Forgetful Organic Neuromorphic Device Networks
- arxiv url: http://arxiv.org/abs/2212.04747v1
- Date: Fri, 9 Dec 2022 09:50:41 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-12 14:54:01.993978
- Title: Reminding Forgetful Organic Neuromorphic Device Networks
- Title(参考訳): 忘れ去られた有機ニューロモルフィック・デバイス・ネットワークを思い出させる
- Authors: Daniel Felder, Katerina Muche, John Linkhorst, Matthias Wessling
- Abstract要約: 有機ニューロモルフィックデバイスネットワークは、ニューラルネットワークアルゴリズムを加速し、マイクロ流体系や生体組織と直接統合することができる。
電気化学系として、寄生電気化学反応によって自己放電する傾向がある。
この研究は、単一デバイス高分解能電荷輸送モデルを統合し、ニューロモルフィックデバイスネットワークをシミュレートし、自己放電がネットワーク性能に与える影響を分析する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Organic neuromorphic device networks can accelerate neural network algorithms
and directly integrate with microfluidic systems or living tissues. Proposed
devices based on the bio-compatible conductive polymer PEDOT:PSS have shown
high switching speeds and low energy demand. However, as electrochemical
systems, they are prone to self-discharge through parasitic electrochemical
reactions. Therefore, the network's synapses forget their trained conductance
states over time. This work integrates single-device high-resolution charge
transport models to simulate neuromorphic device networks and analyze the
impact of self-discharge on network performance. Simulation of a single-layer
nine-pixel image classification network reveals no significant impact of
self-discharge on training efficiency. And, even though the network's weights
drift significantly during self-discharge, its predictions remain 100\%
accurate for over ten hours. On the other hand, a multi-layer network for the
approximation of the circle function is shown to degrade significantly over
twenty minutes with a final mean-squared-error loss of 0.4. We propose to
counter the effect by periodically reminding the network based on a map between
a synapse's current state, the time since the last reminder, and the weight
drift. We show that this method with a map obtained through validated
simulations can reduce the effective loss to below 0.1 even with worst-case
assumptions. Finally, while the training of this network is affected by
self-discharge, a good classification is still obtained. Electrochemical
organic neuromorphic devices have not been integrated into larger device
networks. This work predicts their behavior under nonideal conditions,
mitigates the worst-case effects of parasitic self-discharge, and opens the
path toward implementing fast and efficient neural networks on organic
neuromorphic hardware.
- Abstract(参考訳): 有機ニューロモルフィックデバイスネットワークは、ニューラルネットワークアルゴリズムを加速し、マイクロ流体系や生体組織と直接統合することができる。
生体適合性導電性高分子PEDOT:PSSを用いた提案装置は高いスイッチング速度と低エネルギー要求を示した。
しかし、電気化学系として寄生電気化学反応によって自己放電する傾向がある。
したがって、ネットワークのシナプスは、時間とともに訓練された伝導状態を忘れる。
この研究は、単一デバイス高解像度電荷輸送モデルを統合し、ニューロモルフィックデバイスネットワークをシミュレートし、自己放電がネットワーク性能に与える影響を分析する。
単層9画素画像分類ネットワークのシミュレーションでは,自己放電がトレーニング効率に与える影響は認められなかった。
そして、自己放電中にネットワークの重量が著しく変動しても、その予測は10時間以上も100%正確である。
一方、円関数近似のための多層ネットワークは、最終平均二乗誤差損失0.4で20分以上劣化することが示されている。
本稿では,シナプスの現在の状態,最後のリマインダからの時間,および重みドリフトのマップに基づいて,定期的にネットワークをリマインダする手法を提案する。
本手法は,検証シミュレーションにより得られたマップを用いて,最悪の場合であっても有効損失を0.1以下に抑えることができることを示す。
最後に、このネットワークのトレーニングは自己放電の影響を受けながら、良好な分類が得られている。
電気化学的有機ニューロモルフィックデバイスは、より大きなデバイスネットワークに統合されていない。
本研究は,非理想的条件下での挙動を予測し,寄生性自己放電による最悪の影響を緩和し,有機ニューロモルフィックハードウェア上で高速かつ効率的なニューラルネットワークを実現するための道を開く。
関連論文リスト
- Efficient and Flexible Method for Reducing Moderate-size Deep Neural Networks with Condensation [36.41451383422967]
科学的応用において、ニューラルネットワークのスケールは概して中規模であり、主に推論の速度を保証する。
既存の研究によると、ニューラルネットワークの強力な能力は、主に非線形性に起因する。
本稿では,本手法の有効性を検証するための凝縮低減アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-05-02T06:53:40Z) - Disentangling the Causes of Plasticity Loss in Neural Networks [55.23250269007988]
可塑性の喪失は複数の独立したメカニズムに分解できることを示す。
種々の非定常学習タスクにおいて, 層正規化と重み劣化の組み合わせは, 可塑性維持に極めて有効であることを示す。
論文 参考訳(メタデータ) (2024-02-29T00:02:33Z) - Single Neuromorphic Memristor closely Emulates Multiple Synaptic
Mechanisms for Energy Efficient Neural Networks [71.79257685917058]
我々はこれらのシナプス機能を本質的にエミュレートするSrTiO3に基づく膜状ナノデバイスを実証する。
これらのメムリスタは、安定かつエネルギー効率の良い運転を可能にする非定常低導電系で機能する。
論文 参考訳(メタデータ) (2024-02-26T15:01:54Z) - Quantum-Inspired Analysis of Neural Network Vulnerabilities: The Role of
Conjugate Variables in System Attacks [54.565579874913816]
ニューラルネットワークは、敵の攻撃として現れる小さな非ランダムな摂動に固有の脆弱性を示す。
この機構と量子物理学の不確実性原理の間に数学的に一致し、予想外の学際性に光を当てる。
論文 参考訳(メタデータ) (2024-02-16T02:11:27Z) - Learning with Chemical versus Electrical Synapses -- Does it Make a
Difference? [61.85704286298537]
バイオインスパイアされたニューラルネットワークは、ニューラルネットワークの理解を深め、AIシステムの最先端を改善する可能性がある。
我々は,光リアルな自律走行シミュレータを用いて自律車線維持実験を行い,その性能を種々の条件下で評価する。
論文 参考訳(メタデータ) (2023-11-21T13:07:20Z) - Impact of spiking neurons leakages and network recurrences on
event-based spatio-temporal pattern recognition [0.0]
ニューロモルフィックハードウェアとイベントベースのセンサーを組み合わせたスパイクニューラルネットワークは、エッジにおける低レイテンシと低パワー推論への関心が高まっている。
スパイキングニューロンにおけるシナプスおよび膜漏れの影響について検討する。
論文 参考訳(メタデータ) (2022-11-14T21:34:02Z) - Spiking neural network for nonlinear regression [68.8204255655161]
スパイクニューラルネットワークは、メモリとエネルギー消費を大幅に削減する可能性を持っている。
彼らは、次世代のニューロモルフィックハードウェアによって活用できる時間的および神経的疎結合を導入する。
スパイキングニューラルネットワークを用いた回帰フレームワークを提案する。
論文 参考訳(メタデータ) (2022-10-06T13:04:45Z) - Latent Equilibrium: A unified learning theory for arbitrarily fast
computation with arbitrarily slow neurons [0.7340017786387767]
遅いコンポーネントのネットワークにおける推論と学習のための新しいフレームワークであるLatent Equilibriumを紹介する。
我々は, ニューロンとシナプスのダイナミクスを, 将来的なエネルギー関数から導出する。
本稿では,大脳皮質微小循環の詳細なモデルに我々の原理を適用する方法について述べる。
論文 参考訳(メタデータ) (2021-10-27T16:15:55Z) - Training Deep Spiking Auto-encoders without Bursting or Dying Neurons
through Regularization [9.34612743192798]
スパイクニューラルネットワークは、計算神経科学における次世代の脳モデルに対する有望なアプローチである。
膜電位に基づくバックプロパゲーションを用いたエンドツーエンド学習を、スパイクする畳み込みオートエンコーダに適用する。
膜電位とスパイク出力に正規化を適用することで、死と破裂の両方のニューロンをうまく回避できることを示す。
論文 参考訳(メタデータ) (2021-09-22T21:27:40Z) - Towards self-organized control: Using neural cellular automata to
robustly control a cart-pole agent [62.997667081978825]
我々は、カートポールエージェントを制御するために、ニューラルセルオートマトンを使用する。
我々は、Q値の推定値として出力セルの状態を用いる深層学習を用いてモデルを訓練した。
論文 参考訳(メタデータ) (2021-06-29T10:49:42Z) - Surrogate gradients for analog neuromorphic computing [2.6475944316982942]
デバイスミスマッチに対する自己修正学習は,視覚と音声のベンチマークにおいて,競争力のあるネットワーク性能をもたらすことを示す。
我々の研究は、アナログニューロモルフィックハードウェア上での低エネルギースパイクネットワーク処理のための新しいベンチマークをいくつか設定する。
論文 参考訳(メタデータ) (2020-06-12T14:45:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。