論文の概要: Increasing Liquid State Machine Performance with Edge-of-Chaos Dynamics Organized by Astrocyte-modulated Plasticity

• arxiv url: http://arxiv.org/abs/2111.01760v1
• Date: Tue, 26 Oct 2021 23:04:40 GMT
• ステータス: 処理完了
• システム内更新日: 2021-11-07 11:37:15.552954
• Title: Increasing Liquid State Machine Performance with Edge-of-Chaos Dynamics Organized by Astrocyte-modulated Plasticity
• Title（参考訳）: astrocyte-modulated plasticity によるエッジ・オブ・カオス・ダイナミクスによる液体状態機械の性能向上
• Authors: Vladimir A. Ivanov, Konstantinos P. Michmizos
• Abstract要約: 液体状態機械(LSM)は勾配のバックプロパゲーションなしで内部重量を調整する。 近年の知見は、アストロサイトがシナプスの可塑性と脳のダイナミクスを調節していることを示唆している。 本稿では, 自己組織的近接臨界力学を用いて, 性能の低いニューロン-アストロサイト液状状態機械 (NALSM) を提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The liquid state machine (LSM) combines low training complexity and biological plausibility, which has made it an attractive machine learning framework for edge and neuromorphic computing paradigms. Originally proposed as a model of brain computation, the LSM tunes its internal weights without backpropagation of gradients, which results in lower performance compared to multi-layer neural networks. Recent findings in neuroscience suggest that astrocytes, a long-neglected non-neuronal brain cell, modulate synaptic plasticity and brain dynamics, tuning brain networks to the vicinity of the computationally optimal critical phase transition between order and chaos. Inspired by this disruptive understanding of how brain networks self-tune, we propose the neuron-astrocyte liquid state machine (NALSM) that addresses under-performance through self-organized near-critical dynamics. Similar to its biological counterpart, the astrocyte model integrates neuronal activity and provides global feedback to spike-timing-dependent plasticity (STDP), which self-organizes NALSM dynamics around a critical branching factor that is associated with the edge-of-chaos. We demonstrate that NALSM achieves state-of-the-art accuracy versus comparable LSM methods, without the need for data-specific hand-tuning. With a top accuracy of 97.61% on MNIST, 97.51% on N-MNIST, and 85.84% on Fashion-MNIST, NALSM achieved comparable performance to current fully-connected multi-layer spiking neural networks trained via backpropagation. Our findings suggest that the further development of brain-inspired machine learning methods has the potential to reach the performance of deep learning, with the added benefits of supporting robust and energy-efficient neuromorphic computing on the edge.
• Abstract（参考訳）: 液体状態機械(LSM)は、訓練の複雑さと生物学的な妥当性を組み合わせ、エッジおよびニューロモルフィックコンピューティングパラダイムのための魅力的な機械学習フレームワークとなった。 もともと脳計算のモデルとして提案されたLSMは、勾配のバックプロパゲーションなしで内部重みを調整し、多層ニューラルネットワークと比較して性能が低下する。 神経科学の最近の知見は、長い無視された非神経性脳細胞であるアストロサイトがシナプス可塑性と脳のダイナミクスを調節し、秩序とカオスの間の計算上最適な臨界相転移の近傍に脳ネットワークをチューニングしていることを示唆している。 脳のネットワークの自己構造に関するこの破壊的理解に触発されて、自己組織化された近臨界ダイナミクスによる性能不足に対処するニューロン・アストロサイト液体状態機械(nalsm)を提案する。 astrocyteモデルはその生物学的な機能と同様に、神経活動を統合し、spike-timing-dependent plasticity(stdp)へのグローバルなフィードバックを提供する。 我々は,NALSMがデータ固有の手動チューニングを必要とせずに,同等のLSM法に対して最先端の精度を実現することを示す。 MNISTで97.61%、N-MNISTで97.51%、Fashion-MNISTで85.84%の精度で、NALSMはバックプロパゲーションで訓練された現在の完全接続型マルチ層スパイクニューラルネットワークと同等のパフォーマンスを達成した。 脳にインスパイアされた機械学習手法のさらなる発展は、強固でエネルギー効率の良いニューロモルフィックコンピューティングをエッジでサポートすることで、ディープラーニングのパフォーマンスに到達できる可能性が示唆された。

関連論文リスト

• Artificial Kuramoto Oscillatory Neurons [65.16453738828672]
  しきい値単位の動的代替として人工内蔵ニューロン(AKOrN)を導入する。 このアイデアは、幅広いタスクにまたがってパフォーマンス改善をもたらすことを示しています。 これらの経験的結果は、神経表現の最も基本的なレベルにおいて、私たちの仮定の重要性を示していると信じている。
  論文  参考訳（メタデータ） (2024-10-17T17:47:54Z)
• Contrastive Learning in Memristor-based Neuromorphic Systems [55.11642177631929]
  スパイクニューラルネットワークは、現代のバックプロパゲーションによって訓練されたディープネットワークに直面する重要な制約の多くを横取りする、ニューロンベースのモデルの重要なファミリーとなっている。 本研究では,前向き・後向き学習のニューロモルフィック形式であるコントラッシブ・シグナル依存型塑性(CSDP)の概念実証を設計し,検討する。
  論文  参考訳（メタデータ） (2024-09-17T04:48:45Z)
• Enhancing learning in spiking neural networks through neuronal heterogeneity and neuromodulatory signaling [52.06722364186432]
  人工ニューラルネットワーク(ANN)の強化のための生物学的インフォームドフレームワークを提案する。 提案したデュアルフレームアプローチは、多様なスパイキング動作をエミュレートするためのスパイキングニューラルネットワーク(SNN)の可能性を強調している。 提案手法は脳にインスパイアされたコンパートメントモデルとタスク駆動型SNN, バイオインスピレーション, 複雑性を統合している。
  論文  参考訳（メタデータ） (2024-07-05T14:11:28Z)
• Single Neuromorphic Memristor closely Emulates Multiple Synaptic Mechanisms for Energy Efficient Neural Networks [71.79257685917058]
  我々はこれらのシナプス機能を本質的にエミュレートするSrTiO3に基づく膜状ナノデバイスを実証する。 これらのメムリスタは、安定かつエネルギー効率の良い運転を可能にする非定常低導電系で機能する。
  論文  参考訳（メタデータ） (2024-02-26T15:01:54Z)
• The Expressive Leaky Memory Neuron: an Efficient and Expressive Phenomenological Neuron Model Can Solve Long-Horizon Tasks [64.08042492426992]
  本稿では,脳皮質ニューロンの生物学的モデルであるExpressive Memory(ELM)ニューロンモデルを紹介する。 ELMニューロンは、上記の入力-出力関係を1万以下のトレーニング可能なパラメータと正確に一致させることができる。 本稿では,Long Range Arena(LRA)データセットなど,時間構造を必要とするタスクで評価する。
  論文  参考訳（メタデータ） (2023-06-14T13:34:13Z)
• Contrastive-Signal-Dependent Plasticity: Self-Supervised Learning in Spiking Neural Circuits [61.94533459151743]
  この研究は、スパイキングネットワークのシナプスを調整するための神経生物学的に動機づけられたスキームを設計することの課題に対処する。 我々の実験シミュレーションは、繰り返しスパイクネットワークを訓練する際、他の生物学的に証明可能なアプローチに対して一貫した優位性を示す。
  論文  参考訳（メタデータ） (2023-03-30T02:40:28Z)
• Astromorphic Self-Repair of Neuromorphic Hardware Systems [0.8958368012475248]
  本稿では,グリア細胞の自己修復,特にアストロサイトの役割について検討する。 ハードウェア・ソフトウェアの共同設計分析は、生体形態の天体制御が、ハードウェアの現実的な欠陥を自己修復する可能性があることを明らかにしている。
  論文  参考訳（メタデータ） (2022-09-15T16:23:45Z)
• Modeling Associative Plasticity between Synapses to Enhance Learning of Spiking Neural Networks [4.736525128377909]
  Spiking Neural Networks(SNN)は、ニューラルネットワークの第3世代であり、ニューロモルフィックハードウェア上でエネルギー効率の高い実装を可能にする。 本稿では,シナプス間の結合可塑性をモデル化し,頑健で効果的な学習機構を提案する。 本手法は静的および最先端のニューロモルフィックデータセット上での優れた性能を実現する。
  論文  参考訳（メタデータ） (2022-07-24T06:12:23Z)
• On the Self-Repair Role of Astrocytes in STDP Enabled Unsupervised SNNs [1.0009912692042526]
  この研究は、ニューロンとシナプスの計算モデルに対する現在のニューロモルフィックコンピューティングアーキテクチャの焦点を越えている。 スパイクタイミング依存塑性(STDP)を用いた教師なし学習によるスパイクニューラルネットワークの耐故障能におけるグリア細胞の役割について検討する。 MNISTデータセットとFashion-MNISTデータセットで提案した提案を,50%から90%までのさまざまな障害度を持つネットワークで実現可能な自己修復の程度を特徴付ける。
  論文  参考訳（メタデータ） (2020-09-08T01:14:53Z)
• Structural plasticity on an accelerated analog neuromorphic hardware system [0.46180371154032884]
  我々は, プレ・グポストシナプスのパートナーを常に切り替えることにより, 構造的可塑性を達成するための戦略を提案する。 我々はこのアルゴリズムをアナログニューロモルフィックシステムBrainScaleS-2に実装した。 ネットワークトポロジを最適化する能力を示し、簡単な教師付き学習シナリオで実装を評価した。
  論文  参考訳（メタデータ） (2019-12-27T10:15:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。