論文の概要: Constrained plasticity reserve as a natural way to control frequency and
weights in spiking neural networks
- arxiv url: http://arxiv.org/abs/2103.08143v1
- Date: Mon, 15 Mar 2021 05:22:14 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-16 14:20:13.497490
- Title: Constrained plasticity reserve as a natural way to control frequency and
weights in spiking neural networks
- Title（参考訳）: スパイクニューラルネットワークにおける周波数と重み制御の自然な方法としての制約可塑性リザーブ
- Authors: Oleg Nikitin and Olga Lukyanova and Alex Kunin
- Abstract要約: 細胞動力学は神経細胞が激しいシグナルをフィルターして、ニューロンの発火速度を安定させるのにどのように役立つかを示す。
このようなアプローチは、AIシステムの堅牢性を改善するために、機械学習領域で使用される可能性がある。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Biological neurons have adaptive nature and perform complex computations
involving the filtering of redundant information. Such processing is often
associated with Bayesian inference. Yet most common models of neural cells,
including biologically plausible, such as Hodgkin-Huxley or Izhikevich do not
possess predictive dynamics on the level of a single cell. The modern rules of
synaptic plasticity or interconnections weights adaptation also do not provide
grounding for the ability of neurons to adapt to the ever-changing input signal
intensity. While natural neuron synaptic growth is precisely controlled and
restricted by protein supply and recycling, weight correction rules such as
widely used STDP are efficiently unlimited in change rate and scale. In the
present article, we will introduce new mechanics of interconnection between
neuron firing rate homeostasis and weight change by means of STDP growth
bounded by abstract protein reserve, controlled by the intracellular
optimization algorithm. We will show, how these cellular dynamics help neurons
to filter out the intense signals to help neurons keep a stable firing rate. We
will also examine that such filtering does not affect the ability of neurons to
recognize the correlated inputs in unsupervised mode. Such an approach might be
used in the machine learning domain to improve the robustness of AI systems.
- Abstract（参考訳）: 生物ニューロンは適応的な性質を持ち、冗長な情報のフィルタリングを含む複雑な計算を行う。
このような処理はベイズ推論としばしば関連づけられる。
しかし、Hodgkin-HuxleyやIzhikevichのような生物学的に実行可能な神経細胞の最も一般的なモデルは、単一の細胞のレベルで予測ダイナミクスを持っていない。
現代のシナプス可塑性や相互結合重み適応の規則は、ニューロンが常に変化する入力信号強度に適応する能力の基盤を提供しない。
天然ニューロンのシナプス成長はタンパク質の供給とリサイクルによって正確に制御され制限されているが、広く使われているstdpのような重量補正規則は、変化率とスケールにおいて効率良く無制限である。
本稿では、細胞内最適化アルゴリズムにより制御された抽象タンパク質の蓄積によるSTDP成長によるニューロンの発火速度のホメオスタシスと体重変化の相互関係の新たなメカニズムを紹介する。
これらの細胞動態がニューロンの強力なシグナルをフィルタリングし、ニューロンが安定した発射速度を維持するのにどのように役立つかを示します。
また、そのようなフィルタリングは、非監視モードでの相関入力を認識するニューロンの能力に影響を与えないことも検討する。
このようなアプローチは、AIシステムの堅牢性を改善するために、機械学習領域で使用される可能性がある。
関連論文リスト
- Contribute to balance, wire in accordance: Emergence of backpropagation from a simple, bio-plausible neuroplasticity rule [0.0]
我々は,脳にBPを実装するための潜在的なメカニズムを提供する新しい神経可塑性規則を導入する。
我々は,我々の学習規則が階層型ニューラルネットワークのBPを近似なしで正確に再現できることを数学的に証明した。
論文 参考訳（メタデータ） (2024-05-23T03:28:52Z) - Single Neuromorphic Memristor closely Emulates Multiple Synaptic
Mechanisms for Energy Efficient Neural Networks [71.79257685917058]
我々はこれらのシナプス機能を本質的にエミュレートするSrTiO3に基づく膜状ナノデバイスを実証する。
これらのメムリスタは、安定かつエネルギー効率の良い運転を可能にする非定常低導電系で機能する。
論文 参考訳（メタデータ） (2024-02-26T15:01:54Z) - The Neuron as a Direct Data-Driven Controller [43.8450722109081]
本研究は、ニューロンを最適フィードバックコントローラとして概念化し、予測を最適化する現在の規範モデルを拡張する。
我々は、ニューロンを生物学的に実現可能なコントローラとしてモデル化し、ループダイナミクスを暗黙的に識別し、潜伏状態を推測し、制御を最適化する。
我々のモデルは、従来の、フィードフォワード、即時応答のマカロック-ピッツ-ローゼンブラットニューロンから大きく離れており、ニューラルネットワークを構築するための、新しく生物学的にインフォームドされた基本ユニットを提供する。
論文 参考訳（メタデータ） (2024-01-03T01:24:10Z) - Astrocytes as a mechanism for meta-plasticity and contextually-guided
network function [2.66269503676104]
アストロサイトは、ユビキタスでエニグマティックな非神経細胞である。
アストロサイトは脳機能や神経計算においてより直接的で活発な役割を果たす。
論文 参考訳（メタデータ） (2023-11-06T20:31:01Z) - The Expressive Leaky Memory Neuron: an Efficient and Expressive Phenomenological Neuron Model Can Solve Long-Horizon Tasks [64.08042492426992]
本稿では,脳皮質ニューロンの生物学的モデルであるExpressive Memory(ELM)ニューロンモデルを紹介する。
ELMニューロンは、上記の入力-出力関係を1万以下のトレーニング可能なパラメータと正確に一致させることができる。
本稿では,Long Range Arena(LRA)データセットなど,時間構造を必要とするタスクで評価する。
論文 参考訳（メタデータ） (2023-06-14T13:34:13Z) - POPPINS : A Population-Based Digital Spiking Neuromorphic Processor with
Integer Quadratic Integrate-and-Fire Neurons [50.591267188664666]
2つの階層構造を持つ180nmプロセス技術において,集団に基づくディジタルスパイキングニューロモルフィックプロセッサを提案する。
提案手法は,生体模倣型ニューロモルフィックシステム,低消費電力,低遅延推論処理アプリケーションの開発を可能にする。
論文 参考訳（メタデータ） (2022-01-19T09:26:34Z) - Improving Spiking Neural Network Accuracy Using Time-based Neurons [0.24366811507669117]
アナログニューロンを用いた低消費電力スパイクニューラルネットワークに基づくニューロモルフィックコンピューティングシステムの研究が注目されている。
技術のスケールダウンに伴い、アナログニューロンはスケールが難しく、電圧ヘッドルーム/ダイナミックレンジの減少と回路の非線形性に悩まされる。
本稿では,28nmプロセスで設計した既存の電流ミラー型電圧ドメインニューロンの非線形挙動をモデル化し,ニューロンの非線形性の影響によりSNN推定精度を著しく劣化させることができることを示す。
本稿では,時間領域のスパイクを処理し,線形性を大幅に向上させる新しいニューロンを提案する。
論文 参考訳（メタデータ） (2022-01-05T00:24:45Z) - Towards self-organized control: Using neural cellular automata to
robustly control a cart-pole agent [62.997667081978825]
我々は、カートポールエージェントを制御するために、ニューラルセルオートマトンを使用する。
我々は、Q値の推定値として出力セルの状態を用いる深層学習を用いてモデルを訓練した。
論文 参考訳（メタデータ） (2021-06-29T10:49:42Z) - Continuous Learning and Adaptation with Membrane Potential and
Activation Threshold Homeostasis [91.3755431537592]
本稿では,MPATH(Membrane Potential and Activation Threshold Homeostasis)ニューロンモデルを提案する。
このモデルにより、ニューロンは入力が提示されたときに自動的に活性を調節することで動的平衡の形式を維持することができる。
実験は、モデルがその入力から適応し、継続的に学習する能力を示す。
論文 参考訳（メタデータ） (2021-04-22T04:01:32Z) - Flexible Transmitter Network [84.90891046882213]
現在のニューラルネットワークはMPモデルに基づいて構築されており、通常はニューロンを他のニューロンから受信した信号の実際の重み付け集約上での活性化関数の実行として定式化する。
本稿では,フレキシブル・トランスミッタ(FT)モデルを提案する。
本稿では、最も一般的な完全接続型フィードフォワードアーキテクチャ上に構築された、フレキシブルトランスミッタネットワーク(FTNet)について述べる。
論文 参考訳（メタデータ） (2020-04-08T06:55:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。