論文の概要: Stable Lifelong Learning: Spiking neurons as a solution to instability
in plastic neural networks
- arxiv url: http://arxiv.org/abs/2111.04113v1
- Date: Sun, 7 Nov 2021 15:55:48 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-08 22:23:02.591980
- Title: Stable Lifelong Learning: Spiking neurons as a solution to instability
in plastic neural networks
- Title(参考訳): 安定寿命学習 : プラスチックニューラルネットワークの不安定性に対する解決策としての神経細胞スパイキング
- Authors: Samuel Schmidgall, Joe Hays
- Abstract要約: ANNとともに可塑性を利用すると、トレーニング中に使用する予め規定された寿命を超えて不安定になることを示す。
この不安定さは、行動を求める報酬の劇的な減少につながる可能性がある。
我々は、スパイキングニューロンを用いて、この不安定性に対する解決策を提示する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Synaptic plasticity poses itself as a powerful method of self-regulated
unsupervised learning in neural networks. A recent resurgence of interest has
developed in utilizing Artificial Neural Networks (ANNs) together with synaptic
plasticity for intra-lifetime learning. Plasticity has been shown to improve
the learning capabilities of these networks in generalizing to novel
environmental circumstances. However, the long-term stability of these trained
networks has yet to be examined. This work demonstrates that utilizing
plasticity together with ANNs leads to instability beyond the pre-specified
lifespan used during training. This instability can lead to the dramatic
decline of reward seeking behavior, or quickly lead to reaching environment
terminal states. This behavior is shown to hold consistent for several
plasticity rules on two different environments across many training
time-horizons: a cart-pole balancing problem and a quadrupedal locomotion
problem. We present a solution to this instability through the use of spiking
neurons.
- Abstract(参考訳): シナプス可塑性は、ニューラルネットワークにおける自己制御された教師なし学習の強力な方法である。
近年,ANN(Artificial Neural Networks)とシナプス可塑性(synaptic plasticity)の併用による生活学習への関心が高まっている。
塑性はこれらのネットワークの学習能力を改善し、新しい環境環境への一般化を図っている。
しかし、これらの訓練されたネットワークの長期的な安定性はまだ検討されていない。
この研究は、ANNとともに可塑性を利用することで、トレーニング中に使用する所定の寿命を超えた不安定性をもたらすことを示す。
この不安定さは報酬を求める行動の劇的な減少につながるか、あるいはすぐに環境状態に到達することにつながる。
この挙動は、2つの異なる環境においてカートポールバランス問題と四足歩行問題という多くの訓練時間ホライゾンにまたがる可塑性規則に一貫性があることが示されている。
スパイキングニューロンを用いた不安定性に対する解法を提案する。
関連論文リスト
- Disentangling the Causes of Plasticity Loss in Neural Networks [55.23250269007988]
可塑性の喪失は複数の独立したメカニズムに分解できることを示す。
種々の非定常学習タスクにおいて, 層正規化と重み劣化の組み合わせは, 可塑性維持に極めて有効であることを示す。
論文 参考訳(メタデータ) (2024-02-29T00:02:33Z) - Single Neuromorphic Memristor closely Emulates Multiple Synaptic
Mechanisms for Energy Efficient Neural Networks [71.79257685917058]
我々はこれらのシナプス機能を本質的にエミュレートするSrTiO3に基づく膜状ナノデバイスを実証する。
これらのメムリスタは、安定かつエネルギー効率の良い運転を可能にする非定常低導電系で機能する。
論文 参考訳(メタデータ) (2024-02-26T15:01:54Z) - Simple and Effective Transfer Learning for Neuro-Symbolic Integration [54.27778591338189]
この問題の潜在的な解決策はNeuro-Symbolic Integration (NeSy)であり、ニューラルアプローチとシンボリック推論を組み合わせる。
これらの手法のほとんどは、認識をシンボルにマッピングするニューラルネットワークと、下流タスクの出力を予測する論理的論理的推論を利用する。
それらは、緩やかな収束、複雑な知覚タスクの学習困難、局所的なミニマへの収束など、いくつかの問題に悩まされている。
本稿では,これらの問題を改善するための簡易かつ効果的な方法を提案する。
論文 参考訳(メタデータ) (2024-02-21T15:51:01Z) - Achieving a Better Stability-Plasticity Trade-off via Auxiliary Networks
in Continual Learning [23.15206507040553]
本稿では、ニューラルネットワークに現在の課題を学習する能力を持たせるために、補助的ネットワーク継続学習(ANCL)を提案する。
ANCLは、主に安定性に焦点を当てた継続的な学習モデルに可塑性を促進する補助ネットワークを付加する。
より具体的には、提案するフレームワークは、可塑性と安定性を自然に補間する正規化器として実現されている。
論文 参考訳(メタデータ) (2023-03-16T17:00:42Z) - Understanding plasticity in neural networks [41.79540750236036]
可塑性は、ニューラルネットワークが新しい情報に反応して予測を素早く変更する能力である。
深層ニューラルネットワークは、比較的単純な学習問題であっても、トレーニングの過程で可塑性を失うことが知られている。
論文 参考訳(メタデータ) (2023-03-02T18:47:51Z) - Spiking neural network for nonlinear regression [68.8204255655161]
スパイクニューラルネットワークは、メモリとエネルギー消費を大幅に削減する可能性を持っている。
彼らは、次世代のニューロモルフィックハードウェアによって活用できる時間的および神経的疎結合を導入する。
スパイキングニューラルネットワークを用いた回帰フレームワークを提案する。
論文 参考訳(メタデータ) (2022-10-06T13:04:45Z) - Entropy-based Stability-Plasticity for Lifelong Learning [17.40355682488805]
本稿では,ニューラルネットワークの安定性・塑性ジレンマに対処するために,エントロピーに基づく安定塑性(ESP)を提案する。
当社のアプローチでは,塑性係数を用いて各モデル層をどの程度変更すべきかを動的に決定できる。
場合によっては、トレーニング中にレイヤを凍結することで、トレーニングのスピードアップにつながる場合もある。
論文 参考訳(メタデータ) (2022-04-18T22:58:49Z) - SpikePropamine: Differentiable Plasticity in Spiking Neural Networks [0.0]
スパイキングニューラルネットワーク(SNN)におけるシナプス可塑性と神経調節シナプス可塑性のダイナミクスを学習するための枠組みを導入する。
異なる可塑性で強化されたSNNは、時間的学習課題の集合を解決するのに十分であることを示す。
これらのネットワークは、高次元のロボット学習タスクで移動を生成できることも示されている。
論文 参考訳(メタデータ) (2021-06-04T19:29:07Z) - Continuous Learning and Adaptation with Membrane Potential and
Activation Threshold Homeostasis [91.3755431537592]
本稿では,MPATH(Membrane Potential and Activation Threshold Homeostasis)ニューロンモデルを提案する。
このモデルにより、ニューロンは入力が提示されたときに自動的に活性を調節することで動的平衡の形式を維持することができる。
実験は、モデルがその入力から適応し、継続的に学習する能力を示す。
論文 参考訳(メタデータ) (2021-04-22T04:01:32Z) - Artificial Neural Variability for Deep Learning: On Overfitting, Noise
Memorization, and Catastrophic Forgetting [135.0863818867184]
人工ニューラルネットワーク(ANV)は、ニューラルネットワークが自然のニューラルネットワークからいくつかの利点を学ぶのに役立つ。
ANVは、トレーニングデータと学習モデルの間の相互情報の暗黙の正則化として機能する。
過度にフィットし、ノイズの記憶をラベル付けし、無視できるコストで破滅的な忘れを効果的に軽減することができる。
論文 参考訳(メタデータ) (2020-11-12T06:06:33Z) - Adaptive Reinforcement Learning through Evolving Self-Modifying Neural
Networks [0.0]
強化学習(RL)の現在の手法は、特定の時間間隔で反射した後にのみ新しい相互作用に適応する。
最近の研究は、バックプロパゲーションを用いて訓練された単純なRLタスクの性能を向上させるために、ニューラルネットワークに神経修飾塑性を付与することでこの問題に対処している。
ここでは,四足歩行におけるメタラーニングの課題について検討する。
その結果、自己修飾プラスチックネットワークを用いて進化したエージェントは、複雑なメタ学習タスクに適応し、グラデーションを使って更新された同じネットワークよりも優れていることが示される。
論文 参考訳(メタデータ) (2020-05-22T02:24:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。