論文の概要: Hebbian fast plasticity and working memory
- arxiv url: http://arxiv.org/abs/2304.06626v1
- Date: Thu, 13 Apr 2023 15:53:09 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-14 13:47:24.652442
- Title: Hebbian fast plasticity and working memory
- Title(参考訳): ヘビアン高速塑性と作業記憶
- Authors: Anders Lansner, Florian Fiebig, Pawel Herman
- Abstract要約: 我々は、高速なヘビアン可塑性に焦点をあて、この連想学習の形式に基づいて構築されたWM理論とモデルの起源を辿る。
非ヘビアン対ヘビアンシナプス可塑性の問題は、この文脈で自然に現れる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Theories and models of working memory (WM) were at least since the mid-1990s
dominated by the persistent activity hypothesis. The past decade has seen
rising concerns about the shortcomings of sustained activity as the mechanism
for short-term maintenance of WM information in the light of accumulating
experimental evidence for so-called activity-silent WM and the fundamental
difficulty in explaining robust multi-item WM. In consequence, alternative
theories are now explored mostly in the direction of fast synaptic plasticity
as the underlying mechanism.The question of non-Hebbian vs Hebbian synaptic
plasticity emerges naturally in this context. In this review we focus on fast
Hebbian plasticity and trace the origins of WM theories and models building on
this form of associative learning.
- Abstract(参考訳): ワーキングメモリの理論とモデル(wm)は、少なくとも1990年代半ばから持続的活動仮説に支配されていた。
この10年は、いわゆる活動サイレントWMの実験的証拠の蓄積と、堅牢な多項目WMを説明する上での根本的な困難を考慮し、WM情報の短期的維持のメカニズムとして、持続的活動の欠点が懸念されている。
その結果, 高速シナプス可塑性の方向を中心に, 非ヘビアン対ヘビアン可塑性の問題が自然発生している。
本稿では, 高速なヘビアン可塑性に着目し, この形態の連想学習に基づくWM理論とモデルの起源を追究する。
関連論文リスト
- Active-Dormant Attention Heads: Mechanistically Demystifying Extreme-Token Phenomena in LLMs [77.66717051042032]
実践者は変圧器に基づく大言語モデルにおいて、3つのパズリング現象を一貫して観察してきた。
これらの現象は、ある種のいわゆる「シンクトークン」が不当に高い注意重みを負っているのが特徴である。
極端トーケン現象のメカニズムを解明する。
論文 参考訳(メタデータ) (2024-10-17T17:54:06Z) - Class-wise Activation Unravelling the Engima of Deep Double Descent [0.0]
二重降下は、機械学習領域内の反直観的な側面を示す。
本研究では,二重降下現象を再考し,その発生状況について考察した。
論文 参考訳(メタデータ) (2024-05-13T12:07:48Z) - Can We Understand Plasticity Through Neural Collapse? [0.0]
本稿では,近年の深層学習における2つの現象,すなわち可塑性損失と神経崩壊の関連について検討する。
これらの相関関係を異なるシナリオで分析し、最初のタスクでの最初のトレーニングフェーズの間に有意な関連性を明らかにする。
神経崩壊を緩和する正規化手法を導入し,その有効性を示す。
論文 参考訳(メタデータ) (2024-04-03T13:21:58Z) - Sim-to-Real Causal Transfer: A Metric Learning Approach to
Causally-Aware Interaction Representations [62.48505112245388]
エージェント相互作用の現代的表現の因果認識を詳細に検討する。
近年の表現は、非因果剤の摂動に対して部分的に耐性があることが示されている。
因果アノテーションを用いた潜在表現を正規化するための計量学習手法を提案する。
論文 参考訳(メタデータ) (2023-12-07T18:57:03Z) - A Neuro-mimetic Realization of the Common Model of Cognition via Hebbian
Learning and Free Energy Minimization [55.11642177631929]
大規模なニューラル生成モデルは、意味的に豊富なテキストのパスを合成したり、複雑な画像を生成することができる。
我々はコモン・モデル・オブ・コグニティブ・ニューラル・ジェネレーティブ・システムについて論じる。
論文 参考訳(メタデータ) (2023-10-14T23:28:48Z) - Long Short-term Memory with Two-Compartment Spiking Neuron [64.02161577259426]
LSTM-LIFとよばれる,生物学的にインスパイアされたLong Short-Term Memory Leaky Integrate-and-Fireのスパイキングニューロンモデルを提案する。
実験結果は,時間的分類タスクの多種多様な範囲において,優れた時間的分類能力,迅速な訓練収束,ネットワークの一般化性,LSTM-LIFモデルの高エネルギー化を実証した。
したがって、この研究は、新しいニューロモルフィック・コンピューティング・マシンにおいて、困難な時間的処理タスクを解決するための、無数の機会を開放する。
論文 参考訳(メタデータ) (2023-07-14T08:51:03Z) - Memory-Augmented Theory of Mind Network [59.9781556714202]
社会的推論は、心の理論(ToM)の能力を必要とする。
ToMに対する最近の機械学習アプローチは、観察者が過去を読み、他のエージェントの振る舞いを提示するように訓練できることを実証している。
我々は,新たなニューラルメモリ機構を組み込んで符号化し,階層的な注意を払って他者に関する情報を選択的に検索することで,課題に対処する。
この結果、ToMMYは心的プロセスについての仮定をほとんど行わずに理性を学ぶマインドモデルである。
論文 参考訳(メタデータ) (2023-01-17T14:48:58Z) - Information Theoretic Measures of Causal Influences during Transient
Neural Events [2.9327503320877457]
過渡現象は、複数のスケールで脳の活動を調整する上で重要な役割を果たしている。
ニューラルデータサイエンスの鍵となる課題は、これらのイベント中のネットワークインタラクションを特徴づけることである。
論文 参考訳(メタデータ) (2022-09-15T17:51:46Z) - ACRE: Abstract Causal REasoning Beyond Covariation [90.99059920286484]
因果誘導における現在の視覚システムの系統的評価のための抽象因果分析データセットについて紹介する。
Blicket実験における因果発見の研究の流れに触発され、独立シナリオと介入シナリオのいずれにおいても、以下の4種類の質問で視覚的推論システムに問い合わせる。
純粋なニューラルモデルは確率レベルのパフォーマンスの下で連想戦略に向かう傾向があるのに対し、ニューロシンボリックな組み合わせは後方ブロッキングの推論に苦しむ。
論文 参考訳(メタデータ) (2021-03-26T02:42:38Z) - Classical and quantum dynamical manifestations of index-2 saddles:
concerted versus sequential reaction mechanisms [0.0]
多次元ポテンシャルエネルギー表面における高濃度サドルの存在について検討する。
この機構の超高速シフトは、基本的に古典力学効果であることを示す。
論文 参考訳(メタデータ) (2020-09-16T14:39:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。