論文の概要: Episodic memory governs choices: An RNN-based reinforcement learning
model for decision-making task
- arxiv url: http://arxiv.org/abs/2103.03679v1
- Date: Sun, 24 Jan 2021 04:33:07 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-16 09:09:16.873109
- Title: Episodic memory governs choices: An RNN-based reinforcement learning
model for decision-making task
- Title(参考訳): エピソード記憶は選択を支配する:意思決定タスクのためのRNNベースの強化学習モデル
- Authors: Xiaohan Zhang, Lu Liu, Guodong Long, Jing Jiang, Shenquan Liu
- Abstract要約: RNNベースのActor-Criticフレームワークを開発し、サルの意思決定タスクに類似した2つのタスクを解決します。
私たちは、神経科学のオープンな質問を探ろうとしています:海馬のエピソード記憶は、最終的に将来の決定を支配するために選択されるべきです。
- 参考スコア(独自算出の注目度): 24.96447960548042
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Typical methods to study cognitive function are to record the electrical
activities of animal neurons during the training of animals performing
behavioral tasks. A key problem is that they fail to record all the relevant
neurons in the animal brain. To alleviate this problem, we develop an RNN-based
Actor-Critic framework, which is trained through reinforcement learning (RL) to
solve two tasks analogous to the monkeys' decision-making tasks. The trained
model is capable of reproducing some features of neural activities recorded
from animal brain, or some behavior properties exhibited in animal experiments,
suggesting that it can serve as a computational platform to explore other
cognitive functions. Furthermore, we conduct behavioral experiments on our
framework, trying to explore an open question in neuroscience: which episodic
memory in the hippocampus should be selected to ultimately govern future
decisions. We find that the retrieval of salient events sampled from episodic
memories can effectively shorten deliberation time than common events in the
decision-making process. The results indicate that salient events stored in the
hippocampus could be prioritized to propagate reward information, and thus
allow decision-makers to learn a strategy faster.
- Abstract(参考訳): 認知機能を研究する典型的な方法は、行動タスクを行う動物の訓練中の動物のニューロンの電気活動を記録することである。
重要な問題は、彼らは動物の脳内のすべての関連ニューロンを記録できないことです。
この問題を解決するために,強化学習(rl)によって学習し,サルの意思決定タスクに類似した2つの課題を解決するrnnベースのアクタ-クリティックフレームワークを開発した。
訓練されたモデルは、動物の脳から記録された神経活動のいくつかの特徴、または動物実験で示された行動特性を再現することができ、他の認知機能を調べるための計算プラットフォームとして機能することを示唆している。
さらに、我々は神経科学におけるオープンな疑問を探究するために、行動実験を行い、海馬のエピソディクス記憶を選択すべきかどうかを究極的に決定する。
エピソード記憶から抽出された有意な事象の検索は、意思決定プロセスにおける一般的な出来事よりも審議時間を効果的に短縮できることが判明した。
以上の結果から,海馬に蓄積された有能なイベントを優先して報奨情報を伝達し,意思決定者がより早く戦略を学習できることが示唆された。
関連論文リスト
- Towards a "universal translator" for neural dynamics at single-cell, single-spike resolution [10.49121904052395]
我々は、複数の脳領域にまたがる多様なタスクを解決できる、神経スパイクデータのための最初の基礎モデルを構築する。
予測タスクには、単一ニューロンとリージョンレベルのアクティビティ予測、前方予測、行動復号化などがある。
論文 参考訳(メタデータ) (2024-07-19T21:05:28Z) - Hebbian Learning based Orthogonal Projection for Continual Learning of
Spiking Neural Networks [74.3099028063756]
我々は,側方接続とヘビアン学習に基づくニューラル操作を用いた新しい手法を開発した。
我々は,反復する側方接続におけるヘビアン学習と反ヘビアン学習が,神経活動の主部分空間を効果的に抽出できることを示した。
我々の手法は、ほとんど忘れることなくニューラルネットワークをスパイクするために一貫して解決する。
論文 参考訳(メタデータ) (2024-02-19T09:29:37Z) - Brain-Like Replay Naturally Emerges in Reinforcement Learning Agents [4.603243771244471]
我々は、繰り返しニューラルネットワークに基づく強化学習モデルを用いて、タスク最適化パラダイムの下で自然に創発的なリプレイを発見する。
私たちの仕事は、リプレイの背後にあるメカニズムを理解するための新しい道を提供する。
論文 参考訳(メタデータ) (2024-02-02T14:55:51Z) - A Goal-Driven Approach to Systems Neuroscience [2.6451153531057985]
人間と動物は、動的環境において様々な興味深い行動を示す。
私たちの脳が、こうした行動を可能にするために、どのようにしてこの密集した感覚情報を積極的に再構築するかは不明です。
我々は、ニューラルサーキットの統一構造モデルと機能モデルを生み出すことを約束する新しい解釈可能性の定義を提供する。
論文 参考訳(メタデータ) (2023-11-05T16:37:53Z) - Memory-Augmented Theory of Mind Network [59.9781556714202]
社会的推論は、心の理論(ToM)の能力を必要とする。
ToMに対する最近の機械学習アプローチは、観察者が過去を読み、他のエージェントの振る舞いを提示するように訓練できることを実証している。
我々は,新たなニューラルメモリ機構を組み込んで符号化し,階層的な注意を払って他者に関する情報を選択的に検索することで,課題に対処する。
この結果、ToMMYは心的プロセスについての仮定をほとんど行わずに理性を学ぶマインドモデルである。
論文 参考訳(メタデータ) (2023-01-17T14:48:58Z) - Neural Language Models are not Born Equal to Fit Brain Data, but
Training Helps [75.84770193489639]
音声ブックを聴く被験者の機能的磁気共鳴イメージングの時間軸予測に及ぼすテスト損失,トレーニングコーパス,モデルアーキテクチャの影響について検討した。
各モデルの訓練されていないバージョンは、同じ単語をまたいだ脳反応の類似性を捉えることで、脳内のかなりの量のシグナルをすでに説明していることがわかりました。
ニューラル言語モデルを用いたヒューマン・ランゲージ・システムの説明を目的とした今後の研究の実践を提案する。
論文 参考訳(メタデータ) (2022-07-07T15:37:17Z) - A bio-inspired implementation of a sparse-learning spike-based
hippocampus memory model [0.0]
本研究では,海馬に基づくバイオインスパイアされた新しい記憶モデルを提案する。
記憶を覚えたり、キューから思い出したり、同じキューで他の人を学ぼうとする時の記憶を忘れたりできる。
この研究は、完全に機能するバイオインスパイアされたスパイクベースの海馬記憶モデルの最初のハードウェア実装を示す。
論文 参考訳(メタデータ) (2022-06-10T07:48:29Z) - Overcoming the Domain Gap in Neural Action Representations [60.47807856873544]
3Dポーズデータは、手動で介入することなく、マルチビュービデオシーケンスから確実に抽出できる。
本稿では,ニューラルアクション表現の符号化を,ニューラルアクションと行動拡張のセットと共に導くために使用することを提案する。
ドメインギャップを減らすために、トレーニングの間、同様の行動をしているように見える動物間で神経と行動のデータを取り替える。
論文 参考訳(メタデータ) (2021-12-02T12:45:46Z) - Overcoming the Domain Gap in Contrastive Learning of Neural Action
Representations [60.47807856873544]
神経科学の基本的な目標は、神経活動と行動の関係を理解することである。
我々は,ハエが自然に生み出す行動からなる新しいマルチモーダルデータセットを作成した。
このデータセットと新しい拡張セットは、神経科学における自己教師あり学習手法の適用を加速することを約束します。
論文 参考訳(メタデータ) (2021-11-29T15:27:51Z) - Neuronal Learning Analysis using Cycle-Consistent Adversarial Networks [4.874780144224057]
我々は、-CycleGANと呼ばれる深層生成モデルを用いて、前学習と後学習の神経活動の間の未知のマッピングを学習する。
我々は,カルシウム蛍光信号を前処理し,訓練し,評価するためのエンドツーエンドパイプラインを開発し,その結果の深層学習モデルを解釈する手法を開発した。
論文 参考訳(メタデータ) (2021-11-25T13:24:19Z) - Neuroevolution of a Recurrent Neural Network for Spatial and Working
Memory in a Simulated Robotic Environment [57.91534223695695]
我々は,ラットで観察される行動と神経活動を再現する進化的アルゴリズムを用いて,生物学的に有意なリカレントニューラルネットワーク(RNN)でウェイトを進化させた。
提案手法は, 進化したRNNの動的活動が, 興味深く複雑な認知行動をどのように捉えているかを示す。
論文 参考訳(メタデータ) (2021-02-25T02:13:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。