論文の概要: A neural network that maintains and retrieves memories based on context
- arxiv url: http://arxiv.org/abs/2609.37791v1
- Date: Tue, 29 Sep 2026 15:20:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.676056
- Title: A neural network that maintains and retrieves memories based on context
- Title(参考訳): 文脈に基づく記憶の保持と検索を行うニューラルネットワーク
- Abstract要約: 我々は、自然主義映画を見ながらコンテキストを推測するために、リカレントニューラルネットワーク(RNN)を訓練する。
コンテキストはまた、コンテントの類似性だけでなくコンテクストの類似性にもとづいてメモリを検索するように、エピソードメモリの検索を変調する。
本研究は,自然環境における情報保守と長期記憶検索を文脈で調節する計算機構を提案する。
- 参考スコア(独自算出の注目度): 0.3518016233072557
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Every day, people continuously infer situational context and adjust the way they understand and remember the world. Context, signaled by the prefrontal cortex, is known to modulate working memory and episodic memory, but the algorithmic understanding of this modulation remains limited. Here, we train a recurrent neural network (RNN), augmented with an episodic memory buffer, to infer context using Bayesian inference as it continuously makes predictions of upcoming scenes while watching naturalistic movies. When the inferred context modulates the RNN's recurrent connectivity (the basis of working memory) in a low-rank manner, the model's activity patterns best match neural responses in human participants who watched the same movies during fMRI. Context also modulates episodic memory retrieval, such that the model retrieves memories based on not only content similarity but also context similarity. This is implemented as a key-value system with self-attention, designed to additionally encode context and retrieve context-congruent memories. The resulting model not only better resembles human brain representations but also learns to retrieve memories like humans much faster than a model without context modulation. Together, our findings suggest a computational mechanism by which context modulates information maintenance and long-term memory retrieval in naturalistic environments.
- Abstract(参考訳): 毎日、人々は状況のコンテキストを継続的に推測し、世界の理解と記憶の仕方を調整します。
前頭前皮質によって信号される文脈は、作業記憶とエピソード記憶を変調することが知られているが、この変調のアルゴリズム的理解は限定的である。
ここでは,自然主義映画を観ながら来るべき場面を連続的に予測し,ベイズ推論を用いてコンテキストを推測するために,エピソードメモリバッファを付加したリカレントニューラルネットワーク(RNN)を訓練する。
推論されたコンテキストがRNNのリカレント接続(ワーキングメモリの基礎)を低ランクで変調すると、モデルの活動パターンはfMRI中に同じ映画を見た人間の神経反応に最もよく一致する。
コンテキストはまた、コンテントの類似性だけでなくコンテクストの類似性にもとづいてメモリを検索するように、エピソードメモリの検索を変調する。
これは自己注意型キーバリューシステムとして実装され、コンテキストをエンコードし、コンテキスト整合記憶を検索するように設計されている。
結果として得られるモデルは、人間の脳の表現によく似ているだけでなく、文脈変調のないモデルよりも、人間のような記憶を素早く取り出すことができる。
そこで本研究では,自然環境における情報保守と長期記憶の検索をコンテキストで調節する計算機構を提案する。
関連論文リスト
- Evoking User Memory: Personalizing LLM via Recollection-Familiarity Adaptive Retrieval [59.295767860331004]
RF-Memは、親しみやすい不確実性誘導デュアルパスメモリレトリバーである。
それは、人間のようなデュアルプロセス認識をレトリバーに埋め込む。
一定の予算とレイテンシの制約の下で、ワンショット検索とフルコンテキスト推論を一貫して上回る。
論文 参考訳(メタデータ) (2026-03-10T06:31:44Z) - From Memories to Maps: Mechanisms of In-Context Reinforcement Learning in Transformers [2.4554686192257424]
本研究は,げっ歯類行動にインスパイアされた計画課題の分布について,コンテクスト内強化学習のためのトランスフォーマーを訓練する。
モデルに現れる学習アルゴリズムを特徴付ける。
メモリは計算資源として機能し、フレキシブルな動作をサポートするために生のエクスペリエンスとキャッシュされた計算の両方を格納する。
論文 参考訳(メタデータ) (2025-06-24T14:55:43Z) - Sequence-to-Sequence Models with Attention Mechanistically Map to the Architecture of Human Memory Search [13.961239165301315]
ニューラルネットワーク翻訳の基本構造は、人間の記憶のコンテキスト保守と検索モデルで指定されたものと直接対応するメカニズムを示す。
我々は、人間の記憶探索の認知モデルとしてニューラルネットワーク翻訳モデルを実装し、解釈可能であり、学習の複雑なダイナミクスを捉えることができる。
論文 参考訳(メタデータ) (2025-06-20T18:43:15Z) - Latent Structured Hopfield Network for Semantic Association and Retrieval [52.634915010996835]
エピソード記憶は、オブジェクト、場所、時間などの意味的要素をコヒーレントなイベント表現に関連付けることによって、過去の経験を思い出すことができる。
本稿では,連続ホップフィールドアトラクタダイナミクスを自動エンコーダアーキテクチャに統合するフレームワークであるLatent Structured Hopfield Network (LSHN)を提案する。
従来のホップフィールドネットワークとは異なり、我々のモデルは勾配勾配でエンドツーエンドに訓練され、スケーラブルで堅牢なメモリ検索を実現する。
論文 参考訳(メタデータ) (2025-06-02T04:24:36Z) - Synaptic Theory of Chunking in Working Memory [0.5735035463793009]
本稿では, 短期的なシナプス可塑性により, 動作記憶におけるチャンク表現の形成を可能にする, チャンクのシナプス理論を紹介する。
チャンキングニューロン'の特異的集団は、ゲーティングと同様、刺激応答性ニューロン群を選択的に制御する。
我々の研究は、脳がリアルタイムでどのように情報を整理するかを理解するための、概念的で分析的な枠組みを提供する。
論文 参考訳(メタデータ) (2024-08-14T16:03:47Z) - On the Relationship Between Variational Inference and Auto-Associative
Memory [68.8204255655161]
本フレームワークでは, 変動推論に対する異なるニューラルネットワークアプローチが適用可能であるかを検討する。
得られたアルゴリズムをCIFAR10とCLEVRの画像データセットで評価し,他の連想記憶モデルと比較した。
論文 参考訳(メタデータ) (2022-10-14T14:18:47Z) - Associative Memories via Predictive Coding [37.59398215921529]
脳内の連想記憶は感覚ニューロンによって登録された活動パターンを受信し、記憶する。
本稿では,知覚ニューロンを介して外部刺激を受ける階層的生成ネットワークに基づいて,連想記憶を実現する新しいニューラルモデルを提案する。
論文 参考訳(メタデータ) (2021-09-16T15:46:26Z) - Incremental Training of a Recurrent Neural Network Exploiting a
Multi-Scale Dynamic Memory [79.42778415729475]
本稿では,マルチスケール学習を対象とする,漸進的に訓練された再帰的アーキテクチャを提案する。
隠れた状態を異なるモジュールに分割することで、シンプルなRNNのアーキテクチャを拡張する方法を示す。
新しいモジュールがモデルに反復的に追加され、徐々に長い依存関係を学習するトレーニングアルゴリズムについて議論する。
論文 参考訳(メタデータ) (2020-06-29T08:35:49Z) - Self-Attentive Associative Memory [69.40038844695917]
我々は、個々の体験(記憶)とその発生する関係(関連記憶)の記憶を分離することを提案する。
機械学習タスクの多様性において,提案した2メモリモデルと競合する結果が得られる。
論文 参考訳(メタデータ) (2020-02-10T03:27:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。