論文の概要: Key-value memory in the brain

• arxiv url: http://arxiv.org/abs/2501.02950v1
• Date: Mon, 06 Jan 2025 11:46:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-07 17:08:01.458039
• Title: Key-value memory in the brain
• Title（参考訳）: 脳におけるキーバリュー記憶
• Authors: Samuel J. Gershman, Ila Fiete, Kazuki Irie,
• Abstract要約: キーバリューメモリシステムは、記憶(値)と検索(キー)に使用される表現を区別する これにより、キーバリューメモリシステムは、ストレージの忠実度と検索の識別性を同時に最適化できる。 我々は、キーバリューメモリの計算基盤、現代の機械学習システムにおけるその役割、心理学と神経科学の関連概念、数多くの経験的パズルへの応用、そして生物学的実装の可能性についてレビューする。
• 参考スコア（独自算出の注目度）: 19.319373145044015
• License:
• Abstract: Classical models of memory in psychology and neuroscience rely on similarity-based retrieval of stored patterns, where similarity is a function of retrieval cues and the stored patterns. While parsimonious, these models do not allow distinct representations for storage and retrieval, despite their distinct computational demands. Key-value memory systems, in contrast, distinguish representations used for storage (values) and those used for retrieval (keys). This allows key-value memory systems to optimize simultaneously for fidelity in storage and discriminability in retrieval. We review the computational foundations of key-value memory, its role in modern machine learning systems, related ideas from psychology and neuroscience, applications to a number of empirical puzzles, and possible biological implementations.
• Abstract（参考訳）: 心理学や神経科学における記憶の古典モデルは、類似性に基づく記憶パターンの検索に依存しており、類似性は検索キューと記憶パターンの機能である。 類似性はあるが、これらのモデルは異なる計算要求にもかかわらず、記憶と検索の異なる表現を許さない。 対照的にキーバリューメモリシステムは、ストレージ(値)と検索(キー)に使用される表現を区別する。 これにより、キーバリューメモリシステムは、ストレージの忠実度と検索の識別性を同時に最適化できる。 我々は、キーバリューメモリの計算基盤、現代の機械学習システムにおけるその役割、心理学と神経科学の関連概念、数多くの経験的パズルへの応用、そして生物学的実装の可能性についてレビューする。

関連論文リスト

• What do larger image classifiers memorise? [64.01325988398838]
  トレーニング例は, モデルサイズにまたがって, 予想外の多彩な記憶軌跡を示す。 有効で一般的なモデル圧縮手法である知識蒸留は,記憶を阻害する傾向があり,一般化も改善する。
  論文  参考訳（メタデータ） (2023-10-09T01:52:07Z)
• Sequential Memory with Temporal Predictive Coding [6.228559238589584]
  時空間予測符号化 (tPC) という, PC を用いた時空間メモリモデルを提案する。 我々のtPCモデルは、生物学的に妥当なニューラル実装を用いて、シーケンシャルな入力を正確に記憶し、取得できることを示します。
  論文  参考訳（メタデータ） (2023-05-19T20:03:31Z)
• Measures of Information Reflect Memorization Patterns [53.71420125627608]
  異なるニューロンの活性化パターンの多様性は、モデル一般化と記憶の反映であることを示す。 重要なことは、情報組織が記憶の2つの形態を指していることである。
  論文  参考訳（メタデータ） (2022-10-17T20:15:24Z)
• On the Relationship Between Variational Inference and Auto-Associative Memory [68.8204255655161]
  本フレームワークでは, 変動推論に対する異なるニューラルネットワークアプローチが適用可能であるかを検討する。 得られたアルゴリズムをCIFAR10とCLEVRの画像データセットで評価し,他の連想記憶モデルと比較した。
  論文  参考訳（メタデータ） (2022-10-14T14:18:47Z)
• Classification and Generation of real-world data with an Associative Memory Model [0.0]
  マルチモーダル・フレームワークを用いて,基本的な連想記憶モデルの能力を拡張する。 イメージとラベルの両方をモダリティとして保存することで、単一のメモリを使用してパターンを検索し、完了させることができる。
  論文  参考訳（メタデータ） (2022-07-11T12:51:27Z)
• Pin the Memory: Learning to Generalize Semantic Segmentation [68.367763672095]
  本稿ではメタラーニングフレームワークに基づくセマンティックセグメンテーションのための新しいメモリ誘導ドメイン一般化手法を提案する。 本手法は,セマンティッククラスの概念的知識を,ドメインを超えて一定であるカテゴリ記憶に抽象化する。
  論文  参考訳（メタデータ） (2022-04-07T17:34:01Z)
• Entropic Associative Memory for Manuscript Symbols [0.0]
  マニュアルシンボルは、連想的で分散されているが宣言的でないエントロピーデジタルメモリから保存、認識、検索することができる。 完全情報と不完全情報の両方を用いてオブジェクトを検索するエントロピー連想メモリの動作特性について考察する。
  論文  参考訳（メタデータ） (2022-02-17T02:29:33Z)
• Biological learning in key-value memory networks [0.45880283710344055]
  機械学習におけるメモリ拡張ニューラルネットワークは、一般的にキーバリューメカニズムを使用して、単一のステップでメモリを保存および読み出す。 本稿では,生物学的に妥当な3要素の可塑性規則の組み合わせを用いて入力を記憶する基本キー値メモリの実装を提案する。 本結果は,生物学的長期記憶のモデルとして,古典的なホップフィールドネットワークに代わる魅力的な代替手段であることを示唆している。
  論文  参考訳（メタデータ） (2021-10-26T19:26:53Z)
• Associative Memories via Predictive Coding [37.59398215921529]
  脳内の連想記憶は感覚ニューロンによって登録された活動パターンを受信し、記憶する。 本稿では,知覚ニューロンを介して外部刺激を受ける階層的生成ネットワークに基づいて,連想記憶を実現する新しいニューラルモデルを提案する。
  論文  参考訳（メタデータ） (2021-09-16T15:46:26Z)
• Kanerva++: extending The Kanerva Machine with differentiable, locally block allocated latent memory [75.65949969000596]
  エピソディックメモリとセマンティックメモリは、人間のメモリモデルの重要なコンポーネントです。 我々は、エピソードメモリとセマンティックメモリのギャップを埋める新しい原理ベイズメモリ割り当てスキームを開発しました。 この割り当て方式がメモリ条件画像生成の性能を向上させることを実証する。
  論文  参考訳（メタデータ） (2021-02-20T18:40:40Z)
• Self-Attentive Associative Memory [69.40038844695917]
  我々は、個々の体験(記憶)とその発生する関係(関連記憶)の記憶を分離することを提案する。 機械学習タスクの多様性において,提案した2メモリモデルと競合する結果が得られる。
  論文  参考訳（メタデータ） (2020-02-10T03:27:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。