論文の概要: Leakage and Second-Order Dynamics Improve Hippocampal RNN Replay

• arxiv url: http://arxiv.org/abs/2602.18401v1
• Date: Fri, 20 Feb 2026 18:07:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-23 18:01:41.407853
• Title: Leakage and Second-Order Dynamics Improve Hippocampal RNN Replay
• Title（参考訳）: 海馬RNNリプレイにおける漏洩と2次ダイナミクスの改善
• Authors: Josue Casco-Rodriguez, Nanda H. Krishna, Richard G. Baraniuk,
• Abstract要約: 生物学的ニューラルネットワークは、刺激駆動活動に似た「再生」を生成できる。 リプレイの最近の計算モデルは、パス積分に訓練されたノイズリカレントニューラルネットワーク(RNN)を使用する。 ノイズの多いRNNリプレイをサンプリングとして再検討し、それを3つの方法で理解または改善する。
• 参考スコア（独自算出の注目度）: 18.57036786110829
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Biological neural networks (like the hippocampus) can internally generate "replay" resembling stimulus-driven activity. Recent computational models of replay use noisy recurrent neural networks (RNNs) trained to path-integrate. Replay in these networks has been described as Langevin sampling, but new modifiers of noisy RNN replay have surpassed this description. We re-examine noisy RNN replay as sampling to understand or improve it in three ways: (1) Under simple assumptions, we prove that the gradients replay activity should follow are time-varying and difficult to estimate, but readily motivate the use of hidden state leakage in RNNs for replay. (2) We confirm that hidden state adaptation (negative feedback) encourages exploration in replay, but show that it incurs non-Markov sampling that also slows replay. (3) We propose the first model of temporally compressed replay in noisy path-integrating RNNs through hidden state momentum, connect it to underdamped Langevin sampling, and show that, together with adaptation, it counters slowness while maintaining exploration. We verify our findings via path-integration of 2D triangular and T-maze paths and of high-dimensional paths of synthetic rat place cell activity.
• Abstract（参考訳）: 生物学的ニューラルネットワーク(海馬のような)は、刺激による活動に似た「リプレイ」を内部的に生成することができる。 リプレイの最近の計算モデルは、パス積分に訓練されたノイズリカレントニューラルネットワーク(RNN)を使用する。 これらのネットワークでのリプレイはランゲヴィンサンプリング(Langevin sample)と表現されているが、ノイズの多いRNNリプレイの新しい修飾器はこの記述を超越している。 1) 単純な仮定では, リプレイ活動の段階的変化は時間的変化があり, 推定が困難であるが, RNNにおけるリプレイのための隠れ状態漏洩の使用の動機付けは容易である。 2) 隠れ状態適応(負のフィードバック)はリプレイの探索を促進するが,非マルコフサンプリングはリプレイを遅くすることを示す。 (3) 隠れ状態の運動量を通して雑音を考慮したRNNの時間圧縮再生モデルを提案し, アンダーダムのランゲヴィンサンプリングに接続し, 適応とともに, 探索を継続しながら遅く抑えられることを示す。 2次元三角路とT迷路路の経路積分と合成ラット胎盤細胞活性の高次元経路を用いて本研究の知見を検証した。

関連論文リスト

• Replay Can Provably Increase Forgetting [24.538643224479515]
  継続的な学習にとって重要な課題は、新しいタスクが導入されるにつれて、以前に学習したタスクのパフォーマンスが低下する、忘れることである。 忘れることを減らすためによく使われる技法の1つ、サンプル再生は、忘れることを減らすために経験的に示されている。 ノイズのない設定であっても,リプレイサンプル数に関して,忘れることはモノトニックではないことを示す。
  論文  参考訳（メタデータ） (2025-06-04T18:46:23Z)
• Planning in a recurrent neural network that plays Sokoban [6.059513516334741]
  我々は、逐次的かつ不可逆な決定を必要とするパズルであるソコバンで訓練されたリカレントニューラルネットワーク(RNN)を分析する。 RNNには因果的計画表現があり、今後50段階の行動を予測する。 トレーニングされたRNNを、トレーニング体制を超えた堅牢な表現を実証し、より大きく、配布外なソコバンパズルに拡張する。
  論文  参考訳（メタデータ） (2024-07-22T06:57:34Z)
• RoHM: Robust Human Motion Reconstruction via Diffusion [58.63706638272891]
  RoHMは、モノクロRGB(-D)ビデオから頑健な3次元人間の動きを復元するためのアプローチである。 ノイズと閉鎖された入力データに条件付けし、一貫した大域座標で完全な可塑性運動を再構成した。 本手法は,テスト時に高速でありながら,定性的かつ定量的に最先端の手法より優れる。
  論文  参考訳（メタデータ） (2024-01-16T18:57:50Z)
• Curious Replay for Model-based Adaptation [3.9981390090442686]
  モデルベースのエージェントに合わせた、優先順位付けされた体験リプレイの形式であるCurious Replayを紹介します。 Curious Replay を用いたエージェントは、動物行動にインスパイアされた探索パラダイムのパフォーマンスを向上させる。 DreamerV3 with Curious ReplayはCrafterベンチマークで最先端のパフォーマンスを上回っている。
  論文  参考訳（メタデータ） (2023-06-28T05:34:53Z)
• Backdoor Defense via Suppressing Model Shortcuts [91.30995749139012]
  本稿では,モデル構造の角度からバックドア機構を探索する。 攻撃成功率 (ASR) は, キースキップ接続の出力を減少させると著しく低下することを示した。
  論文  参考訳（メタデータ） (2022-11-02T15:39:19Z)
• Minkowski Tracker: A Sparse Spatio-Temporal R-CNN for Joint Object Detection and Tracking [53.64390261936975]
  我々はオブジェクトの検出と追跡を共同で解決するスパース時間R-CNNであるMinkowski Trackerを提案する。 領域ベースCNN(R-CNN)に着想を得て,物体検出器R-CNNの第2段階として動きを追跡することを提案する。 大規模実験では,本手法の総合的な性能向上は4つの要因によることがわかった。
  論文  参考訳（メタデータ） (2022-08-22T04:47:40Z)
• Progressive Latent Replay for efficient Generative Rehearsal [9.267156820352996]
  本稿では,ネットワークの深さに基づいてリハーサルの頻度を変調する内部リプレイ手法を提案する。 我々は,提案手法をProgressive Latent Replayと命名し,リソースを著しく減らしながら内部リプレイより優れていることを示す。
  論文  参考訳（メタデータ） (2022-07-04T16:28:05Z)
• Neuroevolution of a Recurrent Neural Network for Spatial and Working Memory in a Simulated Robotic Environment [57.91534223695695]
  我々は,ラットで観察される行動と神経活動を再現する進化的アルゴリズムを用いて,生物学的に有意なリカレントニューラルネットワーク(RNN)でウェイトを進化させた。 提案手法は, 進化したRNNの動的活動が, 興味深く複雑な認知行動をどのように捉えているかを示す。
  論文  参考訳（メタデータ） (2021-02-25T02:13:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。