論文の概要: Memory as an Energy Landscape---Hopfield
- arxiv url: http://arxiv.org/abs/2609.02195v1
- Date: Wed, 02 Sep 2026 07:00:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-03 17:53:18.127285
- Title: Memory as an Energy Landscape---Hopfield
- Title(参考訳): エネルギー景観としての記憶--ホップフィールド
- Abstract要約: この章は、ホップフィールドネットワークを物理記憶理論として再構築する。
これは1982年以前の問題から始まり、ホップフィールドの合成が加えたものを分離する。
ホップフィールドネットワークを、対称性、局所性、および点-ニューロン仮定が生物学的リーチを逸脱する効果的な理論として扱う。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This chapter reconstructs the Hopfield network as a physical theory of memory rather than merely an early neural-network algorithm. It begins with the problem as it stood before 1982-threshold logic, Hebbian association, correlation memories, and recurrent binary networks-and isolates what Hopfield's synthesis added: a dynamical definition of content-addressable memory, a symmetric recurrent architecture with a Lyapunov function, a Hebbian embedding of patterns in its couplings, and a physical account of basins, robustness, and graceful degradation. The binary and graded-response energy functions are derived in full, together with the signal-crosstalk decomposition governing pattern stability, the mean-field theory of retrieval at extensive load, and the zero-temperature retrieval spinodal at (alpha 0.138) established by Amit, Gutfreund, and Sompolinsky. The energy-based program is then followed through analog optimization networks, polynomial dense associative memories, exponential interactions, and modern continuous Hopfield updates, including the precise conditions under which the update becomes scaled dot-product attention. Throughout, capacity claims are tied to their disorder ensemble, scaling limit, and success criterion, showing why numerically different storage limits need not conflict. A closing assessment distinguishes established results from surviving principles, assumption-bound limitations, and open problems, treating the Hopfield network as an effective theory whose symmetry, locality, and point-neuron assumptions delimit its biological reach. Fixed-seed numerical experiments expose the mechanisms discussed but do not substitute for analytical results.
- Abstract(参考訳): この章は、ホップフィールドネットワークを、単に初期のニューラルネットワークアルゴリズムではなく、メモリの物理理論として再構築する。
1982年以前の問題、ヘビアン結合、相関メモリ、リカレントバイナリネットワークといった問題から始まり、ホップフィールドの合成が加えたもの、内容適応可能なメモリの動的定義、リアプノフ関数を持つ対称リカレントアーキテクチャ、結合にパターンを埋め込んだヘビアン埋め込み、盆地の物理的説明、堅牢性、優雅な劣化を分離する。
2次および次数応答エネルギー関数は、パターン安定性を規定する信号クロストーク分解、広い負荷での検索の平均場理論、およびAmit, Gutfreund, Sompolinskyによって確立された(アルファ0.138)ゼロ温度検索スピノダルとともに、完全な導出を行う。
エネルギーベースのプログラムは、アナログ最適化ネットワーク、多項式密結合記憶、指数的相互作用、近代的な連続ホップフィールド更新(更新がドット積の注意を拡大する正確な条件を含む)によって続く。
全体として、キャパシティクレームは、障害のアンサンブル、スケーリング制限、成功基準と結びついており、なぜ数値的に異なるストレージ制限が相反しないのかを示している。
クローズアセスメント(英語版)は、確立された結果が生き残った原理、仮定バウンドな制限、オープンな問題と区別し、ホップフィールドネットワークを対称性、局所性、および点-ニューロン仮定が生物学的リーチを逸脱する効果的な理論として扱う。
固定種数値実験は、議論されたメカニズムを暴露するが、分析結果に代えてはならない。
関連論文リスト
- Phases in a class of associative memories via hidden neurons [5.577596968571274]
ホップフィールドネットワークにおける連想記憶は、乱れた多体系におけるアトラクタダイナミクスである。
我々は Krotov と Hopfield の双部構造を研究し、クラスを $H$ と呼ぶ。
論文 参考訳(メタデータ) (2026-09-10T01:50:32Z) - Geometric and dynamical analysis of attractor boundaries and storage limits in kernel Hopfield networks [0.0]
本稿では,KLR学習ホップフィールドネットワークにおけるアトラクタ盆地のグローバルな幾何学と,記憶限界を規定する機構について検討する。
実験により、ネットワークは、P/N近似16ドル付近の効率的な負荷下で、構造化データの安定した検索を維持しながら、ランダムシーケンスのストレージ容量を最大16ドルまで達成している。
論文 参考訳(メタデータ) (2026-05-01T03:04:44Z) - Geometric Entropy and Retrieval Phase Transitions in Continuous Thermal Dense Associative Memory [0.9940728137241215]
幾何学的制約の下で連続状態を持つ現代のホップフィールドネットワークのメモリ容量について検討する。
指数容量$p = eN$のDense Associative Memory ネットワークに対して熱力学的位相境界を導出する。
論文 参考訳(メタデータ) (2026-04-08T09:21:22Z) - On the Mechanism and Dynamics of Modular Addition: Fourier Features, Lottery Ticket, and Grokking [49.1352577985191]
本稿では,2層ニューラルネットワークがモジュール追加タスクを解くために,機能をどのように学習するかを包括的に分析する。
我々の研究は、学習したモデルの完全な機械論的解釈と、その訓練力学の理論的説明を提供する。
論文 参考訳(メタデータ) (2026-02-18T20:25:13Z) - Spin Glass Dynamics on Complex Hardware Topologies: A Bond-Correlated Percolation Approach [41.99844472131922]
本稿では,スピングラスの量子アニールハードウェアに関連するネットワークアーキテクチャ上での非指数緩和挙動について検討する。
この枠組みにより、スピングラスのエネルギー景観をより包括的に特徴づけることができる。
論文 参考訳(メタデータ) (2025-10-28T18:16:59Z) - Contraction, Criticality, and Capacity: A Dynamical-Systems Perspective on Echo-State Networks [13.857230672081489]
本稿では,機能解析,ランダム・アトラクタ理論,最近の神経科学的な知見を融合した統合的動的システム治療について述べる。
まず,大域リプシッツ力学とともにエコー状態特性(初期条件の洗い出し)がフェーディングメモリ特性をもたらすことを証明した。
第二に、ストーン・ワイエルシュトラスの戦略を用いて、非線形貯水池と線形リードアウトを持つESNが、因果的、タイムイン・フェイディング・メモリ・フィルタのバナッハ空間に密着していることを示す。
第3に、メモリ容量スペクトルを用いて計算資源を定量化し、どのように示すかを示す。
論文 参考訳(メタデータ) (2025-07-24T14:41:18Z) - Latent Structured Hopfield Network for Semantic Association and Retrieval [52.634915010996835]
エピソード記憶は、オブジェクト、場所、時間などの意味的要素をコヒーレントなイベント表現に関連付けることによって、過去の経験を思い出すことができる。
本稿では,連続ホップフィールドアトラクタダイナミクスを自動エンコーダアーキテクチャに統合するフレームワークであるLatent Structured Hopfield Network (LSHN)を提案する。
従来のホップフィールドネットワークとは異なり、我々のモデルは勾配勾配でエンドツーエンドに訓練され、スケーラブルで堅牢なメモリ検索を実現する。
論文 参考訳(メタデータ) (2025-06-02T04:24:36Z) - KITINet: Kinetics Theory Inspired Network Architectures with PDE Simulation Approaches [43.872190335490515]
本稿では,非平衡粒子動力学のレンズによる特徴伝播を再解釈する新しいアーキテクチャKITINetを紹介する。
そこで本研究では,粒子系の進化をモデルとした残留モジュールを提案する。
この定式化は粒子衝突とエネルギー交換を模倣し、物理インフォームド相互作用による適応的特徴改善を可能にする。
論文 参考訳(メタデータ) (2025-05-23T13:58:29Z) - Allostatic Control of Persistent States in Spiking Neural Networks for perception and computation [79.16635054977068]
本稿では,アロスタシスの概念を内部表現の制御に拡張することにより,環境に対する知覚的信念を更新するための新しいモデルを提案する。
本稿では,アトラクタネットワークにおける活動の急増を空間的数値表現として利用する数値認識の応用に焦点を当てる。
論文 参考訳(メタデータ) (2025-03-20T12:28:08Z) - Explosive neural networks via higher-order interactions in curved statistical manifolds [43.496401697112695]
曲線ニューラルネットワークは,パラメータ数に制限のあるプロトタイプモデルのクラスとして導入する。
これらの曲線ニューラルネットワークは、メモリ検索を高速化する自己制御プロセスを実装している。
強磁性相とスピングラス相の境界付近のレプリカ手法を用いて, メモリ・検索能力の解析を行った。
論文 参考訳(メタデータ) (2024-08-05T09:10:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。