論文の概要: Free energy landscape of Dense Associative Memory
- arxiv url: http://arxiv.org/abs/2607.19195v2
- Date: Wed, 22 Jul 2026 20:42:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-24 14:12:06.742392
- Title: Free energy landscape of Dense Associative Memory
- Title（参考訳）: 高密度連想記憶の自由エネルギー景観
- Authors: Sumedha, Abhishek Singh,
- Abstract要約: 我々は、幅広い連想記憶のクラスに対して、自由エネルギー関数の一般表現を解き、取得する。
有限パターンに対して、高密度連想記憶のための温度依存性自由エネルギー関数を導出する。
本フレームワークは,高次密度ネットワークの初期状態に依存するメモリの検索方法を明らかにする。
- 参考スコア（独自算出の注目度）: 2.636047873931302
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Using large deviations theory, we solve and obtain a general expression for the free energy functional for a broad class of associative memories, including dense associative memories. We illustrate the method by reproducing classical results for the Hopfield model. For a finite number of patterns, we derive the temperature-dependent free energy functional for dense associative memories featuring polynomial interactions and Log-Sum-Exponential (LSE) activation. We also evaluate the disorder-averaged ground-state energy of these systems in the extensive limit. Our analytical framework reveals how memory retrieval depends on the initial state in higher-order dense networks, and gives the exact full-retrieval threshold for the LSE model. This method provides a systematic procedure for analyzing diverse, complex architectures in associative memory.
- Abstract（参考訳）: 大規模な偏差理論を用いて、高密度な連想記憶を含む、幅広い種類の連想記憶のために機能する自由エネルギーの一般表現を解き、得られる。
ホップフィールドモデルに対する古典的な結果の再現による手法を説明する。
有限パターンに対して、多項式相互作用とLog-Sum-Exponential (LSE) 活性化を特徴とする高密度連想記憶のための温度依存性自由エネルギー関数を導出する。
また,これらのシステムの平均基底状態エネルギーを広い範囲で評価した。
我々の分析フレームワークは、高次密度ネットワークの初期状態にメモリの検索がどのように依存しているかを明らかにし、LSEモデルに対して正確な完全検索しきい値を与える。
この方法は、連想記憶における多様で複雑なアーキテクチャを解析するための体系的な手順を提供する。
関連論文リスト
- Geometric Entropy and Retrieval Phase Transitions in Continuous Thermal Dense Associative Memory [0.9940728137241215]
幾何学的制約の下で連続状態を持つ現代のホップフィールドネットワークのメモリ容量について検討する。
指数容量$p = eN$のDense Associative Memory ネットワークに対して熱力学的位相境界を導出する。
論文 参考訳（メタデータ） (2026-04-08T09:21:22Z) - A Dynamical Theory of Sequential Retrieval in Input-Driven Hopfield Networks [0.0]
この研究はホップフィールドネットワークにおけるシーケンシャル推論の理論を発展させる。
我々は、利得閾値、逃避時間、崩壊状態を含む、自己持続型メモリ遷移の明確な条件を導出する。
論文 参考訳（メタデータ） (2026-03-03T17:54:36Z) - Improving Multi-step RAG with Hypergraph-based Memory for Long-Context Complex Relational Modeling [83.29209853451697]
多段階検索強化世代(RAG)は,大規模言語モデル(LLM)の拡張戦略として広く採用されている。
我々はHGMemというハイパーグラフベースのメモリ機構を導入し、複雑な推論とグローバルな理解のためにメモリの概念を動的に表現的構造に拡張する。
提案手法では,ハイパーエッジが異なるメモリ単位に対応するハイパーグラフとして表現され,メモリ内での高次相互作用の進行的形成を可能にする。
論文 参考訳（メタデータ） (2025-12-30T03:13:10Z) - Memory in the Age of AI Agents [217.9368190980982]
この研究は、現在のエージェントメモリ研究の最新の展望を提供することを目的としている。
我々は,エージェントメモリ,すなわちトークンレベル,パラメトリック,潜時メモリの3つの支配的実現を同定する。
実用的な開発を支援するため、メモリベンチマークとオープンソースフレームワークの包括的な概要をコンパイルする。
論文 参考訳（メタデータ） (2025-12-15T17:22:34Z) - Dense Associative Memory with Epanechnikov Energy [31.882557303410483]
Dense Associative Memory (DenseAM) ネットワークのための新しいエネルギー関数 log-sum-ReLU (LSR) を提案する。
一般的なlog-sum-exponential (LSE) 関数とは異なり、LSR は Epanechnikov カーネルに基づいている。
実証実験の結果、LSRエネルギーはLSEモデルに匹敵する対数のような局所的なミニマ(記憶)を持つことが示された。
論文 参考訳（メタデータ） (2025-06-12T15:16:31Z) - Latent Structured Hopfield Network for Semantic Association and Retrieval [52.634915010996835]
エピソード記憶は、オブジェクト、場所、時間などの意味的要素をコヒーレントなイベント表現に関連付けることによって、過去の経験を思い出すことができる。
本稿では,連続ホップフィールドアトラクタダイナミクスを自動エンコーダアーキテクチャに統合するフレームワークであるLatent Structured Hopfield Network (LSHN)を提案する。
従来のホップフィールドネットワークとは異なり、我々のモデルは勾配勾配でエンドツーエンドに訓練され、スケーラブルで堅牢なメモリ検索を実現する。
論文 参考訳（メタデータ） (2025-06-02T04:24:36Z) - Memory in Plain Sight: Surveying the Uncanny Resemblances of Associative Memories and Diffusion Models [65.08133391009838]
拡散モデル(DM)の生成プロセスは、最近、多くのAI生成ベンチマークに最先端を設定した。
エネルギーに基づく連想記憶(AM)の分野からのメモリ検索の数学的言語を用いたDM記述のための新しい視点を導入する。
我々は,AMから期待される経験的行動を示すDMを記録できることの証拠として,DMをエネルギーベースメモリの一種として理解することによって明らかにされる研究の機会について論じる。
論文 参考訳（メタデータ） (2023-09-28T17:57:09Z) - Universal Hopfield Networks: A General Framework for Single-Shot
Associative Memory Models [41.58529335439799]
本稿では,メモリネットワークの動作を3つの操作のシーケンスとして理解するための一般的なフレームワークを提案する。
これらのメモリモデルはすべて、類似性と分離関数が異なる一般的なフレームワークのインスタンスとして導出します。
論文 参考訳（メタデータ） (2022-02-09T16:48:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。