論文の概要: Phases in a class of associative memories via hidden neurons

• arxiv url: http://arxiv.org/abs/2609.10976v1
• Date: Thu, 10 Sep 2026 01:50:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-11 23:53:35.178658
• Title: Phases in a class of associative memories via hidden neurons
• Title（参考訳）: 隠れニューロンを介した連想記憶のクラスにおける位相
• Abstract要約: ホップフィールドネットワークにおける連想記憶は、乱れた多体系におけるアトラクタダイナミクスである。 我々は Krotov と Hopfield の双部構造を研究し、クラスを $H$ と呼ぶ。
• 参考スコア（独自算出の注目度）: 5.577596968571274
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Associative memory in the Hopfield network is attractor dynamics in a disordered many-body system, and higher-order and exponential extensions turn its retrieval update into softmax attention. The polynomial and exponential regimes have been analyzed by different methods, with no common architecture in which to ask what fixes the storage scale. In this paper we study the bipartite architecture of Krotov and Hopfield, which we call the class $H$, whose model is fixed by a Lagrangian for each layer, taking the hidden neurons as the order parameter of retrieval. At polynomial load the replica method yields the replica-symmetric phase diagrams and closed-form capacities, and the crosstalk moment is common to Ising and spherical visible neurons, so their differences come from the visible entropy. With a softmax hidden layer the load is exponential, and a copy representation maps the thermodynamics onto random-energy-model counting, with paramagnetic, condensed, and frozen phases. Heating destabilizes retrieval by quantized reassignments of attention, and typical Gaussian patterns remain metastable at every load. The regimes differ in their crosstalk statistics, central-limit at polynomial load and large-deviation at exponential load, and the class $H$ splits retrieval into two roles, the visible Lagrangian fixing stability and the hidden one the storage scale, two axes that may also guide the design of new Lagrangians.
• Abstract（参考訳）: ホップフィールドネットワークの連想記憶は、乱れた多体システムにおけるアトラクタダイナミクスであり、高次および指数関数拡張は、その検索更新をソフトマックスアテンションに変換する。 多項式と指数的レギュレーションは異なる方法で分析され、ストレージスケールをどう修正するかを問う共通アーキテクチャは存在しない。 本稿では, Krotov と Hopfield の両部構造について検討し, モデルが各層に対してラグランジアンによって固定され, 隠れたニューロンを探索の順序パラメータとするクラス H$ と呼ぶ。 多項式負荷において、レプリカ法はレプリカ対称位相図と閉形式容量を生成し、クロストークモーメントはイジングと球面可視ニューロンに共通するので、それらの差は可視エントロピーから生じる。 ソフトマックスの隠蔽層では負荷は指数関数的であり、コピー表現は熱力学を非磁性、凝縮、凍結相を持つランダムエネルギーモデルカウントにマッピングする。 加熱は注意の量子的再割り当てによる検索を不安定化し、典型的なガウスパターンは全ての負荷においてメタスタブルのままである。 これらの規則は、クロストーク統計、多項式負荷における中央極限、指数的負荷における大きな偏差、およびクラスH$は、検索を2つの役割、可視ラグランジアン固定安定性と隠蔽ラグランジアン固定スケール、新しいラグランジアンの設計を導く2つの軸に分割する。

関連論文リスト

• Toward a mechanistic understanding of inference in visual cortex and diffusion models [46.86106767256413]
  一次視覚野(V1)における知覚的推論モデルについて述べる。 我々は,これらのリカレントダイナミクスを,認知的スコアマッチング目標と暗黙的微分を用いて効果的に訓練する。 このモデルは、極度の視覚的あいまいさの中で、拡張輪郭のような画像の特徴を回復する、非常に優れた装飾性能を示す。
  論文  参考訳（メタデータ） (2026-07-17T07:11:57Z)
• Geometric Entropy and Retrieval Phase Transitions in Continuous Thermal Dense Associative Memory [0.9940728137241215]
  幾何学的制約の下で連続状態を持つ現代のホップフィールドネットワークのメモリ容量について検討する。 指数容量$p = eN$のDense Associative Memory ネットワークに対して熱力学的位相境界を導出する。
  論文  参考訳（メタデータ） (2026-04-08T09:21:22Z)
• Symmetry-protected topology and deconfined solitons in a multi-link $\mathbb{Z}_2$ gauge theory [45.88028371034407]
  球殻の大円として視覚化できるリンクを持つ多重グラフ上で定義された$mathbbZ$格子ゲージ理論を研究する。 これは、ピエルズ不安定性に類似した現象の根底にある状態依存トンネル振幅につながることを示す。 行列積状態に基づいて詳細な解析を行うことで、電荷分解が電荷-摩擦化の結果生じることを証明できる。
  論文  参考訳（メタデータ） (2026-03-02T22:59:25Z)
• On the Mechanism and Dynamics of Modular Addition: Fourier Features, Lottery Ticket, and Grokking [49.1352577985191]
  本稿では,2層ニューラルネットワークがモジュール追加タスクを解くために,機能をどのように学習するかを包括的に分析する。 我々の研究は、学習したモデルの完全な機械論的解釈と、その訓練力学の理論的説明を提供する。
  論文  参考訳（メタデータ） (2026-02-18T20:25:13Z)
• Quantum dynamics in lattices in presence of bulk dephasing and a localized source [0.0]
  本研究では,バルクデファス法の存在下での局在化フェルミオン源の量子系のダイナミクスについて検討する。 我々の詳細な研究は、オープン量子系におけるハミルトン力学と様々な環境誘起機構の間の興味深い相互作用を明らかにしている。
  論文  参考訳（メタデータ） (2025-11-01T14:42:52Z)
• Provable Scaling Laws of Feature Emergence from Learning Dynamics of Grokking [44.614763110719274]
  我々は、グルーキング現象、すなわち遅延一般化について研究する。 本稿では,2層非線形ネットワークのグルーキング動作の3つの重要な段階を捉える新しいフレームワークを提案する。 私たちの研究は、体重減少、学習率、グルーキングにおけるサンプルサイズといったハイパースの役割に光を当てています。
  論文  参考訳（メタデータ） (2025-09-25T20:08:09Z)
• Exponential onset of scalable entanglement via twist-and-turn dynamics in XY models [41.94295877935867]
  いわゆる「ツイスト・アンド・ターン」力学(TaT)が,スケーラブルなマルチパーティント絡みに到達するための重要な資源となることを示す。 双極子相互作用では、中間時の絡み合いのダイナミクスは熱化と完全に相反する。
  論文  参考訳（メタデータ） (2025-07-10T22:34:44Z)
• Quench dynamics in higher-dimensional Holstein models: Insights from Truncated Wigner Approaches [41.94295877935867]
  電子ホッピングの急激なスイッチオン後のホルシュタインモデルにおける電荷密度波の融解について検討した。 ホルシュタイン連鎖で得られた正確なデータと比較すると、フォノンと電子の半古典的な扱いは音速力学を正確に記述するために必要であることを示している。
  論文  参考訳（メタデータ） (2023-12-19T16:14:01Z)
• Onset of scrambling as a dynamical transition in tunable-range quantum circuits [0.0]
  長距離接続の異なる量子回路におけるスクランブルの開始を示す動的遷移を同定する。 異なる構造の回路の相互作用範囲の関数として、三部構造相互情報はスケーリング崩壊を示すことを示す。 従来のパワー-ロー相互作用を持つシステムに加えて、決定論的、スパース回路における同じ現象を同定する。
  論文  参考訳（メタデータ） (2023-04-19T17:37:10Z)
• Thermodynamics of bidirectional associative memories [0.0]
  双方向連想記憶(BAM)の平衡特性について検討する。 コスコは1988年にホップフィールドモデルを二部構造への一般化として導入した。 このモデルの拡張の計算能力を熱力学限界で特徴づける。
  論文  参考訳（メタデータ） (2022-11-17T17:35:37Z)
• Continuous and time-discrete non-Markovian system-reservoir interactions: Dissipative coherent quantum feedback in Liouville space [62.997667081978825]
  2つの構造型貯水池に同時に露出する量子系について検討する。 対角線と対角線と外対角線の両方の貯留層相互作用を2倍のメモリと組み合わせた数値的精度の擬似2次元テンソルネットワークを用いて連続的および離散的遅延効果を示す。 例えば、離散フォトニックフィードバックと構造された音響フォノノノビアンモードの非マルコフ的相互作用を考察し、初期励起された2レベルシステム内での貯留層間相関と長寿命個体群トラップの出現を導いた。
  論文  参考訳（メタデータ） (2020-11-10T12:38:35Z)
• Memory kernel and divisibility of Gaussian Collisional Models [0.0]
  オープンシステムのダイナミクスにおけるメモリ効果は、ここ数十年で大きな関心を集めてきた。 我々は,部分的なSWAPを実装したビームスプリッタと,アンシラを絡めて励起をシステムに供給する2モードスキューズという2種類の相互作用を解析する。 これら2つの代表的なシナリオのメモリカーネルの解析と拡張性により、量子領域におけるメモリ効果の背後にある複雑なメカニズムの解明に寄与する。
  論文  参考訳（メタデータ） (2020-08-03T10:28:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。