論文の概要: Geometric analysis of attractor boundaries and storage capacity limits in kernel Hopfield networks

• arxiv url: http://arxiv.org/abs/2605.00366v1
• Date: Fri, 01 May 2026 03:04:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-04 17:43:28.831714
• Title: Geometric analysis of attractor boundaries and storage capacity limits in kernel Hopfield networks
• Title（参考訳）: カーネルホップフィールドネットワークにおけるアトラクタ境界と記憶容量限界の幾何学的解析
• Authors: Akira Tamamori,
• Abstract要約: 本稿では,KLR学習ホップフィールドネットワークにおけるアトラクタ盆地のグローバルな幾何学と,記憶限界の物理的決定要因について検討する。 実験の結果、ネットワークは最大16ドルでランダムシーケンスのストレージ容量を達成していることがわかった。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: High-capacity associative memories based on Kernel Logistic Regression (KLR) exhibit strong storage capabilities, but the dynamical and geometric mechanisms underlying their stability remain poorly understood. This paper investigates the global geometry of attractor basins and the physical determinants of the storage limit in KLR-trained Hopfield networks. We combine empirical evaluations using random sequences and real-world image embeddings (CIFAR-10) with phenomenological morphing experiments and statistical Signal-to-Noise Ratio (SNR) analysis. Our experiments reveal that the network achieves a storage capacity for random sequences up to $P/N \approx 16$ , and maintains stable retrieval for structured data at effective loads near $P/N \approx 20$ . Through morphing analysis, we reveal that attractors on the "Ridge of Optimization" are separated by sharp, phase-transition-like boundaries, characterized by steep effective potential barriers and critical slowing down. Furthermore, by contrasting an SNR analysis with a geometric reference point inspired by Cover's theorem, we show that the ultimate storage limit is constrained primarily not by a lack of geometric separability in the feature space, but by the loss of dynamical stability against crosstalk noise. These findings suggest that KLR networks function as highly localized, exemplar-based memories that operate optimally just before the onset of dynamical collapse, providing new insights into the design of robust, large-scale retrieval systems.
• Abstract（参考訳）: カーネル・ロジスティック・レグレッション(KLR)に基づく高容量連想記憶は、強い記憶能力を示すが、その安定性の基盤となる動的・幾何学的メカニズムは理解されていない。 本稿では,KLR学習ホップフィールドネットワークにおけるアトラクタ盆地のグローバルな幾何学と,記憶限界の物理的決定要因について検討する。 本研究では,ランダムシーケンスと実世界の画像埋め込み(CIFAR-10)を用いた経験的評価と,現象論的モーフィング実験と統計的信号対雑音比(SNR)分析を組み合わせる。 実験の結果,ネットワークは最大$P/N \approx 16$までのランダムシーケンスの記憶容量を達成し,$P/N \approx 20$に近い効率的な負荷下で構造化データの安定した検索を維持できることがわかった。 モーフィング解析により、「最適化のライダー」のアトラクタは、急激な有効ポテンシャル障壁と臨界減速によって特徴付けられる急激な位相遷移のような境界によって分離されることが明らかとなった。 さらに,SNR解析をCoverの定理に着想を得た幾何学的基準点と対比することにより,最大記憶限界は特徴空間における幾何学的分離性の欠如ではなく,クロストークノイズに対する動的安定性の欠如によって制約されることを示す。 これらの結果から,KLRネットワークは動的崩壊の開始直前に最適に動作し,ロバストで大規模検索システムの設計に新たな洞察を与える,高度に局所化された,模範的な記憶として機能することが示唆された。

関連論文リスト

• Alternating Gradient Flow Utility: A Unified Metric for Structural Pruning and Dynamic Routing in Deep Networks [52.153950303594684]
  交互勾配流(Alternating Gradient Flow, AGF)に着想を得た非結合型運動パラダイムを提案する。 AGFはネットワークの構造的「運動ユーティリティ」を正確にキャプチャする 我々は、AGFに誘導されるオフライン構造探索を、ゼロコストの物理プリミティブを介してオンライン実行から切り離すハイブリッドルーティングフレームワークを設計する。
  論文  参考訳（メタデータ） (2026-03-12T18:19:21Z)
• Self-Organization and Spectral Mechanism of Attractor Landscapes in High-Capacity Kernel Hopfield Networks [0.0]
  カーネルベースの学習は、Hopfieldネットワークのストレージ容量を劇的に増加させる。 階調崩壊と拡散のスペクトル"Goldilocks Zone"に調整することで最適な性能が得られることを示す。
  論文  参考訳（メタデータ） (2025-11-17T06:58:34Z)
• Contraction, Criticality, and Capacity: A Dynamical-Systems Perspective on Echo-State Networks [13.857230672081489]
  本稿では,機能解析,ランダム・アトラクタ理論,最近の神経科学的な知見を融合した統合的動的システム治療について述べる。 まず,大域リプシッツ力学とともにエコー状態特性(初期条件の洗い出し)がフェーディングメモリ特性をもたらすことを証明した。 第二に、ストーン・ワイエルシュトラスの戦略を用いて、非線形貯水池と線形リードアウトを持つESNが、因果的、タイムイン・フェイディング・メモリ・フィルタのバナッハ空間に密着していることを示す。 第3に、メモリ容量スペクトルを用いて計算資源を定量化し、どのように示すかを示す。
  論文  参考訳（メタデータ） (2025-07-24T14:41:18Z)
• Dynamical stability for dense patterns in discrete attractor neural networks [6.159133786557903]
  次級ニューラルネットワークと雑音の存在下での離散的固定点の局所安定性の理論を導出する。 本分析では,閾値線形アクティベーションとスパース様パターンの計算的利点を強調した。
  論文  参考訳（メタデータ） (2025-07-14T15:23:24Z)
• Global Convergence and Rich Feature Learning in $L$-Layer Infinite-Width Neural Networks under $μ$P Parametrization [66.03821840425539]
  本稿では, テンソル勾配プログラム(SGD)フレームワークを用いた$L$層ニューラルネットワークのトレーニング力学について検討する。 SGDにより、これらのネットワークが初期値から大きく逸脱する線形独立な特徴を学習できることを示す。 このリッチな特徴空間は、関連するデータ情報をキャプチャし、トレーニングプロセスの収束点が世界最小であることを保証する。
  論文  参考訳（メタデータ） (2025-03-12T17:33:13Z)
• Edge of stability echo state networks [5.888495030452654]
  Echo State Networks (ESN) は、Echo State Property (ESP) の原則の下で動作する時系列処理モデルである。 We introduced a new ESN architecture, the Edge of stability Echo State Network (ES$2$N)
  論文  参考訳（メタデータ） (2023-08-05T15:49:25Z)
• Stability and Generalization Analysis of Gradient Methods for Shallow Neural Networks [59.142826407441106]
  本稿では,アルゴリズム安定性の概念を活用して,浅層ニューラルネットワーク(SNN)の一般化挙動について検討する。 我々は、SNNを訓練するために勾配降下(GD)と勾配降下(SGD)を考慮する。
  論文  参考訳（メタデータ） (2022-09-19T18:48:00Z)
• Convex Analysis of the Mean Field Langevin Dynamics [49.66486092259375]
  平均場ランゲヴィン力学の収束速度解析について述べる。 ダイナミックスに付随する$p_q$により、凸最適化において古典的な結果と平行な収束理論を開発できる。
  論文  参考訳（メタデータ） (2022-01-25T17:13:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。