論文の概要: Spectral Concentration at the Edge of Stability: Information Geometry of Kernel Associative Memory
- arxiv url: http://arxiv.org/abs/2511.23083v1
- Date: Fri, 28 Nov 2025 11:14:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-01 19:47:55.871543
- Title: Spectral Concentration at the Edge of Stability: Information Geometry of Kernel Associative Memory
- Title（参考訳）: 安定端におけるスペクトル濃度:カーネル連想記憶の情報幾何学
- Authors: Akira Tamamori,
- Abstract要約: 統計的多様体上のネットワーク力学を解析し、リッジが「安定性のエッジ」に対応することを明らかにする。
これは最小記述長原理を通じて学習力学とキャパシティを統一し、自己組織的臨界性の幾何学理論を提供する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: High-capacity kernel Hopfield networks exhibit a "Ridge of Optimization" characterized by extreme stability. While previously linked to "Spectral Concentration," its origin remains elusive. Here, we analyze the network dynamics on a statistical manifold, revealing that the Ridge corresponds to the "Edge of Stability," a critical boundary where the Fisher Information Matrix becomes singular. We demonstrate that the apparent Euclidean force antagonism is a manifestation of \textit{Dual Equilibrium} in the Riemannian space. This unifies learning dynamics and capacity via the Minimum Description Length principle, offering a geometric theory of self-organized criticality.
- Abstract（参考訳）: 高容量カーネルホップフィールドネットワークは、極端な安定性を特徴とする「最適化のライダー」を示す。
以前は「スペクトル濃度」と関係があったが、その起源は解明されていない。
ここでは、統計多様体上のネットワーク力学を解析し、リッジがフィッシャー情報行列が特異となる臨界境界である「安定のエッジ」に対応することを明らかにする。
明らかなユークリッド力アンタゴニズムはリーマン空間における \textit{Dual Equilibrium} の表現であることを示す。
これは最小記述長原理を通じて学習力学とキャパシティを統一し、自己組織的臨界性の幾何学理論を提供する。
関連論文リスト
- Self-Organization and Spectral Mechanism of Attractor Landscapes in High-Capacity Kernel Hopfield Networks [0.0]
カーネルベースの学習は、Hopfieldネットワークのストレージ容量を劇的に増加させる。
階調崩壊と拡散のスペクトル"Goldilocks Zone"に調整することで最適な性能が得られることを示す。
論文 参考訳（メタデータ） (2025-11-17T06:58:34Z) - Generalization Below the Edge of Stability: The Role of Data Geometry [60.147710896851045]
安定性の限界以下で訓練されたReLUネットワークにおいて,データ幾何が一般化を制御するかを示す。
低次元球の混合に支持されるデータ分布について、本質的な次元に確実に適応する一般化境界を導出する。
文献に現れる異種の経験的所見を総合的に検討した。
論文 参考訳（メタデータ） (2025-10-20T21:40:36Z) - Graph-based Clustering Revisited: A Relaxation of Kernel $k$-Means Perspective [73.18641268511318]
本稿では,クラスタリング結果を導出するための正規制約のみを緩和するグラフベースのクラスタリングアルゴリズムを提案する。
二重制約を勾配に変換するために、非負の制約をクラス確率パラメータに変換する。
論文 参考訳（メタデータ） (2025-09-23T09:14:39Z) - Dynamical stability for dense patterns in discrete attractor neural networks [6.159133786557903]
次級ニューラルネットワークと雑音の存在下での離散的固定点の局所安定性の理論を導出する。
本分析では,閾値線形アクティベーションとスパース様パターンの計算的利点を強調した。
論文 参考訳（メタデータ） (2025-07-14T15:23:24Z) - Last-Iterate Convergence of Adaptive Riemannian Gradient Descent for Equilibrium Computation [52.73824786627612]
本稿では,テクスト幾何学的強単調ゲームに対する新たな収束結果を確立する。
我々のキーとなる結果は、RGDがテクスト幾何学的手法で最終定位線形収束を実現することを示しています。
全体として、ユークリッド設定を超えるゲームに対して、幾何学的に非依存な最終点収束解析を初めて提示する。
論文 参考訳（メタデータ） (2023-06-29T01:20:44Z) - Beyond the Edge of Stability via Two-step Gradient Updates [49.03389279816152]
Gradient Descent(GD)は、現代の機械学習の強力な仕事場である。
GDが局所最小値を見つける能力は、リプシッツ勾配の損失に対してのみ保証される。
この研究は、2段階の勾配更新の分析を通じて、単純だが代表的でありながら、学習上の問題に焦点をあてる。
論文 参考訳（メタデータ） (2022-06-08T21:32:50Z) - The Geometry of Robust Value Functions [119.94715309072983]
非ロバストな値空間とロバストな値空間の両方を特徴付ける新しい視点を導入する。
我々は、ロバストな値空間が、一つの状態に一致するすべてのポリシーのロバストな値を含む集合の円錐超曲面によって決定されることを示す。
論文 参考訳（メタデータ） (2022-01-30T22:12:17Z) - Convex Analysis of the Mean Field Langevin Dynamics [49.66486092259375]
平均場ランゲヴィン力学の収束速度解析について述べる。
ダイナミックスに付随する$p_q$により、凸最適化において古典的な結果と平行な収束理論を開発できる。
論文 参考訳（メタデータ） (2022-01-25T17:13:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。