Fugu-MT 論文翻訳(概要): Spectral Concentration at the Edge of Stability: Information Geometry of Kernel Associative Memory

論文の概要: Spectral Concentration at the Edge of Stability: Information Geometry of Kernel Associative Memory

arxiv url: http://arxiv.org/abs/2511.23083v1
Date: Fri, 28 Nov 2025 11:14:15 GMT
ステータス: 翻訳完了
システム内更新日: 2025-12-01 19:47:55.871543
Title: Spectral Concentration at the Edge of Stability: Information Geometry of Kernel Associative Memory
Title（参考訳）: 安定端におけるスペクトル濃度:カーネル連想記憶の情報幾何学
Authors: Akira Tamamori,
Abstract要約: 統計的多様体上のネットワーク力学を解析し、リッジが「安定性のエッジ」に対応することを明らかにする。これは最小記述長原理を通じて学習力学とキャパシティを統一し、自己組織的臨界性の幾何学理論を提供する。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: High-capacity kernel Hopfield networks exhibit a "Ridge of Optimization" characterized by extreme stability. While previously linked to "Spectral Concentration," its origin remains elusive. Here, we analyze the network dynamics on a statistical manifold, revealing that the Ridge corresponds to the "Edge of Stability," a critical boundary where the Fisher Information Matrix becomes singular. We demonstrate that the apparent Euclidean force antagonism is a manifestation of \textit{Dual Equilibrium} in the Riemannian space. This unifies learning dynamics and capacity via the Minimum Description Length principle, offering a geometric theory of self-organized criticality.
Abstract（参考訳）: 高容量カーネルホップフィールドネットワークは、極端な安定性を特徴とする「最適化のライダー」を示す。以前は「スペクトル濃度」と関係があったが、その起源は解明されていない。ここでは、統計多様体上のネットワーク力学を解析し、リッジがフィッシャー情報行列が特異となる臨界境界である「安定のエッジ」に対応することを明らかにする。明らかなユークリッド力アンタゴニズムはリーマン空間における \textit{Dual Equilibrium} の表現であることを示す。これは最小記述長原理を通じて学習力学とキャパシティを統一し、自己組織的臨界性の幾何学理論を提供する。

関連論文リスト

The Geometric Mechanics of Contrastive Representation Learning: Alignment Potentials, Entropic Dispersion, and Cross-Modal Divergence [17.501700376593174]
固定埋め込み多様体上の表現測度の進化として学習をモデル化する測度理論フレームワークを提案する。大規模バッチ限界における値と整合性を確立することにより、不整合目標を明示的なエネルギー景観に橋渡しする。この用語は,構造的幾何学的必要条件として,人口レベルのモダリティギャップを強制するバリア駆動型共適応を誘導することを示す。
論文参考訳（メタデータ） (2026-01-27T13:33:03Z)
Random matrix theory of sparse neuronal networks with heterogeneous timescales [0.6181093777643575]
リカレントニューロンネットワークのトレーニングは、運動記憶計算のための付加ノイズを伴う興奮性(E)と抑制性(I)ユニットから構成される。本稿では、これらの平衡付近の力学を考察し、不均一なシナプス崩壊時間スケールとアクティベーション-関数ゲインによって修飾されたスパース非エルミート長方形ブロック行列であることを示す。ヤコビアンの統計パラメータと、ロバストなワーキングメモリ計算に不可欠な平衡のほぼクリティカルな特徴を関連づけたスペクトルエッジの解析的記述を得る。
論文参考訳（メタデータ） (2025-12-14T17:02:22Z)
Self-Organization and Spectral Mechanism of Attractor Landscapes in High-Capacity Kernel Hopfield Networks [0.0]
カーネルベースの学習は、Hopfieldネットワークのストレージ容量を劇的に増加させる。階調崩壊と拡散のスペクトル"Goldilocks Zone"に調整することで最適な性能が得られることを示す。
論文参考訳（メタデータ） (2025-11-17T06:58:34Z)
Generalization Below the Edge of Stability: The Role of Data Geometry [60.147710896851045]
安定性の限界以下で訓練されたReLUネットワークにおいて,データ幾何が一般化を制御するかを示す。低次元球の混合に支持されるデータ分布について、本質的な次元に確実に適応する一般化境界を導出する。文献に現れる異種の経験的所見を総合的に検討した。
論文参考訳（メタデータ） (2025-10-20T21:40:36Z)
Graph-based Clustering Revisited: A Relaxation of Kernel $k$-Means Perspective [73.18641268511318]
本稿では,クラスタリング結果を導出するための正規制約のみを緩和するグラフベースのクラスタリングアルゴリズムを提案する。二重制約を勾配に変換するために、非負の制約をクラス確率パラメータに変換する。
論文参考訳（メタデータ） (2025-09-23T09:14:39Z)
Dynamical stability for dense patterns in discrete attractor neural networks [6.159133786557903]
次級ニューラルネットワークと雑音の存在下での離散的固定点の局所安定性の理論を導出する。本分析では,閾値線形アクティベーションとスパース様パターンの計算的利点を強調した。
論文参考訳（メタデータ） (2025-07-14T15:23:24Z)
High-Dimensional Kernel Methods under Covariate Shift: Data-Dependent Implicit Regularization [83.06112052443233]
本稿では,共変量シフト下での高次元におけるカーネルリッジの回帰について検討する。バイアス分散分解により、再重み付け戦略が分散を減少させることができることを理論的に証明する。偏見について,任意の偏見の正則化を解析し,偏見が正則化の異なる尺度で非常に異なる振る舞いをすることができることを示す。
論文参考訳（メタデータ） (2024-06-05T12:03:27Z)
High dimensional analysis reveals conservative sharpening and a stochastic edge of stability [21.12433806766051]
トレーニング損失Hessianの大きな固有値のダイナミクスは,モデル間およびバッチ全体において極めて堅牢な特徴を持っていることを示す。しばしば、大きな固有値が増加するプログレッシブ・シャープニングの初期段階があり、続いて安定性の端として知られる予測可能な値での安定化が続く。
論文参考訳（メタデータ） (2024-04-30T04:54:15Z)
Last-Iterate Convergence of Adaptive Riemannian Gradient Descent for Equilibrium Computation [52.73824786627612]
本稿では,テクスト幾何学的強単調ゲームに対する新たな収束結果を確立する。我々のキーとなる結果は、RGDがテクスト幾何学的手法で最終定位線形収束を実現することを示しています。全体として、ユークリッド設定を超えるゲームに対して、幾何学的に非依存な最終点収束解析を初めて提示する。
論文参考訳（メタデータ） (2023-06-29T01:20:44Z)
Beyond the Edge of Stability via Two-step Gradient Updates [49.03389279816152]
Gradient Descent(GD)は、現代の機械学習の強力な仕事場である。 GDが局所最小値を見つける能力は、リプシッツ勾配の損失に対してのみ保証される。この研究は、2段階の勾配更新の分析を通じて、単純だが代表的でありながら、学習上の問題に焦点をあてる。
論文参考訳（メタデータ） (2022-06-08T21:32:50Z)
The Geometry of Robust Value Functions [119.94715309072983]
非ロバストな値空間とロバストな値空間の両方を特徴付ける新しい視点を導入する。我々は、ロバストな値空間が、一つの状態に一致するすべてのポリシーのロバストな値を含む集合の円錐超曲面によって決定されることを示す。
論文参考訳（メタデータ） (2022-01-30T22:12:17Z)
Convex Analysis of the Mean Field Langevin Dynamics [49.66486092259375]
平均場ランゲヴィン力学の収束速度解析について述べる。ダイナミックスに付随する$p_q$により、凸最適化において古典的な結果と平行な収束理論を開発できる。
論文参考訳（メタデータ） (2022-01-25T17:13:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。