論文の概要: Beyond Fixed Points: Superpolynomial Capacity of Asymmetric Hopfield Networks
- arxiv url: http://arxiv.org/abs/2605.24611v1
- Date: Sat, 23 May 2026 14:46:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-26 19:50:18.273054
- Title: Beyond Fixed Points: Superpolynomial Capacity of Asymmetric Hopfield Networks
- Title(参考訳): 固定点を超える:非対称ホップフィールドネットワークの超多項式容量
- Authors: Aakash Kumar, Anatoly Khina, Frederik Mallmann-Trenn, Emanuele Natale,
- Abstract要約: 古典的非対称ホップフィールドモデルにおいて、バイナリニューロンと同期更新を用いた単純で堅牢な構成を示す。
これは非対称ホップフィールドネットワークに対するそのようなキャパシティの初めての実証である。
その結果, 同期型非対称ホップフィールドネットワークは, 従来認識されていたよりも大きく, より堅牢なシーケンスメモリ容量を有することがわかった。
- 参考スコア(独自算出の注目度): 9.220991863258531
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Classical Hopfield networks are limited to static patterns due to symmetric weights, whereas asymmetric networks can encode temporal sequences via limit-cycle attractors. Achieving high-capacity storage of long sequences in classical synchronous asymmetric networks, however, has remained a challenge. We present a simple and robust construction within the classical asymmetric Hopfield model with binary neurons and synchronous updates, that allows $n$ neurons to support $\exp\!\big(Ω(n/(\log n)^2)\big)$ distinct limit-cycle attractors, each with period $\exp\!\big(Ω(\sqrt n/\log n)\big)$ and robust to random noise with flip probability up to $\frac12-o(1)$, yielding superpolynomial capacity in both the number and length of stored sequences. This is the first demonstration of such capacity for asymmetric Hopfield networks, which we obtain by combining results from combinatorics, number theory and the analysis of opinion dynamics. Our findings show that synchronous asymmetric Hopfield networks possess a sequence-memory capacity which is larger and more robust than previously recognized, demonstrating that, in both biological and artificial neural systems, robust sequence representation can be achieved through coarse architectural motifs rather than complex nonlinearities.
- Abstract(参考訳): 古典的なホップフィールドネットワークは対称重みによる静的パターンに制限されるが、非対称ネットワークは極限サイクルの引き付け子を介して時間列を符号化することができる。
しかし、古典的同期非対称ネットワークにおいて、長いシーケンスの高容量記憶を実現することは、依然として課題である。
古典的非対称ホップフィールドモデルにおいて、バイナリニューロンと同期更新によるシンプルでロバストな構成を示し、$n$ニューロンが$\exp\!
\big(Ω(n/(\log n)^2)\big)$ different limit-cycle attractor, each with period $\exp\!
\big(Ω(\sqrt n/\log n)\big)$ で、フリップ確率が$\frac12-o(1)$ まで頑健で、保存配列の数と長さの両方で超多項式容量が得られる。
これは非対称ホップフィールドネットワークに対するそのようなキャパシティの初めての実証であり、組合せ論、数論および意見力学の解析の結果を組み合わせることで得られる。
その結果, 同期型非対称ホップフィールドネットワークは, 従来認識されていたより大きく, より堅牢なシーケンスメモリ容量を有しており, 生体・人工両方のニューラルネットワークにおいて, 複雑な非線形性ではなく, 粗いアーキテクチャモチーフによって, 堅牢なシーケンス表現が達成できることが示唆された。
関連論文リスト
- Quantum spectroscopy of topological dynamics via a supersymmetric Hamiltonian [0.0]
量子分光法を用いてトポロジカル記述子を推定する。
低層励起状態がトポロジカルな特徴の安定性を定量化することを示す。
このフレームワークは、量子ハードウェアが古典的リーチを超えるデータトポロジの分光器として機能することを示唆している。
論文 参考訳(メタデータ) (2025-11-28T13:25:26Z) - Skeleton of isometric Tensor Network States for Abelian String-Net Models [2.7700250131344064]
我々は、アーベルトポロジカル秩序の位相を探索できるパラメータ化された等尺テンソルネットワーク状態(スケルトンと呼ばれる)を構築した。
任意の重みを持つ一般化されたパウリ弦の期待値は、古典的手法を用いて効率的に計算できることを示す。
論文 参考訳(メタデータ) (2025-11-17T19:00:02Z) - Sequential-Parallel Duality in Prefix Scannable Models [68.39855814099997]
近年では Gated Linear Attention (GLA) や Mamba など様々なモデルが開発されている。
ニアコンスタント時間並列評価と線形時間、定数空間シーケンシャル推論をサポートするニューラルネットワークモデルの全クラスを特徴付けることができるだろうか?
論文 参考訳(メタデータ) (2025-06-12T17:32:02Z) - Fourier Neural Operators for Learning Dynamics in Quantum Spin Systems [77.88054335119074]
ランダム量子スピン系の進化をモデル化するためにFNOを用いる。
量子波動関数全体の2n$の代わりに、コンパクトなハミルトン観測可能集合にFNOを適用する。
論文 参考訳(メタデータ) (2024-09-05T07:18:09Z) - Enhancing lattice kinetic schemes for fluid dynamics with Lattice-Equivariant Neural Networks [79.16635054977068]
我々はLattice-Equivariant Neural Networks (LENNs)と呼ばれる新しい同変ニューラルネットワークのクラスを提案する。
我々の手法は、ニューラルネットワークに基づく代理モデルLattice Boltzmann衝突作用素の学習を目的とした、最近導入されたフレームワーク内で開発されている。
本研究は,実世界のシミュレーションにおける機械学習強化Lattice Boltzmann CFDの実用化に向けて展開する。
論文 参考訳(メタデータ) (2024-05-22T17:23:15Z) - Long Sequence Hopfield Memory [32.28395813801847]
シーケンスメモリは、エージェントが複雑な刺激や行動のシーケンスをエンコードし、保存し、取り出すことを可能にする。
非線形相互作用項を導入し、パターン間の分離を強化する。
このモデルを拡張して、状態遷移間の変動タイミングでシーケンスを格納する。
論文 参考訳(メタデータ) (2023-06-07T15:41:03Z) - Message-Passing Neural Quantum States for the Homogeneous Electron Gas [41.94295877935867]
連続空間における強相互作用フェルミオンをシミュレートするメッセージパッシング・ニューラルネットワークに基づく波動関数Ansatzを導入する。
等質電子ガスの基底状態を3次元でシミュレーションすることにより,その精度を実証する。
論文 参考訳(メタデータ) (2023-05-12T04:12:04Z) - Dissipative Quantum Hopfield Network: A numerical analysis [0.0]
本稿では,ホップフィールドニューラルネットワークの量子バージョンを広範囲にシミュレーションする。
このシステムは与えられた$Omega$の周波数で$N$ qubitsのネットワークであり、リンドブラッドジャンプ作用素を介して結合される。
我々の研究は、小型システムでは、ハミルトニアンの量子範囲が貯蔵容量に負の影響を及ぼすことを示した。
論文 参考訳(メタデータ) (2023-05-04T09:52:52Z) - Symmetric Pruning in Quantum Neural Networks [111.438286016951]
量子ニューラルネットワーク(QNN)は、現代の量子マシンの力を発揮する。
ハンドクラフト対称アンサーゼを持つQNNは、一般に非対称アンサーゼを持つものよりも訓練性が高い。
本稿では,QNNのグローバル最適収束を定量化するために,実効量子ニューラルネットワークカーネル(EQNTK)を提案する。
論文 参考訳(メタデータ) (2022-08-30T08:17:55Z) - Masked Language Modeling for Proteins via Linearly Scalable Long-Context
Transformers [42.93754828584075]
我々は、高速注意Via Orthogonal Random機能(FAVOR)に基づく新しいトランスフォーマーアーキテクチャPerformerを提案する。
我々の機構は、列内のトークンの数で2次ではなく2次的にスケールし、四次空間の複雑さが特徴であり、スパーシティパターンの先行を含まない。
これは強い理論的保証を与える:注意行列の偏りのない推定と一様収束である。
論文 参考訳(メタデータ) (2020-06-05T17:09:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。