論文の概要: Robust Auto-associative Memory via Convolutional Restricted Hopfield Networks

• arxiv url: http://arxiv.org/abs/2606.20666v1
• Date: Thu, 11 Jun 2026 21:25:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:19:18.251752
• Title: Robust Auto-associative Memory via Convolutional Restricted Hopfield Networks
• Title（参考訳）: 畳み込み制限ホップフィールドネットワークによるロバストな自己連想記憶
• Abstract要約: 連想記憶モデルはパターン検索において基本的な役割を果たす。 Modern Hopfield Networks (MHNs) や Predictive Coding Networks (PCNs) といった既存のアプローチでは、ストレージ容量、計算効率、堅牢性のバランスが制限されている。 本稿では、畳み込み特徴抽出とアトラクタベースのメモリ検索を統合した構造化潜在空間における畳み込み制限ホップフィールドネットワーク(CRHN)を提案する。
• 参考スコア（独自算出の注目度）: 0.22940141855172036
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Associative memory models play a fundamental role in pattern retrieval, but their performance often degrades under adversarial perturbations and severe input corruptions. Existing approaches, including Modern Hopfield Networks (MHNs), and Predictive Coding Networks (PCNs), exhibit limitations in balancing storage capacity, computational efficiency, and robustness. In this paper, we propose a Convolutional Restricted Hopfield Networks (CRHNs), which integrates convolutional feature extraction with attractor-based memory retrieval in a structured latent space. The proposed model leverages subspace representations and fixed-point dynamics, trained via a gradient-free Subspace Rotation Algorithm (SRA), to enhance both robustness and memory capacity. Extensive experiments on Self-Taught Learning (STL) dataset demonstrate that CRHNs consistently achieve significantly lower reconstruction error compared to MHNs and PCNs across a wide range of adversarial attacks and input degradations. In many cases, CRHNs reduce reconstruction error by an order of magnitude and maintains stable retrieval performance under increasing perturbation strength. Statistical analysis further confirms that these improvements are significant ($p < 0.01$). These results highlight the effectiveness of attractor-based memory mechanisms and suggest that CRHNs provide a promising framework for building robust and scalable associative memory systems.
• Abstract（参考訳）: 連想記憶モデルはパターン検索において基本的な役割を担っているが、その性能は敵の摂動や激しい入力の腐敗によって劣化することが多い。 Modern Hopfield Networks (MHNs) や Predictive Coding Networks (PCNs) といった既存のアプローチでは、ストレージ容量のバランス、計算効率、堅牢性に制限がある。 本稿では、畳み込み特徴抽出とアトラクタベースのメモリ検索を構造化潜在空間内で統合する畳み込み制限ホップフィールドネットワーク(CRHN)を提案する。 提案モデルは、勾配のない部分空間回転アルゴリズム(SRA)を用いて訓練された部分空間表現と固定点ダイナミクスを利用して、ロバスト性とメモリ容量を向上する。 STL(Self-Taught Learning)データセットの大規模な実験により、CRHNsは、MHNsやPCNsに比べて、幅広い敵攻撃や入力劣化に対してはるかに低い再構成誤差を確実に達成していることが示された。 多くの場合、CRHNは復元誤差を桁違いに低減し、摂動強度を増大させて安定した検索性能を維持する。 統計分析により、これらの改善が重要であることが確認されている(p < 0.01$)。 これらの結果は、アトラクタベースのメモリ機構の有効性を強調し、CRHNが堅牢でスケーラブルな連想型メモリシステムを構築するための有望なフレームワークを提供することを示唆している。

関連論文リスト

• Clipping Bottleneck: Stabilizing RLVR via Stochastic Recovery of Near-Boundary Signals [83.0127582612634]
  Near-boundary Rescue (NSR) は最小限のプラグ・アンド・プレイの修正であり、失った信号を回復するために、アウト・オブ・バウンドトークンを保持する。 NSRはトレーニングの安定性を大幅に改善し、DAPOやGSPOといった強力なベースライン上で一貫したゲインを提供する。
  論文  参考訳（メタデータ） (2026-05-21T16:45:31Z)
• Efficient event-driven retrieval in high-capacity kernel Hopfield networks [0.0]
  Kernel Logistic Regression (KLR) Hopfieldネットワークのような高容量の連想メモリモデルは、強力なストレージ能力を示しているが、一般的に計算コストのかかる同期更新に依存している。 適切に調整されたカーネルパラメータでは、逐次更新は同期力学と統計的に区別できないトラジェクトリを示す。 この非同期ネットワークは,古典的限界を超えた静的ランダムパターン機構において,P/N近似30ドルに近い経験的記憶能力を実現する。
  論文  参考訳（メタデータ） (2026-05-07T10:21:18Z)
• Geometric and dynamical analysis of attractor boundaries and storage limits in kernel Hopfield networks [0.0]
  本稿では,KLR学習ホップフィールドネットワークにおけるアトラクタ盆地のグローバルな幾何学と,記憶限界を規定する機構について検討する。 実験により、ネットワークは、P/N近似16ドル付近の効率的な負荷下で、構造化データの安定した検索を維持しながら、ランダムシーケンスのストレージ容量を最大16ドルまで達成している。
  論文  参考訳（メタデータ） (2026-05-01T03:04:44Z)
• Neural Dynamics Self-Attention for Spiking Transformers [59.57278823240336]
  TransformerアーキテクチャによるSNN(Spike Neural Networks)は、エネルギー効率とパフォーマンスのバランスをとるための、有望な経路を提供する。 既存のスパイキングトランスフォーマーは、(i)ニューラルネットワーク(ANN)と(ii)推論時の高メモリオーバーヘッドと比較して、大幅なパフォーマンスギャップがあるという2つの重要な課題に直面している。 本稿では、局所受容野を持つスパイキングニューロンを用いて、メモリ要求を減らしながら注意を計算するLRF-Dynを提案する。
  論文  参考訳（メタデータ） (2026-03-09T12:23:37Z)
• Causal Autoregressive Diffusion Language Model [70.7353007255797]
  CARDは厳密な因果注意マスク内の拡散過程を再構成し、単一の前方通過で密集した1対1の監視を可能にする。 我々の結果は,CARDが並列生成のレイテンシの利点を解放しつつ,ARMレベルのデータ効率を実現することを示す。
  論文  参考訳（メタデータ） (2026-01-29T17:38:29Z)
• Memory Constrained Dynamic Subnetwork Update for Transfer Learning [20.05842386680307]
  MeDyateは、メモリ制限された動的サブネットワーク適応のための理論的基盤となるフレームワークである。 MeDyateは、極端なメモリ制約の下で最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2025-10-23T20:16:43Z)
• KDC-Diff: A Latent-Aware Diffusion Model with Knowledge Retention for Memory-Efficient Image Generation [2.0250638970950905]
  KDC-Diffは、ハイパフォーマンスを維持しながら計算オーバーヘッドを大幅に削減するために設計された、新しくスケーラブルな生成フレームワークである。 本モデルでは,FID,CLIP,KID,LPIPSの指標に対して,パラメータ数,推論時間,FLOPの大幅な削減を実現し,高い性能を示す。
  論文  参考訳（メタデータ） (2025-05-11T14:40:51Z)
• Dynamic Memory-enhanced Transformer for Hyperspectral Image Classification [3.5093938502961763]
  ハイパースペクトル画像(HSI)分類は、複雑な空間スペクトル相関のため、依然として困難な課題である。 既存のトランスモデルは、長距離依存を捉えるのに優れているが、情報冗長性と注意力の非効率さに悩まされることが多い。 MemFormerは、動的メモリモジュールを反復的に洗練するメモリ強化型マルチヘッドアテンションメカニズムを導入している。 動的メモリ富化戦略は、複雑な空間的およびスペクトル的依存関係を段階的にキャプチャし、より表現力のある特徴表現をもたらす。
  論文  参考訳（メタデータ） (2025-04-17T17:43:34Z)
• ThinK: Thinner Key Cache by Query-Driven Pruning [63.13363917871414]
  大規模言語モデル(LLM)は自然言語処理の分野に革命をもたらし、様々なアプリケーションで前例のない性能を達成した。 本稿では,KVキャッシュのメモリ消費の非効率性に対処する長文シナリオに焦点を当てた。 我々は,最小のチャネルを選択的に切断しながら,注目重量損失を最小限に抑える新しいクエリ依存型KVキャッシュプルーニング手法であるThinKを提案する。
  論文  参考訳（メタデータ） (2024-07-30T17:59:08Z)
• Digital Twin-Assisted Data-Driven Optimization for Reliable Edge Caching in Wireless Networks [60.54852710216738]
  我々はD-RECと呼ばれる新しいデジタルツインアシスト最適化フレームワークを導入し、次世代無線ネットワークにおける信頼性の高いキャッシュを実現する。 信頼性モジュールを制約付き決定プロセスに組み込むことで、D-RECは、有利な制約に従うために、アクション、報酬、状態を適応的に調整することができる。
  論文  参考訳（メタデータ） (2024-06-29T02:40:28Z)
• Topology-aware Embedding Memory for Continual Learning on Expanding Networks [63.35819388164267]
  本稿では,メモリリプレイ技術を用いて,メモリ爆発問題に対処する枠組みを提案する。 Topology-aware Embedding Memory (TEM) を用いたPDGNNは最先端技術よりも優れている。
  論文  参考訳（メタデータ） (2024-01-24T03:03:17Z)
• Efficient Micro-Structured Weight Unification and Pruning for Neural Network Compression [56.83861738731913]
  ディープニューラルネットワーク(DNN)モデルは、特にリソース制限されたデバイスにおいて、実用的なアプリケーションに不可欠である。 既往の非構造的あるいは構造化された重量刈り法は、推論を真に加速することはほとんど不可能である。 ハードウェア互換のマイクロ構造レベルでの一般化された重み統一フレームワークを提案し,高い圧縮と加速度を実現する。
  論文  参考訳（メタデータ） (2021-06-15T17:22:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。