論文の概要: A Geometry-Based Capacity Theory for Finite-Feature Associative Memory

• arxiv url: http://arxiv.org/abs/2610.09056v1
• Date: Tue, 06 Oct 2026 20:07:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.589691
• Title: A Geometry-Based Capacity Theory for Finite-Feature Associative Memory
• Title（参考訳）: 有限機能連想記憶のための幾何学に基づく容量理論
• Abstract要約: 圧縮有限機能ヘビアン連想メモリにおける正確なキー検索のための幾何学的キャパシティ理論を開発した。 ランダムあるいはほぼ等方的な値に対して、検索干渉は有限機能ノイズと、矩形核重なりによって決定される構造干渉に分離される。 これにより、検索品質を不適合に予測し、ジオメトリに依存したキャパシティ天井を明らかにし、ターゲット検索品質に必要な特徴予算を予測する。
• 参考スコア（独自算出の注目度）: 6.142847233637248
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We develop a geometry-based capacity theory for exact-key retrieval in compressed finite-feature Hebbian associative memory. For random or approximately isotropic values, retrieval interference separates into finite-feature noise, which decreases with feature dimension, and structural interference, which is determined by squared kernel overlap among stored keys and persists in the infinite-feature limit. This yields a fit-free prediction of retrieval quality, reveals a geometry-dependent capacity ceiling, and predicts the feature budget required for a target retrieval quality. When stored values are correlated, we show that retrieval depends jointly on the key kernel and value Gram matrix, and derive finite-feature approximations that account for this interaction. We validate the theory on synthetic, visual, and medical-image representations. Overall, the framework links representation geometry directly to memory capacity and distinguishes when performance can be improved by increasing the feature budget and when the representation itself must be changed. Across these settings, the predicted retrieval curves closely match empirical behavior and correctly identify changes in the preferred memory design.
• Abstract（参考訳）: 圧縮有限機能ヘビアン連想メモリにおける正確なキー検索のための幾何学的キャパシティ理論を開発する。 ランダムまたはほぼ等方的な値に対して、検索干渉は、特徴次元に応じて減少する有限機能ノイズと、格納されたキー間の2乗カーネル重なりによって決定され無限機能限界に持続する構造的干渉とを分離する。 これにより、検索品質を不適合に予測し、ジオメトリに依存したキャパシティ天井を明らかにし、ターゲット検索品質に必要な特徴予算を予測する。 保存された値が相関している場合、検索はキーカーネルと値グラム行列に共同で依存し、この相互作用を考慮に入れた有限関数近似を導出することを示す。 合成画像,視覚画像,医用画像の表現に関する理論を検証した。 全体として、フレームワークは表現のジオメトリを直接メモリ容量にリンクし、特徴予算を増やしてパフォーマンスを改善することができ、表現自体を変更する必要があるかを区別する。 これらの設定全体で、予測された検索曲線は経験的挙動と密接に一致し、好ましいメモリ設計の変化を正しく識別する。

関連論文リスト

• The Evolution of Attention in Large Language Models: Mechanisms, Trade-offs, and Emerging Trends [51.17628561637134]
  自己アテンションは、LLMにコンテキストへの細粒度でクエリ依存のアクセスを与える。 本調査は, モデル内コンテクストメモリとしての開発状況を解析する。
  論文  参考訳（メタデータ） (2026-09-30T13:03:01Z)
• Entropy-Punctured Bloom Filters for Memory-Efficient Machine Learning [0.0]
  ブルームフィルタ符号化は、エンジニアリングされた特徴のコンパクトな確率的表現を提供する。 低可変ビット位置を除去するメモリ対応符号化方式であるエントロピー可変ブルームフィルタを提案する。 多様な回帰データセットに対するアプローチを評価する。
  論文  参考訳（メタデータ） (2026-09-12T23:37:46Z)
• Collaborative Memory Augmentation for Generative Recommendation [49.76630658239287]
  我々は、ジェネレーティブ・リコメンデーションのためのcOllaborative MEmory拡張フレームワークであるtextbfOMEGAを提案する。 まず、学習可能なクエリトークンを用いて、逐次的ユーザ動作をコンパクトな表現に変換する潜在コンテキスト圧縮手法を提案する。 これらの圧縮された表現は、協調的なメモリバンクに集約され、グローバルな行動パターンの明示的なリポジトリとして機能する。
  論文  参考訳（メタデータ） (2026-08-02T15:34:43Z)
• Geometric Factual Recall in Transformers [57.48371649045765]
  一般的な見解では、内部の重み行列は埋め込みのペアに対する連想記憶として捉えられ、事実の数と線形にスケールする記憶数を必要とする。 我々は、学習した埋め込みが直接構造を符号化する、別のエンフェロメトリックな形態の記憶の理論的、実証的な説明を開発する。 単層変圧器が被写体から共有属性集合へのランダムベクトルを記憶しなければならない制御環境では、対数埋め込み次元が十分であることを示す。 これらの結果をマルチホップ設定に拡張し、証明可能なチェーン・オブ・シークレットによる構築を提供する。
  論文  参考訳（メタデータ） (2026-05-12T17:22:22Z)
• Rank Is Not Capacity: Spectral Occupancy for Latent Graph Models [8.608322716392232]
  スペクトルプレフィックス抽出と容量目標表現分析(Spectra)を提案する。 分析の単位としてのランクを学習された正の半定値カーネルのスペクトルに置き換え、スペクトルが適合する範囲で同等となるようにトレース正規化する。 Spectraはパフォーマンス・フロンティアをトレースし、予測精度と実現された次元とのトレードオフを可視化する。
  論文  参考訳（メタデータ） (2026-05-11T18:46:53Z)
• HAGE: Harnessing Agentic Memory via RL-Driven Weighted Graph Evolution [4.180315687162217]
  HAGEはエージェント型大規模言語モデル(LLM)システムのための重み付きマルチリレーショナルメモリフレームワークである。 クエリが与えられた場合、LLMベースの分類器はリレーショナルインテントを識別し、ルーティングネットワークはエッジ埋め込みの対応する次元を動的に変調する。 トラバーサルスコアは、意味的類似性とこれらのクエリ条件付きエッジ表現の学習された組み合わせによって計算される。
  論文  参考訳（メタデータ） (2026-05-11T03:41:18Z)
• Adaptive Hopfield Network: Rethinking Similarities in Associative Memory [25.935774032106256]
  連想記憶モデル(Associative memory model)は、生物学的インテリジェンスの基本となる、コンテンツ適応可能なメモリシステムである。 我々は、この洞察に富むが未知の確率をサンプルから近似する新しいメカニズムである適応的類似性を開発する。 我々は,この機構を新しい適応ホップフィールドネットワーク(A-Hop)に統合し,様々なタスクにまたがって最先端の性能を実現することを実証した。
  論文  参考訳（メタデータ） (2025-11-25T18:36:47Z)
• 'Memory States' from Almost Nothing: Representing and Computing in a Non-associative Algebra [0.0]
  本稿では,高次元空間における情報項目の表現と計算のための非連想的フレームワークを提案する。 これは空間コンピューティングの原理と、記憶に関する認知科学の実証的な発見と一致している。
  論文  参考訳（メタデータ） (2025-05-13T08:43:02Z)
• On the Relationship Between Variational Inference and Auto-Associative Memory [68.8204255655161]
  本フレームワークでは, 変動推論に対する異なるニューラルネットワークアプローチが適用可能であるかを検討する。 得られたアルゴリズムをCIFAR10とCLEVRの画像データセットで評価し,他の連想記憶モデルと比較した。
  論文  参考訳（メタデータ） (2022-10-14T14:18:47Z)
• Hybrid Predictive Coding: Inferring, Fast and Slow [62.997667081978825]
  本稿では,反復型と償却型の両方を原則的に組み合わせたハイブリッド予測符号化ネットワークを提案する。 我々は,本モデルが本質的に不確実性に敏感であり,最小計算費用を用いて正確な信念を得るためにバランスを適応的にバランスさせることを実証した。
  論文  参考訳（メタデータ） (2022-04-05T12:52:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。