論文の概要: Adaptive Hopfield Network: Rethinking Similarities in Associative Memory
- arxiv url: http://arxiv.org/abs/2511.20609v1
- Date: Tue, 25 Nov 2025 18:36:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-26 17:37:04.616541
- Title: Adaptive Hopfield Network: Rethinking Similarities in Associative Memory
- Title(参考訳): Adaptive Hopfield Network: 連想記憶における類似性の再考
- Authors: Shurong Wang, Yuqi Pan, Zhuoyang Shen, Meng Zhang, Hongwei Wang, Guoqi Li,
- Abstract要約: 連想記憶モデル(Associative memory model)は、生物学的インテリジェンスの基本となる、コンテンツ適応可能なメモリシステムである。
我々は、この洞察に富むが未知の確率をサンプルから近似する新しいメカニズムである適応的類似性を開発する。
我々は,この機構を新しい適応ホップフィールドネットワーク(A-Hop)に統合し,様々なタスクにまたがって最先端の性能を実現することを実証した。
- 参考スコア(独自算出の注目度): 25.935774032106256
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Associative memory models are content-addressable memory systems fundamental to biological intelligence and are notable for their high interpretability. However, existing models evaluate the quality of retrieval based on proximity, which cannot guarantee that the retrieved pattern has the strongest association with the query, failing correctness. We reframe this problem by proposing that a query is a generative variant of a stored memory pattern, and define a variant distribution to model this subtle context-dependent generative process. Consequently, correct retrieval should return the memory pattern with the maximum a posteriori probability of being the query's origin. This perspective reveals that an ideal similarity measure should approximate the likelihood of each stored pattern generating the query in accordance with variant distribution, which is impossible for fixed and pre-defined similarities used by existing associative memories. To this end, we develop adaptive similarity, a novel mechanism that learns to approximate this insightful but unknown likelihood from samples drawn from context, aiming for correct retrieval. We theoretically prove that our proposed adaptive similarity achieves optimal correct retrieval under three canonical and widely applicable types of variants: noisy, masked, and biased. We integrate this mechanism into a novel adaptive Hopfield network (A-Hop), and empirical results show that it achieves state-of-the-art performance across diverse tasks, including memory retrieval, tabular classification, image classification, and multiple instance learning.
- Abstract(参考訳): 連想記憶モデル(Associative memory model)は、生物学的インテリジェンスの基本となる内容適応可能なメモリシステムであり、その高い解釈可能性で有名である。
しかし,既存のモデルでは,検索パターンがクエリと最強の相関を保ち,精度の低下を保証できない近接性に基づく検索の質を評価する。
クエリは記憶されたメモリパターンの生成的変種であり、この微妙な文脈依存の生成過程をモデル化するための変分分布を定義することで、この問題を再設計する。
したがって、正しい検索はクエリの起点となる最大後続確率でメモリパターンを返すべきである。
この観点から、理想的な類似度尺度は、既存の連想記憶によって用いられる固定的および事前定義された類似性に対して不可能な、変分分布に従ってクエリを生成する各記憶パターンの確率を近似すべきであることを示す。
この目的のために,適応的類似性(Adaptive similarity, 適応的類似性, 適応的類似性(Adaptive similarity, 適応的類似性, 適応的類似性, 適応的類似性) を開発する。
提案した適応的類似性は,雑音,マスキング,バイアスの3種類の正準および広く適用可能な変種の下で最適な正解を達成できることを理論的に証明する。
我々は,この機構を新しい適応ホップフィールドネットワーク(A-Hop)に統合し,メモリ検索,表層分類,画像分類,複数インスタンス学習など,様々なタスクにおける最先端性能を実現することを示す。
関連論文リスト
- Constrained Auto-Regressive Decoding Constrains Generative Retrieval [71.71161220261655]
ジェネレーティブ検索は、従来の検索インデックスデータ構造を1つの大規模ニューラルネットワークに置き換えようとしている。
本稿では,制約とビームサーチという2つの本質的な視点から,制約付き自己回帰生成の固有の制約について検討する。
論文 参考訳(メタデータ) (2025-04-14T06:54:49Z) - pEBR: A Probabilistic Approach to Embedding Based Retrieval [9.186585413958769]
埋め込みベースの検索は、クエリとアイテムの両方の共有セマンティック表現空間を学習することを目的としている。
我々は,textbfprobabilistic textbfEmbedding-textbfBased textbfRetrieval (textbfpEBR) フレームワークを提案する。
論文 参考訳(メタデータ) (2024-10-25T07:14:12Z) - Adapting Dual-encoder Vision-language Models for Paraphrased Retrieval [55.90407811819347]
モデルが類似した結果を返すことを目的とした,パラフレーズ付きテキスト画像検索の課題について考察する。
我々は、大きなテキストコーパスで事前訓練された言語モデルから始まる二重エンコーダモデルを訓練する。
CLIPやOpenCLIPのような公開デュアルエンコーダモデルと比較して、最高の適応戦略で訓練されたモデルは、パラフレーズクエリのランク付けの類似性を大幅に向上させる。
論文 参考訳(メタデータ) (2024-05-06T06:30:17Z) - On the Relationship Between Variational Inference and Auto-Associative
Memory [68.8204255655161]
本フレームワークでは, 変動推論に対する異なるニューラルネットワークアプローチが適用可能であるかを検討する。
得られたアルゴリズムをCIFAR10とCLEVRの画像データセットで評価し,他の連想記憶モデルと比較した。
論文 参考訳(メタデータ) (2022-10-14T14:18:47Z) - HyperImpute: Generalized Iterative Imputation with Automatic Model
Selection [77.86861638371926]
カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。
既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
論文 参考訳(メタデータ) (2022-06-15T19:10:35Z) - Symbolic Regression by Exhaustive Search: Reducing the Search Space
Using Syntactical Constraints and Efficient Semantic Structure Deduplication [2.055204980188575]
シンボリック回帰は、モデル構造に関する事前の知識が得られない産業シナリオにおいて、強力なシステム識別技術である。
この章では、これらの問題に対処するために特別に設計された決定論的シンボリック回帰アルゴリズムを紹介します。
全ての可能なモデルの有限列挙は、構造的制約と意味論的に等価な解を検出するキャッシング機構によって保証される。
論文 参考訳(メタデータ) (2021-09-28T17:47:51Z) - Graph Sampling Based Deep Metric Learning for Generalizable Person
Re-Identification [114.56752624945142]
我々は、最も一般的なランダムサンプリング手法である有名なpkサンプリングは、深層メトリック学習にとって有益で効率的ではないと主張する。
大規模計量学習のためのグラフサンプリング(GS)と呼ばれる効率的なミニバッチサンプリング手法を提案する。
論文 参考訳(メタデータ) (2021-04-04T06:44:15Z) - Uncertainty-Aware Few-Shot Image Classification [118.72423376789062]
ラベル付き限られたデータから新しいカテゴリを認識できる画像分類はほとんどない。
画像分類のための不確実性を考慮したFew-Shotフレームワークを提案する。
論文 参考訳(メタデータ) (2020-10-09T12:26:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。