論文の概要: Entropic Hetero-Associative Memory

• arxiv url: http://arxiv.org/abs/2411.02438v1
• Date: Sat, 02 Nov 2024 08:30:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-06 15:01:16.333287
• Title: Entropic Hetero-Associative Memory
• Title（参考訳）: Entropic Hetero-Associative Memory
• Authors: Rafael Morales, Luis A. Pineda,
• Abstract要約: エントロピー連想記憶(Entropic Associative Memory)は、有限テーブルを媒体として、2Dリレーションまたはメモリプレーン'のオブジェクトを保持する。 記憶されたオブジェクトは、媒体上で'重なり合う'ため、メモリは不確定であり、各状態にエントロピー値を持つ。
• 参考スコア（独自算出の注目度）: 0.8287206589886881
• License:
• Abstract: The Entropic Associative Memory holds objects in a 2D relation or ``memory plane'' using a finite table as the medium. Memory objects are stored by reinforcing simultaneously the cells used by the cue, implementing a form of Hebb's learning rule. Stored objects are ``overlapped'' on the medium, hence the memory is indeterminate and has an entropy value at each state. The retrieval operation constructs an object from the cue and such indeterminate content. In this paper we present the extension to the hetero-associative case in which these properties are preserved. Pairs of hetero-associated objects, possibly of different domain and/or modalities, are held in a 4D relation. The memory retrieval operation selects a largely indeterminate 2D memory plane that is specific to the input cue; however, there is no cue left to retrieve an object from such latter plane. We propose three incremental methods to address such missing cue problem, which we call random, sample and test, and search and test. The model is assessed with composite recollections consisting of manuscripts digits and letters selected from the MNIST and the EMNIST corpora, respectively, such that cue digits retrieve their associated letters and vice versa. We show the memory performance and illustrate the memory retrieval operation using all three methods. The system shows promise for storing, recognizing and retrieving very large sets of object with very limited computing resources.
• Abstract（参考訳）: Entropic Associative Memory は、有限テーブルを媒体として、2D関係のオブジェクトまたは '`Memory plane'' を保持する。 メモリオブジェクトはキューが使用するセルを同時に強化することで格納され、Hebbの学習ルールの形式を実装している。 格納されたオブジェクトはメディア上で ‘overlapped’ であるため、メモリは不確定であり、各状態にエントロピー値を持つ。 検索操作は、キュー及びそのような不確定コンテンツからオブジェクトを構成する。 本稿では,これらの特性を保存したヘテロ結合性ケースの拡張について述べる。 異なる領域と/またはモダリティを持つヘテロ関連オブジェクトのペアは、4D関係で保持される。 メモリ検索操作は、入力キューに特有のほぼ不確定な2Dメモリプレーンを選択するが、後者の平面からオブジェクトを取得するためのキューは残っていない。 そこで我々は, ランダム, サンプル, テスト, 探索, テストと呼ばれる, 欠落したキュー問題に対処するための3つの漸進的手法を提案する。 このモデルは、MNISTとEMNISTコーパスから選択された原稿桁と文字からなる合成記憶を用いて評価され、キュー桁が関連する文字を検索し、その逆を検索する。 メモリ性能を示し、3つの手法すべてを用いてメモリ検索動作を示す。 このシステムは、非常に限られた計算資源を持つ非常に大きなオブジェクトの保存、認識、検索を約束する。

関連論文リスト

• Associative Memories in the Feature Space [68.1903319310263]
  本稿では,低次元のセマンティック埋め込みのみを記憶するメモリモデルを提案する。 MNISTデータセット上の単純なタスクに対して,本手法の概念実証を行う。
  論文  参考訳（メタデータ） (2024-02-16T16:37:48Z)
• Lift Yourself Up: Retrieval-augmented Text Generation with Self Memory [72.36736686941671]
  本稿では,検索拡張生成モデルを改善するための新しいフレームワーク,Selfmemを提案する。 Selfmemは、検索拡張ジェネレータを反復的に使用して、無制限のメモリプールを生成し、メモリセレクタを使用して、続く生成ラウンドの1つの出力をメモリとして選択する。 我々は,3つの異なるテキスト生成タスクにおける自己メモの有効性を評価する。
  論文  参考訳（メタデータ） (2023-05-03T21:40:54Z)
• Classification and Generation of real-world data with an Associative Memory Model [0.0]
  マルチモーダル・フレームワークを用いて,基本的な連想記憶モデルの能力を拡張する。 イメージとラベルの両方をモダリティとして保存することで、単一のメモリを使用してパターンを検索し、完了させることができる。
  論文  参考訳（メタデータ） (2022-07-11T12:51:27Z)
• LaMemo: Language Modeling with Look-Ahead Memory [50.6248714811912]
  右側トークンへの漸進的参加により再帰記憶を向上させるLook-Ahead Memory(LaMemo)を提案する。 LaMemoは、メモリ長に比例した追加のオーバーヘッドで、双方向の注意とセグメントの再発を受け入れる。 広く使われている言語モデリングベンチマークの実験は、異なる種類のメモリを備えたベースラインよりも優れていることを示した。
  論文  参考訳（メタデータ） (2022-04-15T06:11:25Z)
• MeMOT: Multi-Object Tracking with Memory [97.48960039220823]
  私たちのモデルはMeMOTと呼ばれ、トランスフォーマーベースの3つの主要モジュールで構成されています。 MeMOTは広く採用されているMOTデータセット上で非常に競争力のあるパフォーマンスを観測する。
  論文  参考訳（メタデータ） (2022-03-31T02:33:20Z)
• Entropic Associative Memory for Manuscript Symbols [0.0]
  マニュアルシンボルは、連想的で分散されているが宣言的でないエントロピーデジタルメモリから保存、認識、検索することができる。 完全情報と不完全情報の両方を用いてオブジェクトを検索するエントロピー連想メモリの動作特性について考察する。
  論文  参考訳（メタデータ） (2022-02-17T02:29:33Z)
• Rethinking Space-Time Networks with Improved Memory Coverage for Efficient Video Object Segmentation [68.45737688496654]
  各オブジェクトのマスク特徴を再エンコードすることなく,フレーム間の直接対応性を確立する。 対応によって、現在のクエリフレーム内の全てのノードは、過去の特徴を連想的に集約することによって推測される。 すべてのメモリノードにコントリビュートする機会があることを検証し、そのような多彩な投票がメモリ効率と推論精度の両方に有益であることを示した。
  論文  参考訳（メタデータ） (2021-06-09T16:50:57Z)
• Self-Attentive Associative Memory [69.40038844695917]
  我々は、個々の体験(記憶)とその発生する関係(関連記憶)の記憶を分離することを提案する。 機械学習タスクの多様性において,提案した2メモリモデルと競合する結果が得られる。
  論文  参考訳（メタデータ） (2020-02-10T03:27:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。