論文の概要: Dense auto-hetero associative memories applied to noisy communication channels

• arxiv url: http://arxiv.org/abs/2609.32605v1
• Date: Sat, 26 Sep 2026 13:25:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-07 05:20:20.032218
• Title: Dense auto-hetero associative memories applied to noisy communication channels
• Title（参考訳）: 雑音伝達チャネルに応用した高密度自己ヘテロ連想記憶
• Abstract要約: ヘビアンネットワークは、連想記憶を超えたタスクを実行できる。 これらのモジュラーネットワークの高次拡張を導入し、各モジュール内の自己連想結合を高次ヘビアン相互作用に促進する。 アンタングル化は自然なデコードプリミティブを提供し、それを2つのアプリケーションで説明します。
• 参考スコア（独自算出の注目度）: 2.375990942704781
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Networks of interacting Hebbian networks have recently been shown to perform a task beyond associative memory, namely \emph{pattern disentanglement}: when fed with a spurious mixture of stored patterns, the different modules spontaneously specialize on, and retrieve, the different constituents of the mixture. So far, this capability has only been established for pairwise interactions, which limits the number of patterns that can be handled. Here we introduce a dense extension of these modular networks, in which both the auto-associative couplings within each module and the hetero-associative couplings among modules are promoted to higher-order Hebbian interactions. We show that, with a suitable choice of the interaction orders, the network disentangles mixtures while storing a number of patterns that scales linearly with the module size, a regime where its pairwise counterpart fails. Through a statistical-mechanical analysis based on Guerra's interpolation, we derive the self-consistency equations for the order parameters and draw the phase diagrams identifying the region where disentanglement is achieved; these predictions are confirmed by Monte Carlo simulations. Finally, we show that disentanglement provides a natural decoding primitive, and we illustrate it with two applications: the explicit reconstruction of all the hidden patterns from the Hebbian tensors and a stream of unlabeled mixtures, and a proof-of-concept communication protocol in which each message token is transmitted as a masked mixture of hidden patterns and decoded by the network dynamics. Owing to its attractor-based decoding, the protocol degrades gracefully under strong channel corruption, where conventional secure-transmission pipelines fail abruptly.
• Abstract（参考訳）: 相互作用するヘビアンネットワークのネットワークは、最近、連想メモリを超えたタスク、すなわち「emph{pattern disentanglement}」を実行することが示されている。 これまでのところ、この機能はペアワイズインタラクションのためにのみ確立されており、処理可能なパターンの数を制限することができる。 ここでは、各モジュール内の自己連想結合とモジュール間のヘテロ連想結合の両方を高階ヘビアン相互作用に促進する、これらのモジュラーネットワークの密接な拡張を紹介する。 相互作用順序の適切な選択により、ネットワークは、モジュールサイズと線形にスケールする多数のパターンを格納しながら、ミックスをアンタングルする。 ゲーラの補間に基づく統計的・機械的解析を通じて、秩序パラメータの自己整合方程式を導出し、不整合が達成される領域を識別する位相図を描き、これらの予測はモンテカルロシミュレーションによって確認される。 最後に、アンタングルメントは自然な復号プリミティブを提供し、ヘビアンテンソルとラベルなし混合のストリームからの隠蔽パターンの明示的な再構築と、各メッセージトークンを隠蔽パターンのマスク付き混合として送信し、ネットワークダイナミクスによって復号化する概念実証通信プロトコルの2つのアプリケーションで示す。 引き付け子ベースの復号化により、プロトコルは、従来のセキュアな送信パイプラインが突然失敗する、強いチャネルの破損の下で、優雅に劣化する。

関連論文リスト

• Topology-Masked Unified Backbone for Joint Feature Interaction and Multi-Domain Sequence Modeling [8.950162084237288]
  MaskRecは、機能相互作用とマルチドメインシーケンスモデリングのための、トポロジにマッピングされた統一トークンインタラクションアーキテクチャである。 この統一トークン空間に基づいて、MaskRecは構造化されたアテンションマスクであるTopoMaskを設計し、アテンション接続を選択的に有効またはブロックする。 MaskRecは、産業用CVR予測のための統一フレームワークの有効性を検証し、公式ベースラインよりも安定した改善を実現している。
  論文  参考訳（メタデータ） (2026-08-27T11:49:55Z)
• Bumblebee: Interleaved Mixed-Layer Building Blocks for Large-Scale Recommendation Systems [18.01934261007753]
  Bumblebeeは2つの方向の相互作用の欠如に対処するレコメンデーションアーキテクチャである。 各ブロックは、シーケンスのパーソナライズ、アテンションベースのエンコーディング、そして自己完結したユニットへの機能交差を組み合わせた、レイヤのマイクロパイプラインを実装している。 いくつかの分類および回帰タスクにおいて、同等のベースラインモデルに対して一貫した改善を示す。
  論文  参考訳（メタデータ） (2026-07-06T20:31:38Z)
• MeshLoom: Feed-Forward Non-Rigid Registration of Mesh Sequences [71.45325481648995]
  MeshLoomは、メッシュシーケンス間の変形を再構築するフィードフォワード登録ネットワークである。 以上の結果から,MeshLoomは非厳密な登録における最先端の結果が得られることを示す。
  論文  参考訳（メタデータ） (2026-06-15T17:51:38Z)
• On the Mechanism and Dynamics of Modular Addition: Fourier Features, Lottery Ticket, and Grokking [49.1352577985191]
  本稿では,2層ニューラルネットワークがモジュール追加タスクを解くために,機能をどのように学習するかを包括的に分析する。 我々の研究は、学習したモデルの完全な機械論的解釈と、その訓練力学の理論的説明を提供する。
  論文  参考訳（メタデータ） (2026-02-18T20:25:13Z)
• A Neuroscience-Inspired Dual-Process Model of Compositional Generalization [12.494200165412186]
  ニューラルインスパイアされたデュアルプロセスモデルであるtextscMirageを提案する。 高速で直感的なSystem1'(メタトレーニングされたトランスフォーマー)と、意図的にルールベースのSystem2'(エンジン)を組み合わせる。 Mirageはタスクに依存しない設定でSCANベンチマークのすべての分割に対して$99%の精度を達成する。
  論文  参考訳（メタデータ） (2025-07-25T01:02:07Z)
• Leveraging Low-Rank and Sparse Recurrent Connectivity for Robust Closed-Loop Control [63.310780486820796]
  繰り返し接続のパラメータ化が閉ループ設定のロバスト性にどのように影響するかを示す。 パラメータが少ないクローズドフォーム連続時間ニューラルネットワーク(CfCs)は、フルランクで完全に接続されたニューラルネットワークよりも優れています。
  論文  参考訳（メタデータ） (2023-10-05T21:44:18Z)
• Brain-like combination of feedforward and recurrent network components achieves prototype extraction and robust pattern recognition [0.0]
  連想記憶は、大々的に繰り返される新皮質ネットワークによって実行される計算の有力候補である。 我々は,非教師付きヘビアン・ベイズ学習規則を用いて分散表現を学習するフィードフォワードネットワークに,繰り返しアトラクタネットワークを結合する。 本研究では, フィードフォワード駆動型内部(隠れた)表現のトレーニングにおいて, 繰り返しアトラクタコンポーネントが連想メモリを実装していることを示す。
  論文  参考訳（メタデータ） (2022-06-30T06:03:11Z)
• Semantic Correspondence with Transformers [68.37049687360705]
  本稿では,変換器を用いたコストアグリゲーション(CAT)を提案し,意味論的に類似した画像間の密接な対応を見出す。 初期相関マップと多レベルアグリゲーションを曖昧にするための外観親和性モデリングを含む。 提案手法の有効性を示す実験を行い,広範囲にわたるアブレーション研究を行った。
  論文  参考訳（メタデータ） (2021-06-04T14:39:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。