論文の概要: Distributed Dynamic Associative Memory via Online Convex Optimization

• arxiv url: http://arxiv.org/abs/2511.23347v1
• Date: Fri, 28 Nov 2025 16:56:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-12-01 19:47:55.98832
• Title: Distributed Dynamic Associative Memory via Online Convex Optimization
• Title（参考訳）: オンライン凸最適化による分散動的連想メモリ
• Authors: Bowen Wang, Matteo Zecchin, Osvaldo Simeone,
• Abstract要約: 連想メモリ(AM)はキュー応答リコールを可能にしており、最近、トランスフォーマーのようなモダンなニューラルアーキテクチャの基礎となる重要なメカニズムとして認識されている。 本研究では、分散動的連想メモリ(DDAM)の概念を導入し、従来のAMを複数のエージェントと時間変化データストリームによる設定に拡張する。 DDAMでは、各エージェントは独自のアソシエーションを格納するだけでなく、特定の関心行列に基づいて他のエージェントからの情報を選択的に記憶するローカルAMを維持している。 DDAM-TOGDと呼ばれる木に基づく分散勾配オンライン降下アルゴリズムを提案する。
• 参考スコア（独自算出の注目度）: 42.94410959330529
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: An associative memory (AM) enables cue-response recall, and it has recently been recognized as a key mechanism underlying modern neural architectures such as Transformers. In this work, we introduce the concept of distributed dynamic associative memory (DDAM), which extends classical AM to settings with multiple agents and time-varying data streams. In DDAM, each agent maintains a local AM that must not only store its own associations but also selectively memorize information from other agents based on a specified interest matrix. To address this problem, we propose a novel tree-based distributed online gradient descent algorithm, termed DDAM-TOGD, which enables each agent to update its memory on the fly via inter-agent communication over designated routing trees. We derive rigorous performance guarantees for DDAM-TOGD, proving sublinear static regret in stationary environments and a path-length dependent dynamic regret bound in non-stationary environments. These theoretical results provide insights into how communication delays and network structure impact performance. Building on the regret analysis, we further introduce a combinatorial tree design strategy that optimizes the routing trees to minimize communication delays, thereby improving regret bounds. Numerical experiments demonstrate that the proposed DDAM-TOGD framework achieves superior accuracy and robustness compared to representative online learning baselines such as consensus-based distributed optimization, confirming the benefits of the proposed approach in dynamic, distributed environments.
• Abstract（参考訳）: 連想メモリ(AM)はキュー応答リコールを可能にしており、最近、トランスフォーマーのようなモダンなニューラルアーキテクチャの基礎となる重要なメカニズムとして認識されている。 本研究では、分散動的連想メモリ(DDAM)の概念を導入し、従来のAMを複数のエージェントと時間変化データストリームによる設定に拡張する。 DDAMでは、各エージェントは独自のアソシエーションを格納するだけでなく、特定の関心行列に基づいて他のエージェントからの情報を選択的に記憶するローカルAMを維持している。 この問題を解決するために,DDAM-TOGDと呼ばれる木に基づく分散オンライン勾配降下アルゴリズムを提案する。 我々は,DDAM-TOGDの厳密な性能保証,定常環境におけるサブ線形の静的な後悔,非定常環境における経路長依存性の動的後悔を導出する。 これらの理論的結果は、通信遅延とネットワーク構造が性能に与える影響についての洞察を与える。 さらに, 後悔解析に基づいて, 経路木を最適化し, 通信遅延を最小限に抑え, 後悔境界を改良する組合せ木設計戦略を導入する。 数値実験により,DDAM-TOGDフレームワークは,コンセンサスに基づく分散最適化などのオンライン学習ベースラインに対して,動的分散環境における提案手法の利点を検証し,精度と堅牢性を向上することを示した。

関連論文リスト

• Distributed Associative Memory via Online Convex Optimization [42.94410959330529]
  連想メモリ(AM)はキュー・レスポンスのリコールを可能にし、連想記憶はトランスフォーマーのような現代のニューラルアーキテクチャの動作を過小評価するために最近注目されている。 この作業は、エージェントがそれぞれのアソシエーションをリコールするローカルAMと、他のエージェントからの選択的な情報を保持する分散設定に対処する。
  論文  参考訳（メタデータ） (2025-09-26T13:20:15Z)
• Backscatter Device-aided Integrated Sensing and Communication: A Pareto Optimization Framework [59.30060797118097]
  統合センシング・通信(ISAC)システムは、密集した都市非視線シナリオにおいて大きな性能劣化に遭遇する可能性がある。 本稿では,自然環境に分散した受動的BDを利用した後方散乱近似(BD)支援ISACシステムを提案する。
  論文  参考訳（メタデータ） (2025-07-12T17:11:06Z)
• Beamforming and Resource Allocation for Delay Minimization in RIS-Assisted OFDM Systems [38.71413228444903]
  本稿では、ダウンリンク再構成可能なインテリジェントサーフェス(RIS)支援OFDMシステムにおけるビームフォーミングと資源配分の問題について検討する。 混合作用空間を効果的に処理し, 状態空間次元を低減するために, ハイブリッド深部強化学習(DRL)手法を提案する。 提案アルゴリズムは, 平均遅延を著しく低減し, 資源配分効率を向上し, システムの堅牢性と公平性を向上する。
  論文  参考訳（メタデータ） (2025-06-04T05:33:33Z)
• The Larger the Merrier? Efficient Large AI Model Inference in Wireless Edge Networks [56.37880529653111]
  大規模計算モデル(LAIM)サービスの需要は、従来のクラウドベースの推論から、低レイテンシでプライバシ保護のアプリケーションのためのエッジベースの推論へのパラダイムシフトを推進している。 本稿では,事前学習したLAIMをデバイス上のサブモデルとサーバ上のサブモデルに分割して配置するLAIM推論方式について検討する。
  論文  参考訳（メタデータ） (2025-05-14T08:18:55Z)
• Leveraging Low-Rank and Sparse Recurrent Connectivity for Robust Closed-Loop Control [63.310780486820796]
  繰り返し接続のパラメータ化が閉ループ設定のロバスト性にどのように影響するかを示す。 パラメータが少ないクローズドフォーム連続時間ニューラルネットワーク(CfCs)は、フルランクで完全に接続されたニューラルネットワークよりも優れています。
  論文  参考訳（メタデータ） (2023-10-05T21:44:18Z)
• UAV-assisted Semantic Communication with Hybrid Action Reinforcement Learning [19.48293218551122]
  本稿では, セマンティックモデルスケール, チャネル割り当て, 送信電力, UAV軌道に関する決定を行うためのハイブリッドアクション強化学習フレームワークを提案する。 シミュレーションの結果,提案したハイブリッドアクション強化学習フレームワークは,アップリンクセマンティックデータ収集の効率を効果的に向上できることが示された。
  論文  参考訳（メタデータ） (2023-08-18T06:30:18Z)
• Compressed Regression over Adaptive Networks [58.79251288443156]
  分散エージェントのネットワークによって達成可能な性能を導出し,通信制約や回帰問題を解消し,適応的に解決する。 エージェントによって最適化に必要なパラメータをオンラインで学習できる最適化アロケーション戦略を考案する。
  論文  参考訳（メタデータ） (2023-04-07T13:41:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。