論文の概要: Distributed Associative Memory via Online Convex Optimization
- arxiv url: http://arxiv.org/abs/2509.22321v1
- Date: Fri, 26 Sep 2025 13:20:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-29 20:57:54.449585
- Title: Distributed Associative Memory via Online Convex Optimization
- Title(参考訳): オンライン凸最適化による分散連想メモリ
- Authors: Bowen Wang, Matteo Zecchin, Osvaldo Simeone,
- Abstract要約: 連想メモリ(AM)はキュー・レスポンスのリコールを可能にし、連想記憶はトランスフォーマーのような現代のニューラルアーキテクチャの動作を過小評価するために最近注目されている。
この作業は、エージェントがそれぞれのアソシエーションをリコールするローカルAMと、他のエージェントからの選択的な情報を保持する分散設定に対処する。
- 参考スコア(独自算出の注目度): 42.94410959330529
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: An associative memory (AM) enables cue-response recall, and associative memorization has recently been noted to underlie the operation of modern neural architectures such as Transformers. This work addresses a distributed setting where agents maintain a local AM to recall their own associations as well as selective information from others. Specifically, we introduce a distributed online gradient descent method that optimizes local AMs at different agents through communication over routing trees. Our theoretical analysis establishes sublinear regret guarantees, and experiments demonstrate that the proposed protocol consistently outperforms existing online optimization baselines.
- Abstract(参考訳): 連想メモリ(AM)はキュー・レスポンスのリコールを可能にし、連想記憶はトランスフォーマーのような現代のニューラルアーキテクチャの動作を過小評価するために最近注目されている。
この作業は、エージェントがそれぞれのアソシエーションをリコールするローカルAMと、他のエージェントからの選択的な情報を保持する分散設定に対処する。
具体的には、ルーティングツリー上の通信を通じて、異なるエージェントのローカルAMを最適化する分散オンライン勾配降下法を提案する。
提案手法が既存のオンライン最適化基準より一貫して優れていることを示す実験を行った。
関連論文リスト
- Nonparametric Bellman Mappings for Value Iteration in Distributed Reinforcement Learning [3.5051814539447474]
本稿では,分散強化学習(DRL)における値反復(VI)のためのベルマン写像(B-Maps)を提案する。
B-マップは核ヒルベルト空間で表されるQ-函数で作用し、非パラメトリックな定式化を可能にする。
2つのよく知られた制御問題に関する数値実験は、提案した非パラメトリックB-マップの優れた性能を示す。
論文 参考訳(メタデータ) (2025-03-20T14:39:21Z) - Joint Optimal Transport and Embedding for Network Alignment [66.49765320358361]
本稿では,JOENA というネットワークアライメントのための統合最適トランスポートおよび埋め込みフレームワークを提案する。
統一された目的により、両手法の相互利益は、コンバージェンスを保証する最適化スキーマの交互化によって達成できる。
実世界のネットワークの実験はJOENAの有効性とスケーラビリティを検証し、最大16%の改善と20倍の高速化を実現した。
論文 参考訳(メタデータ) (2025-02-26T17:28:08Z) - Bridging and Modeling Correlations in Pairwise Data for Direct Preference Optimization [75.1240295759264]
本稿では,BMC という名前のペアデータにおけるブリッジ・アンド・モデリングの効果的なフレームワークを提案する。
目的の修正によって、ペアの選好信号の一貫性と情報性が向上する。
DPOだけではこれらの相関をモデル化し、ニュアンス付き変動を捉えるには不十分である。
論文 参考訳(メタデータ) (2024-08-14T11:29:47Z) - UAV-assisted Semantic Communication with Hybrid Action Reinforcement
Learning [19.48293218551122]
本稿では, セマンティックモデルスケール, チャネル割り当て, 送信電力, UAV軌道に関する決定を行うためのハイブリッドアクション強化学習フレームワークを提案する。
シミュレーションの結果,提案したハイブリッドアクション強化学習フレームワークは,アップリンクセマンティックデータ収集の効率を効果的に向上できることが示された。
論文 参考訳(メタデータ) (2023-08-18T06:30:18Z) - Compressed Regression over Adaptive Networks [58.79251288443156]
分散エージェントのネットワークによって達成可能な性能を導出し,通信制約や回帰問題を解消し,適応的に解決する。
エージェントによって最適化に必要なパラメータをオンラインで学習できる最適化アロケーション戦略を考案する。
論文 参考訳(メタデータ) (2023-04-07T13:41:08Z) - Federated Temporal Difference Learning with Linear Function Approximation under Environmental Heterogeneity [44.2308932471393]
モデル推定の交換により,エージェント数の線形収束速度が向上することを示す。
低ヘテロジニティ系では、モデル推定を交換すると、エージェントの数で線形収束速度が向上する。
論文 参考訳(メタデータ) (2023-02-04T17:53:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。