論文の概要: Train Locally, Learn Together: Distributed Multi-Agent Training via ADMM
- arxiv url: http://arxiv.org/abs/2610.24380v1
- Date: Sat, 17 Oct 2026 02:26:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-26 01:54:20.304974
- Title: Train Locally, Learn Together: Distributed Multi-Agent Training via ADMM
- Title(参考訳): ローカルで学習する:ADMMによる分散マルチエージェントトレーニング
- Abstract要約: マルチエージェントシステム(MAS)は、専門的な役割、多様な推論プロセス、協調的な意思決定を組み合わせることで、個々の言語モデルエージェントより優れている。
MASトレーニングは典型的には集中的であり、共通トレーナーは役割局所的な軌道と学習信号を集める必要がある。
これは、エージェントが役割ローカル学習と分散コミュニケーションを通じてシステムレベルの能力を改善する分散マルチエージェント学習パラダイムを動機付けている。
- 参考スコア(独自算出の注目度): 14.248655564749106
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multi-agent systems (MAS) can outperform individual language-model agents by combining specialized roles, diverse reasoning processes, and collaborative decision-making. However, collaborative MAS training is typically centralized, requiring a common trainer to aggregate role-local trajectories and learning signals and maintain model and optimization states. This motivates a distributed multi-agent learning paradigm in which agents improve system-level capabilities through role-local learning and decentralized communication, paving the way toward scalable, resilient, and self-organizing MAS. To this end, we introduce, to the best of our knowledge, the first optimization-grounded framework for distributed MAS training based on consensus alternating direction method of multipliers (ADMM). We formulate collaborative MAS learning as a consensus-constrained finite-sum optimization problem, naturally lending itself to distributed optimization via ADMM. The proposed approach alternates role-local learning with inter-agent consensus using distributed communication protocols such as ring all-reduce, enabling joint optimization while keeping each agent's data and training state local. We evaluate our framework on distributed safety alignment and general reasoning tasks. Under compromised-agent settings, ADMM can reduce HarmBench attack success rate (ASR) by up to 26.4%, while achieving reasoning gains comparable to centralized training. These results show that distributed MAS training retains the benefits of centralized joint optimization without requiring a centralized trainer.
- Abstract(参考訳): マルチエージェントシステム(MAS)は、専門的な役割、多様な推論プロセス、協調的な意思決定を組み合わせることで、個々の言語モデルエージェントより優れている。
しかし、コラボレーティブMASトレーニングは一般的に中央集権的であり、共通トレーナーはロールローカルな軌道と学習信号を集約し、モデルと最適化状態を維持する必要がある。
これは、エージェントがロールローカル学習と分散コミュニケーションを通じてシステムレベルの能力を改善し、スケーラブルでレジリエントで自己組織化されたMASへの道を開く、分散マルチエージェント学習パラダイムを動機付けている。
そこで本稿では,マルチプライヤのコンセンサス交互方向法(ADMM)に基づく分散MASトレーニングのための最初の最適化基盤フレームワークについて紹介する。
協調MAS学習をコンセンサス制約付き有限サム最適化問題として定式化し,ADMMによる分散最適化に自然に貢献する。
提案手法は,ロールローカル学習とエージェント間コンセンサスを,リングオールリデューサなどの分散通信プロトコルを用いて交互に行い,各エージェントのデータと学習状態をローカルに保ちながら,共同最適化を可能にする。
我々は,分散安全アライメントと一般的な推論タスクの枠組みを評価する。
妥協されたエージェント設定の下で、ADMMはHarmBenchアタック成功率(ASR)を26.4%まで下げると同時に、集中トレーニングに匹敵する推論ゲインを達成することができる。
これらの結果から,分散MASトレーニングは集中型トレーナーを必要とせず,集中型共同最適化の利点を保っていることが明らかとなった。
関連論文リスト
- Learning Self-Orchestration in Decentralized Agent Swarms [69.26948968415893]
市場ベースのポストトレーニング(MPT)は、分散エージェント群におけるアクションポリシーと自己組織化を共同で学習するためのフレームワークである。
具体化工法,ロボットナビゲーション,深層研究におけるMPTの評価を行った。
論文 参考訳(メタデータ) (2026-10-15T17:51:57Z) - Decentralized Master-Mind: Joint Action Refinement through Iterative Intent Denoising in Multi-Agent Pathfinding [48.57287847854898]
DMMは、ワンショットのアクションサンプリングを、通信ラウンド全体にわたるアクションインテントの離散的で反復的な洗練に置き換える。
エージェントはランダムなアクション意図を持ち、ローカルなコミュニケーションを通じてそれらを洗練し、コミットメントの前に選択を結合する。
MICPOで微調整したDMM1,600のMovingAIタスクでは,評価手法の中で最も高い1,598が解かれる。
論文 参考訳(メタデータ) (2026-09-25T21:31:41Z) - Learning to Communicate Locally for Large-Scale Multi-Agent Pathfinding [48.1609560841622]
本稿では,効率的な特徴共有を通じてエージェント間の協調を強化するための学習可能な通信モジュールを提案する。
提案手法は既存の学習ベースMAPFソルバよりも優れていることを示す。
論文 参考訳(メタデータ) (2026-05-08T12:05:08Z) - Multi-Agent Deep Reinforcement Learning Under Constrained Communications [2.7126292487109005]
本稿では,集中型批判者やグローバル情報の必要性を解消する分散マルチエージェント強化学習(MARL)フレームワークを提案する。
マルチホップ通信によるグローバルな状態推論を行う新しいグラフ注意ネットワーク(D-GAT)を開発した。
また、エージェントがローカルポリシーや値関数を最適化する分散MARLフレームワークである分散グラフアテンションMAPPO(DG-MAPPO)を開発した。
論文 参考訳(メタデータ) (2026-01-22T21:07:18Z) - Multi-Agent Reinforcement Learning-Based UAV Pathfinding for Obstacle Avoidance in Stochastic Environment [12.122881147337505]
マルチエージェント強化学習に基づく分散実行手法を用いた新しい集中型学習法を提案する。
このアプローチでは、エージェントは集中型プランナーとのみ通信し、オンラインで分散的な決定を行う。
訓練効率を高めるため,多段階強化学習において多段階値収束を行う。
論文 参考訳(メタデータ) (2023-10-25T14:21:22Z) - Scalable Multi-Agent Model-Based Reinforcement Learning [1.95804735329484]
我々は,モデルベース強化学習(MBRL)を用いて協調環境における集中型トレーニングをさらに活用するMAMBAという新しい手法を提案する。
エージェント間のコミュニケーションは、実行期間中に各エージェントのワールドモデルを維持するのに十分であり、一方、仮想ロールアウトはトレーニングに使用でき、環境と対話する必要がなくなる。
論文 参考訳(メタデータ) (2022-05-25T08:35:00Z) - Locality Matters: A Scalable Value Decomposition Approach for
Cooperative Multi-Agent Reinforcement Learning [52.7873574425376]
協調型マルチエージェント強化学習(MARL)は,エージェント数で指数関数的に大きい状態空間と動作空間により,スケーラビリティの問題に直面する。
本稿では,学習分散実行パラダイムに局所報酬を組み込んだ,新しい価値に基づくマルチエージェントアルゴリズム LOMAQ を提案する。
論文 参考訳(メタデータ) (2021-09-22T10:08:15Z) - F2A2: Flexible Fully-decentralized Approximate Actor-critic for
Cooperative Multi-agent Reinforcement Learning [110.35516334788687]
分散マルチエージェント強化学習アルゴリズムは複雑なアプリケーションでは実践的でないことがある。
本稿では,大規模で汎用的なマルチエージェント設定を扱える,柔軟な完全分散型アクター批判型MARLフレームワークを提案する。
当社のフレームワークは,大規模環境におけるスケーラビリティと安定性を実現し,情報伝達を低減できる。
論文 参考訳(メタデータ) (2020-04-17T14:56:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。