論文の概要: Permutation Robustness Is Not Enough: Action Collapse in Multi-Agent Transformer Policies
- arxiv url: http://arxiv.org/abs/2610.02848v1
- Date: Fri, 02 Oct 2026 05:35:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 00:14:30.232574
- Title: Permutation Robustness Is Not Enough: Action Collapse in Multi-Agent Transformer Policies
- Title(参考訳): 置換ロバスト性は十分ではない:マルチエージェントトランスフォーマーの動作崩壊
- Abstract要約: トランスフォーマーポリシーは、エージェント間の相互作用をモデル化できるため、マルチエージェントロボット学習にとって魅力的である。
本研究では,このミスマッチがエージェント順序順順の協調ナビゲーションポリシーにどのように影響するかを検討する。
- 参考スコア(独自算出の注目度): 0.3222802562733787
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Transformer policies are attractive for multi-agent robot learning because self-attention can model interactions among agents. However, multi-agent teams are unordered, while transformers typically process agents as ordered token sequences. We study how this mismatch affects cooperative navigation policies under agent-order permutations. Our results show that low permutation error alone can be misleading: policies may appear robust simply because all agents choose the same action. We therefore evaluate policies using both permutation-consistency metrics and action-collapse diagnostics, including action diversity, same-action fraction, and maximum action frequency. A PPO-ID baseline yields non-collapsed behavior but remains order-sensitive, while strong equivariance regularization can still induce homogeneous behavior. A weak equivariance penalty improves the robustness while preserving more diverse actions for teams with \(N=3\) agents, whereas teams with \(N=4\) agents require substantially smaller regularization weights. These findings suggest that multi-agent transformer policies should be evaluated not only by return and permutation robustness, but also by whether they maintain non-collapsed, differentiated multi-agent behavior.
- Abstract(参考訳): トランスフォーマーポリシーは、エージェント間の相互作用をモデル化できるため、マルチエージェントロボット学習にとって魅力的である。
しかし、マルチエージェントチームは非順序であり、トランスフォーマーは通常、順序付けられたトークンシーケンスとしてエージェントを処理します。
本研究では,このミスマッチがエージェント順序順順の協調ナビゲーションポリシーにどのように影響するかを検討する。
提案手法は,各エージェントが同一の動作を選択するだけで,ポリシーが堅牢に現れる可能性がある。
そこで我々は,多変量一致度測定と行動崩壊診断の両方を用いて,行動多様性,同行動分数,最大行動頻度などの政策を評価する。
PPO-ID基線は非崩壊挙動をもたらすが、規則性は保たれるが、強い等分散正則化は依然として均質な振舞いを引き起こす。
弱い同値のペナルティは、より多様な作用を(N=3\)エージェントで保ちながらロバスト性を改善する一方、(N=4\)エージェントのチームは、かなり小さな正規化重みを必要とする。
これらの結果から,マルチエージェントトランスフォーマーポリシは,リターンと置換堅牢性だけでなく,非崩壊的かつ分化したマルチエージェント動作の維持によって評価されるべきであることが示唆された。
関連論文リスト
- Is Per-Agent Policy Composition Safe? Rethinking Successor-Feature Transfer in Cooperative Multi-Agent Reinforcement Learning [5.703301837612397]
マルチエージェント転送は,ライブラリ内のすべてのポリシーよりも,関節動作を著しく悪化させる可能性があることを示す。
そこで本稿では,MA-USFAとMA-USFAという2つの階層からなる階層的手法を提案し,各エージェントの目的を条件付きで各エージェントの後継特徴を予測し,各エージェントが従うべきライブラリを選別し,エージェントごとの値が表現できないようなクロスエージェント補正を提供する上層作曲家を提案する。
論文 参考訳(メタデータ) (2026-08-12T04:56:52Z) - Events as Triggers for Behavioral Diversity in Multi-Agent Reinforcement Learning [10.867011075689879]
これらの振る舞い遷移を定義するために、欠けている要素は$textbfevents$である、と我々は主張する。
本稿では,エージェントを行動から分離するフレームワークを紹介し,エージェントがイベントに応答して動作をインスタンス化する連続多様体をキャプチャする。
論文 参考訳(メタデータ) (2026-05-12T16:51:23Z) - RAGEN-2: Reasoning Collapse in Agentic RL [123.40730283427136]
RAGEN-2では、安定なエントロピーであっても、モデルは多様に見えるが入力に依存しない固定テンプレートに依存することができる。
推論品質をインテリアインプットの多様性(エントロピー)とクロスインプットの区別可能性(Mutual Information, MI)に分解する。
様々なタスクにおいて、相互情報はエントロピーよりも最終的なパフォーマンスと非常に強く関連しているため、推論品質のより信頼性の高いプロキシとなります。
論文 参考訳(メタデータ) (2026-04-07T04:29:41Z) - Orthogonal Uplift Learning with Permutation-Invariant Representations for Combinatorial Treatments [9.596738570759168]
隆起は介入による純粋に漸進的な因果効果を測定する。
本稿では,治療表現を因果意味論と整合させるアップリフト推定フレームワークを提案する。
大規模ランダム化プラットフォームデータに対する実験により、長期化政策体制における昇降精度と安定性が改善された。
論文 参考訳(メタデータ) (2026-02-23T13:54:12Z) - Impatient Users Confuse AI Agents: High-fidelity Simulations of Human Traits for Testing Agents [58.00130492861884]
TraitBasisは、AIエージェントを体系的にストレステストするための軽量でモデルに依存しない方法である。
TraitBasisは、ステアブルなユーザ特性に対応するアクティベーション空間で方向を学習する。
We observed on average a 2%-30% performance degradation on $tau$-Trait across frontier model。
論文 参考訳(メタデータ) (2025-10-06T05:03:57Z) - On the Resilience of LLM-Based Multi-Agent Collaboration with Faulty Agents [58.79302663733703]
大規模言語モデルに基づくマルチエージェントシステムは、専門家エージェントの協力により、様々なタスクにまたがる優れた能力を示している。
不器用なエージェントや悪意のあるエージェントが与える影響 - システム全体のパフォーマンスにおいて、頻繁にタスクでエラーを犯すものは、いまだに過小評価されていない。
本稿では,下流タスクにおける障害要因下での各種システム構造のレジリエンスについて検討する。
論文 参考訳(メタデータ) (2024-08-02T03:25:20Z) - On the Complexity of Multi-Agent Decision Making: From Learning in Games
to Partial Monitoring [105.13668993076801]
マルチエージェント強化学習(MARL)理論における中心的な問題は、構造条件やアルゴリズムの原理がサンプル効率の学習保証につながるかを理解することである。
本稿では,複数のエージェントを用いた対話型意思決定のための一般的な枠組みとして,この問題について考察する。
マルチエージェント意思決定における統計的複雑性を特徴付けることは、単一エージェント決定の統計的複雑性を特徴付けることと等価であることを示す。
論文 参考訳(メタデータ) (2023-05-01T06:46:22Z) - Multi-agent Policy Optimization with Approximatively Synchronous
Advantage Estimation [55.96893934962757]
マルチエージェントシステムでは、異なるエージェントの警察を共同で評価する必要がある。
現在の方法では、バリュー関数やアドバンテージ関数は非同期に評価される対実関節アクションを使用する。
本研究では,近似的に同期する利点推定を提案する。
論文 参考訳(メタデータ) (2020-12-07T07:29:19Z) - Multiagent Value Iteration Algorithms in Dynamic Programming and
Reinforcement Learning [0.0]
各段階における制御がいくつかの異なる決定から構成される無限水平動的プログラミング問題を考える。
以前の研究では、ポリシーの反復アルゴリズムを導入しました。
論文 参考訳(メタデータ) (2020-05-04T16:34:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。