論文の概要: On Symmetry for Characterizing Agent Heterogeneity in Multi-Agent Systems
- arxiv url: http://arxiv.org/abs/2610.18538v1
- Date: Tue, 13 Oct 2026 15:19:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.652912
- Title: On Symmetry for Characterizing Agent Heterogeneity in Multi-Agent Systems
- Title(参考訳): マルチエージェントシステムにおけるエージェント不均一性評価のための対称性について
- Abstract要約: 完全な政策評価が分散化された行動政策毎に通勤する場合に,政策評価対称性としての型適合型変換について検討する。
すべての成分的環境自己同型がポリシー評価対称性であることを証明するが、逆は成り立たない。
所定の重み付けされた報酬アグリゲーションに対して、ソースPOSGのポリシー評価対称性を継承するために、結果のDec-POMDPに正確な値のアイデンティティと十分な条件を導出する。
- 参考スコア(独自算出の注目度): 8.347570193442845
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Understanding agent heterogeneity can inform the design of shared and agent-specific policy representations, however existing criteria provide no unified structural test. We study finite-horizon POSGs and define a type-compatible transformation as a policy-evaluation symmetry when complete policy evaluation commutes with it for every decentralized behavioral policy. Policy-evaluation symmetries form a group for which agent orbits define structural agent types. This classification does not depend on the particular policy chosen or the distribution of initial states. We prove that every componentwise environment automorphism is a policy-evaluation symmetry, but that the converse does not hold. Applying the framework to cooperative Dec-POMDPs shows that agents can belong to different structural types even when they share a common reward. For prescribed weighted reward aggregation, we derive an exact value identity and sufficient conditions for the resulting Dec-POMDP to inherit the policy-evaluation symmetries of the source POSG. Finally, we give sufficient conditions under which repeated model factorizations induce policy-evaluation symmetry, and show that preserving an optimal Boltzmann policy set neither implies nor follows from this symmetry in general.
- Abstract(参考訳): エージェントの不均一性を理解することは、共有およびエージェント固有のポリシー表現の設計を知らせるが、既存の基準は統一された構造テストを提供しない。
有限水平POSGについて検討し、完全な政策評価が分散化された行動政策ごとに通勤する場合に、タイプ互換変換をポリシー評価対称性として定義する。
政策評価対称性は、エージェント軌道が構造的エージェントタイプを定義する群を形成する。
この分類は選択された特定の政策や初期状態の分布に依存しない。
すべての成分的環境自己同型がポリシー評価対称性であることを証明するが、逆は成り立たない。
このフレームワークをDec-POMDPに応用すると、共通の報酬を共有した場合でも、エージェントは異なる構造タイプに属することができる。
所定の重み付けされた報酬アグリゲーションに対して、ソースPOSGのポリシー評価対称性を継承するために、結果のDec-POMDPに正確な値のアイデンティティと十分な条件を導出する。
最後に、繰り返しモデル分解がポリシー評価対称性を誘導する十分な条件を与え、最適なボルツマンのポリシーセットを保存することは、一般にこの対称性に従わないことを示す。
関連論文リスト
- Generalized Agent Iteration: One Formal Framework for Iterative Policy Improvement and Recursive Self-Improvement [23.752667365287568]
汎用エージェントイテレーション(英: Generalized Agent Iteration, GAI)は、反復的政策改善を記述する形式的なフレームワークである。
2つの中心的なダイアルは、改善機構がエージェントの一部であるかどうか、それに対して測定される標準が外部に接地されているかどうかのインスタンスを区別する。
本論文は,従来のシステムと同等に機能し,新しいシステムの解析と設計のための基本となるRSIの形式的特徴を探求する第一歩であると考えている。
論文 参考訳(メタデータ) (2026-09-11T18:15:09Z) - Structural Distinguishability of Static and Adaptive Policy Regimes in Agent-Based Regulatory Simulation [0.0]
本稿では,新しい汎用フレームワークではなく,制御されたシミュレーションベンチマークに寄与する。
本研究は, ナイーブな固定ポリシー, トラッキング対応の固定ポリシ, および, セットポイント, 安全マージン, 片側制御の3つの適応コントローラを評価する。
このコントリビューションは、スカラーインジケータ、キャップ相対的なシンボル診断、軌跡モチーフ、視覚検査によって、平均的な結果が類似しているように見える場合でも、どのように規制の結論が異なるかを共同で明らかにする。
論文 参考訳(メタデータ) (2026-06-15T10:06:32Z) - Learning Policy Representations for Steerable Behavior Synthesis [80.4542176039074]
マルコフ決定プロセス(MDP)を前提として,テスト時の行動ステアリングを促進するために,さまざまなポリシーの表現を学習する。
これらの表現は、セットベースアーキテクチャを用いて、様々なポリシーに対して均一に近似できることを示す。
変動生成法を用いてスムーズな潜伏空間を導出し,さらにコントラスト学習により、潜伏距離が値関数の差と一致するように形成する。
論文 参考訳(メタデータ) (2026-01-29T21:52:06Z) - Convergence of Policy Mirror Descent Beyond Compatible Function Approximation [66.4260157478436]
我々は,より弱い変動支配を前提とした理論的PMD一般政策クラスを開発し,最良クラス政策への収束を得る。
我々の主観念は、占有度-勾配測度によって誘導される局所ノルムによって誘導される新しい概念を活用する。
論文 参考訳(メタデータ) (2025-02-16T08:05:46Z) - Multi-Agent MDP Homomorphic Networks [100.74260120972863]
協調型マルチエージェントシステムでは、エージェントの異なる構成とそれらの局所的な観察の間に複雑な対称性が生じる。
単エージェント強化学習における既存の対称性の研究は、完全に集中した環境にのみ一般化できる。
本稿では,ローカル情報のみを用いた分散実行が可能なネットワークのクラスであるマルチエージェントMDPホモモルフィックネットワークを提案する。
論文 参考訳(メタデータ) (2021-10-09T07:46:25Z) - Implicit Distributional Reinforcement Learning [61.166030238490634]
2つのディープジェネレータネットワーク(DGN)上に構築された暗黙の分布型アクター批判(IDAC)
半単純アクター (SIA) は、フレキシブルなポリシー分布を利用する。
我々は,代表的OpenAI Gym環境において,IDACが最先端のアルゴリズムより優れていることを観察する。
論文 参考訳(メタデータ) (2020-07-13T02:52:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。