論文の概要: Contract-Based Compositional Shielding for Safe Multi-Agent Reinforcement Learning

• arxiv url: http://arxiv.org/abs/2606.14130v1
• Date: Fri, 12 Jun 2026 05:30:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-15 16:00:42.761542
• Title: Contract-Based Compositional Shielding for Safe Multi-Agent Reinforcement Learning
• Title（参考訳）: 安全なマルチエージェント強化学習のための契約型構成シールド
• Abstract要約: 分散実行下で訓練・展開されたエージェントに対する決定論的安全保証について検討する。 エージェントはLinear Temporal Logicの安全性フラグメントでグローバル仕様を共有できる。 6つの環境と15の変種にまたがるアルゴリズム的アプローチを評価した。
• 参考スコア（独自算出の注目度）: 11.125968799758434
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Safe coordination problems surface in multi-agent reinforcement learning when global safety cannot be enforced by any agent unilaterally: the admissibility of one agent's action may depend on the dynamics of other agents. Decentralised shields can enforce safety at runtime, but purely factorised permissions often exclude optimal team behaviour that is safe only through coordination. We study deterministic safety guarantees for agents trained and deployed under decentralised execution, recovering team-optimal safe behaviour without centralised runtime control. Agents have a shared global specification $φ$ in the safety fragment of Linear Temporal Logic ($\mathsf{LTL}_{\mathsf{safe}}$ ), and select among tuples of local $\mathsf{LTL}_{\mathsf{safe}}$ obligations whose conjunction implies the global specification $φ$. Each agent may rely on the other agents' local obligations as assumptions because the whole contract tuple is certified simultaneously and allows projection into local action masks. At learning time, a non-stationary multi-armed bandit chooses among a library of local $\mathsf{LTL}_{\mathsf{safe}}$ obligations to select the tuple that optimises team reward, all without forgoing end-to-end safety. We evaluate the approach across 6 environments and 15 algorithmic variants.
• Abstract（参考訳）: 一つのエージェントの行動の許容性は他のエージェントの力学に依存するかもしれない。 分離されたシールドは実行時に安全を強制するが、純粋に決定された権限は、調整を通じてのみ安全である最適なチームの振る舞いを除外することが多い。 我々は、分散実行下で訓練およびデプロイされたエージェントに対する決定論的安全保証を調査し、集中型ランタイム制御なしで、チーム最適の安全な振る舞いを回復する。 エージェントはLinear Temporal Logicの安全性フラグメント($\mathsf{LTL}_{\mathsf{safe}}$ )で$φ$を共有し、ローカル$\mathsf{LTL}_{\mathsf{safe}}のタプルの中から選択する。 各エージェントは、契約のタプル全体が同時に認証され、ローカルなアクションマスクへの投射を可能にするため、他のエージェントのローカルな義務を仮定として依存することができる。 学習時には、非定常的なマルチアームのバンディットがローカルな$\mathsf{LTL}_{\mathsf{safe}}$のライブラリを選択する。 提案手法は6つの環境と15のアルゴリズムの変種にまたがって評価する。

関連論文リスト

• Privacy-Preserving Topology-Guided Safety for LLM-Based Multi-Agent Systems via Federated Graph Learning [67.04448659688579]
  FGLGuardは、AgentDojoのグランドサクセスレートを、ほぼ無防備なユーティリティ、APIコストゼロ、無視可能な機能損失で43%削減する。 フェデレーションはオプションではなく、オフ・ザ・シェルフ・トランスファーは流通シフトによって崩壊する。 Live FGLGuardは、AgentDojoのグランドサクセスレートを、ほぼ無防備なユーティリティ、APIコストゼロ、無視可能な機能損失で43%削減する。
  論文  参考訳（メタデータ） (2026-09-02T07:57:12Z)
• Training Small LLMs as Spatial Multi-Agent Policies [17.254137262162505]
  空間的協調ゲームでは両スレッドを取り上げ、小さな凍結LDMは低レベル動作で失敗し、報酬はゼロとなる。 我々は,各ゲームに,記号プランナーによって実行される,型付けされた,状態対応可能な,短期水平動作という,象徴的な入力のライブラリを装備する。 各エージェントのLCMはオプションに対するポリシーとして機能し、エージェントごとのLORAアダプタはマルチエージェントGRPOのエージェントごとの変種によって訓練される。
  論文  参考訳（メタデータ） (2026-08-02T18:14:40Z)
• AgentLens: Interpretable Safety Steering via Mechanistic Subspaces for Multi-Turn Coding Agent [53.82005364479556]
  大規模言語モデル(LLM)に基づく符号化エージェントは、驚くべき自律性を示す。 既存の安全機構は主に外部ガードレールに依存している。 我々は,ランタイムの安全性検出と表現レベルの緩和を行う,ホワイトボックスの防御フレームワークであるAgentLensを提案する。
  論文  参考訳（メタデータ） (2026-06-21T21:13:55Z)
• Auditing Agent Harness Safety [81.22315979618612]
  LLMエージェントは、ツールをディスパッチし、リソースを割り当て、特別なコンポーネント間でメッセージをルーティングする実行ハーネスの中でますます動作します。 ほとんどの安全ベンチマークは最終出力または終端状態のみをスコアするが、多くの違反は終端ではなく、軌道の途中で発生する。 HarnessAuditは、境界コンプライアンス、実行の忠実さ、システムの安定性など、完全な実行軌跡を監査するフレームワークである。
  論文  参考訳（メタデータ） (2026-05-14T02:14:28Z)
• AdvEvo-MARL: Shaping Internalized Safety through Adversarial Co-Evolution in Multi-Agent Reinforcement Learning [78.5751183537704]
  AdvEvo-MARLは、タスクエージェントに安全性を内部化する、共進化型マルチエージェント強化学習フレームワークである。 外部ガードに頼るのではなく、AdvEvo-MARLは攻撃者と防御者を共同で最適化する。
  論文  参考訳（メタデータ） (2025-10-02T02:06:30Z)
• Multi-Agent Stage-wise Conservative Linear Bandits [2.2557806157585834]
  マルチエージェントネットワーク設定における線形帯域幅問題について検討する。 エージェントは段階的に保守的な制約を満たす必要がある。 我々は,行動選択とコンセンサス構築フェーズの交互に行うエピソードアルゴリズムMA-SCLUCBを提案する。
  論文  参考訳（メタデータ） (2025-10-01T07:29:18Z)
• Core Safety Values for Provably Corrigible Agents [2.6451153531057985]
  我々は,複数段階の部分的に観察された環境において,検証可能な保証を付与し,適応性のための最初の実装可能なフレームワークを紹介した。 私たちのフレームワークは、単一の報酬を5つの*構造的に分離された*ユーティリティヘッドに置き換えます。 敵がエージェントを修正できるオープンエンド設定では、任意のポストハックエージェントが調整性に反するかどうかを判断することは不可能である。
  論文  参考訳（メタデータ） (2025-07-28T16:19:25Z)
• Think Smart, Act SMARL! Analyzing Probabilistic Logic Shields for Multi-Agent Reinforcement Learning [3.7957452405531265]
  Shielded Multi-Agent Reinforcement Learning (SMARL)は、MARLを標準に準拠した結果にステアリングするための一般的なフレームワークである。 主なコントリビューションは次のとおりです。 Probabilistic Logic Temporal difference (PLTD) update for shielded, independent Q-learning; MARLの形式的安全性を保証するシールド付きPPOの確率論的論理ポリシー勾配法 対称的および非対称的に遮蔽された$n$のプレイヤーゲーム理論ベンチマークを総合的に評価する。
  論文  参考訳（メタデータ） (2024-11-07T16:59:32Z)
• Probably Anytime-Safe Stochastic Combinatorial Semi-Bandits [81.60136088841948]
  本稿では,時間軸における後悔を最小限に抑えるアルゴリズムを提案する。 提案アルゴリズムは,レコメンデーションシステムや交通機関などの分野に適用可能である。
  論文  参考訳（メタデータ） (2023-01-31T03:49:00Z)
• Near-Optimal Multi-Agent Learning for Safe Coverage Control [76.99020416197631]
  マルチエージェントのカバレッジ制御問題では、エージェントは環境をナビゲートして、ある密度のカバレッジを最大化する位置に到達する。 本稿では,エージェントの安全性を保ちながら,その密度を効率よく学習し,カバレッジ問題を概ね解決することを目的とする。 まず、安全を確実に保証しながら、有限時間で最適範囲に近づいた結果を挙げる。
  論文  参考訳（メタデータ） (2022-10-12T16:33:34Z)
• Decentralized Safe Multi-agent Stochastic Optimal Control using Deep FBSDEs and ADMM [16.312625634442092]
  本稿では,障害発生時のマルチエージェント制御のための,安全でスケーラブルな分散ソリューションを提案する。 分散化は、各エージェントの最適化変数、コピー変数、隣人への拡張によって達成される。 安全なコンセンサスソリューションを実現するために,ADMMベースのアプローチを取り入れた。
  論文  参考訳（メタデータ） (2022-02-22T03:57:23Z)
• Multi-agent Policy Optimization with Approximatively Synchronous Advantage Estimation [55.96893934962757]
  マルチエージェントシステムでは、異なるエージェントの警察を共同で評価する必要がある。 現在の方法では、バリュー関数やアドバンテージ関数は非同期に評価される対実関節アクションを使用する。 本研究では,近似的に同期する利点推定を提案する。
  論文  参考訳（メタデータ） (2020-12-07T07:29:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。