論文の概要: MAS-Guard: Unified Guardrails from Individual Agents to Multi-Agent LLM Systems

• arxiv url: http://arxiv.org/abs/2610.28397v1
• Date: Tue, 20 Oct 2026 15:44:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.892019
• Title: MAS-Guard: Unified Guardrails from Individual Agents to Multi-Agent LLM Systems
• Title（参考訳）: MAS-Guard:個別エージェントから多エージェントLLMシステムへの統一ガードレール
• Abstract要約: 我々は、計測可能なエージェントと不透明なエージェントの両方を含むシングルエージェントとマルチエージェントAIアプリケーションを保護するための統合フレームワークであるMAS-Guardを紹介する。 測定可能なエージェントの中で、提案されたローカルエージェントガードレール(A-Guard)レイヤは、エージェントイベントを評価するためにタスク固有の専門家を適用する。 システムレベルでは、開発者が所有するエージェント憲章とコントロールプレーンは、ルート、エージェント機能、メッセージフォーマットの決定論的構造チェックと、ロールとメッセージコンテンツのセマンティックアセスメントを組み合わせる。
• 参考スコア（独自算出の注目度）: 51.71210243527022
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Agentic AI extends large language models (LLMs) from generating responses to planning and executing complex workflows, substantially expanding their utility while exposing applications to unsafe actions, information leakage, and adversarial manipulation. Multi-agent systems further expand these capabilities through specialization and collaboration, but distributed authority, heterogeneous roles, and opaque or potentially compromised participants make safeguarding even more challenging. Existing defenses address important individual threats but provide fragmented coverage across local execution, system-level interactions, and enforcement mechanisms. We introduce MAS-Guard, a unified framework that closes this gap for safeguarding single- and multi-agent AI applications containing both instrumentable and opaque agents. Within instrumentable agents, the proposed local Agent Guardrail (A-Guard) layer applies task-specific experts to assess agentic events. At the system level, developer-owned Agent Charters and a Control Plane combine deterministic structural checks of routes, agent capabilities, and message formats with semantic assessments of roles and message content. These complementary layers enable enforcement through a shared set of interventions: allow, reflection, confirmation, and block. Evaluated across six benchmarks covering diverse single- and multi-agent scenarios with three agent LLMs from different providers, MAS-Guard reduces the overall attack success rate by 71.5-86.3% relative to unguarded agents, while meeting the utility reference criterion on benign tasks.
• Abstract（参考訳）: Agentic AIは、大規模な言語モデル(LLM)を、複雑なワークフローの計画と実行への応答の生成から、安全でないアクションや情報漏洩、敵の操作へのアプリケーションを公開しながら、そのユーティリティを大幅に拡張する。 マルチエージェントシステムは、特殊化やコラボレーションを通じてこれらの能力をさらに拡張するが、分散権威、異種の役割、不透明または潜在的に妥協した参加者は、より安全な保護をさらに困難にしている。 既存の防御は、個々の重要な脅威に対処するが、局所的な実行、システムレベルのインタラクション、執行機構の断片化されたカバレッジを提供する。 我々は、計測可能なエージェントと不透明なエージェントの両方を含むシングルエージェントとマルチエージェントAIアプリケーションを保護するために、このギャップを埋める統一フレームワークであるMAS-Guardを紹介する。 測定可能なエージェントの中で、提案されたローカルエージェントガードレール(A-Guard)レイヤは、エージェントイベントを評価するためにタスク固有の専門家を適用する。 システムレベルでは、開発者が所有するエージェント憲章とコントロールプレーンは、ルート、エージェント機能、メッセージフォーマットの決定論的構造チェックと、ロールとメッセージコンテンツのセマンティックアセスメントを組み合わせる。 これらの補完レイヤは、許可、リフレクション、確認、ブロックという、共有された介入の集合を通じて実施することができる。 MAS-Guardは、異なるプロバイダから3つのエージェントLLMを使用して、多様なシングルエージェントとマルチエージェントシナリオをカバーする6つのベンチマークで評価され、防御されていないエージェントに対して、全体的な攻撃成功率を71.5-86.3%削減し、良質なタスクに対するユーティリティ参照基準を満たしている。

関連論文リスト

• AgentLens: Interpretable Safety Steering via Mechanistic Subspaces for Multi-Turn Coding Agent [53.82005364479556]
  大規模言語モデル(LLM)に基づく符号化エージェントは、驚くべき自律性を示す。 既存の安全機構は主に外部ガードレールに依存している。 我々は,ランタイムの安全性検出と表現レベルの緩和を行う,ホワイトボックスの防御フレームワークであるAgentLensを提案する。
  論文  参考訳（メタデータ） (2026-06-21T21:13:55Z)
• TrinityGuard: A Unified Framework for Safeguarding Multi-Agent Systems [25.855523906323523]
  TrinityGuardはマルチエージェントシステム(MAS)の安全性評価および監視フレームワークである リスクタイプを20種類特定し、単一エージェントの脆弱性、エージェント間通信の脅威、システムレベルの緊急リスクをカバーしている。 評価中、TrinityGuardはキュレートされた攻撃プローブを実行し、リスクタイプ毎に詳細な脆弱性レポートを生成し、監視エージェントが構造化された実行トレースを分析し、リアルタイムアラートを発行する。
  論文  参考訳（メタデータ） (2026-03-16T15:20:38Z)
• OMNI-LEAK: Orchestrator Multi-Agent Network Induced Data Leakage [59.3826294523924]
  オーケストレータ設定として知られる,一般的なマルチエージェントパターンのセキュリティ脆弱性について検討する。 本報告では,フロンティアモデルの攻撃カテゴリに対する感受性を報告し,推論モデルと非推論モデルの両方が脆弱であることが確認された。
  論文  参考訳（メタデータ） (2026-02-13T21:32:32Z)
• AdvEvo-MARL: Shaping Internalized Safety through Adversarial Co-Evolution in Multi-Agent Reinforcement Learning [78.5751183537704]
  AdvEvo-MARLは、タスクエージェントに安全性を内部化する、共進化型マルチエージェント強化学習フレームワークである。 外部ガードに頼るのではなく、AdvEvo-MARLは攻撃者と防御者を共同で最適化する。
  論文  参考訳（メタデータ） (2025-10-02T02:06:30Z)
• Sentinel Agents for Secure and Trustworthy Agentic AI in Multi-Agent Systems [0.42970700836450487]
  本稿では,マルチエージェントシステム(MAS)のセキュリティと信頼性向上を目的とした新しいアーキテクチャフレームワークを提案する。 このフレームワークの中心的なコンポーネントは、分散セキュリティ層として機能するSentinel Agentsのネットワークである。 このようなエージェントは、エージェント間のコミュニケーションを監督し、潜在的な脅威を特定し、プライバシーとアクセス制御を強制し、包括的な監査記録を維持することができる。
  論文  参考訳（メタデータ） (2025-09-18T13:39:59Z)
• BlindGuard: Safeguarding LLM-based Multi-Agent Systems under Unknown Attacks [58.959622170433725]
  BlindGuardは、攻撃固有のラベルや悪意のある振る舞いに関する事前の知識を必要とせずに学習する、教師なしの防御方法である。 BlindGuardはマルチエージェントシステムにまたがる多様な攻撃タイプ(即時注入、メモリ中毒、ツール攻撃)を効果的に検出する。
  論文  参考訳（メタデータ） (2025-08-11T16:04:47Z)
• SafeMobile: Chain-level Jailbreak Detection and Automated Evaluation for Multimodal Mobile Agents [58.21223208538351]
  本研究は,モバイルマルチモーダルエージェントを取り巻くセキュリティ問題について考察する。 行動シーケンス情報を組み込んだリスク識別機構の構築を試みる。 また、大規模言語モデルに基づく自動アセスメントスキームも設計している。
  論文  参考訳（メタデータ） (2025-07-01T15:10:00Z)
• Demonstrations of Integrity Attacks in Multi-Agent Systems [7.640342064257848]
  マルチエージェントシステム(Multi-Agent Systems、MAS)は、システムの中核機能を破壊しずに自己利益を提供する悪意のあるエージェントに対して脆弱である可能性がある。 この研究は、悪意のあるエージェントが微妙なプロンプト操作を使用してバイアスMAS操作を行ない、様々な利益を得る、完全性攻撃を探索する。
  論文  参考訳（メタデータ） (2025-06-05T02:44:49Z)
• PeerGuard: Defending Multi-Agent Systems Against Backdoor Attacks Through Mutual Reasoning [8.191214701984162]
  マルチエージェントシステムは、複雑なタスクを完了させたり、協力したり、競合したりする自律エージェントとして、高度なAIモデルを活用する。 重要性は増しているが、マルチエージェントシステムの安全性はいまだに未調査である。 本研究では,マルチエージェントシステムにおけるバックドア脆弱性を調査し,エージェントインタラクションに基づく防御機構を提案する。
  論文  参考訳（メタデータ） (2025-05-16T19:08:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。