論文の概要: Attacks and Mitigations for Distributed Governance of Agentic AI under Byzantine Adversaries

• arxiv url: http://arxiv.org/abs/2605.12364v1
• Date: Tue, 12 May 2026 16:33:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-13 21:48:57.016381
• Title: Attacks and Mitigations for Distributed Governance of Agentic AI under Byzantine Adversaries
• Title（参考訳）: ビザンチンの敵対者によるエージェントAIの分散ガバナンスへの攻撃と緩和
• Authors: Matthew D. Laws, Alina Oprea, Cristina Nita-Rotaru,
• Abstract要約: 最先端のソリューションであるSAGAは、ユーザおよびエージェント情報のレポジトリとして機能する、論理的に中央集権的な信頼ポイントであるプロバイダを前提としています。 私たちは、さまざまなシステムコンポーネントと現実的なデプロイメントを考慮して、妥協されたプロバイダから実装可能な攻撃を分析します。 セキュリティとパフォーマンスの異なるトレードオフを提供するプロバイダを確保するための3種類のソリューションを提示します。
• 参考スコア（独自算出の注目度）: 13.460583395066934
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Agentic AI governance is a critical component of agentic AI infrastructure ensuring that agents follow their owner's communication and interaction policies, and providing protection against attacks from malicious agents. The state-of-the-art solution, SAGA, assumes a logically centralized point of trust, the Provider, which serves as a repository for user and agent information and actively enforces policies. While SAGA provides protection against malicious agents, it remains vulnerable to a malicious Provider that deviates from the protocol, undermining the security of the identity and access control infrastructure. Deployment on both private and public clouds, each susceptible to insider threats, further increases the risk of Provider compromise. In this work, we analyze the attacks that can be mounted from a compromised Provider, taking into account the different system components and realistic deployments. We identify and execute several concrete attacks with devastating effects: undermining agent attributability, extracting private data, or bypassing access control. We then present three types of solutions for securing the Provider that offer different trade-offs between security and performance. We first present SAGA-BFT, a fully byzantine-resilient architecture that provides the strongest protection, but incurs significant performance degradation, due to the high-cost of byzantine resilient protocols. We then propose SAGA-MON and SAGA-AUD, two novel solutions that leverage lightweight server-side monitoring or client-side auditing to provide protection against most classes of attacks with minimal overhead. Finally, we propose SAGA-HYB, a hybrid architecture that combines byzantine-resilience with monitoring and auditing to trade-off security for performance. We evaluate all the architectures and compare them with SAGA. We discuss which solution is best and under what conditions.
• Abstract（参考訳）: エージェントAIガバナンスは、エージェントAIインフラストラクチャの重要なコンポーネントであり、エージェントが所有者のコミュニケーションおよびインタラクションポリシーに従い、悪意のあるエージェントからの攻撃に対する保護を提供する。 最先端のソリューションであるSAGAは、ユーザおよびエージェント情報のリポジトリとして機能し、ポリシーを積極的に実施する、論理的に中央集権的な信頼ポイントを前提としています。 SAGAは悪意のあるエージェントに対する保護を提供するが、プロトコルから逸脱し、IDとアクセス制御インフラストラクチャのセキュリティを損なう悪意のあるプロバイダには依然として脆弱である。 プライベートクラウドとパブリッククラウドの両方へのデプロイは、それぞれインサイダーの脅威の影響を受け、プロバイダの妥協のリスクをさらに高める。 本研究では,システムコンポーネントや現実的なデプロイを考慮し,妥協されたプロバイダからの攻撃を解析する。 我々は、エージェントの属性を損なうこと、プライベートデータを抽出すること、アクセス制御をバイパスすること、など、破壊的な効果を持ついくつかの具体的な攻撃を特定し、実行します。 次に、セキュリティとパフォーマンスの異なるトレードオフを提供するプロバイダを確保するための3つのタイプのソリューションを提示します。 我々はまず,最強の保護を提供するが,高コストのビザンチンレジリエントプロトコルのため,性能が著しく低下する完全なビザンチンレジリエントアーキテクチャであるSAGA-BFTを提案する。 次に、軽量なサーバサイド監視やクライアントサイド監査を利用して、最小限のオーバーヘッドでほとんどの攻撃クラスに対する保護を提供する2つの新しいソリューションであるSAGA-MONとSAGA-AUDを提案する。 最後に,ビザンチンレジリエンスと監視と監査,パフォーマンスのためのトレードオフセキュリティを組み合わせたハイブリッドアーキテクチャSAGA-HYBを提案する。 すべてのアーキテクチャを評価し,SAGAと比較する。 どのソリューションが最適か、どの条件下で議論する。

関連論文リスト

• OMNI-LEAK: Orchestrator Multi-Agent Network Induced Data Leakage [59.3826294523924]
  オーケストレータ設定として知られる,一般的なマルチエージェントパターンのセキュリティ脆弱性について検討する。 本報告では,フロンティアモデルの攻撃カテゴリに対する感受性を報告し,推論モデルと非推論モデルの両方が脆弱であることが確認された。
  論文  参考訳（メタデータ） (2026-02-13T21:32:32Z)
• Aegis: Towards Governance, Integrity, and Security of AI Voice Agents [52.7512082818639]
  音声エージェントのガバナンス,整合性,セキュリティのためのフレームワークであるAegisを提案する。 我々は,銀行コールセンタ,ITサポート,ロジスティクスにおけるケーススタディを通じて,この枠組みを評価する。 モデルファミリ間の系統的な差異を観察し,より感受性の高いオープンウェイトモデルを示した。
  論文  参考訳（メタデータ） (2026-02-07T05:51:36Z)
• Cuckoo Attack: Stealthy and Persistent Attacks Against AI-IDE [64.47951172662745]
  Cuckoo Attackは、悪意のあるペイロードを構成ファイルに埋め込むことで、ステルス性と永続的なコマンド実行を実現する新しい攻撃である。 攻撃パラダイムを初期感染と持続性という2つの段階に分類する。 当社は、ベンダーが製品のセキュリティを評価するために、実行可能な7つのチェックポイントを提供しています。
  論文  参考訳（メタデータ） (2025-09-19T04:10:52Z)
• BlockA2A: Towards Secure and Verifiable Agent-to-Agent Interoperability [8.539128225018489]
  BlockA2Aはエージェントとエージェントの相互運用性のための統合されたマルチエージェント信頼フレームワークである。 集中的な信頼ボトルネックを排除し、メッセージの信頼性と実行の整合性を確保し、エージェント間のインタラクションにおける説明責任を保証する。 ビザンチンエージェントのフラグング、リアクティブ実行停止、即時許可取り消しなど、リアルタイムメカニズムによる攻撃を中和する。
  論文  参考訳（メタデータ） (2025-08-02T11:59:21Z)
• LLM Agents Should Employ Security Principles [60.03651084139836]
  本稿では,大規模言語モデル(LLM)エージェントを大規模に展開する際には,情報セキュリティの確立した設計原則を採用するべきであることを論じる。 AgentSandboxは、エージェントのライフサイクル全体を通して保護を提供するために、これらのセキュリティ原則を組み込んだ概念的なフレームワークである。
  論文  参考訳（メタデータ） (2025-05-29T21:39:08Z)
• SAGA: A Security Architecture for Governing AI Agentic Systems [13.758038956671834]
  大規模言語モデル(LLM)ベースのエージェントは、最小限の人間インタラクションでタスクを自律的に相互に対話し、協力し、委譲する傾向にある。 エージェントシステムガバナンスの業界ガイドラインは、ユーザがエージェントの包括的な制御を維持する必要性を強調している。 本稿では,エージェントのライフサイクルをユーザから監視する,エージェントシステムを管理するためのスケーラブルなセキュリティアーキテクチャであるSAGAを提案する。
  論文  参考訳（メタデータ） (2025-04-27T23:10:00Z)
• DoomArena: A framework for Testing AI Agents Against Evolving Security Threats [81.73540246946015]
  本稿では,AIエージェントのセキュリティ評価フレームワークであるDoomArenaを紹介する。 プラグインフレームワークであり、現実的なエージェントフレームワークと簡単に統合できる。 モジュールであり、エージェントがデプロイされる環境の詳細から攻撃の開発を分離する。
  論文  参考訳（メタデータ） (2025-04-18T20:36:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。