論文の概要: Risks and Controls for Multi-Agent Systems: an analytical framework for deployment of AI agents across organisational boundaries
- arxiv url: http://arxiv.org/abs/2608.26626v1
- Date: Thu, 27 Aug 2026 05:28:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-28 16:30:58.248194
- Title: Risks and Controls for Multi-Agent Systems: an analytical framework for deployment of AI agents across organisational boundaries
- Title（参考訳）: マルチエージェントシステムのリスクとコントロール:組織の境界を越えてAIエージェントをデプロイするための分析フレームワーク
- Abstract要約: このレポートでは、組織や政策立案者、研究者がAIエージェントが互いに対話する際に生じるリスクを判断するのを助けるためのフレームワークを提示します。
各階層で、レポートはリスク要因、障害モード、利用可能なコントロールを調べている。
コントロールを適用する位置を特定し、アクターが行動する場所を特定し、それを閉じるために必要なギャップと集団的アクションを特徴付ける。
- 参考スコア（独自算出の注目度）: 0.059313275041517316
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This report presents a framework to help organisations, policymakers and researchers reason about the risks that emerge when AI agents interact with each other, how those risks change as interactions cross organisational boundaries, and the controls that may help address them. As organisations deploy AI agents, those agents will increasingly interact with each other: inside the organisation, with the agents of partners, customers and suppliers, and with unknown counterparties on the open internet. Failures can emerge from the interactions themselves, and once those interactions cross an organisation's perimeter, no single organisation can fully see, control or govern them. The report introduces three deployment tiers, defined by the minimum common governance binding any two interacting agents: singular governance, where one organisation governs every agent; federated governance, where multiple organisations deploy into a shared environment under agreed rules; and open environments, where agents operate with no central authority and shared standards are adopted voluntarily if at all. Within each tier, the report examines risk factors, failure modes and available controls. It identifies who is positioned to apply the controls, and where no actor is positioned to act, it characterises the gap and the collective action required to close it.
- Abstract（参考訳）: このレポートでは、組織や政策立案者、研究者が、AIエージェントが相互に相互作用する際に発生するリスク、それらのリスクが組織の境界を越えてどのように変化するか、そしてそれらに対応するのに役立つコントロールについて、分析するのを助けるためのフレームワークを提示します。
組織がAIエージェントをデプロイするにつれて、これらのエージェントは、組織内、パートナー、顧客、サプライヤーのエージェント、そしてオープンインターネット上の未知のエージェントと、ますます交流するようになる。
障害は相互作用そのものから発生し、その相互作用が組織の周囲を横切ると、ひとつの組織がそれらを完全に見たり、コントロールしたり、管理したりすることはできなくなります。
単一のガバナンス、ひとつの組織がすべてのエージェントを統括するフェデレーション、複数の組織が合意されたルールの下で共有環境にデプロイするフェデレーションガバナンス、エージェントが中央の権限を持って運用するオープン環境、そして共有標準が自発的に採用される。
各階層で、レポートはリスク要因、障害モード、利用可能なコントロールを調べている。
コントロールを適用する位置を特定し、アクターが行動する場所を特定し、それを閉じるために必要なギャップと集団的アクションを特徴付ける。
関連論文リスト
- Securing Agentic AI: From Per-Action Checks to Trajectory Assurance [8.523545468742919]
大規模言語モデル(LLM)ベースのエージェントがより自律的になるにつれて、単一のチャレンジからエージェントスタック全体にまたがる、広く相互接続されたランドスケープへと、それらを保護する。
おそらく最も根本的な課題は行動の封じ込めである:個々の許容される行動のシーケンスは、システムレベルの制約と安全性の不変性に総括的に違反する可能性がある。
より広いレベルでは、サプライチェーンの整合性、証明性、説明可能性、エンドツーエンドの可観測性はほぼオープンな問題のままです。
論文 参考訳（メタデータ） (2026-08-03T00:28:49Z) - Foundation Protocol: A Coordination Layer for Agentic Society [78.01727114524464]
Foundation Protocol (FP) は、新興の人間-AI社会のためのグラフファーストの調整レイヤである。
FPはエージェント、ツール、リソース、人間、機関、組織を含む異種組織を統一する。
目的は、説明責任を維持しつつ、自律的な機関を構成可能に保つことである。
論文 参考訳（メタデータ） (2026-05-22T04:20:35Z) - Beyond Individual Intelligence: Surveying Collaboration, Failure Attribution, and Self-Evolution in LLM-based Multi-Agent Systems [65.90791804095561]
マルチエージェントシステムは、特殊エージェント間の構造化された協調を通じてこの問題に対処するが、より厳密な調整は、あまり検討されていないリスクを増幅する。
既存の調査では、個々のエージェント能力、マルチエージェントのコラボレーション、エージェントの自己進化を別々にカバーしている。
この調査は4つの因果関係のあるステージを中心にまとめられた統一されたレビューを提供する。これはLIFEの進展(Lay the capabilities foundation)、協力によるエージェントの統合、帰属による障害の発見、自律的な自己改善によるEvolveである。
論文 参考訳（メタデータ） (2026-05-14T14:36:13Z) - OrgAgent: Organize Your Multi-Agent System like a Company [75.47076168155817]
企業スタイルの階層型マルチエージェントフレームワークであるOrgAgentを紹介します。
企業スタイルの階層で組織されたマルチエージェントシステムは、一般的に他の組織構造よりも優れています。
論文 参考訳（メタデータ） (2026-04-01T15:21:14Z) - OMNI-LEAK: Orchestrator Multi-Agent Network Induced Data Leakage [59.3826294523924]
オーケストレータ設定として知られる,一般的なマルチエージェントパターンのセキュリティ脆弱性について検討する。
本報告では,フロンティアモデルの攻撃カテゴリに対する感受性を報告し,推論モデルと非推論モデルの両方が脆弱であることが確認された。
論文 参考訳（メタデータ） (2026-02-13T21:32:32Z) - Institutional AI: A Governance Framework for Distributional AGI Safety [1.3763052684269788]
AIモデルのコア特性から生じる3つの構造的問題を同定する。
ソリューションはInstitutional AIであり、AIエージェント集団の効果的なガバナンスの問題としてアライメントを扱うシステムレベルのアプローチである。
論文 参考訳（メタデータ） (2026-01-15T17:08:26Z) - When Autonomy Goes Rogue: Preparing for Risks of Multi-Agent Collusion in Social Systems [78.04679174291329]
悪意のあるマルチエージェントシステム(MAS)のリスクをシミュレートするための概念実証手法を提案する。
この枠組みを、誤情報拡散とeコマース詐欺という2つのリスクの高い分野に適用する。
その結果,分散システムの方が,集中型システムよりも悪意ある行動を実行するのに効果的であることが示唆された。
論文 参考訳（メタデータ） (2025-07-19T15:17:30Z) - Kaleidoscopic Teaming in Multi Agent Simulations [75.47388708240042]
我々は,エージェントが行う複雑な行動,思考プロセス,行動の安全性リスクを評価する上で,既存のレッドチームや安全評価フレームワークは不十分であると主張している。
我々は,新しいコンテキスト内最適化手法を導入し,安全解析のためのより良いシナリオを生成する。
エージェントの安全性を測定するためのフレームワークとともに使用できる適切なメトリクスを提案する。
論文 参考訳（メタデータ） (2025-06-20T23:37:17Z) - A Novel Zero-Trust Identity Framework for Agentic AI: Decentralized Authentication and Fine-Grained Access Control [7.228060525494563]
本稿では,Agentic AI IAMフレームワークの提案について述べる。
リッチで検証可能なエージェント識別子(ID)に基づく包括的フレームワークを提案する。
また、Zero-Knowledge Proofs(ZKPs)によって、プライバシ保護属性の開示と検証可能なポリシーコンプライアンスを実現する方法について検討する。
論文 参考訳（メタデータ） (2025-05-25T20:21:55Z) - Position Paper: Towards Open Complex Human-AI Agents Collaboration Systems for Problem Solving and Knowledge Management [0.15039745292757667]
我々は,Human-AI Agents Collaboration Systems(HAACS)のための技術に依存しない,コラボレーション可能なスタンスを提案する。
7次元のコラボスピンと人間とエージェントのコントラストを通して経験的なパターンを読み取ることで、欠落したピースを識別する。
アドホック接着剤を使わず,バイオサイバネティック拡張をスケッチすることなく,新たなエージェントプロトコルとの相互運用性を示す。
論文 参考訳（メタデータ） (2025-04-24T05:57:03Z) - A Formal Framework for Reasoning about Agents' Independence in
Self-organizing Multi-agent Systems [0.7734726150561086]
本稿では,自己組織型マルチエージェントシステムの論理ベースフレームワークを提案する。
このようなシステムを検証する計算の複雑さは、標準atlの領域に近いままであることを示す。
また、制約満足問題をモデル化するためにフレームワークを使用する方法も示します。
論文 参考訳（メタデータ） (2021-05-17T07:32:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。