論文の概要: Separating Capability from Permission: A Governance Framework for Agentic AI Autonomy Levels
- arxiv url: http://arxiv.org/abs/2607.23438v1
- Date: Sun, 26 Jul 2026 03:32:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-28 22:34:15.100416
- Title: Separating Capability from Permission: A Governance Framework for Agentic AI Autonomy Levels
- Title（参考訳）: 許可から能力を分離する - エージェントAIの自律性レベルのためのガバナンスフレームワーク
- Abstract要約: 本稿では,自律能力レベル(AAL)と自律能力レベル(ACL)を分離するガバナンスフレームワークを紹介する。
AALは、AIエージェントが与えられたリスク、監視、説明責任を行使する権限を持つ自律度を定義している。
我々は、リアクティブ実行、意思決定支援、監督された行動、目標指向の自律、委任された運用権限にまたがる、構造化された自律レベルについて提示する。
- 参考スコア（独自算出の注目度）: 15.361996125107979
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As AI systems increasingly exhibit agentic behavior, discussions of autonomy often conflate what systems are technically capable of doing with what they should be permitted to do in practice. This paper introduces a governance framework that explicitly separates Allowed Autonomy Levels (AAL), which define the degree of autonomy an AI agent is authorized to exercise given risk, oversight, and accountability considerations, from Autonomous Capability Levels (ACL), which characterize an agent's inherent technical abilities. We present a structured set of autonomy levels spanning reactive execution, decision support, supervised action, goal-directed autonomy, and delegated operational authority, and describe how control, reversibility, and accountability change as autonomy increases. To operationalize this framework, we propose a risk-aware decision process for assigning allowed autonomy, analyze how risk and accountability evolve across autonomy levels, and demonstrate its application through a deployed enterprise data engineering agent, illustrating how a system assessed at a high capability level can be deliberately constrained to a lower allowed autonomy based on risk, reversibility, and organizational readiness. By distinguishing authorization from capability, this work provides practical guidance for the design, deployment, and governance of Agentic AI systems.
- Abstract（参考訳）: AIシステムではエージェント的な振る舞いがますます多くなっているため、自律性に関する議論は、実際に行うべきことに対して技術的に何ができるかを議論することが多い。
本稿では,AIエージェントが与えられたリスク,監視,説明責任を考慮した権限を有する自律度を定義するガバナンスフレームワークを,エージェント固有の技術的能力を特徴付ける自律能力レベル(ACL)から明確に分離する。
我々は、リアクティブ実行、意思決定支援、監督された行動、目標指向の自律、委任された運用権限にまたがる、構造化された自律レベルを示し、自律が増加するにつれて、制御、可逆性、説明責任がどう変化するかを説明する。
このフレームワークを運用するには,許可された自律を割り当てるリスク対応意思決定プロセスを提案し,リスクと説明責任が自律レベルを越えてどのように進化するかを分析し,そのアプリケーションを展開されたエンタープライズデータエンジニアリングエージェントを通じて実演し,高い能力レベルで評価されたシステムが,リスク,可逆性,組織的準備に基づく低い自律性に対して故意に制約されるかを説明する。
権限と能力を区別することにより、エージェントAIシステムの設計、デプロイ、ガバナンスの実践的なガイダンスを提供する。
関連論文リスト
- Assessing Company Contributions to Societal Resilience: Extending the Societal Capacity Assessment Framework to Agentic AI [40.57385775451146]
本稿では,企業の展開決定が社会的レジリエンスにどのように貢献するかを評価するために,指標に基づくソシエタルキャパシティアセスメントフレームワークを適用した。
当社の手順には,企業のAIデプロイメント決定を評価する上で,SCAFの脆弱性,対処,適応能力が持つ意味を定義する指標セットを設計する概念的なステップと,このフレームワークをパブリックなMicrosoftドキュメントの構造化された評価に応用する測定ステップの2つのステップがあります。
論文 参考訳（メタデータ） (2026-08-27T15:21:41Z) - Intelligence as Managed Autonomy: Failure, Escalation, and Governance for Agentic AI Systems [0.0]
本稿では,非有界自律のアーキテクチャ的脆弱性について考察する。
この理論をSMARtモデル(Stable、Meta-cognitive、Assisted、Regulationの4層フレームワーク)を用いてインスタンス化する。
自律ライフサイクルにおける障害管理の形式化は、信頼性と管理された人工知能の実現に向けた重要なステップである、と結論付けます。
論文 参考訳（メタデータ） (2026-05-26T19:49:23Z) - Agentic Business Process Management: A Research Manifesto [26.864255980822325]
Agentic Business Process Management (APM)はBusiness Process Management (BPM)の拡張である
マネジメントの観点からは、APMはビジネスプロセスの伝統的なプロセスビューからパラダイムシフトを表します。
APMシステムを実現するために必要なコア抽象化とアーキテクチャ要素を紹介する。
論文 参考訳（メタデータ） (2026-03-19T13:52:17Z) - From Thinker to Society: Security in Hierarchical Autonomy Evolution of AI Agents [36.1914922430313]
本稿では,認知的操作,身体環境の破壊,マルチエージェントシステム障害を対象とする脅威の分類について述べる。
この発見は、信頼できるAIエージェントシステムのための多層自律型防衛アーキテクチャの開発を導くことを目的としている。
論文 参考訳（メタデータ） (2026-03-08T06:45:28Z) - Assured Autonomy: How Operations Research Powers and Orchestrates Generative AI Systems [18.881800772626427]
生成モデルは、実現可能性、分散シフトに対する堅牢性、ストレステストを提供するメカニズムと組み合わせない限り、運用領域で脆弱である可能性がある、と我々は主張する。
我々は,運用研究に根ざした自律性確保のための概念的枠組みを開発する。
これらの要素は、安全クリティカルで信頼性に敏感な運用領域における自律性を保証するための研究アジェンダを定義する。
論文 参考訳（メタデータ） (2025-12-30T04:24:06Z) - Towards Responsible and Explainable AI Agents with Consensus-Driven Reasoning [4.226647687395254]
本稿では,多モデルコンセンサスと推論層ガバナンスに基づく実運用レベルのエージェントのためのResponsible(RAI)およびExplainable(XAI)AIエージェントアーキテクチャを提案する。
提案した設計では、異種LLMとVLMエージェントのコンソーシアムが独立して、共有入力コンテキストから候補出力を生成する。
専用の推論エージェントは、これらのアウトプットをまたいで構造化された統合を行い、安全と政策の制約を強制し、幻覚と偏見を緩和し、監査可能な証拠に基づく決定を生成する。
論文 参考訳（メタデータ） (2025-12-25T14:49:25Z) - Governable AI: Provable Safety Under Extreme Threat Models [31.36879992618843]
我々は、従来の内部制約から外部に強制された構造コンプライアンスに移行するGAI(Governable AI)フレームワークを提案する。
GAIフレームワークは、シンプルで信頼性が高く、完全に決定論的で、強力で、柔軟性があり、汎用的なルール執行モジュール(REM)、ガバナンスルール、AIによる妥協やサブバージョンに対するエンドツーエンドの保護を提供する、統制可能なセキュアなスーパープラットフォーム(GSSP)で構成されている。
論文 参考訳（メタデータ） (2025-08-28T04:22:59Z) - A Survey on Autonomy-Induced Security Risks in Large Model-Based Agents [45.53643260046778]
大規模言語モデル(LLM)の最近の進歩は、自律型AIエージェントの台頭を触媒している。
これらの大きなモデルエージェントは、静的推論システムからインタラクティブなメモリ拡張エンティティへのパラダイムシフトを示す。
論文 参考訳（メタデータ） (2025-06-30T13:34:34Z) - Levels of Autonomy for AI Agents [9.324309359500198]
エージェントの自律性のレベルは、その能力と運用環境とは別に、意図的な設計上の決定として扱うことができると論じる。
エージェントと対話する際の役割を特徴とし,エージェントの自律性を高める5つのレベルを定義した。
シングルエージェントおよびマルチエージェントシステムにおけるエージェントの動作を管理するために、AI自律性証明書に対する私たちのフレームワークの潜在的な応用を強調します。
論文 参考訳（メタデータ） (2025-06-14T12:14:36Z) - Toward a Theory of Agents as Tool-Use Decision-Makers [89.26889709510242]
真の自律性は、エージェントが、彼らが知っていること、必要なこと、そしてその知識を効率的に獲得する方法を統治する、一貫性のある疫学の枠組みに根ざす必要がある、と我々は主張する。
本研究では,内的推論と外的行動を等価な疫学ツールとして扱う統一理論を提案し,エージェントが内観と相互作用を体系的に調整することを可能にする。
この視点は、エージェントの設計を単なるアクションエグゼクタから知識駆動インテリジェンスシステムにシフトさせ、適応的で効率的でゴール指向の行動が可能な基礎エージェントを構築するための原則化された道筋を提供する。
論文 参考訳（メタデータ） (2025-06-01T07:52:16Z) - Artificial Intelligence in Government: Why People Feel They Lose Control [44.99833362998488]
行政における人工知能の利用は急速に拡大している。
AIはより効率と応答性を約束するが、政府機能への統合は公正性、透明性、説明責任に関する懸念を提起する。
この記事では、デリゲートの特別事例として、AI導入に関するプリンシパル・エージェント理論を適用します。
論文 参考訳（メタデータ） (2025-05-02T07:46:41Z) - Measuring AI agent autonomy: Towards a scalable approach with code inspection [8.344207672507334]
我々は、特定のタスクを実行するためにAIエージェントを実行する必要をなくす、自律性に関するコードベースの評価を導入する。
このアプローチをAutoGenフレームワークで実証し、アプリケーションを選択します。
論文 参考訳（メタデータ） (2025-02-21T04:58:40Z) - Accountability in Offline Reinforcement Learning: Explaining Decisions
with a Corpus of Examples [70.84093873437425]
本稿では、オフラインデータセットを決定コーパスとして利用するAOC(Accountable Offline Controller)を紹介する。
AOCはローデータシナリオで効果的に動作し、厳密なオフラインの模倣設定まで拡張でき、保存性と適応性の両方の品質を示す。
シミュレーションおよび実世界の医療シナリオにおいて、AOCのパフォーマンスを評価し、説明責任を維持しながら高いレベルのパフォーマンスでオフライン制御タスクを管理する能力を強調した。
論文 参考訳（メタデータ） (2023-10-11T17:20:32Z) - Assurance for Autonomy -- JPL's past research, lessons learned, and
future directions [56.32768279109502]
幅広い状況の変動が、事前計画された応答を妨げている場合、自律性が必要である。
ミッション・アシュアランス(Mission Assurance)は、信頼性を提供する上で重要な貢献者であるが、何十年にもわたって宇宙飛行に輝く保証の実践は、自律性に関する経験が比較的少ない。
JPLのソフトウェア保証グループの研究者は、自律性の保証に特化した技術の開発に関与している。
論文 参考訳（メタデータ） (2023-05-16T18:24:12Z) - Learning to Optimize Autonomy in Competence-Aware Systems [32.3596917475882]
体験を通して学習し、オンラインで更新する自律の内省モデルを提案する。
我々は、さまざまなレベルの自律性と利用可能な人間のフィードバックにおいて、自身の習熟度を明示的にモデル化する能力認識システム(CAS)を定義する。
我々はCASの収束特性を解析し、ロボット配送と自律運転領域の実験結果を提供する。
論文 参考訳（メタデータ） (2020-03-17T14:31:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。