論文の概要: Specifying the Delegated-Autonomy Boundary: Requirements Engineering for Agentic AI
- arxiv url: http://arxiv.org/abs/2607.17225v1
- Date: Sun, 19 Jul 2026 12:27:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-21 18:48:37.396279
- Title: Specifying the Delegated-Autonomy Boundary: Requirements Engineering for Agentic AI
- Title（参考訳）: Delegated-Autonomy境界の指定:エージェントAIに必要なエンジニアリング
- Abstract要約: エージェントAIシステムは、さまざまな自律性を持つ外部環境を計画し、状態を維持し、行動する。
現在のプラクティスでは、要求レベルのコミットメントであっても、プロンプトやツールスキーマ、ランタイムポリシにこれらの決定を埋めています。
本稿では,エージェンシー・ジャストフィケーション・レコードとエージェント・デリゲーション・ポリシーの2つの補完的アーティファクトを提案する。
- 参考スコア（独自算出の注目度）: 5.421928928336395
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Agentic AI systems do not just predict or recommend; they plan, maintain state, and act in external environments with varying degrees of autonomy. This changes the requirements engineering problem in a specific and under-addressed way: it introduces what we call the delegated-autonomy boundary -- the set of decisions about what may be delegated to the system, under what graduated authority, with what oversight, and how control is returned. Current practices bury these decisions inside prompts, tool schemas, and runtime policies, even though they are requirements-level commitments. This paper proposes two complementary artifacts. First, an Agency Justification Record (AJR) helps teams decide when an agent is warranted over simpler alternatives. Second, an Agentic Delegation Policy (ADP) captures what must be specified for safe and effective development: purpose, authority, information, coordination, assurance, and evolution. Crucially, authority in the ADP is modelled as graduated, i.e., a tiered structure. We illustrate the framework with two contrasting examples: a safety-critical hospital discharge coordination agent and an automated code review agent.
- Abstract（参考訳）: エージェントAIシステムは単に予測や推奨だけでなく、さまざまな自律性を持つ外部環境において、状態を計画し、維持し、行動する。
委任された自律境界(deleed-autonomy boundary)と呼ばれるものを導入します -- システムに委任される可能性のあるもの,上位の権限,監視対象,コントロールの返却方法などに関する一連の決定です。
現在のプラクティスでは、要求レベルのコミットメントであっても、プロンプトやツールスキーマ、ランタイムポリシにこれらの決定を埋めています。
本稿では2つの補完的アーティファクトを提案する。
第一に、エージェンシー・ジャストフィケーション・レコーズ(AJR)は、エージェントがより単純な選択肢に対していつ保証されるかを決めるのに役立つ。
第2に、エージェントデリゲーションポリシー(ADP)は、目的、権限、情報、調整、保証、進化という、安全で効果的な開発のために指定すべきものをキャプチャする。
重要なことに、ADPの権威は、段階的、すなわち、階層構造としてモデル化されている。
本フレームワークは,安全クリティカルな病院退院調整エージェントと自動コードレビューエージェントの2つの対照的な例で説明する。
関連論文リスト
- EMERGE-Policy: A Robot Mind Emerges Beyond a Single Policy [48.898967774856466]
EMERGE-Policyは機能呼び出しと情報交換の両方をコーディネートする。
Main Agentはアクティブなコンテキストウィンドウ内でタスクレベルの状態を保持する。
ロール固有のサブエージェント プロセスの認識、実行監視、検証、メモリ統合。
論文 参考訳（メタデータ） (2026-08-30T16:46:06Z) - Deontic Policies for Runtime Governance of Agentic AI Systems [2.1095754823099657]
本稿では,義務,免除,政策紛争解決,政策の理化といった重要なガバナンス要件を実現するエージェントReiを提案する。
私たちのアプローチは、A2ASのような業界標準のフレームワークと自然に結びついています。
論文 参考訳（メタデータ） (2026-06-17T18:02:07Z) - The Digital Apprentice: A Framework for Human-Directed Agentic AI Development [0.0]
我々は,自律性を前提とせず,スケーラブルで安全なAIエージェンシーのためのフレームワークを提案する。
デジタル・アレンティス(Digital Apprentice)は、人間の暗黙の方法論を内包する発達学習者である。
我々は,データドリフトを捕捉し,実行時に異なる手法を適用することによって,トラフィックシフト時の品質の劣化を回復する方法を示す。
論文 参考訳（メタデータ） (2026-06-03T00:49:13Z) - Autonomy and Agency in Agentic AI: Architectural Tactics for Regulated Contexts [1.2031796234206136]
この研究は、両次元を5つの運用レベルに編成する2次元設計空間を導入する。
自律性は人体操作(L1)から完全自律監視(L5)まで様々である。
我々は、チェックポイント、エスカレーション、マルチエージェントデリゲート、ツールプロビジョニング、ツールフェンシング、書き込みステージングの6つのアーキテクチャ戦略を提案する。
論文 参考訳（メタデータ） (2026-05-12T13:20:30Z) - From Assistance to Agency: Rethinking Autonomy and Control in CI/CD Pipelines [0.0]
本稿では,エージェント型継続的インテグレーションと継続的デプロイメント(CI/CD)のビジョンについて述べる。
研究のプロトタイプと産業用プラットフォームに基づいて,現状のシステムは,主に有界自律型データプレーンで運用されていることを示す。
制約付き自律性を支配的な設計として、外部ガバナンスを主要な安全メカニズムとして、デプロイメントのモーメントと評価方法論のギャップを広げる3つのパターンを特定します。
論文 参考訳（メタデータ） (2026-05-08T00:15:43Z) - Architecting Secure AI Agents: Perspectives on System-Level Defenses Against Indirect Prompt Injection Attacks [46.32011684548212]
AIエージェントは間接的なプロンプトインジェクションに対して脆弱であり、信頼できないデータに埋め込まれた悪意のある命令は危険なエージェントアクションを引き起こす可能性がある。
本稿では,間接的インジェクション攻撃に対するシステムレベルの防御の展望について論じる。
論文 参考訳（メタデータ） (2026-03-31T17:15:46Z) - On the Regulatory Potential of User Interfaces for AI Agent Governance [27.951021158233587]
本稿では,透明性と行動要求を強制する手段として,AIエージェントのユーザインタフェースの規制を提案する。
エージェントとエージェントの相互作用とコミュニケーションにおいて重要な役割を果たすUI要素を識別するために,22のエージェントシステムを分析した。
私たちの研究は、実践的なAIエージェントガバナンスに関する以前の提案を補完する規制行動の新たな表面を明らかにします。
論文 参考訳（メタデータ） (2025-11-30T05:32:13Z) - Toward a Theory of Agents as Tool-Use Decision-Makers [89.26889709510242]
真の自律性は、エージェントが、彼らが知っていること、必要なこと、そしてその知識を効率的に獲得する方法を統治する、一貫性のある疫学の枠組みに根ざす必要がある、と我々は主張する。
本研究では,内的推論と外的行動を等価な疫学ツールとして扱う統一理論を提案し,エージェントが内観と相互作用を体系的に調整することを可能にする。
この視点は、エージェントの設計を単なるアクションエグゼクタから知識駆動インテリジェンスシステムにシフトさせ、適応的で効率的でゴール指向の行動が可能な基礎エージェントを構築するための原則化された道筋を提供する。
論文 参考訳（メタデータ） (2025-06-01T07:52:16Z) - Agent-as-a-Judge: Evaluate Agents with Agents [61.33974108405561]
本稿ではエージェント・アズ・ア・ジャッジ(Agent-as-a-Judge)フレームワークを紹介し,エージェント・システムを用いてエージェント・システムの評価を行う。
これはLLM-as-a-Judgeフレームワークの有機的拡張であり、タスク解決プロセス全体の中間フィードバックを可能にするエージェント的特徴を取り入れている。
55のリアルな自動化AI開発タスクのベンチマークであるDevAIを紹介します。
論文 参考訳（メタデータ） (2024-10-14T17:57:02Z) - Pangu-Agent: A Fine-Tunable Generalist Agent with Structured Reasoning [50.47568731994238]
人工知能(AI)エージェント作成の鍵となる方法は強化学習(RL)である
本稿では,構造化推論をAIエージェントのポリシーに統合し,学習するための一般的なフレームワークモデルを提案する。
論文 参考訳（メタデータ） (2023-12-22T17:57:57Z) - Formalizing the Problem of Side Effect Regularization [81.97441214404247]
本稿では,補助ゲームフレームワークを用いたサイドエフェクト正規化のための公式な基準を提案する。
これらのゲームでは、エージェントは部分的に観測可能なマルコフ決定プロセスを解決する。
このPOMDPは、エージェントが将来的なタスクをこなす能力と、プロキシ報酬を交換することで解決されることを示す。
論文 参考訳（メタデータ） (2022-06-23T16:36:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。