論文の概要: Autonomy and Agency in Agentic AI: Architectural Tactics for Regulated Contexts

• arxiv url: http://arxiv.org/abs/2605.12105v1
• Date: Tue, 12 May 2026 13:20:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-13 21:48:56.879714
• Title: Autonomy and Agency in Agentic AI: Architectural Tactics for Regulated Contexts
• Title（参考訳）: エージェントAIにおける自律性とエージェンス - 規制されたコンテキストのためのアーキテクチャ的戦術
• Authors: Damir Safin, Dian Balta,
• Abstract要約: この研究は、両次元を5つの運用レベルに編成する2次元設計空間を導入する。 自律性は人体操作(L1)から完全自律監視(L5)まで様々である。 我々は、チェックポイント、エスカレーション、マルチエージェントデリゲート、ツールプロビジョニング、ツールフェンシング、書き込みステージングの6つのアーキテクチャ戦略を提案する。
• 参考スコア（独自算出の注目度）: 1.2031796234206136
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deploying agentic AI in regulated contexts requires principled reasoning about two design dimensions: agency (what the system can do) and autonomy (how much it acts without human involvement). Though often treated independently, they are coupled: at higher autonomy, human error correction is less available, so reliable operation requires constraining agency accordingly; compliance requirements reinforce this by mandating human involvement as action consequences grow. Yet no established approach addresses them jointly, leaving practitioners without a principled basis for reasoning about oversight, action consequences, and error correction. This work introduces a two-dimensional design space in which both dimensions are organised into five operational levels, making the coupling explicit and navigable. Autonomy ranges from human-commanded operation (L1) to fully autonomous monitoring (L5); agency ranges from reasoning over supplied context (L1) to committed writes to authoritative records (L5). Building on this space, we propose six architectural tactics--checkpoints, escalation, multi-agent delegation, tool provisioning, tool fencing, and write staging--for adjusting a deployment's position within it. The tactics are grounded in two worked examples from public-sector contexts, illustrating how they apply under realistic compliance constraints. We further examine five deployment parameters--model capability, agent architecture, tool fidelity, workflow bottlenecks, and evaluation--that shape what is achievable at any configuration independently of agency and autonomy. Together, the design space, tactics, and deployment parameters provide a shared vocabulary for principled, compliance-aware agentic AI design in which responsibility, auditability, and reversibility are explicit design considerations rather than properties that must be retrofitted after deployment.
• Abstract（参考訳）: 規制されたコンテキストにエージェントAIを配置するには、エージェンシー(システムができること)と自律性(それがいかに人間の関与なしに機能するか)という、2つの設計次元に関する原則的な推論が必要である。 独立して扱われることが多いが、それらは結合している: より高い自律性では、人間の誤り訂正は利用できないので、信頼できる操作は、それに応じて規制機関を必要とする; コンプライアンス要件は、アクションが大きくなるにつれて人間の関与を強制することによって、これを補強する。 しかし、確立されたアプローチはそれらに共同で対処しておらず、監督、行動結果、誤り訂正に関する理論的な根拠のない実践者を残している。 この研究は、両次元を5つの操作レベルに整理し、結合を明示的かつナビゲート可能な2次元設計空間を導入する。 自律性は、人為的な操作(L1)から完全自律監視(L5)まで、供給されたコンテキスト(L1)の推論から、コミットされた書き込みから権威的な記録(L5)まで幅広い。 この領域を基盤として、チェックポイント、エスカレーション、マルチエージェントデリゲート、ツールプロビジョニング、ツールフェンシング、書き込みステージングの6つのアーキテクチャ戦略を提案する。 この戦術は、現実的なコンプライアンス制約の下でどのように適用されるかを説明する、パブリックセクターのコンテキストから2つの実例に基礎を置いている。 さらに、モデル機能、エージェントアーキテクチャ、ツールの忠実度、ワークフローのボトルネック、評価という5つのデプロイメントパラメータを調べ、エージェンシーと自律性とは無関係に、どのような構成でも達成可能なものを形作る。 同時に、設計空間、戦術、デプロイメントパラメータは、責任、監査可能性、可逆性が、デプロイ後に再適合しなければならないプロパティではなく、明示的な設計上の考慮事項である、原則付き、コンプライアンスを意識したエージェントAI設計のための共通語彙を提供する。

関連論文リスト

• HAAS: A Policy-Aware Framework for Adaptive Task Allocation Between Humans and Artificial Intelligence Systems [0.43748379918040853]
  人間とAIは、日常的にタスクを共有したり、コンテキストや疲労、関連する利害関係に応じて補完的な役割を担ったりします。 Human-AI Adaptive Symbiosis (HAAS) は、ソフトウェア工学と製造における適応的なタスク割り当てのためのフレームワークである。
  論文  参考訳（メタデータ） (2026-05-04T17:09:21Z)
• Position: agentic AI orchestration should be Bayes-consistent [92.04373485710285]
  本稿では,エージェントシステムのオーケストレーションレベルにおいて,一貫性のある意思決定にはベイズ原理が必要であることを論じる。 信念とユーティリティ対応ポリシーがエージェントAIオーケストレーションをどのように改善するかを説明するための例とデザインパターンを提供する。
  論文  参考訳（メタデータ） (2026-05-01T15:43:43Z)
• The Controllability Trap: A Governance Framework for Military AI Agents [0.0]
  我々はエージェント軍事AIガバナンスフレームワーク(AMAGF)を提案する。 AMAGFは、予防的ガバナンス、予防的ガバナンス、矯正的ガバナンスの3つの柱を中心に構成された測定可能なアーキテクチャである。 制御品質スコア(英: Control Quality Score, CQS)は、人間の制御を定量化し、制御が弱まるにつれて累積応答を可能にする複合リアルタイムメトリックである。
  論文  参考訳（メタデータ） (2026-03-03T20:48:01Z)
• ToolSelf: Unifying Task Execution and Self-Reconfiguration via Tool-Driven Intrinsic Adaptation [60.25542764389203]
  LLM(Large Language Models)を利用したエージェントシステムは、複雑で長期のタスクに対処する上で、顕著な可能性を示している。 既存のアプローチでは、手動のオーケストレーションやランタイムベースのパッチを頼りにしており、一般化の貧弱さと最適化の断片化に悩まされることが多い。 ツール駆動の自己修正を可能にする新しいパラダイムであるToolSelfを提案する。
  論文  参考訳（メタデータ） (2026-02-08T09:27:18Z)
• Institutional AI: A Governance Framework for Distributional AGI Safety [1.3763052684269788]
  AIモデルのコア特性から生じる3つの構造的問題を同定する。 ソリューションはInstitutional AIであり、AIエージェント集団の効果的なガバナンスの問題としてアライメントを扱うシステムレベルのアプローチである。
  論文  参考訳（メタデータ） (2026-01-15T17:08:26Z)
• Towards Responsible and Explainable AI Agents with Consensus-Driven Reasoning [4.226647687395254]
  本稿では,多モデルコンセンサスと推論層ガバナンスに基づく実運用レベルのエージェントのためのResponsible(RAI)およびExplainable(XAI)AIエージェントアーキテクチャを提案する。 提案した設計では、異種LLMとVLMエージェントのコンソーシアムが独立して、共有入力コンテキストから候補出力を生成する。 専用の推論エージェントは、これらのアウトプットをまたいで構造化された統合を行い、安全と政策の制約を強制し、幻覚と偏見を緩和し、監査可能な証拠に基づく決定を生成する。
  論文  参考訳（メタデータ） (2025-12-25T14:49:25Z)
• Agentic Services Computing [51.50424046053763]
  本稿では,自律的,適応的,協調的なエージェントとしてサービスを再定義するパラダイムであるエージェントサービスコンピューティングを提案する。 ASCは、設計、デプロイ、運用、進化という4段階のライフサイクルを包含しています。
  論文  参考訳（メタデータ） (2025-09-29T07:29:18Z)
• Toward a Theory of Agents as Tool-Use Decision-Makers [89.26889709510242]
  真の自律性は、エージェントが、彼らが知っていること、必要なこと、そしてその知識を効率的に獲得する方法を統治する、一貫性のある疫学の枠組みに根ざす必要がある、と我々は主張する。 本研究では,内的推論と外的行動を等価な疫学ツールとして扱う統一理論を提案し,エージェントが内観と相互作用を体系的に調整することを可能にする。 この視点は、エージェントの設計を単なるアクションエグゼクタから知識駆動インテリジェンスシステムにシフトさせ、適応的で効率的でゴール指向の行動が可能な基礎エージェントを構築するための原則化された道筋を提供する。
  論文  参考訳（メタデータ） (2025-06-01T07:52:16Z)
• SOPBench: Evaluating Language Agents at Following Standard Operating Procedures and Constraints [59.645885492637845]
  SOPBenchは、各サービス固有のSOPコードプログラムを実行可能な関数の有向グラフに変換する評価パイプラインである。 提案手法では,各サービス固有のSOPコードプログラムを実行可能関数の有向グラフに変換し,自然言語SOP記述に基づいてこれらの関数を呼び出しなければならない。 我々は18の先行モデルを評価し、上位モデルでさえタスクが困難であることを示す。
  論文  参考訳（メタデータ） (2025-03-11T17:53:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。