論文の概要: Minimal Oversight: Uncertainty-Aware Governance for Delegated AI Systems

• arxiv url: http://arxiv.org/abs/2606.15563v1
• Date: Thu, 04 Jun 2026 22:29:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-21 20:00:42.776069
• Title: Minimal Oversight: Uncertainty-Aware Governance for Delegated AI Systems
• Title（参考訳）: 最小限の監視:AIシステムの不確実性を考慮したガバナンス
• Authors: Carlos R. B. Azevedo,
• Abstract要約: 中心的なAI問題は、どれだけの自律性を与えるか、どの証拠が信頼を校正すべきか、委任されたAIシステムが維持できるパフォーマンスの上限、そして人間の介入が必要になったとき、である。 本稿では,原則的自律委任の変動原理であるMSO(Minimum Sufficient Oversight Principle)を提案する。 結果として生じるオイラー・ラグランジュ解は、タスク空間にまたがる支配的デリゲートの水の割り当てをもたらす。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI systems increasingly delegate decisions to specialized models, evaluators, tools, and supervisory controllers. The central AI problem is no longer only model accuracy, but uncertainty-aware governance: how much autonomy to grant, which evidence should calibrate trust, what performance ceiling a delegated AI system can sustain, and when human intervention becomes necessary. We propose the Minimum Sufficient Oversight Principle (MSO), a variational principle for principled autonomy delegation: minimize governance burden on the Fisher information manifold subject to a delivery constraint. The resulting Euler-Lagrange solution yields a water-filling allocation of governed delegation across the task space. Building on a revealed-action governed delegation channel model, we prove a capacity theorem for stationary symbolwise review policies, derive a local first-order approximation relating workflow complexity to quality degradation, and give a drift-dominated autonomy-time scaling law linking intervention timing to effective capacity, complexity, and drift. Within this framework, masking appears as a structural AI-governance pathology: corrected performance can hide the competence signal needed to calibrate trust. Synthetic simulations and a semi-real reconstructed workflow support design prescriptions including upstream-first correction, sensitivity-based intervention, and explicit feasibility checks before autonomy is expanded. The result is a computable framework for uncertainty, planning, and oversight in delegated AI systems. A companion Python package is available at https://github.com/crbazevedo/delegation-lab.
• Abstract（参考訳）: AIシステムは、決定を専門モデル、評価者、ツール、監督コントローラに委譲する傾向にある。 中心的なAI問題は、もはやモデルの正確さだけでなく、不確実性を認識したガバナンス — どれだけの自律性を与えるか、どの証拠が信頼を校正すべきか、委任されたAIシステムが維持できるパフォーマンスの上限、そして人間の介入が必要になった場合です。 本稿では,配送制約を受けるフィッシャー情報多様体のガバナンス負担を最小限に抑える,原則的自律委譲の変動原理であるMSO(Minimum Sufficient Oversight Principle)を提案する。 結果として生じるオイラー・ラグランジュ解は、タスク空間にまたがる支配的デリゲートの水の割り当てをもたらす。 提案手法は, 静的なシンボルレビューポリシのキャパシティ定理を立証し, ワークフローの複雑さと品質劣化に関する局所的な一階述語近似を導出し, 介入タイミングを効果的なキャパシティ, 複雑性, ドリフトにリンクするドリフト支配の自律時間スケーリング法を与える。 このフレームワーク内では、マスキングは構造的AI支配の病理として現れる。 上流優先の修正、感度に基づく介入、自律性が拡張される前の明示的な実行可能性チェックを含む、合成シミュレーションと半現実的なワークフロー支援設計処方薬。 その結果は、デリゲートされたAIシステムの不確実性、計画、監視のための計算可能なフレームワークになります。 Pythonパッケージはhttps://github.com/crbazevedo/delegation-lab.comで入手できる。

関連論文リスト

• Intelligence as Managed Autonomy: Failure, Escalation, and Governance for Agentic AI Systems [0.0]
  本稿では,非有界自律のアーキテクチャ的脆弱性について考察する。 この理論をSMARtモデル(Stable、Meta-cognitive、Assisted、Regulationの4層フレームワーク)を用いてインスタンス化する。 自律ライフサイクルにおける障害管理の形式化は、信頼性と管理された人工知能の実現に向けた重要なステップである、と結論付けます。
  論文  参考訳（メタデータ） (2026-05-26T19:49:23Z)
• Position: agentic AI orchestration should be Bayes-consistent [92.04373485710285]
  本稿では,エージェントシステムのオーケストレーションレベルにおいて,一貫性のある意思決定にはベイズ原理が必要であることを論じる。 信念とユーティリティ対応ポリシーがエージェントAIオーケストレーションをどのように改善するかを説明するための例とデザインパターンを提供する。
  論文  参考訳（メタデータ） (2026-05-01T15:43:43Z)
• Governed Reasoning for Institutional AI [0.0]
  認知コア(Cognitive Core)は、9種類の認知プリミティブから構築された決定基盤である。 ヒューマンレビューは、ポストホックチェックではなく実行条件である。 我々は、11ケースの事前承認控訴評価セットで3つのシステムをベンチマークした。
  論文  参考訳（メタデータ） (2026-04-12T14:09:18Z)
• Agentic AI for Cybersecurity: A Meta-Cognitive Architecture for Governable Autonomy [0.0]
  本稿では,サイバーセキュリティのオーケストレーションはエージェント型マルチエージェント認知システムとして再認識されるべきである,と論じる。 本稿では,特定・仮説形成・文脈解釈・説明・ガバナンスに責任を負う異種AIエージェントを,メタ認知判断機能を通じて協調する概念的枠組みを提案する。 我々の貢献は、メタ認知判断を第一級システム機能として組み込むことによって、この認知構造をアーキテクチャ的に明確化し、統制可能にすることである。
  論文  参考訳（メタデータ） (2026-02-12T12:52:49Z)
• Agentic Confidence Calibration [67.50096917021521]
  Holistic Trajectory (HTC)はAIエージェントの新しい診断フレームワークである。 HTCはキャリブレーションと差別の両方において、強力なベースラインを一貫して超えている。 HTCは、障害の背後にあるシグナルを明らかにすることによって、解釈可能性を提供する。
  論文  参考訳（メタデータ） (2026-01-22T09:08:25Z)
• From Linear Risk to Emergent Harm: Complexity as the Missing Core of AI Governance [0.0]
  リスクベースのAI規制は、予想される損害に対応する比例制御を約束する。 本稿では、そのようなフレームワークは構造上の理由から失敗することが多いと論じる。 我々は,規制を制御ではなく介入として扱う,AIガバナンスのための複雑性ベースのフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-12-14T14:19:21Z)
• Towards a Science of Scaling Agent Systems [79.64446272302287]
  エージェント評価の定義を定式化し,エージェント量,コーディネーション構造,モデル,タスク特性の相互作用として,スケーリング法則を特徴付ける。 協調指標を用いて予測モデルを導出し,R2=0をクロスバリデーションし,未知のタスク領域の予測を可能にする。 ツールコーディネーショントレードオフ: 固定的な計算予算の下では, ツールヘビータスクはマルチエージェントのオーバーヘッドから不均衡に悩まされ, 2) 能力飽和: 調整が減少または負のリターンを, 単一エージェントのベースラインが45%を超えると達成できる。
  論文  参考訳（メタデータ） (2025-12-09T06:52:21Z)
• Mathematical Algorithm Design for Deep Learning under Societal and Judicial Constraints: The Algorithmic Transparency Requirement [65.26723285209853]
  計算モデルにおける透過的な実装が実現可能かどうかを分析するための枠組みを導出する。 以上の結果から,Blum-Shub-Smale Machinesは,逆問題に対する信頼性の高い解法を確立できる可能性が示唆された。
  論文  参考訳（メタデータ） (2024-01-18T15:32:38Z)
• An Information Bottleneck Approach for Controlling Conciseness in Rationale Extraction [84.49035467829819]
  我々は,情報ボトルネック(IB)の目的を最適化することで,このトレードオフをよりよく管理できることを示す。 我々の完全教師なしのアプローチは、文上のスパース二項マスクを予測する説明器と、抽出された合理性のみを考慮したエンドタスク予測器を共同で学習する。
  論文  参考訳（メタデータ） (2020-05-01T23:26:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。