論文の概要: The Handover Problem: Governing Autonomy Transitions in Human-AI Collaboration
- arxiv url: http://arxiv.org/abs/2610.10352v1
- Date: Wed, 07 Oct 2026 16:27:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:23.037233
- Title: The Handover Problem: Governing Autonomy Transitions in Human-AI Collaboration
- Title（参考訳）: ハンドオーバ問題:人間-AIコラボレーションにおける自律性遷移の統治
- Abstract要約: ハンドオーバ問題: 各運用サイクルで、AIの自律性をエスカレート、維持、あるいは反転するかを決定する。
我々は,操作者の即応性,人間とAIの信頼,学習安定性,運用性能を統合する透過的な複合尺度であるHandover Readiness Score(HRS)を紹介する。
これは、アダプティブ自動化研究がこれまで提供されていなかった概念的で正式な基盤を提供する。
- 参考スコア（独自算出の注目度）: 0.43748379918040853
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Human-machine systems rarely operate at a fixed level of AI autonomy. As operators and AI systems collaborate over time, control must shift: the AI can take on more responsibility when collaboration is stable, maintain its current role when evidence is ambiguous, or return control to the human when conditions deteriorate. Existing work on adaptive automation, supervisory control, trust in automation, and deskilling explains parts of this problem, but provides no auditable, multi-signal criterion for governing when autonomy should change across multi-cycle workflows. We formalise this challenge as the Handover Problem: deciding, at each operational cycle, whether to escalate, maintain, or revert AI autonomy while keeping the process reversible, recoverable, and auditable. We introduce the Handover Readiness Score (HRS), a transparent composite measure that integrates four signal dimensions: operator readiness, human-AI trust, learning stability, and operational performance. It is combined with a hysteresis-based transition policy that requires sustained positive evidence before increasing autonomy but reverts promptly when conditions worsen. Across software engineering and manufacturing domains, the HRS and hard safety guards address complementary failure regimes: guards enforce immediate corrective action when a single indicator breaches a critical threshold, while the HRS detects the slow, multi-signal erosion of operator readiness that no individual guard can observe. The framework establishes autonomy handover as a governance problem requiring explicit, composite, and auditable criteria. This provides a conceptual and formal foundation that adaptive automation research has not previously provided.
- Abstract（参考訳）: ヒューマンマシンシステムは、固定レベルのAI自律性で運用されることはめったにない。
AIは、コラボレーションが安定している時により多くの責任を負うことができ、証拠が曖昧であるときに現在の役割を維持することができ、条件が悪化した時に人間に制御を返すことができる。
適応自動化、監督管理、自動化に対する信頼、およびデザミリングに関する既存の作業は、この問題の一部を説明しているが、マルチサイクルワークフロー全体にわたって自律性を変えるべきかどうかを決定するための監査可能なマルチシグナル基準は提供していない。
プロセスの可逆性、回復性、監査性を維持しながら、AIの自律性をエスカレート、維持、あるいは反転させるかどうかを各運用サイクルで決定する。
我々は,演算子の可読性,人間-AI信頼,学習安定性,運用性能の4つの信号次元を統合した透過的複合尺度であるハンドオーバー可読度スコア(HRS)を紹介した。
これはヒステリシスに基づく移行政策と組み合わせられ、自律性を高める前に肯定的な証拠を必要とするが、状況が悪化するとすぐに回復する。
ソフトウェアエンジニアリングと製造ドメイン全体で、RSとハードセーフティガードは相補的な障害体制に対処する: ガードは、1つの指標が臨界しきい値に違反した場合、即時修正アクションを実行する。
このフレームワークは、明示的で複合的で監査可能な基準を必要とするガバナンス問題として、自律的なハンドオーバを確立する。
これは、アダプティブ自動化研究がこれまで提供されていなかった概念的で正式な基盤を提供する。
関連論文リスト
- Adversarial Attacks for Good: A Survey of Proactive Protection across the Visual Content Lifecycle [65.6642776933861]
この介入点付近で成長した保護パラダイムについて検討する。
ほとんどの保護は、主に静的あるいは弱い適応的な敵に対して検証されている。
我々は、堅牢で構成可能で、デプロイ可能な所有者側の保護のために、クロスステージ対策とオープンな問題を統合することで、閉鎖する。
論文 参考訳（メタデータ） (2026-08-05T00:46:50Z) - Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels [53.63220028820581]
身体的知性は、学習した知覚と意思決定をリアルタイムの計算、制御、物理的相互作用と統合する。
我々は,信頼に値するインテリジェンスを,特定のタスクを確実に実行するための持続能力として定義する。
論文 参考訳（メタデータ） (2026-07-28T17:50:44Z) - Criticality-Based Guard Rail Validation for AI Agent Decisions in Autonomous Telecom Networks [0.0]
Guard Rail Validation(GRV)は、実行前にAI駆動決定をインターセプトし、検証するための標準化可能なランタイムアーキテクチャである。
本稿では、アーキテクチャ、アルゴリズムプロシージャ、O-RANデプロイメントモデルを示し、通信における既知のAI/ML攻撃に対する脅威カバレッジを評価する。
論文 参考訳（メタデータ） (2026-07-02T14:21:26Z) - Minimal Oversight: Uncertainty-Aware Governance for Delegated AI Systems [0.0]
中心的なAI問題は、どれだけの自律性を与えるか、どの証拠が信頼を校正すべきか、委任されたAIシステムが維持できるパフォーマンスの上限、そして人間の介入が必要になったとき、である。
本稿では,原則的自律委任の変動原理であるMSO(Minimum Sufficient Oversight Principle)を提案する。
結果として生じるオイラー・ラグランジュ解は、タスク空間にまたがる支配的デリゲートの水の割り当てをもたらす。
論文 参考訳（メタデータ） (2026-06-04T22:29:45Z) - Intelligence as Managed Autonomy: Failure, Escalation, and Governance for Agentic AI Systems [0.0]
本稿では,非有界自律のアーキテクチャ的脆弱性について考察する。
この理論をSMARtモデル(Stable、Meta-cognitive、Assisted、Regulationの4層フレームワーク)を用いてインスタンス化する。
自律ライフサイクルにおける障害管理の形式化は、信頼性と管理された人工知能の実現に向けた重要なステップである、と結論付けます。
論文 参考訳（メタデータ） (2026-05-26T19:49:23Z) - High-Risk AI Systems and the Problem of Identity in the European AI Act [0.3384279376065155]
EU人工知能法(英語: EU Artificial Intelligence Act、AIA)は、リスクの高いAIシステムのライフサイクルガバナンス体制を定めている。
このロジックは、アーティファクトアイデンティティーの関数+フレームワークによってどのように解明されるかを示す。
我々は、監査や紛争の文脈において、最小限の決定フローを介して同期ケースを運用する。
論文 参考訳（メタデータ） (2026-04-17T20:24:29Z) - Automated Self-Testing as a Quality Gate: Evidence-Driven Release Management for LLM Applications [51.56484100374058]
我々は,エビデンスに基づくリリース決定を伴う品質ゲートを導入する自動自己テストフレームワークを提案する。
内部展開型多エージェント対話型AIシステムの縦型ケーススタディにより,本フレームワークの評価を行った。
論文 参考訳（メタデータ） (2026-03-13T20:44:15Z) - Steering LLMs via Scalable Interactive Oversight [74.12746881843044]
大規模な言語モデルは、エンフェーブコーディングのような複雑で長期にわたるタスクをますます自動化し、監督のギャップが生まれています。
スケーラブルな監視において重要な課題は、人間が責任を持ってAIシステムを、特定または検証する能力を超えたタスクで操ることができることだ。
論文 参考訳（メタデータ） (2026-02-04T04:52:00Z) - Assured Autonomy: How Operations Research Powers and Orchestrates Generative AI Systems [18.881800772626427]
生成モデルは、実現可能性、分散シフトに対する堅牢性、ストレステストを提供するメカニズムと組み合わせない限り、運用領域で脆弱である可能性がある、と我々は主張する。
我々は,運用研究に根ざした自律性確保のための概念的枠組みを開発する。
これらの要素は、安全クリティカルで信頼性に敏感な運用領域における自律性を保証するための研究アジェンダを定義する。
論文 参考訳（メタデータ） (2025-12-30T04:24:06Z) - Making LLMs Reliable When It Matters Most: A Five-Layer Architecture for High-Stakes Decisions [51.56484100374058]
現在の大規模言語モデル(LLM)は、実行前にアウトプットをチェックできるが、不確実な結果を伴う高い戦略決定には信頼性が低い検証可能な領域で優れている。
このギャップは、人間と人工知能(AI)システムの相互認知バイアスによって引き起こされ、そのセクターにおける評価と投資の持続可能性の保証を脅かす。
本報告では、7つのフロンティアグレードLDMと3つの市場向けベンチャーヴィグネットの時間的圧力下での系統的質的評価から生まれた枠組みについて述べる。
論文 参考訳（メタデータ） (2025-11-10T22:24:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。