論文の概要: Keeping an Eye on AI: A Framework for Effective Human Oversight of AI Systems

• arxiv url: http://arxiv.org/abs/2605.16278v1
• Date: Thu, 09 Apr 2026 22:35:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-25 12:34:33.847383
• Title: Keeping an Eye on AI: A Framework for Effective Human Oversight of AI Systems
• Title（参考訳）: AIに目を向け続ける - AIシステムの効果的な人的監視のためのフレームワーク
• Authors: Susanne Gaube, Markus Langer, Tim Miller, Kevin Baum, Raimund Dachselt, Anna Maria Feit, Ujwal Gadiraju, Harmanpreet Kaur, Mark T. Keane, Richard Landers, Johann Laux, Q. Vera Liao, Brian Lim, Linda Onnasch, Tim Schrills, Liz Sonenberg, Chenhao Tan, Nava Tintarev, Ziang Xiao, Hanwei Zhang,
• Abstract要約: 本稿では,AIシステムの効果的な人的監視のための実践的枠組みを推し進める。 コンピュータ科学、人間とコンピュータの相互作用、心理学、哲学、法学から洞察を得ている。
• 参考スコア（独自算出の注目度）: 46.60248293123689
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: The use of Artificial Intelligence (AI) in high-risk, decision-making scenarios presents technical, safety, and normative challenges; problems that may only be ameliorated by human oversight. However, notions of human oversight lack a common foundational understanding: oversight architectures are not well defined, the roles involved remain unclear, and implementation steps are opaque. Hence, researchers and practitioners struggle to determine how to design, implement, and evaluate systems that enable effective human oversight. This paper advances a practical framework for effective human oversight of AI systems, based on a cross-disciplinary perspective that draws on insights from computer science, human-computer interaction, psychology, philosophy, and law. The core contributions are: (1) a foundational framework, with a working definition, architecture and processes for effective human oversight of AI systems; (2) an initial template for documenting oversight architectures and processes, applied to diverse domains; and (3) a synthesis of open research challenges that need to be considered in the emerging field of effective human oversight of AI systems.
• Abstract（参考訳）: 高リスク、意思決定シナリオにおける人工知能(AI)の使用は、技術的、安全性、規範的な課題を示し、人間の監視によってのみ改善される可能性がある。 監視アーキテクチャは明確に定義されておらず、関係する役割は不明確であり、実装手順は不透明である。 したがって、研究者や実践者は、効果的な人間の監視を可能にするシステムを設計、実装、評価する方法を決定するのに苦労する。 本稿では,コンピュータ科学,人間とコンピュータの相互作用,心理学,哲学,法学の知見に基づく学際的視点に基づく,AIシステムの効果的な人的監視のための実践的枠組みを推し進める。 主な貢献は,(1)AIシステムの効果的な人的監視のための基本的定義,アーキテクチャ,プロセス,(2)多様な領域に適用された監視アーキテクチャやプロセスの文書化のための初期テンプレート,(3)AIシステムの効果的な人的監視の新興分野において考慮すべきオープンな研究課題の合成である。

関連論文リスト

• Beyond Symbolic Control: Societal Consequences of AI-Driven Workforce Displacement and the Imperative for Genuine Human Oversight Architectures [0.0]
  人工知能(AI)とロボットシステムによる人的労働の移動の加速は、構造的変革を表している。 本稿では,経済構造,心理的幸福,政治的安定,教育,医療,地政学的秩序に対する潜在的影響の多分野的考察を行う。 私たちは、AIシステムの名目上の人間の監視と真の人間の監督との間のガバナンスのギャップという、この移行の批判的かつ過小評価された次元を特定します。
  論文  参考訳（メタデータ） (2026-03-31T17:25:44Z)
• AI Deception: Risks, Dynamics, and Controls [153.71048309527225]
  このプロジェクトは、AI偽装分野の包括的で最新の概要を提供する。 我々は、動物の偽装の研究からシグナル伝達理論に基づく、AI偽装の正式な定義を同定する。 我々は,AI偽装研究の展望を,偽装発生と偽装処理の2つの主要な構成要素からなる偽装サイクルとして整理する。
  論文  参考訳（メタデータ） (2025-11-27T16:56:04Z)
• AI and Human Oversight: A Risk-Based Framework for Alignment [0.2039123720459736]
  本稿では、基本的権利を守り、人事を強化し、効果的な人的監視機構を組み込むAIシステムを設計するための戦略を検討する。 この論文は、AIモデルのリスクのレベルと人間の監視の適切な形態を結びつけることによって、AIのデプロイに人間が関与する重要な役割を浮き彫りにする。
  論文  参考訳（メタデータ） (2025-10-10T07:36:44Z)
• A Multi-Layered Research Framework for Human-Centered AI: Defining the Path to Explainability and Trust [2.4578723416255754]
  人間中心型AI(HCAI)は人間の価値観との整合性を強調し、説明可能なAI(XAI)はAI決定をより理解しやすくすることで透明性を高める。 本稿では,HCAI と XAI を橋渡し,構造的説明可能性パラダイムを確立する新しい3層フレームワークを提案する。 我々の発見は、透明性、適応性、倫理的に整合したAIシステムを育成するHCXAI(Human-Centered Explainable AI)を前進させた。
  論文  参考訳（メタデータ） (2025-04-14T01:29:30Z)
• Aligning Generalisation Between Humans and Machines [74.120848518198]
  AI技術は、科学的発見と意思決定において人間を支援することができるが、民主主義と個人を妨害することもある。 AIの責任ある使用と人間-AIチームへの参加は、AIアライメントの必要性をますます示している。 これらの相互作用の重要かつしばしば見落とされがちな側面は、人間と機械が一般化する異なる方法である。
  論文  参考訳（メタデータ） (2024-11-23T18:36:07Z)
• Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
  我々は人間の知恵について知られているものを調べ、そのAIのビジョンをスケッチする。 AIシステムは特にメタ認知に苦しむ。 スマートAIのベンチマーク、トレーニング、実装について論じる。
  論文  参考訳（メタデータ） (2024-11-04T18:10:10Z)
• Intent-aligned AI systems deplete human agency: the need for agency foundations research in AI safety [2.3572498744567127]
  人間の意図の一致は、安全なAIシステムには不十分である、と我々は主張する。 我々は、人類の長期的機関の保存がより堅牢な標準であると論じている。
  論文  参考訳（メタデータ） (2023-05-30T17:14:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。