論文の概要: On the Quest for Effectiveness in Human Oversight: Interdisciplinary Perspectives
- arxiv url: http://arxiv.org/abs/2404.04059v1
- Date: Fri, 5 Apr 2024 12:31:19 GMT
- ステータス: 処理完了
- システム内更新日: 2024-04-08 16:14:58.162931
- Title: On the Quest for Effectiveness in Human Oversight: Interdisciplinary Perspectives
- Title(参考訳): 人間の見地における有効性の探求--学際的視点から
- Authors: Sarah Sterz, Kevin Baum, Sebastian Biewer, Holger Hermanns, Anne Lauber-Rönsberg, Philip Meinel, Markus Langer,
- Abstract要約: 人間の監視は、現在、リスクの高いAIアプリケーションの負の側面に対処するための潜在的な保護として議論されている。
本稿では,心理学的,法学的,哲学的,技術的領域から洞察を合成し,効果的な人間の監視について検討する。
- 参考スコア(独自算出の注目度): 1.29622145730471
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Human oversight is currently discussed as a potential safeguard to counter some of the negative aspects of high-risk AI applications. This prompts a critical examination of the role and conditions necessary for what is prominently termed effective or meaningful human oversight of these systems. This paper investigates effective human oversight by synthesizing insights from psychological, legal, philosophical, and technical domains. Based on the claim that the main objective of human oversight is risk mitigation, we propose a viable understanding of effectiveness in human oversight: for human oversight to be effective, the human overseer has to have (a) sufficient causal power with regards to the system and its effects, (b) suitable epistemic access to relevant aspects of the situation, (c) self-control over their own actions, and (d) fitting intentions for their role. Furthermore, we argue that this is equivalent to saying that a human overseer is effective if and only if they are morally responsible and have fitting intentions. Against this backdrop, we suggest facilitators and inhibitors of effectiveness in human oversight when striving for practical applicability. We discuss factors in three domains, namely, the technical design of the system, individual factors of human overseers, and the environmental circumstances in which the overseer operates. Finally, this paper scrutinizes the upcoming AI Act of the European Union -- in particular Article 14 on Human Oversight -- as an exemplary regulatory framework in which we study the practicality of our understanding of effective human oversight. By analyzing the provisions and implications of the European AI Act proposal, we pinpoint in how far that proposal aligns with our analyses regarding effective human oversight as well as how it might get enriched by our conceptual understanding of effectiveness in human oversight.
- Abstract(参考訳): 人間の監視は、現在、リスクの高いAIアプリケーションの負の側面に対処するための潜在的な保護として議論されている。
このことは、これらのシステムの効果的または有意義な人的監督と称されるものに必要な役割と条件を批判的に検討するきっかけとなる。
本稿では,心理学的,法学的,哲学的,技術的領域から洞察を合成し,効果的な人間の監視について検討する。
人間の監視の主目的がリスク軽減であるという主張に基づいて、人間の監視における有効性について、人間の監視が効果的であるためには、人間の監督者が持たなければならない、という現実的な理解を提案する。
a)システムとその効果に関する十分な因果力
b) 状況の関連面への適切なてんかんアクセス
(c)自己の行動に対する自己統制、及び
(d)彼らの役割にふさわしい意図。
さらに、これは人間の監督者が道徳的に責任を持ち、適切な意図を持っている場合に限り有効であると言うことと等価であると主張する。
このような背景から,実用化に向けて努力する際,ヒトの監視に有効なファシリテーターや阻害剤を提案する。
本稿では,3つの領域,すなわちシステムの技術的設計,人的監督者の個々人的要因,および監督者が活動する環境条件について論じる。
最後に,欧州連合の今後のAI法(特に人的監督に関する第14条)を,効果的な人的監督の理解の実践性を研究するための模範的な規制枠組みとして精査する。
欧州AI法(European AI Act)の提案の条項と含意を分析することで、提案が効果的な人間の監視に関する我々の分析と、それが人間の監視における有効性の概念的理解によってどのように豊かになるかについて、どこまで一致しているかを見極めることができる。
関連論文リスト
- Towards Human-centered Proactive Conversational Agents [60.57226361075793]
積極的システムと反応性システムの区別は、積極的システムのイニシアティブな性質にある。
我々は,人間中心型PCAの3つの重要な側面,すなわち知性,適応性,市民性に関する新たな分類法を確立する。
論文 参考訳(メタデータ) (2024-04-19T07:14:31Z) - Beyond Recommender: An Exploratory Study of the Effects of Different AI
Roles in AI-Assisted Decision Making [48.179458030691286]
Recommender、Analyzer、Devil's Advocateの3つのAIの役割について検討する。
以上の結果から,各役割のタスクパフォーマンス,信頼性の適切性,ユーザエクスペリエンスにおける長所と短所が明らかとなった。
これらの洞察は、異なる状況に応じて適応的な機能的役割を持つAIアシスタントを設計する上で、貴重な意味を提供する。
論文 参考訳(メタデータ) (2024-03-04T07:32:28Z) - Responsible AI Considerations in Text Summarization Research: A Review
of Current Practices [89.85174013619883]
私たちは、責任あるAIコミュニティがほとんど見落としている共通のNLPタスクである、テキスト要約に重点を置いています。
我々は,2020-2022年に出版されたACLアンソロジーから333の要約論文の多段階的質的分析を行った。
私たちは、どの、どの、どの責任あるAI問題がカバーされているか、どの関係するステークホルダーが考慮されているか、そして、述べられた研究目標と実現された研究目標のミスマッチに焦点を合わせます。
論文 参考訳(メタデータ) (2023-11-18T15:35:36Z) - VECHR: A Dataset for Explainable and Robust Classification of
Vulnerability Type in the European Court of Human Rights [2.028075209232085]
VECHRは,脆弱性型分類と説明的根拠に基づく,新たな専門家によるマルチラベルデータセットである。
予測可能性と説明可能性の両方の観点から,VECHRの最先端モデルの性能をベンチマークする。
当社のデータセットは、パフォーマンス、説明可能性、堅牢性に関する大幅な改善の余地を提供する、ユニークな課題を呈しています。
論文 参考訳(メタデータ) (2023-10-17T16:05:52Z) - Predictable Artificial Intelligence [67.79118050651908]
予測可能性を達成することは、AIエコシステムの信頼、責任、コントロール、アライメント、安全性を促進するために不可欠である、と私たちは主張する。
本稿では,予測可能なAIに関する疑問,仮説,課題を解明することを目的とする。
論文 参考訳(メタデータ) (2023-10-09T21:36:21Z) - Are You Worthy of My Trust?: A Socioethical Perspective on the Impacts
of Trustworthy AI Systems on the Environment and Human Society [0.47138177023764666]
AIシステムの社会的影響を概観する。
ライフサイクルを通して、多分野のガバナンスと収束の必要性を強調します。
論文 参考訳(メタデータ) (2023-09-18T03:07:47Z) - The Role of AI in Drug Discovery: Challenges, Opportunities, and
Strategies [97.5153823429076]
この分野でのAIのメリット、課題、欠点についてレビューする。
データ拡張、説明可能なAIの使用、従来の実験手法とAIの統合についても論じている。
論文 参考訳(メタデータ) (2022-12-08T23:23:39Z) - Empirical Estimates on Hand Manipulation are Recoverable: A Step Towards
Individualized and Explainable Robotic Support in Everyday Activities [80.37857025201036]
ロボットシステムの鍵となる課題は、他のエージェントの振る舞いを理解することである。
正しい推論の処理は、(衝突)因子が実験的に制御されない場合、特に困難である。
人に関する観察研究を行うために必要なツールをロボットに装備することを提案する。
論文 参考訳(メタデータ) (2022-01-27T22:15:56Z) - Planning for Proactive Assistance in Environments with Partial
Observability [26.895668587111757]
本稿では,人間に積極的なタスク支援を提供するAIエージェントの動作を合成する問題に対処する。
エージェントは、援助が彼女のタスクにどのように影響するかを人間が認識していることを保証することが重要です。
論文 参考訳(メタデータ) (2021-05-02T18:12:06Z) - Avoiding Improper Treatment of Persons with Dementia by Care Robots [1.5156879440024376]
特に、認知症に影響を及ぼす潜在的な危険を探索することに焦点をあてる。
本稿では,豊富な因果モデルと説明責任尺度を含む提案手法について述べる。
我々の狙いは、PWDにおける幸福を支えることを目的としたケアロボットの設計に、この考えが役立つことである。
論文 参考訳(メタデータ) (2020-05-08T14:34:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。