論文の概要: What Do People Want to Know About Artificial Intelligence (AI)? The Importance of Answering End-User Questions to Explain Autonomous Vehicle (AV) Decisions
- arxiv url: http://arxiv.org/abs/2505.06428v1
- Date: Fri, 09 May 2025 20:57:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-13 20:21:48.839216
- Title: What Do People Want to Know About Artificial Intelligence (AI)? The Importance of Answering End-User Questions to Explain Autonomous Vehicle (AV) Decisions
- Title（参考訳）: 人工知能(AI)について知っておきたいこと
- Authors: Somayeh Molaei, Lionel P. Robert, Nikola Banovic,
- Abstract要約: 我々は,AV利用者がAVに乗りながら行動する可能性があるという疑問を調査するために,ユーザスタディを実施している。
最初のフォーマティブな調査では、既存の説明メカニズムが容易に対処できない、自律運転におけるAIに関するさまざまな疑問を特定しました。
第2報では,対話型テキストによる説明が参加者のAV判断の理解を効果的に改善することを示した。
- 参考スコア（独自算出の注目度）: 5.279158665191503
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Improving end-users' understanding of decisions made by autonomous vehicles (AVs) driven by artificial intelligence (AI) can improve utilization and acceptance of AVs. However, current explanation mechanisms primarily help AI researchers and engineers in debugging and monitoring their AI systems, and may not address the specific questions of end-users, such as passengers, about AVs in various scenarios. In this paper, we conducted two user studies to investigate questions that potential AV passengers might pose while riding in an AV and evaluate how well answers to those questions improve their understanding of AI-driven AV decisions. Our initial formative study identified a range of questions about AI in autonomous driving that existing explanation mechanisms do not readily address. Our second study demonstrated that interactive text-based explanations effectively improved participants' comprehension of AV decisions compared to simply observing AV decisions. These findings inform the design of interactions that motivate end-users to engage with and inquire about the reasoning behind AI-driven AV decisions.
- Abstract（参考訳）: 人工知能(AI)によって駆動される自動運転車(AV)による意思決定に対するエンドユーザの理解の向上は、AVの利用と受容を改善する。
しかしながら、現在の説明メカニズムは、主にAI研究者やエンジニアがAIシステムのデバッグと監視に役立ち、様々なシナリオにおいて、乗客のようなエンドユーザのAVに関する特定の疑問に対処しない可能性がある。
本稿では,AV利用者がAVに乗りながら行動する可能性について2つの調査を行い,AIによるAV決定の理解をいかに改善するかを検証した。
最初のフォーマティブな調査では、既存の説明メカニズムが容易に対処できない、自律運転におけるAIに関するさまざまな疑問を特定しました。
第2報では, 対話型テキストによる説明は, 参加者のAV決定に対する理解を, 単にAV決定を観察するよりも効果的に改善することを示した。
これらの知見は、AI駆動型AV決定の背景にある理由についてエンドユーザーと関わり、問いかける動機となるインタラクションの設計を示唆する。
関連論文リスト
- Heterogeneous Decision Making in Mixed Traffic: Uncertainty-aware Planning and Bounded Rationality [31.66608520780982]
混合交通環境における自動走行車(AV)と人力走行車(HV)による異種意思決定について検討した。
その結果, AVの学習成績におけるグッドハートの法則や, HVの意思決定過程における複合効果などの興味深い現象が明らかになった。
論文 参考訳（メタデータ） (2025-02-25T00:32:33Z) - How Performance Pressure Influences AI-Assisted Decision Making [57.53469908423318]
我々は、プレッシャーと説明可能なAI(XAI)技術がAIアドバイステイク行動とどのように相互作用するかを示す。
我々の結果は、圧力とXAIの異なる組み合わせで複雑な相互作用効果を示し、AIアドバイスの行動を改善するか、悪化させるかのどちらかを示す。
論文 参考訳（メタデータ） (2024-10-21T22:39:52Z) - Combining AI Control Systems and Human Decision Support via Robustness and Criticality [53.10194953873209]
我々は、逆説(AE)の方法論を最先端の強化学習フレームワークに拡張する。
学習したAI制御システムは、敵のタンパリングに対する堅牢性を示す。
トレーニング/学習フレームワークでは、この技術は人間のインタラクションを通じてAIの決定と説明の両方を改善することができる。
論文 参考訳（メタデータ） (2024-07-03T15:38:57Z) - Work-in-Progress: Crash Course: Can (Under Attack) Autonomous Driving Beat Human Drivers? [60.51287814584477]
本稿では,現在のAVの状況を調べることによって,自律運転における本質的なリスクを評価する。
AVの利点と、現実のシナリオにおける潜在的なセキュリティ課題との微妙なバランスを強調した、特定のクレームを開発する。
論文 参考訳（メタデータ） (2024-05-14T09:42:21Z) - Testing autonomous vehicles and AI: perspectives and challenges from cybersecurity, transparency, robustness and fairness [53.91018508439669]
この研究は、人工知能を自律走行車(AV)に統合する複雑さを探求する
AIコンポーネントがもたらした課題と、テスト手順への影響を調べます。
本稿は、重要な課題を特定し、AV技術におけるAIの研究・開発に向けた今後の方向性を提案する。
論文 参考訳（メタデータ） (2024-02-21T08:29:42Z) - Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。
これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文 参考訳（メタデータ） (2022-01-26T18:53:09Z) - Explainable Artificial Intelligence for Autonomous Driving: A Comprehensive Overview and Field Guide for Future Research Directions [8.012552653212687]
この研究は、自律運転のための説明可能な人工知能(XAI)アプローチの開発に光を当てている。
まず、XAIをベースとした自動運転における最先端および新興のアプローチの概要について概説する。
次に、説明可能なエンドツーエンド自動運転に不可欠な要素を考察する概念的枠組みを提案する。
論文 参考訳（メタデータ） (2021-12-21T22:51:37Z) - Explanations in Autonomous Driving: A Survey [7.353589916907923]
我々は、説明可能な自動運転における既存の作業の包括的調査を行う。
我々は、AVの開発、使用、規制に関わる様々な利害関係者を特定し、分類する。
論文 参考訳（メタデータ） (2021-03-09T00:31:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。