論文の概要: The Role of Domain Expertise in User Trust and the Impact of First Impressions with Intelligent Systems

• arxiv url: http://arxiv.org/abs/2008.09100v1
• Date: Thu, 20 Aug 2020 17:41:02 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-27 03:04:21.719006
• Title: The Role of Domain Expertise in User Trust and the Impact of First Impressions with Intelligent Systems
• Title（参考訳）: ユーザ信頼におけるドメイン専門知識の役割とインテリジェントシステムにおける最初の印象の影響
• Authors: Mahsan Nourani, Joanie T. King, Eric D. Ragan
• Abstract要約: ドメイン固有のインテリジェントシステムは、システムユーザの意思決定プロセスを支援することを目的としています。 事前のドメイン知識は、システムのエラーを検出する際のユーザの信頼と信頼に影響を与える可能性がある。 本研究は,知的システムにおけるエラーに遭遇する際の注文バイアスとドメインの専門知識の関係について検討する。
• 参考スコア（独自算出の注目度）: 7.3817525365473875
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Domain-specific intelligent systems are meant to help system users in their decision-making process. Many systems aim to simultaneously support different users with varying levels of domain expertise, but prior domain knowledge can affect user trust and confidence in detecting system errors. While it is also known that user trust can be influenced by first impressions with intelligent systems, our research explores the relationship between ordering bias and domain expertise when encountering errors in intelligent systems. In this paper, we present a controlled user study to explore the role of domain knowledge in establishing trust and susceptibility to the influence of first impressions on user trust. Participants reviewed an explainable image classifier with a constant accuracy and two different orders of observing system errors (observing errors in the beginning of usage vs. in the end). Our findings indicate that encountering errors early-on can cause negative first impressions for domain experts, negatively impacting their trust over the course of interactions. However, encountering correct outputs early helps more knowledgable users to dynamically adjust their trust based on their observations of system performance. In contrast, novice users suffer from over-reliance due to their lack of proper knowledge to detect errors.
• Abstract（参考訳）: ドメイン固有のインテリジェントシステムは、システムユーザの意思決定プロセスを支援する。 多くのシステムは、異なるレベルのドメイン専門知識を持つ異なるユーザを同時にサポートすることを目標としているが、事前のドメイン知識は、ユーザの信頼とシステムエラー検出の信頼性に影響を与える可能性がある。 また,知的システムに対する最初の印象からユーザ信頼が影響を受けることも知られているが,知的システムにおける誤りに遭遇する際のバイアスの順序付けとドメインの専門知識との関係について検討する。 本稿では,信頼確立におけるドメイン知識の役割と,第1印象がユーザ信頼に与える影響に対する感受性について検討する。 参加者は、一定の精度で説明可能な画像分類器をレビューし、システムエラー(使用開始時のエラーと終了時のエラー)を観測した。 以上の結果から,早期にエラーに遭遇すると,ドメインの専門家にネガティブな第一印象が生じる可能性が示唆された。 しかし,早期に正確なアウトプットに遭遇することで,システム性能の観察に基づいて信頼度を動的に調整することが可能になる。 対照的に、初心者のユーザは、エラーを検出するための適切な知識が不足しているため、過度に頼っている。

関連論文リスト

• Rethinking the Evaluation of Dialogue Systems: Effects of User Feedback on Crowdworkers and LLMs [57.16442740983528]
  アドホック検索では、評価は暗黙のフィードバックを含むユーザーの行動に大きく依存する。 アノテータの会話知覚におけるターン評価におけるユーザフィードバックの役割はほとんど研究されていない。 本稿では,タスク指向対話システム(TDS)の評価が,ターンのフォローアップ発話を通じて提供されるユーザフィードバック,明示的あるいは暗黙的な評価にどのように影響するかに注目した。
  論文  参考訳（メタデータ） (2024-04-19T16:45:50Z)
• Online Decision Mediation [72.80902932543474]
  意思決定支援アシスタントを学習し、(好奇心)専門家の行動と(不完全)人間の行動の仲介役として機能することを検討する。 臨床診断では、完全に自律的な機械行動は倫理的余裕を超えることが多い。
  論文  参考訳（メタデータ） (2023-10-28T05:59:43Z)
• A Diachronic Perspective on User Trust in AI under Uncertainty [52.44939679369428]
  現代のNLPシステムは、しばしば未分類であり、ユーザの信頼を損なう確実な誤った予測をもたらす。 賭けゲームを用いて,信頼を損なう事象に対するユーザの信頼の進化について検討する。
  論文  参考訳（メタデータ） (2023-10-20T14:41:46Z)
• A Systematic Literature Review of User Trust in AI-Enabled Systems: An HCI Perspective [0.0]
  人工知能(AI)のユーザ信頼は、採用を促進する重要な要素として、ますます認識され、証明されてきている。 本総説は, ユーザ信頼の定義, 影響要因, 測定方法の概要を, 実証研究23件から明らかにすることを目的としている。
  論文  参考訳（メタデータ） (2023-04-18T07:58:09Z)
• Designing for Responsible Trust in AI Systems: A Communication Perspective [56.80107647520364]
  我々は、MATCHと呼ばれる概念モデルを開発するために、技術に対する信頼に関するコミュニケーション理論と文献から引き出す。 私たちは、AIシステムの能力として透明性とインタラクションを強調します。 我々は、技術クリエーターが使用する適切な方法を特定するのに役立つ要件のチェックリストを提案する。
  論文  参考訳（メタデータ） (2022-04-29T00:14:33Z)
• Explainable Predictive Process Monitoring: A User Evaluation [62.41400549499849]
  説明責任は、ブラックボックス機械学習アプローチの透明性の欠如によって動機付けられている。 予測プロセスモニタリングのための説明手法のユーザ評価を行う。
  論文  参考訳（メタデータ） (2022-02-15T22:24:21Z)
• A Conceptual Framework for Establishing Trust in Real World Intelligent Systems [0.0]
  アルゴリズムの信頼は、ユーザーがシステムと対話できるようにすることで確立できます。 アルゴリズム結果に対するドメインの人間の理解の特徴とパターンを反映することで、そのようなパターンに対する認識を生み出すことができる。 閉じた検査を使用して、ソリューションが期待に合致するかどうか、または期待を超えるかどうかを判断できます。
  論文  参考訳（メタデータ） (2021-04-12T12:58:47Z)
• Improving Conversational Question Answering Systems after Deployment using Feedback-Weighted Learning [69.42679922160684]
  本稿では,二元的ユーザフィードバックを用いた初期教師付きシステムを改善するために,重要サンプリングに基づくフィードバック重み付き学習を提案する。 当社の作業は,実際のユーザとのインタラクションを活用し,デプロイ後の会話システムを改善する可能性を開くものだ。
  論文  参考訳（メタデータ） (2020-11-01T19:50:34Z)
• Soliciting Human-in-the-Loop User Feedback for Interactive Machine Learning Reduces User Trust and Impressions of Model Accuracy [8.11839312231511]
  混合開始システムにより、ユーザは対話的にフィードバックを提供し、システムパフォーマンスを向上させることができる。 本研究は,フィードバックの提供行為が知的システムのユーザ理解とその正確性に与える影響について検討する。
  論文  参考訳（メタデータ） (2020-08-28T16:46:41Z)
• More Than Accuracy: Towards Trustworthy Machine Learning Interfaces for Object Recognition [0.0]
  本稿では,画像中の物体を認識する機械学習(ML)システムのユーザエクスペリエンスについて検討する。 MLの背景を持つユーザを,異なるレベルの精度で3つのシステムの3つのビジュアライゼーションに公開しました。 インタビューでは,ユーザが使用するシステムの精度を評価する上で,可視化がいかに役立ったか,システムの可視化と精度が信頼と信頼にどのように影響するかを調べた。
  論文  参考訳（メタデータ） (2020-08-05T07:56:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。