論文の概要: Toward Supporting Perceptual Complementarity in Human-AI Collaboration via Reflection on Unobservables

• arxiv url: http://arxiv.org/abs/2207.13834v1
• Date: Thu, 28 Jul 2022 00:05:14 GMT
• ステータス: 処理完了
• システム内更新日: 2022-07-29 12:44:31.221343
• Title: Toward Supporting Perceptual Complementarity in Human-AI Collaboration via Reflection on Unobservables
• Title（参考訳）: 観察不能感の反映による人間-ai協調における知覚相補性支援に向けて
• Authors: Kenneth Holstein, Maria De-Arteaga, Lakshmi Tumati, Yanghuidi Cheng
• Abstract要約: 予測を行う際に、潜在的に関連性のある観測不可能が、モデル出力と観測不能をどのように統合するかにどのように影響するかを理解するために、オンライン実験を行う。 以上の結果から, 観測不可能性に関する提示は, モデル出力と観測不能性を統合する方法を変えることができるが, 必ずしも性能改善につながるとは限らないことが示唆された。
• 参考スコア（独自算出の注目度）: 7.3043497134309145
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In many real world contexts, successful human-AI collaboration requires humans to productively integrate complementary sources of information into AI-informed decisions. However, in practice human decision-makers often lack understanding of what information an AI model has access to in relation to themselves. There are few available guidelines regarding how to effectively communicate about unobservables: features that may influence the outcome, but which are unavailable to the model. In this work, we conducted an online experiment to understand whether and how explicitly communicating potentially relevant unobservables influences how people integrate model outputs and unobservables when making predictions. Our findings indicate that presenting prompts about unobservables can change how humans integrate model outputs and unobservables, but do not necessarily lead to improved performance. Furthermore, the impacts of these prompts can vary depending on decision-makers' prior domain expertise. We conclude by discussing implications for future research and design of AI-based decision support tools.
• Abstract（参考訳）: 多くの実世界の文脈において、成功している人間とAIのコラボレーションは、人間が補完的な情報のソースをAIにインフォームドされた決定に生産的に統合する必要がある。 しかし、実際には、人間の意思決定者は、AIモデルが自分自身にどんな情報にアクセスできるかを理解できないことが多い。 観測できないものについて効果的にコミュニケーションする方法に関するガイドラインは、ほとんどない:結果に影響を与える可能性があるが、モデルでは利用できない機能。 本研究では,モデルアウトプットと非オブザーバブルとのコミュニケーションが,予測を行う際のモデルアウトプットとオブザーバブルの統合にどのように影響するかを,オンライン実験により把握した。 以上の結果から,非可観測性に対するプロンプトの提示は,人間がモデル出力と可観測性を統合する方法を変える可能性があるが,必ずしも性能向上につながるとは限らない。 さらに、これらのプロンプトの影響は、意思決定者の以前のドメインの専門知識によって異なります。 我々はAIに基づく意思決定支援ツールの今後の研究と設計について論じる。

関連論文リスト

• Unexploited Information Value in Human-AI Collaboration [23.353778024330165]
  ヒューマンAIチームのパフォーマンスを改善する方法は、各エージェントがどのような情報や戦略を採用しているかを知らなければ、しばしば明確ではない。 本稿では,人間とAIの協調関係を分析するための統計的決定理論に基づくモデルを提案する。
  論文  参考訳（メタデータ） (2024-11-03T01:34:45Z)
• Human-AI collaboration is not very collaborative yet: A taxonomy of interaction patterns in AI-assisted decision making from a systematic review [6.013543974938446]
  意思決定支援システムにおける人工知能の活用は、技術的進歩に不相応に焦点を合わせてきた。 人間中心の視点は、既存のプロセスとのシームレスな統合のためにAIソリューションを設計することで、この懸念を緩和しようとする。
  論文  参考訳（メタデータ） (2023-10-30T17:46:38Z)
• Explaining by Imitating: Understanding Decisions by Interpretable Policy Learning [72.80902932543474]
  観察されたデータから人間の行動を理解することは、意思決定における透明性と説明責任にとって重要である。 意思決定者の方針をモデル化することが困難である医療などの現実的な設定を考えてみましょう。 本稿では, 設計による透明性の向上, 部分観測可能性の確保, 完全にオフラインで動作可能なデータ駆動型意思決定行動の表現を提案する。
  論文  参考訳（メタデータ） (2023-10-28T13:06:14Z)
• From DDMs to DNNs: Using process data and models of decision-making to improve human-AI interactions [1.1510009152620668]
  人工知能(AI)の研究は、意思決定が時間とともにどのように現れるかについての洞察に強い焦点をあてることから恩恵を受けるだろう、と私たちは主張する。 まず,ノイズの蓄積による決定を前提とした,高度に確立された計算フレームワークを提案する。 次に、マルチエージェントAIにおける現在のアプローチが、プロセスデータや意思決定のモデルをどの程度取り入れているかについて議論する。
  論文  参考訳（メタデータ） (2023-08-29T11:27:22Z)
• "Help Me Help the AI": Understanding How Explainability Can Support Human-AI Interaction [22.00514030715286]
  我々は,鳥類識別アプリMerlinのエンドユーザ20名を対象に,実世界のAIアプリケーションについて調査を行った。 我々は、AIシステムとのコラボレーションを改善するために、実用的に有用な情報の必要性を人々が表現していることを発見した。 また,既存のXAIアプローチに対するエンドユーザの認識を評価し,パートベースの説明を好んだ。
  論文  参考訳（メタデータ） (2022-10-02T20:17:11Z)
• Inverse Online Learning: Understanding Non-Stationary and Reactionary Policies [79.60322329952453]
  エージェントが意思決定を行う方法の解釈可能な表現を開発する方法を示す。 一連の軌跡に基づく意思決定プロセスを理解することにより,このオンライン学習問題に対して,政策推論問題を逆問題とみなした。 本稿では、エージェントがそれらを更新するプロセスと並行して、その影響を遡及的に推定する実用的なアルゴリズムを提案する。 UNOSの臓器提供受諾決定の分析に応用することで、我々のアプローチは意思決定プロセスを管理する要因や時間とともにどのように変化するかに、貴重な洞察をもたらすことができることを実証する。
  論文  参考訳（メタデータ） (2022-03-14T17:40:42Z)
• DIME: Fine-grained Interpretations of Multimodal Models via Disentangled Local Explanations [119.1953397679783]
  我々は,マルチモーダルモデルの解釈における最先端化に注力する。 提案手法であるDIMEは,マルチモーダルモデルの高精度かつきめ細かな解析を可能にする。
  論文  参考訳（メタデータ） (2022-03-03T20:52:47Z)
• Counterfactual Explanations as Interventions in Latent Space [62.997667081978825]
  反現実的な説明は、望ましい結果を達成するために変更が必要な機能のセットをエンドユーザに提供することを目的としています。 現在のアプローチでは、提案された説明を達成するために必要な行動の実現可能性を考慮することはめったにない。 本稿では,非現実的説明を生成する手法として,潜時空間における干渉としての対実的説明(CEILS)を提案する。
  論文  参考訳（メタデータ） (2021-06-14T20:48:48Z)
• Adversarial Interaction Attack: Fooling AI to Misinterpret Human Intentions [46.87576410532481]
  現在の大きな成功にもかかわらず、ディープラーニングベースのAIシステムは、微妙な敵対的ノイズによって容易に騙されることを示した。 骨格に基づくヒトの相互作用のケーススタディに基づき、相互作用に対する新しい敵対的攻撃を提案する。 本研究では、安全クリティカルなアプリケーションにAIシステムをデプロイする際に慎重に対処する必要があるAIと人間との相互作用ループにおける潜在的なリスクを強調します。
  論文  参考訳（メタデータ） (2021-01-17T16:23:20Z)
• Understanding the Effect of Out-of-distribution Examples and Interactive Explanations on Human-AI Decision Making [19.157591744997355]
  典型的な実験的なセットアップは、人間-AIチームの可能性を制限します。 インタラクティブな説明を支援する新しいインターフェースを開発し、人間がAI支援に積極的に取り組みます。
  論文  参考訳（メタデータ） (2021-01-13T19:01:32Z)
• A general framework for scientifically inspired explanations in AI [76.48625630211943]
  我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。 このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
  論文  参考訳（メタデータ） (2020-03-02T10:32:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。