論文の概要: AI advice suppresses people's willingness to say "I don't know", even when the advice is wrong and accuracy is incentivized

• arxiv url: http://arxiv.org/abs/2607.13562v1
• Date: Wed, 15 Jul 2026 08:04:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-16 16:39:12.694304
• Title: AI advice suppresses people's willingness to say "I don't know", even when the advice is wrong and accuracy is incentivized
• Title（参考訳）: AIアドバイスは、アドバイスが間違っていて精度がインセンティブ付きである場合でも、「私は知らない」と言う人々の意思を抑制する
• Authors: Chiara Marcoccia, Walter Quattrociocchi, Valerio Capraro,
• Abstract要約: と言うことは、人間の判断には基本的だが、AIアシスタントは、ほとんどあらゆる質問に精通した答えを提供する。 AIのアドバイスが間違っていて、AIの使用をその正確性から切り離すように、質問を設計しました。
• 参考スコア（独自算出の注目度）: 0.688204255655161
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Knowing when to say "I don't know" is fundamental to human judgment, yet AI assistants offer a fluent answer to almost any question. In five experiments (N = 3,132; four preregistered, one direct replication), participants answered difficult questions and could always decline to respond. We engineered the questions so that AI advice was wrong, separating AI use from its accuracy. Merely having access to AI nearly eliminated participants' willingness to suspend judgment, and this held whether the advice was actively requested or simply displayed. Consequently, participants answered more questions but were correct about a third as often as when AI was unavailable-yet their confidence nearly doubled. Incentivizing accuracy and penalizing inaccuracy led participants to seek and follow AI advice less, answer more accurately, and suspend judgment more often, though still far less than when AI was unavailable. As AI suggestions grow ubiquitous and unsolicited, they may not simply affect answer accuracy; they may even alter the metacognitive threshold at which people decide whether they know enough to answer.
• Abstract（参考訳）: AIアシスタントは、ほぼあらゆる質問に精通した答えを提供する。 5つの実験(N = 3,132; 4つの事前登録、1つの直接複製)において、参加者は難しい質問に答え、常に反応を断ることができた。 私たちは、AIのアドバイスが間違っていて、AIの使用をその正確性から切り離すように、これらの質問を設計しました。 AIにアクセスできただけで、参加者の判断を停止する意思はほぼなくなり、このアドバイスが積極的に要求されたか単に表示されたかが決定された。 その結果、参加者はより多くの質問に答えることができたが、AIが利用できない場合には3分の1の確率で正しかった。 正確さのインセンティブと不正確さのペナルティにより、参加者はAIアドバイスを探し、フォローし、より正確に答え、より頻繁に判断を中断した。 AIの提案がユビキタスで孤立していないため、単に答えの正確さに影響を与えるのではなく、人々が答えるだけの知識があるかどうかを判断するメタ認知しきい値を変更するかもしれない。

関連論文リスト

• AI, Take the Wheel: What Drives Delegation and Trust in Human-Computer Cooperative Question Answering? [22.50855320823746]
  人間は自分の判断よりもAIを信頼するかを決める際に間違いを犯すことがある。 我々は、デリゲート選択と採用選択の2つの異なる依存度決定について研究する。 人間は、正しいAI提案を過度に検討し、AIがそれらを誤解した場合に過度に回答するという、最適なコラボレーション決定をする。
  論文  参考訳（メタデータ） (2026-05-27T10:05:16Z)
• Can AI Explanations Make You Change Your Mind? [14.993627659170976]
  AIベースの意思決定支援システムでは、ユーザがAIの提案をいつ信頼するか、いつ質問するかを判断するのに役立つ。 説明可能なDSSに対する信頼に関するオンライン調査を行い、参加者が説明にほとんど時間を費やしておらず、常に詳細を考慮していないことに驚きました。 このデータを探索的に分析し、参加者がAIの説明をいかに慎重に検討するかを調査する。
  論文  参考訳（メタデータ） (2025-08-11T16:36:20Z)
• Almost AI, Almost Human: The Challenge of Detecting AI-Polished Writing [55.2480439325792]
  本研究では、AI-Polished-Text Evaluationデータセットを用いて、12の最先端AIテキスト検出器を体系的に評価する。 我々の発見によると、検出器は、最小限に洗練されたテキストをAI生成としてフラグ付けし、AIの関与度を区別し、古いモデルや小さなモデルに対するバイアスを示す。
  論文  参考訳（メタデータ） (2025-02-21T18:45:37Z)
• On the consistent reasoning paradox of intelligence and optimal trust in AI: The power of 'I don't know' [79.69412622010249]
  一貫性推論(Consistent reasoning)は、人間の知性の中心にある、同等のタスクを扱う能力である。 CRPは、一貫性のある推論は誤認を意味する、と論じている。
  論文  参考訳（メタデータ） (2024-08-05T10:06:53Z)
• Navigating AI Fallibility: Examining People's Reactions and Perceptions of AI after Encountering Personality Misrepresentations [7.256711790264119]
  ハイパーパーソナライズされたAIシステムは、パーソナライズされたレコメンデーションを提供するために人々の特性をプロファイルする。 これらのシステムは、人々の最も個人的な特性を推測する際にエラーに免疫がない。 人格の誤表現に遭遇した後、人々がどのように反応し、AIを知覚するかを検討するための2つの研究を行った。
  論文  参考訳（メタデータ） (2024-05-25T21:27:15Z)
• Do People Engage Cognitively with AI? Impact of AI Assistance on Incidental Learning [19.324012098032515]
  難しい意思決定をしながらアドバイスを受けるとき、彼らはしばしば、その時点でより良い意思決定を行い、プロセスにおける知識を増加させます。 人々がAIから受け取った情報やアドバイスをどのように処理し、学習を可能にするのに十分な情報を深く取り込むのか? この研究は、AI生成レコメンデーションとともに説明を含めるだけでは十分でないという、これまでで最も直接的な証拠をいくつか提示する。
  論文  参考訳（メタデータ） (2022-02-11T01:28:59Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• Trustworthy AI: A Computational Perspective [54.80482955088197]
  我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。 各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
  論文  参考訳（メタデータ） (2021-07-12T14:21:46Z)
• Does the Whole Exceed its Parts? The Effect of AI Explanations on Complementary Team Performance [44.730580857733]
  以前の研究では、AIが人間と最高のチームの両方を上回った場合にのみ、説明による改善が観察された。 我々は、3つのデータセットで混合メソッドのユーザー研究を行い、人間に匹敵する精度のAIが、参加者のタスク解決に役立ちます。 説明は、人間がAIの推奨を受け入れる可能性を高める。
  論文  参考訳（メタデータ） (2020-06-26T03:34:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。