論文の概要: The Transparency Trap: How AI Disclaimers Create Overconfidence in High-Stakes Decisions

• arxiv url: http://arxiv.org/abs/2608.07493v1
• Date: Tue, 16 Jun 2026 22:23:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.163532
• Title: The Transparency Trap: How AI Disclaimers Create Overconfidence in High-Stakes Decisions
• Title（参考訳）: 透明性のトラップ:AIのディスラプターが高信頼の判断をいかに生み出すか
• Abstract要約: 現在のAI宣言者は、しばしば警告の習慣と透明性のパラドックスのために意図された機能に失敗する。 本研究は,3つのハイテイク領域にまたがって,ディファイア配置と説得的手がかりの形状信頼,知覚的精度,およびディファイアエンゲージメントについて検討した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Current AI disclaimers often fail to function as intended due to warning habituation and a transparency paradox. As AI-generated information becomes pervasive in everyday decision-making, effective risk communication is increasingly critical for responsible design. This exploratory study examines how disclaimer placement and persuasive cues shape trust, perceived accuracy, and disclaimer engagement across three high-stakes domains: finance, medicine, and AI-generated content. Using a mixed within-between experimental design with 378 stimulus-level responses from 52 participants, we find that advisory content was generally trusted across conditions, even when disclaimers were present. A significant domain effect showed that medical content received the highest trust ratings. In the AI domain, the findings reveal a transparency paradox: some participants interpreted disclaimers not as warnings, but as signs of system self-awareness and honesty, paradoxically increasing perceived trustworthiness. Evidence of banner blindness further suggests that standardized AI disclaimers are insufficient to prevent over-reliance. Finance and medicine provide useful comparison domains by showing how users interpret warnings differently depending on context and perceived risk. These findings have vital implications for responsible AI design, algorithmic fairness, and consumer protection when users act on potentially misleading information in high-stakes settings.
• Abstract（参考訳）: 現在のAI宣言者は、しばしば警告の習慣と透明性のパラドックスのために意図された機能に失敗する。 AIが生み出す情報が日々の意思決定において広まるにつれ、効果的なリスクコミュニケーションは責任ある設計にとってますます重要になっている。 この探索的研究は、ファイナンス、医療、AI生成コンテンツという3つの高い領域にまたがって、退廃者の配置と説得的手がかりが、いかに信頼を形作るか、正確さ、そして退廃者のエンゲージメントを形作るかを調べる。 52名の被験者から378名の刺激レベルの反応を混合した実験結果から, 告知者がいた場合でも, アドバイザリーの内容が概ね信頼されていたことが判明した。 重要な領域効果は、医療コンテンツが最も高い信頼評価を受けたことを示している。 AI領域では、この発見は透明性のパラドックスを明らかにしている。一部の参加者は、ディスラプターを警告ではなく、システムの自己認識と誠実さの兆候として解釈し、パラドックス的に信頼感を増している。 バナー盲目の証拠は、標準化されたAIディファイラが過度に信頼性を損なうには不十分であることを示唆している。 ファイナンスと医療は、ユーザがコンテキストや認識されるリスクに応じて、どのように警告を解釈するかを示すことで、有用な比較ドメインを提供する。 これらの発見は、AI設計の責任、アルゴリズムの公正性、消費者保護に重要な意味を持つ。

関連論文リスト

• Trust by Design: Trust Calibration Through Non-Advisory Socratic Dialogue in Conversational Agents [0.0]
  我々は,非アドバイザなソクラテス的対話を通じて,自身の権限を制限するための対話エージェントCASELyを提案する。 エージェントは、ユーザー入力にのみ根ざした反射的な質問をし、アドバイス、レコメンデーション、解釈の提供を拒否する。
  論文  参考訳（メタデータ） (2026-09-13T22:19:18Z)
• Epistemic Trustworthiness in Generative AI: A Normative Framework for Warranted Reliance in High-Stakes Workflows [20.544778365691503]
  ジェネレーティブAIシステムは、高度な専門的なコンテキストにますますデプロイされている。 既存のフレームワークでは、AI出力が正確か、公正か、説明可能か、安全か、あるいはユーザによって信頼されているかを問う。 システムに信頼に値するものにするためには,信頼の欠如が不可欠だ,と私たちは主張する。
  論文  参考訳（メタデータ） (2026-08-06T04:53:46Z)
• Warning labels shift perceptions of sycophantic AI, but not its influence [63.79516339973759]
  警告ラベルが梅毒の影響を緩和するかどうかを検証する。 システムをサイコファンティック(...あなたと同意し、間違っていても検証するかもしれない)としてラベル付けすることは、ユーザの認識をシフトさせる。 しかし、ユーザーの自己認識する正当性や、紛争を修復する意思に薬局が与える影響を確実に減少させるものではない。
  論文  参考訳（メタデータ） (2026-06-19T11:01:45Z)
• Verification Without Distrust: Reframing User-Side Oversight as Routine Epistemic Governance in Everyday Human-Chatbot Interaction [0.0]
  日常の人間とチャットボットのインタラクションにおける信頼と検証の間には,検出可能な関連性は見つからない。 さらに3つのユーザ側プラクティス – 自動アクションの修正,修正,承認 – が広く支持され,満足度に肯定的な関係を持つ。 中から大規模までの満足度制御のギャップは、効果的なタスク成果が感覚的なエージェンシーを生まないことを示している。
  論文  参考訳（メタデータ） (2026-05-31T14:12:11Z)
• Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution [80.98492754957466]
  公正性、堅牢性、プライバシ、説明可能性といった、信頼性の高いAI目標を同時に達成することは難しい。 本稿では、パフォーマンスにおけるトレードオフを理解しバランスをとるためには因果性が必要であると論じ、信頼できるAIの複数の目的について論じる。
  論文  参考訳（メタデータ） (2026-05-04T14:26:28Z)
• Frontier AI Auditing: Toward Rigorous Third-Party Assessment of Safety and Security Practices at Leading AI Companies [57.521647436515785]
  私たちはフロンティアAIの監査を、フロンティアAI開発者の安全とセキュリティに関する主張の厳格な第三者による検証として定義しています。 本稿では,AI保証レベル(AAL-1からAAL-4)について紹介する。
  論文  参考訳（メタデータ） (2026-01-16T18:44:09Z)
• Hide or Highlight: Understanding the Impact of Factuality Expression on User Trust [1.2478643689100954]
  我々は、事実性評価を伴うAI生成出力を開示する4つの異なる方法を試した。 その結果,不透明であいまいな戦略が,回答の品質を維持しながら,信頼度を高めていることがわかった。
  論文  参考訳（メタデータ） (2025-08-09T20:45:21Z)
• A Diachronic Perspective on User Trust in AI under Uncertainty [52.44939679369428]
  現代のNLPシステムは、しばしば未分類であり、ユーザの信頼を損なう確実な誤った予測をもたらす。 賭けゲームを用いて,信頼を損なう事象に対するユーザの信頼の進化について検討する。
  論文  参考訳（メタデータ） (2023-10-20T14:41:46Z)
• Designing for Responsible Trust in AI Systems: A Communication Perspective [56.80107647520364]
  我々は、MATCHと呼ばれる概念モデルを開発するために、技術に対する信頼に関するコミュニケーション理論と文献から引き出す。 私たちは、AIシステムの能力として透明性とインタラクションを強調します。 我々は、技術クリエーターが使用する適切な方法を特定するのに役立つ要件のチェックリストを提案する。
  論文  参考訳（メタデータ） (2022-04-29T00:14:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。