論文の概要: Trust in Generative AI for Health Information Consumption and the Effect of Learned Dependency: An Experimental Investigation
- arxiv url: http://arxiv.org/abs/2606.20605v2
- Date: Wed, 24 Jun 2026 22:11:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-28 23:46:52.298046
- Title: Trust in Generative AI for Health Information Consumption and the Effect of Learned Dependency: An Experimental Investigation
- Title（参考訳）: 保健情報消費のための生成AIの信頼と学習依存の影響:実験的検討
- Authors: Arif Ahmed, Gondy Leroy, Agrim Sachdeva, Philip Harber, Stephen A. Rains, Seokjun Youn, Prosanta Barai,
- Abstract要約: ジェネレーティブ人工知能(GenAI)は、健康情報にますます使われている。
本研究は,学習したGenAI依存が信頼に影響を及ぼすか,テキスト強調が誤出力への過度な依存を軽減するかを検討する。
- 参考スコア（独自算出の注目度）: 2.0795384844384444
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Background: Generative artificial intelligence (GenAI) is increasingly used for health information, yet its influence on users' trust calibration remains unclear. Objective: This study examines whether learned dependency on GenAI influences trust in AI-generated health information and whether text highlighting reduces overreliance on incorrect outputs. Methods: Two randomized controlled experiments were conducted with 338 college students and 563 Amazon Mechanical Turk participants. Both experiments used a 2 by 2 between-subjects design manipulating information accuracy (correct versus incorrect) and text highlighting (highlight versus no highlight). Trust and learned dependency were measured using validated scales, and linear regression models tested main and interaction effects. Results: In both experiments, information accuracy significantly increased trust (p < 0.001), while learned dependency was positively associated with trust (p < 0.05). The interaction between accuracy and dependency was significant (p < 0.001), indicating that highly dependent users were more likely to trust incorrect AI-generated information. Text highlighting had no significant effect on trust and did not moderate the relationship between dependency and trust. Conclusions: Learned dependency weakens trust calibration, increasing susceptibility to inaccurate AI-generated health information. Text highlighting alone is insufficient to reduce overreliance, highlighting the need for more effective interface designs that encourage critical evaluation of GenAI outputs.
- Abstract（参考訳）: 背景: ジェネレーティブ・人工知能(GenAI)は、健康情報にますます利用されているが、ユーザーの信頼度に影響を及ぼす影響はいまだ不明である。
目的:本研究では,学習したGenAI依存が,AI生成した健康情報に対する信頼に影響を及ぼすか,テキスト強調が誤出力に対する過度な信頼を低下させるかを検討する。
方法:338人の大学生と563人のAmazon Mechanical Turk参加者によるランダム化制御実験を行った。
どちらの実験も、情報精度(正確か誤か)とテキストハイライト(ハイライトかハイライト無しか)を操作する設計を2から2のオブジェクトに分けて使用した。
信頼度と学習依存度は評価尺度を用いて測定し,線形回帰モデルは主および相互作用効果を検証した。
結果: 両実験とも, 情報精度は信頼度を有意に高め (p < 0.001) , 学習依存度は信頼度と正の相関(p < 0.05)を示した。
精度と依存性の相互作用は重要である(p < 0.001)。
テキストの強調表示は信頼に有意な影響を与えず、依存と信頼の関係を緩やかにしなかった。
結論: 学習された依存関係は、信頼のキャリブレーションを弱め、不正確なAI生成の健康情報に対する感受性を高めます。
テキストハイライトだけでは過度な信頼性を損なうには不十分であり、GenAI出力の批判的評価を促進する効果的なインターフェース設計の必要性を強調している。
関連論文リスト
- Preliminary Quantitative Study on Explainability and Trust in AI Systems [0.0]
GPT-4のような大規模AIモデルは、法律、医療、金融といった重要な領域にまたがる人工知能の展開を加速している。
本研究では,定量的な実験設計を通じて,AIシステムにおける説明可能性とユーザ信頼の関係について検討する。
論文 参考訳（メタデータ） (2025-10-17T15:59:28Z) - Revisiting Trust in the Era of Generative AI: Factorial Structure and Latent Profiles [5.109743403025609]
信頼は、人々が人工知能(AI)を採用し、どのように依存するかを形作る最も重要な要素の1つです。
既存の研究の多くは、システムの信頼性、正確性、使いやすさに重点を置いて、機能の観点から信頼度を測定している。
本研究では,GenAIにおける信頼の合理性と関係性の両方を捉えるための新しい尺度であるHuman-AI Trust Scale(HAITS)を導入し,検証する。
論文 参考訳（メタデータ） (2025-10-11T12:39:53Z) - Dynamic Trust Calibration Using Contextual Bandits [1.8563342761346613]
過剰な信頼は、AIが生成したアウトプットを疑わしいことなく受け入れることを可能にする。
不十分な信頼は、AIシステムから価値のある洞察を無視してしまう可能性がある。
現在、人間とAIの信頼度を測る決定的かつ客観的な方法は存在しない。
論文 参考訳（メタデータ） (2025-09-27T21:06:17Z) - Data Fusion for Partial Identification of Causal Effects [62.56890808004615]
本稿では,研究者が重要な疑問に答えられるような,新しい部分的識別フレームワークを提案する。
因果効果は肯定的か否定的か?
本研究の枠組みをSTARプロジェクトに適用し,第3級の標準試験性能に対する教室規模の影響について検討する。
論文 参考訳（メタデータ） (2025-05-30T07:13:01Z) - User Intent to Use DeepSeek for Healthcare Purposes and their Trust in the Large Language Model: Multinational Survey Study [1.474723404975345]
大規模言語モデル(LLM)は、インタラクティブな医療資源としてますます役立っているが、ユーザ受け入れは未熟である。
本研究は、DeepSeekを採用するための形状意図と、使いやすさ、知覚的有用性、信頼、リスク知覚がどのように相互作用するかを検討する。
論文 参考訳（メタデータ） (2025-02-18T16:49:36Z) - A Diachronic Perspective on User Trust in AI under Uncertainty [52.44939679369428]
現代のNLPシステムは、しばしば未分類であり、ユーザの信頼を損なう確実な誤った予測をもたらす。
賭けゲームを用いて,信頼を損なう事象に対するユーザの信頼の進化について検討する。
論文 参考訳（メタデータ） (2023-10-20T14:41:46Z) - Improving the Reliability of Large Language Models by Leveraging
Uncertainty-Aware In-Context Learning [76.98542249776257]
大規模言語モデルはしばしば「ハロシン化」の課題に直面している
本研究では,不確実性に応答してモデルが出力を拡張あるいは拒否することを可能にする,不確実性を考慮したコンテキスト内学習フレームワークを提案する。
論文 参考訳（メタデータ） (2023-10-07T12:06:53Z) - Performance or Trust? Why Not Both. Deep AUC Maximization with
Self-Supervised Learning for COVID-19 Chest X-ray Classifications [72.52228843498193]
ディープラーニングモデルのトレーニングでは、パフォーマンスと信頼の間に妥協をしなければなりません。
本研究は、新型コロナウイルス患者のコンピュータ支援スクリーニングのための自己教師型学習と新しい代理損失を統合したものである。
論文 参考訳（メタデータ） (2021-12-14T21:16:52Z) - HINT: Hierarchical Interaction Network for Trial Outcome Prediction
Leveraging Web Data [56.53715632642495]
臨床試験は、有効性、安全性、または患者採用の問題により、不確実な結果に直面する。
本稿では,より一般的な臨床試験結果予測のための階層型Interaction Network(HINT)を提案する。
論文 参考訳（メタデータ） (2021-02-08T15:09:07Z) - Robustness to Spurious Correlations via Human Annotations [100.63051542531171]
本稿では,人間に共通する因果関係の知識を活用して,素因関係に頑健なモデルを構築するための枠組みを提案する。
具体的には、人間のアノテーションを使用して、潜在的な未測定変数でトレーニング例を拡大する。
次に,未測定変数(UV-DRO)に対する分布性に頑健な新たな最適化手法を導入し,テスト時間シフトによる最悪の損失を制御する。
論文 参考訳（メタデータ） (2020-07-13T20:05:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。