論文の概要: Learning to Trust: How Humans Mentally Recalibrate AI Confidence Signals
- arxiv url: http://arxiv.org/abs/2603.22634v1
- Date: Mon, 23 Mar 2026 23:23:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-25 19:53:37.218439
- Title: Learning to Trust: How Humans Mentally Recalibrate AI Confidence Signals
- Title（参考訳）: 信頼への学習:人間はどのようにしてAI信頼のシグナルを精神的に再認識するか
- Authors: ZhaoBin Li, Mark Steyvers,
- Abstract要約: 我々は、人間が繰り返し体験することで、AIの信頼性信号の精神的な調整を学べるかどうかを考察する。
本稿では,線形-log-odds変換とRescorla-Wagner学習則を用いた計算モデルを提案する。
- 参考スコア（独自算出の注目度）: 3.1153758106426603
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Productive human-AI collaboration requires appropriate reliance, yet contemporary AI systems are often miscalibrated, exhibiting systematic overconfidence or underconfidence. We investigate whether humans can learn to mentally recalibrate AI confidence signals through repeated experience. In a behavioral experiment (N = 200), participants predicted the AI's correctness across four AI calibration conditions: standard, overconfidence, underconfidence, and a counterintuitive "reverse confidence" mapping. Results demonstrate robust learning across all conditions, with participants significantly improving their accuracy, discrimination, and calibration alignment over 50 trials. We present a computational model utilizing a linear-in-log-odds (LLO) transformation and a Rescorla-Wagner learning rule to explain these dynamics. The model reveals that humans adapt by updating their baseline trust and confidence sensitivity, using asymmetric learning rates to prioritize the most informative errors. While humans can compensate for monotonic miscalibration, we identify a significant boundary in the reverse confidence scenario, where a substantial proportion of participants struggled to override initial inductive biases. These findings provide a mechanistic account of how humans adapt their trust in AI confidence signals through experience.
- Abstract（参考訳）: 生産的な人間とAIのコラボレーションには適切な信頼が必要だが、現代のAIシステムはしばしば誤解され、体系的な過信や不信を示す。
我々は、人間が繰り返し体験することで、AIの信頼性信号の精神的な調整を学べるかどうかを考察する。
行動実験(N = 200)では、参加者は、標準、過信、不信、反直感的な「逆信頼」マッピングの4つのAIキャリブレーション条件でAIの正しさを予測した。
その結果、すべての条件で堅牢な学習が示され、参加者は50の試験で精度、差別、校正の調整を著しく改善した。
本稿では,LLO変換とRescorla-Wagner学習則を用いた計算モデルを提案する。
このモデルでは、非対称学習率を用いて、人間はベースライン信頼と信頼感を更新し、最も情報に富む誤りを優先順位付けすることで適応することを明らかにする。
人間は単調な誤校正を補うことができるが、逆の信頼のシナリオにおいて、かなりの割合の参加者が最初の帰納バイアスをオーバーライドするのに苦労している重要な境界を特定できる。
これらの発見は、人間が経験を通してAI信頼信号に対する信頼をどのように順応するかを機械論的に説明する。
関連論文リスト
- Metacognitive Sensitivity for Test-Time Dynamic Model Selection [0.0]
我々は、AIメタ認知を評価し、活用するための新しいフレームワークを提案する。
メタ認知感度の心理学的評価尺度「メタd」を導入し,モデルの信頼度がモデルの精度を確実に予測できるかを特徴付ける。
次に、この動的感度スコアを、テスト時間モデル選択を行うバンドベースのアービタのコンテキストとして使用する。
論文 参考訳（メタデータ） (2025-12-11T09:15:05Z) - Guided Self-Evolving LLMs with Minimal Human Supervision [53.111086364268566]
無誘導の自己進化システムは、しばしば訓練として素早く、または劣化する。
R-Fewはガイド付きセルフプレイチャレンジャー(Self-Play Challenger)買収フレームワークで、コンテキスト内接地と混合トレーニングを通じて、軽量な人間の監視を取り入れている。
R-Fewは、数学と一般的な推論ベンチマークで一貫した反復的な改善を実現している。
論文 参考訳（メタデータ） (2025-12-02T07:06:11Z) - ConfTuner: Training Large Language Models to Express Their Confidence Verbally [58.63318088243125]
大規模言語モデル(LLM)は、科学、法律、医療といった高度な領域にますます展開されている。
LLMは、しばしば「過信」(overconfidence)として知られる、高い信頼で誤った答えを生成するために観察される。
論文 参考訳（メタデータ） (2025-08-26T09:25:32Z) - Uncertainty Estimation by Human Perception versus Neural Models [7.273936646577467]
現代のニューラルネットワーク(NN)はしばしば高い予測精度を達成するが、キャリブレーションが不十分である。
NNが推定した不確実性と人間の不確実性について検討する。
論文 参考訳（メタデータ） (2025-06-18T20:00:20Z) - Measurement of LLM's Philosophies of Human Nature [113.47929131143766]
大規模言語モデル(LLM)を対象とする標準化された心理尺度を設計する。
現在のLSMは、人間に対する信頼の欠如を示す。
本稿では,LLMが継続的に価値体系を最適化できるメンタルループ学習フレームワークを提案する。
論文 参考訳（メタデータ） (2025-04-03T06:22:19Z) - As Confidence Aligns: Exploring the Effect of AI Confidence on Human Self-confidence in Human-AI Decision Making [37.192236418976265]
人間とAIの意思決定では、ユーザーの自信はAIの信頼と一致し、AIが関与しなくなった後もそのようなアライメントは継続できる。
意思決定におけるリアルタイムの正当性フィードバックの存在は、アライメントの度合いを低下させた。
論文 参考訳（メタデータ） (2025-01-22T13:25:14Z) - Understanding the Effects of Miscalibrated AI Confidence on User Trust, Reliance, and Decision Efficacy [38.39755953750018]
ミススカラーAIの信頼性は、ユーザの適切な信頼を損なうとともに、AI支援による意思決定の有効性を低下させる。
コミュニケーションAIの信頼度調整レベルは、AIの誤校正を検出するのに役立ちます。
しかし、そのようなコミュニケーションは、未調整のAIに対するユーザの信頼を低下させるため、信頼性が低いため、意思決定の有効性は向上しない。
論文 参考訳（メタデータ） (2024-02-12T13:16:30Z) - A Diachronic Perspective on User Trust in AI under Uncertainty [52.44939679369428]
現代のNLPシステムは、しばしば未分類であり、ユーザの信頼を損なう確実な誤った予測をもたらす。
賭けゲームを用いて,信頼を損なう事象に対するユーザの信頼の進化について検討する。
論文 参考訳（メタデータ） (2023-10-20T14:41:46Z) - Formalizing Trust in Artificial Intelligence: Prerequisites, Causes and
Goals of Human Trust in AI [55.4046755826066]
我々は、社会学の対人信頼(すなわち、人間の信頼)に着想を得た信頼のモデルについて議論する。
ユーザとAIの間の信頼は、暗黙的あるいは明示的な契約が保持する信頼である。
我々は、信頼できるAIの設計方法、信頼が浮かび上がったかどうか、保証されているかどうかを評価する方法について論じる。
論文 参考訳（メタデータ） (2020-10-15T03:07:23Z) - Effect of Confidence and Explanation on Accuracy and Trust Calibration
in AI-Assisted Decision Making [53.62514158534574]
ケース固有のモデル情報を明らかにする特徴が、信頼度を調整し、人間とAIのジョイントパフォーマンスを向上させることができるかどうかを検討する。
信頼スコアは、AIモデルに対する人々の信頼を校正するのに役立ちますが、信頼の校正だけでは、AI支援による意思決定を改善するには不十分です。
論文 参考訳（メタデータ） (2020-01-07T15:33:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。