論文の概要: Novice Reliance Calibration in AI-Assisted Decision Making: The Role of Explanations and Self-Assessment

• arxiv url: http://arxiv.org/abs/2610.07800v1
• Date: Tue, 06 Oct 2026 05:48:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:29.833189
• Title: Novice Reliance Calibration in AI-Assisted Decision Making: The Role of Explanations and Self-Assessment
• Title（参考訳）: AIによる意思決定における初級信頼度校正 : 説明と自己評価の役割
• Abstract要約: 本研究では,初級利用者が依存行動を調整する方法を研究するための組織構造として,信頼度校正を導入する。 また,初級利用者は,説明が存在する場合,過度依存に対する体系的なドリフトを示すことが観察された。 これらの設定への適切な依存をサポートする必要があるAIツールの設計に関する実行可能なガイドラインを提示する。
• 参考スコア（独自算出の注目度）: 5.581899655623215
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Artificial Intelligence (AI) tools are widely used to support decision making in tasks and domains where no immediate performance feedback is available. In these settings, users cannot learn to adjust their reliance behavior over time through trial and error. However, little is known about how novice users calibrate reliance on AI when external feedback is unavailable, or whether AI explanations can support calibration in its absence. We introduce reliance calibration as an organizing construct for studying how novice users dynamically adjust reliance behavior, and examine how AI explanations and meta-cognitive self-assessment shape it. Through a between-subjects study with 110 participants completing a clinical entity extraction task with AI assistance and limited performance feedback, we observe that novice users exhibit systematic drift toward over-reliance in the presence of explanations, while higher self-reported task understanding is associated with more selective reliance behavior. These results extend reliance calibration research into human-AI collaboration contexts without real-time performance signals and present actionable guidelines on designing AI tools that must support appropriate reliance in these settings.
• Abstract（参考訳）: 人工知能(AI)ツールは、すぐにパフォーマンスフィードバックが得られないタスクやドメインの意思決定をサポートするために広く利用されている。 これらの設定では、ユーザーは試行錯誤によって時間とともに依存行動を調整することを学べない。 しかし、外部からのフィードバックが利用できない場合、初歩的なユーザーがAIに依存しているかどうか、あるいはAIの説明が不在時に校正をサポートするかどうかについては、ほとんど分かっていない。 そこで我々は,初級利用者が動的に依存行動を調整する方法を研究するための組織構造として,信頼度校正を導入し,AIによる説明やメタ認知的自己評価をどう形作るかを検討する。 110名の被験者を対象に,AI支援と限られたパフォーマンスフィードバックによる臨床エンティティ抽出タスクを完了した研究を通じて,自己申告タスク理解がより選択的依存行動に結びついているのに対して,初級者は説明の存在下で過度依存への体系的ドリフトを示すのが観察された。 これらの結果は、リアルタイムなパフォーマンス信号のない人間とAIのコラボレーションコンテキストに対する信頼性校正研究を拡張し、これらの設定に適切に依存する必要があるAIツールの設計に関する実用的なガイドラインを提示している。

関連論文リスト

• From Knowing to Acting: Benchmarking Self-Awareness Capability of LLM Agents [69.07911499189129]
  エージェントのメタ認知判断(Knowing)を自発的実行(Acting)から切り離して認知行動アライメントを評価するフレームワークであるKAPROを紹介する。 実験の結果,自己認識能力はタスク成功と強く相関するが,内部能力設定では著しく低下することがわかった。 プロプライエタリで推論指向のモデルは、より信頼性の高い認知ゲーティングを示します。
  論文  参考訳（メタデータ） (2026-06-09T17:17:08Z)
• Offloading Score: Measuring AI Reliance Through Counterfactual Workflows [70.84727355516559]
  私たちは、AIツールにオフロードされた認知活動の分断を定量化する、信頼度尺度であるオフロードスコアを導入します。 本研究は,本質的な計量妥当性評価と制御されたユーザスタディにより,オフロードスコアの検証を行う。 オフロードスコアは、時間制約設定における依存度を著しく高めることを示す。
  論文  参考訳（メタデータ） (2026-05-28T05:44:31Z)
• The Hidden Cost of Contextual Sycophancy: an AI Literacy Intervention in Human-AI Collaboration [0.904861150954008]
  大規模言語モデル(LLM)は、コラボレーションのためのインタラクティブなツールとして、教育環境においてますます使われている。 誤りがあってもユーザの信念と整合し、学習と意思決定に対する懸念を喚起する。 本研究では, サイコファンティックアライメントが, マルチターンヒトとAIの相互作用においてどのように現れるかを検討する。
  論文  参考訳（メタデータ） (2026-05-18T13:20:45Z)
• Students' Reliance on AI in Higher Education: Identifying Contributing Factors [2.749898166276854]
  本研究では,大学生のAI依存パターンに寄与する潜在的な要因について検討した。 適切な依存は、学生の自己効力、プログラミングリテラシー、認知の必要性に大きく関係している。 信頼度は、タスク後の信頼度とAIアシスタントとの満足度に有意な相関を示した。
  論文  参考訳（メタデータ） (2025-06-16T17:55:26Z)
• The AI Imperative: Scaling High-Quality Peer Review in Machine Learning [49.87236114682497]
  AIによるピアレビューは、緊急の研究とインフラの優先事項になるべきだ、と私たちは主張する。 我々は、事実検証の強化、レビュアーのパフォーマンスの指導、品質改善における著者の支援、意思決定におけるAC支援におけるAIの具体的な役割を提案する。
  論文  参考訳（メタデータ） (2025-06-09T18:37:14Z)
• Interactive Agents to Overcome Ambiguity in Software Engineering [61.40183840499932]
  AIエージェントは、あいまいで不明確なユーザー指示に基づいて、タスクを自動化するためにますますデプロイされている。 不安定な仮定をし、明確な質問をしないことは、最適以下の結果につながる可能性がある。 対話型コード生成設定において,LLMエージェントが不明瞭な命令を処理する能力について,プロプライエタリモデルとオープンウェイトモデルを評価して検討する。
  論文  参考訳（メタデータ） (2025-02-18T17:12:26Z)
• To Err Is AI! Debugging as an Intervention to Facilitate Appropriate Reliance on AI Systems [11.690126756498223]
  最適な人間とAIのコラボレーションのためのビジョンは、人間のAIシステムへの「適切な依存」を必要とする。 実際には、アウト・オブ・ディストリビューションデータにおける機械学習モデルの性能格差は、データセット固有のパフォーマンスフィードバックを信頼できないものにしている。
  論文  参考訳（メタデータ） (2024-09-22T09:43:27Z)
• Knowing About Knowing: An Illusion of Human Competence Can Hinder Appropriate Reliance on AI Systems [13.484359389266864]
  本稿では、Dunning-Kruger Effect(DKE)がAIシステムへの適切な依存を妨げているかどうかを論じる。 DKEは、能力の低い個人が自身のスキルやパフォーマンスを過大評価しているため、メタ認知バイアスである。 その結果、パフォーマンスを過大評価する参加者は、AIシステムへの信頼度が低い傾向にあることがわかった。
  論文  参考訳（メタデータ） (2023-01-25T14:26:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。