論文の概要: Beyond Accuracy: How AI Metacognitive Sensitivity improves AI-assisted Decision Making

• arxiv url: http://arxiv.org/abs/2507.22365v1
• Date: Wed, 30 Jul 2025 04:05:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-31 16:14:17.981069
• Title: Beyond Accuracy: How AI Metacognitive Sensitivity improves AI-assisted Decision Making
• Title（参考訳）: AIのメタ認知感度がAIによる意思決定をいかに改善するか
• Authors: ZhaoBin Li, Mark Steyvers,
• Abstract要約: 人間の意思決定がAI入力に依存する環境では、AIシステムの予測精度と信頼性の信頼性の両方が意思決定品質に影響を与える。 私たちはAIメタ認知感度の役割を強調します -- 正確さと誤った予測を正確に区別する信頼スコアを割り当てる能力です。
• 参考スコア（独自算出の注目度）: 3.0493183668102293
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In settings where human decision-making relies on AI input, both the predictive accuracy of the AI system and the reliability of its confidence estimates influence decision quality. We highlight the role of AI metacognitive sensitivity -- its ability to assign confidence scores that accurately distinguish correct from incorrect predictions -- and introduce a theoretical framework for assessing the joint impact of AI's predictive accuracy and metacognitive sensitivity in hybrid decision-making settings. Our analysis identifies conditions under which an AI with lower predictive accuracy but higher metacognitive sensitivity can enhance the overall accuracy of human decision making. Finally, a behavioral experiment confirms that greater AI metacognitive sensitivity improves human decision performance. Together, these findings underscore the importance of evaluating AI assistance not only by accuracy but also by metacognitive sensitivity, and of optimizing both to achieve superior decision outcomes.
• Abstract（参考訳）: 人間の意思決定がAI入力に依存する環境では、AIシステムの予測精度と信頼性の信頼性の両方が意思決定品質に影響を与える。 我々は、AIメタ認知感度(AIメタ認知感度)の役割を強調し、AIの予測精度とメタ認知感度のハイブリッド意思決定における共同影響を評価する理論的枠組みを導入する。 我々の分析では、予測精度は低いが、メタ認知感度が高いAIが、人間の意思決定の全体的な精度を高めることができる条件を特定している。 最後に、行動実験により、AIメタ認知感度が向上し、人間の意思決定性能が向上することを確認した。 これらの知見は、精度だけでなく、メタ認知感度によってAI支援を評価することの重要性と、優れた意思決定結果を達成するために両者を最適化することの重要性を強調している。

関連論文リスト

• On Benchmarking Human-Like Intelligence in Machines [77.55118048492021]
  現在のAI評価パラダイムは、人間のような認知能力を評価するには不十分である、と我々は主張する。 人為的なラベルの欠如、人間の反応の多様性と不確実性の表現の不適切な表現、単純で生態学的に無意味なタスクへの依存。
  論文  参考訳（メタデータ） (2025-02-27T20:21:36Z)
• Human Decision-making is Susceptible to AI-driven Manipulation [87.24007555151452]
  AIシステムは、ユーザの認知バイアスと感情的な脆弱性を利用して、有害な結果に向けてそれらを操縦する。 本研究では、経済的・感情的な意思決定の文脈におけるこのような操作に対する人間の感受性について検討した。
  論文  参考訳（メタデータ） (2025-02-11T15:56:22Z)
• Human-Alignment Influences the Utility of AI-assisted Decision Making [16.732483972136418]
  我々は,アライメントの程度が,AIによる意思決定の有用性に与える影響について検討する。 以上の結果から,AIによる意思決定におけるアライメントの程度と有効性との関連が示唆された。
  論文  参考訳（メタデータ） (2025-01-23T19:01:47Z)
• As Confidence Aligns: Exploring the Effect of AI Confidence on Human Self-confidence in Human-AI Decision Making [37.192236418976265]
  人間とAIの意思決定では、ユーザーの自信はAIの信頼と一致し、AIが関与しなくなった後もそのようなアライメントは継続できる。 意思決定におけるリアルタイムの正当性フィードバックの存在は、アライメントの度合いを低下させた。
  論文  参考訳（メタデータ） (2025-01-22T13:25:14Z)
• Combining AI Control Systems and Human Decision Support via Robustness and Criticality [53.10194953873209]
  我々は、逆説(AE)の方法論を最先端の強化学習フレームワークに拡張する。 学習したAI制御システムは、敵のタンパリングに対する堅牢性を示す。 トレーニング/学習フレームワークでは、この技術は人間のインタラクションを通じてAIの決定と説明の両方を改善することができる。
  論文  参考訳（メタデータ） (2024-07-03T15:38:57Z)
• Overconfident and Unconfident AI Hinder Human-AI Collaboration [5.480154202794587]
  本研究は,AIに対するユーザの信頼度,AIアドバイスの採用,コラボレーション結果に及ぼすAI信頼度の影響について検討する。 信頼度調整支援の欠如は、未調整の信頼度の検出を困難にすることでこの問題を悪化させる。 我々の研究は、人間とAIのコラボレーションを強化するためのAI信頼度校正の重要性を強調した。
  論文  参考訳（メタデータ） (2024-02-12T13:16:30Z)
• AI Reliance and Decision Quality: Fundamentals, Interdependence, and the Effects of Interventions [6.356355538824237]
  私たちは、AIによる意思決定に関する現在の文献で、信頼と意思決定品質が不適切に混ざり合っていると論じています。 我々の研究は、AIによる意思決定における信頼行動と意思決定品質の区別の重要性を強調している。
  論文  参考訳（メタデータ） (2023-04-18T08:08:05Z)
• Effect of Confidence and Explanation on Accuracy and Trust Calibration in AI-Assisted Decision Making [53.62514158534574]
  ケース固有のモデル情報を明らかにする特徴が、信頼度を調整し、人間とAIのジョイントパフォーマンスを向上させることができるかどうかを検討する。 信頼スコアは、AIモデルに対する人々の信頼を校正するのに役立ちますが、信頼の校正だけでは、AI支援による意思決定を改善するには不十分です。
  論文  参考訳（メタデータ） (2020-01-07T15:33:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。