Fugu-MT 論文翻訳(概要): Monitoring Human Dependence On AI Systems With Reliance Drills

論文の概要: Monitoring Human Dependence On AI Systems With Reliance Drills

arxiv url: http://arxiv.org/abs/2409.14055v1
Date: Thu, 26 Sep 2024 10:54:20 GMT
ステータス: 処理完了
システム内更新日: 2024-11-07 03:55:36.776262
Title: Monitoring Human Dependence On AI Systems With Reliance Drills
Title（参考訳）: 信頼性ドリルによるAIシステムへの人間依存のモニタリング
Authors: Rosco Hunter, Richard Moulange, Jamie Bernardi, Merlin Stein,
Abstract要約: 人間は、AIが生み出すアドバイスを信頼すれば、AIシステムに過信される可能性がある。本稿では,AIによるアドバイスにおいて,人間が誤りを認識できるかどうかを判定する演習を提案する。私たちは、AIによる意思決定に人間が適切に関与し続けるための重要なツールとして、頼りのドリルが用いられるかもしれないと論じています。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: AI systems are assisting humans with an increasingly broad range of intellectual tasks. Humans could be over-reliant on this assistance if they trust AI-generated advice, even though they would make a better decision on their own. To identify real-world instances of over-reliance, this paper proposes the reliance drill: an exercise that tests whether a human can recognise mistakes in AI-generated advice. We introduce a pipeline that organisations could use to implement these drills. As an example, we explain how this approach could be used to limit over-reliance on AI in a medical setting. We conclude by arguing that reliance drills could become a key tool for ensuring humans remain appropriately involved in AI-assisted decisions.
Abstract（参考訳）: AIシステムは、ますます幅広い知的タスクで人間を支援している。人間は、AIが生成するアドバイスを信頼していれば、この支援を過度に信頼するかもしれない。本稿では,人間がAI生成アドバイスの誤りを認識できるかどうかを検査する,信頼度訓練を提案する。組織がこれらのドリルを実装するために使用できるパイプラインを導入しています。一例として、医療現場でのAIへの過度な依存を制限するために、このアプローチをどのように使用できるかを説明します。私たちは、AIによる意思決定に人間が適切に関与し続けるための重要なツールとして、信頼ドリルが活用できる、と結論付けました。

関連論文リスト

Raising the Stakes: Performance Pressure Improves AI-Assisted Decision Making [57.53469908423318]
日常の人が共通のAI支援タスクを完了すると、パフォーマンスプレッシャーがAIアドバイスへの依存に与える影響を示す。利害関係が高い場合には、AIの説明の有無にかかわらず、利害関係が低い場合よりもAIアドバイスを適切に使用することが分かりました。
論文参考訳（メタデータ） (2024-10-21T22:39:52Z)
Training Towards Critical Use: Learning to Situate AI Predictions Relative to Human Knowledge [22.21959942886099]
我々は、人間がAIモデルでは利用できない知識に対してAI予測をシチュレートする能力を集中させる「クリティカルユース」と呼ばれるプロセス指向の適切な依存の概念を紹介します。我々は、児童虐待スクリーニングという複雑な社会的意思決定環境でランダム化オンライン実験を行う。参加者にAIによる意思決定を実践する、迅速で低い機会を提供することによって、初心者は、経験豊富な労働者に類似したAIとの不一致のパターンを示すようになった。
論文参考訳（メタデータ） (2023-08-30T01:54:31Z)
Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
論文参考訳（メタデータ） (2023-04-16T11:22:59Z)
Knowing About Knowing: An Illusion of Human Competence Can Hinder Appropriate Reliance on AI Systems [13.484359389266864]
本稿では、Dunning-Kruger Effect(DKE)がAIシステムへの適切な依存を妨げているかどうかを論じる。 DKEは、能力の低い個人が自身のスキルやパフォーマンスを過大評価しているため、メタ認知バイアスである。その結果、パフォーマンスを過大評価する参加者は、AIシステムへの信頼度が低い傾向にあることがわかった。
論文参考訳（メタデータ） (2023-01-25T14:26:10Z)
Holding AI to Account: Challenges for the Delivery of Trustworthy AI in Healthcare [8.351355707564153]
我々は、信頼できるAIの問題を検証し、これを実現することが実際に何を意味するのかを探る。ここでは、人々が社会技術的設定においてAIを推論し、信頼する方法において、組織的説明責任が果たす重要な部分を見落としている、と論じる。
論文参考訳（メタデータ） (2022-11-29T18:22:23Z)
Should I Follow AI-based Advice? Measuring Appropriate Reliance in Human-AI Decision-Making [0.0]
私たちは、人間がAIアドバイスを盲目的に頼らず、その品質を区別し、より良い意思決定を行うために行動できるようにすることを目標としています。現在の研究では、ケースバイケースベースでAIアドバイスに対する適切な信頼(AR)の基準が欠如している。我々は、ARをアドバイス品質を識別し、それに応じて振る舞う能力を測定する2次元構成体として見ることを提案する。
論文参考訳（メタデータ） (2022-04-14T12:18:51Z)
Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文参考訳（メタデータ） (2022-01-26T18:53:09Z)
Trustworthy AI: A Computational Perspective [54.80482955088197]
我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
論文参考訳（メタデータ） (2021-07-12T14:21:46Z)
A Case for Humans-in-the-Loop: Decisions in the Presence of Erroneous Algorithmic Scores [85.12096045419686]
本研究では,児童虐待のホットラインスクリーニング決定を支援するアルゴリズムツールの採用について検討した。まず、ツールがデプロイされたときに人間が行動を変えることを示します。表示されたスコアが誤ったリスク推定である場合、人間はマシンの推奨に従わない可能性が低いことを示す。
論文参考訳（メタデータ） (2020-02-19T07:27:32Z)
Effect of Confidence and Explanation on Accuracy and Trust Calibration in AI-Assisted Decision Making [53.62514158534574]
ケース固有のモデル情報を明らかにする特徴が、信頼度を調整し、人間とAIのジョイントパフォーマンスを向上させることができるかどうかを検討する。信頼スコアは、AIモデルに対する人々の信頼を校正するのに役立ちますが、信頼の校正だけでは、AI支援による意思決定を改善するには不十分です。
論文参考訳（メタデータ） (2020-01-07T15:33:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。