論文の概要: AI Can Be Easily Persuaded in Clinical Decision Making
- arxiv url: http://arxiv.org/abs/2608.29453v1
- Date: Sat, 29 Aug 2026 22:13:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-01 18:31:30.962034
- Title: AI Can Be Easily Persuaded in Clinical Decision Making
- Title（参考訳）: AIは、臨床検査で簡単に説得できる
- Abstract要約: 制御実験によってAIがいかに容易に説得できるかを研究する。
専門的な権威、国家的背景、制度的な提携、過去の業績を主張し、複数の医師、臨床医の見解を支持し、繰り返しプレッシャーがAIの決定に影響を及ぼすことがわかりました。
- 参考スコア（独自算出の注目度）: 19.172150643041324
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As AI becomes increasingly integrated into clinical practice, it is playing a growing role in medical decision making. Medicine, however, is a high stakes and evidence based field, where decisions can directly affect patients' lives. It is therefore important to understand whether AI can maintain objective judgment when others try to persuade it. In this paper, we study how easily AI can be persuaded through controlled experiments. We find that professional authority, national background, institutional affiliation, claimed past performance, multiple physicians, supported clinician views, and repeated pressure can all affect AI decisions. Surprisingly, the same persuasive input changes about 10% more cases when it comes from a senior clinician than from a medical student. Simply claiming a better performance history consistently makes the physician more persuasive. More strikingly, a plausible clinician view can persuade AI away from a correct decision even when it is fabricated to support an incorrect answer. This indicates that AI can be strongly influenced by convincing support without reliably determining whether this view from the clinician is correct. Together, these findings suggest that AI can be easily persuaded by what people say, who says it, and how the opinion is presented. Therefore, it is essential for AI to maintain sound judgment under persuasion, enabling its safe and reliable use in high stakes medical decision making.
- Abstract（参考訳）: AIが臨床実践にますます統合されるにつれて、医療的意思決定において、AIはますます役割を担っている。
しかし、医療は高い利害と証拠に基づく分野であり、意思決定は患者の生活に直接影響を及ぼす可能性がある。
したがって、AIが他者が説得しようとするとき、客観的判断を維持できるかどうかを理解することが重要である。
本稿では,制御実験によってAIがいかに容易に説得できるかを考察する。
専門的な権威、国家的背景、制度的な提携、過去の業績を主張し、複数の医師、臨床医の見解を支持し、繰り返しプレッシャーがAIの決定に影響を及ぼすことがわかりました。
意外なことに、医学生よりもシニアクリニックの患者の方が約10%多いという説得力のある入力が変わります。
より優れたパフォーマンス履歴を主張するだけで、医師はより説得力がある。
より印象的なことに、もっともらしい臨床医の視点は、誤った答えをサポートするために作られたとしても、AIを正しい判断から遠ざけることができる。
このことは、この臨床医からの見解が正しいかどうかを確実に判断することなく、AIが支援を説得することで強く影響できることを示している。
これらの結果は、AIは人々が何を言ったか、誰が言ったか、どのように意見が提示されるかによって容易に説得できることを示唆している。
したがって、AIは説得下での健全な判断を維持することが不可欠であり、医療上の意思決定において安全で信頼性の高い使用を可能にする。
関連論文リスト
- Explainable AI as a Double-Edged Sword in Dermatology: The Impact on Clinicians versus The Public [46.86429592892395]
説明可能なAI(XAI)は、AI意思決定の洞察を提供することによって、この問題に対処する。
フェアネスに基づく診断AIモデルと異なるXAI説明を組み合わせた2つの大規模実験の結果を報告する。
論文 参考訳（メタデータ） (2025-12-14T00:06:06Z) - Reverse Physician-AI Relationship: Full-process Clinical Diagnosis Driven by a Large Language Model [71.40113970879219]
医師とAIの関係を逆転させるパラダイムシフトを提案する。
DxDirector-7Bは先進的な深層思考能力を持つLLMであり,医師の関与を最小限に抑えたフルプロセス診断を可能にする。
DxDirector-7Bは診断精度が優れているだけでなく、医師の作業量を大幅に削減する。
論文 参考訳（メタデータ） (2025-08-14T09:51:20Z) - Must Read: A Systematic Survey of Computational Persuasion [60.83151988635103]
AI駆動の説得は、有益なアプリケーションに活用することができるが、操作と非倫理的な影響を通じて脅威を引き起こす。
本調査では,AIによる説得の安全性,公平性,有効性を高めるための今後の研究方針について概説する。
論文 参考訳（メタデータ） (2025-05-12T17:26:31Z) - How Performance Pressure Influences AI-Assisted Decision Making [52.997197698288936]
我々は、プレッシャーと説明可能なAI(XAI)技術がAIアドバイステイク行動とどのように相互作用するかを示す。
我々の結果は、圧力とXAIの異なる組み合わせで複雑な相互作用効果を示し、AIアドバイスの行動を改善するか、悪化させるかのどちらかを示す。
論文 参考訳（メタデータ） (2024-10-21T22:39:52Z) - Artificial Influence: An Analysis Of AI-Driven Persuasion [0.0]
ユビキタスで高説得力のあるAIシステムは、私たちの情報環境を大きく変えて、私たちの将来の人間のコントロールを失うのに寄与する、と警告する。
われわれは、これらのソリューションはどれも監視されていないと結論し、個人や政府は、説得力のあるAIの最も悪影響から守るために、積極的な措置を講じる必要があると結論付けている。
論文 参考訳（メタデータ） (2023-03-15T16:05:11Z) - Understanding how the use of AI decision support tools affect critical
thinking and over-reliance on technology by drug dispensers in Tanzania [0.0]
薬局のディスペンサーは、提示された臨床症例のヴィグネットの鑑別診断を決定するとき、AI技術を使用していた。
私たちは、AIがその決定について説明を提供していない場合でも、ディスペンサーがAIによる決定に頼っていたことを発見した。
論文 参考訳（メタデータ） (2023-02-19T05:59:06Z) - Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。
これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文 参考訳（メタデータ） (2022-01-26T18:53:09Z) - Explainable AI for medical imaging: Explaining pneumothorax diagnoses
with Bayesian Teaching [4.707325679181196]
ベイズ教養に基づく説明の導入と評価を行う。
医療専門家が説明に晒すことで、AIの診断決定を予測できることがわかりました。
これらの結果から,説明可能なAIは医用画像における人間とAIの協調を支援するのに有用であることが示唆された。
論文 参考訳（メタデータ） (2021-06-08T20:49:11Z) - Trust and Medical AI: The challenges we face and the expertise needed to
overcome them [15.07989177980542]
医療AIの失敗は、臨床結果や患者の経験に重大な影響を及ぼす可能性がある。
本稿では,医療AIにおける概念的,技術的,人道的課題について述べる。
医療用AI技術の開発、検証、運用を専門とする新たな専門家グループの教育と認定を基盤とするソリューションを提案する。
論文 参考訳（メタデータ） (2020-08-18T04:17:58Z) - Artificial Artificial Intelligence: Measuring Influence of AI
'Assessments' on Moral Decision-Making [48.66982301902923]
ドナー腎アロケーションに関する道徳的意思決定に対する疑似AIからのフィードバックの効果を検討した。
患者が腎臓を受容器するかどうかの判断は、AIによって与えられると認識される参加者自身の意思決定に関するフィードバックに影響される可能性があるという証拠がいくつか見出された。
論文 参考訳（メタデータ） (2020-01-13T14:15:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。