論文の概要: What is Human in Judgment? Testing Automation Bias and Algorithm Aversion Among United States Military Academy Cadets

• arxiv url: http://arxiv.org/abs/2604.04333v1
• Date: Mon, 06 Apr 2026 00:57:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-07 15:49:19.049626
• Title: What is Human in Judgment? Testing Automation Bias and Algorithm Aversion Among United States Military Academy Cadets
• Title（参考訳）: 判断における人間とは何か? 陸軍士官学校における自動化バイアスとアルゴリズム回避
• Authors: Lauren Kahn, Michael C. Horowitz, Laura Resnick Samotin,
• Abstract要約: ウェストポイントの士官候補生は一般市民よりも認知障害の傾向が低いことを示す。 発見は限られているが、軍事教育とAIへの露出は、戦争と平和に関して、AIが国際政治にどう影響するかを有意義に形作ることを示唆している。
• 参考スコア（独自算出の注目度）: 0.688204255655161
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Human judgment has always been central to conflict and escalation, but how will a world of artificial intelligence (AI) change the role of humans in war? As militaries increasingly adopt AI-enabled decision-support systems (DSS), including the United States in the war against Iran, concerns about automation bias -- over-reliance on algorithmic recommendations -- and algorithm aversion -- premature distrust of automated outputs -- raise fears that relying on AI too much could increase the risk of error, miscalculation, and accidents. Yet existing evidence on how militaries actually interact with AI remains limited. We test theories about the susceptibility of militaries to automation bias by comparing the results from a survey experiment conducted with 236 cadets at the United States Military Academy at West Point to a demographically similar cross-national public sample. Respondents completed a target identification task and then received advice from either an algorithm or a human analyst and had the opportunity to re-assess their initial identification, allowing direct measurement of automation bias and algorithm aversion. Contrary to prominent concerns, we find that West Point cadets are less prone to cognitive distortion than members of the general public, displaying better calibrated trust in algorithmic decision support systems. While the findings are limited, they suggest that military education and exposure to AI can meaningfully shape how AI influences international politics in matters of war and peace.
• Abstract（参考訳）: 人間の判断は常に紛争やエスカレーションの中心だったが、人工知能(AI)の世界は、戦争における人間の役割をどのように変えていくのだろうか? イランとの戦争中の米国を含む、AI対応の意思決定支援システム(DSS)の採用が増えている中、自動化バイアス(アルゴリズム推奨への過度な依存)とアルゴリズムの回避(自動出力の早期不信)に対する懸念は、AIに依存しすぎるとエラーや誤計算、事故のリスクが増大する恐れを提起している。 しかし、軍事が実際にAIとどのように相互作用するかに関する既存の証拠は限られている。 我々は、ウェストポイントの陸軍士官学校の236人の学生を対象に行った調査の結果と、人口統計学的に類似した国家間公共サンプルとを比較して、軍隊の自動化バイアスに対する感受性に関する理論を検証した。 Respondentsはターゲットの識別タスクを完了し、その後、アルゴリズムまたは人間のアナリストからアドバイスを受け、初期識別を再評価する機会を得て、自動化バイアスとアルゴリズムの回避を直接測定した。 顕著な懸念とは対照的に、ウェストポイントの士官候補生は一般市民よりも認知的歪みの傾向が低く、アルゴリズムによる意思決定支援システムの信頼性が向上している。 調査結果は限られているが、軍事教育とAIへの露出は、戦争と平和に関して、AIが国際政治にどう影響するかを有意義に形作ることを示唆している。

関連論文リスト

• The Prompt War: How AI Decides on a Military Intervention [0.0]
  本稿では,100回に1回実行された640台のヴィグネットにおいて,軍事介入を決定するためのモデルを提案する。 AIが介入する決定を下す最も高い予測者は、高い国内サポートと高い成功率である。 国際的非難、軍事的死、民間人の死、負の経済効果などのコストは統計的に重要であるが、その効果は国内の支持と勝利の確率のおよそ半分である。
  論文  参考訳（メタデータ） (2025-07-08T12:52:08Z)
• Superintelligence Strategy: Expert Version [64.7113737051525]
  AI開発を不安定にすることで、大国間の対立の可能性が高まる可能性がある。 スーパーインテリジェンス — ほぼすべての認知タスクにおいて、AIが人間よりもはるかに優れている — が、AI研究者によって期待されている。 本稿では,相互保証型AI誤動作の概念を紹介する。
  論文  参考訳（メタデータ） (2025-03-07T17:53:24Z)
• Alignment, Agency and Autonomy in Frontier AI: A Systems Engineering Perspective [0.0]
  アライメント、エージェンシー、自律といった概念は、AIの安全性、ガバナンス、制御の中心となっている。 本稿では、これらの概念の歴史的、哲学的、技術的進化をトレースし、その定義がAI開発、デプロイメント、監視にどのように影響するかを強調する。
  論文  参考訳（メタデータ） (2025-02-20T21:37:20Z)
• Combining AI Control Systems and Human Decision Support via Robustness and Criticality [53.10194953873209]
  我々は、逆説(AE)の方法論を最先端の強化学習フレームワークに拡張する。 学習したAI制御システムは、敵のタンパリングに対する堅牢性を示す。 トレーニング/学習フレームワークでは、この技術は人間のインタラクションを通じてAIの決定と説明の両方を改善することができる。
  論文  参考訳（メタデータ） (2024-07-03T15:38:57Z)
• AI-Powered Autonomous Weapons Risk Geopolitical Instability and Threaten AI Research [6.96356867602455]
  自律兵器システム(AWS)開発における機械学習の最近の採用は、地政学的な安定性とAI研究におけるアイデアの自由交換に深刻なリスクをもたらす、と我々は主張する。 MLはすでに、多くの戦場で、人間の兵士のためのAWSの代替を可能にしている。 さらに、AWSの軍事的価値は、AIによる軍備競争の投機と、AI研究に対する国家安全保障上の制限の誤った適用を提起する。
  論文  参考訳（メタデータ） (2024-05-03T05:19:45Z)
• Bending the Automation Bias Curve: A Study of Human and AI-based Decision Making in National Security Contexts [0.0]
  私たちは、AIに関する背景知識とAIに対する信頼の関係、自動化バイアスの確率に影響を与える他の要因との相互作用について理論を立てています。 我々は、AI産業のレベルが異なる9カ国の9000人の成人の代表例を対象に、事前登録されたタスク識別実験でテストを行った。
  論文  参考訳（メタデータ） (2023-06-28T18:57:36Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• Trustworthy AI: A Computational Perspective [54.80482955088197]
  我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。 各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
  論文  参考訳（メタデータ） (2021-07-12T14:21:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。