論文の概要: AI Researchers Must Help Lead Arms Control to Mitigate Military AI Risks

• arxiv url: http://arxiv.org/abs/2606.11533v1
• Date: Wed, 10 Jun 2026 00:34:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-11 16:42:38.224794
• Title: AI Researchers Must Help Lead Arms Control to Mitigate Military AI Risks
• Title（参考訳）: AI研究者は軍用AIのリスクを軽減するために武器の制御を手伝う必要がある
• Authors: Ted Fujimoto, Jacob Benz,
• Abstract要約: 差し迫った短期的な懸念は、軍事AIアプリケーションの規制である。 武器の制御は過去の破滅的なリスクを減らしたので、核抑止による教訓はAIの安全性とセキュリティ研究を導くことができる。 AI研究者は、軍事AI応用のリスクを最小限に抑えるために、武器制御研究の推進において主導的な役割を果たさなければならない、と我々は主張する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The advancement of AI capabilities compels researchers and the public to be more aware of its potential worldwide impact. A pressing near-term concern is the regulation of military AI applications. Armament manufacturers and defense contractors are increasingly investing in AI capabilities and forging partnerships with AI companies, creating a burgeoning coalition that demands military leaders, arms control diplomacy experts, and AI researchers collaborate to ensure a safer future. While AI researchers often focus on the long-term implications of superintelligent AI, this approach may not adequately address the immediate challenges posed by AI in military applications. Success requires acknowledging and mitigating the emerging risks of frontier AI models that plan to be integrated into defense applications, like military AI systems. Arms control has reduced past catastrophic risks, so lessons learned from nuclear deterrence can guide AI safety and security research towards innovations in verification and diplomacy. AI researchers, however, must assist in leading the technical research that clearly defines and alleviates instability in military settings. Given these new responsibilities and the lack of sufficiently reliable solutions, we argue that AI researchers must take a leading role in advancing arms control research to minimize risk in military AI applications.
• Abstract（参考訳）: AI能力の進歩は、研究者と一般大衆を補完し、その世界的影響の可能性をより認識させる。 差し迫った短期的な懸念は、軍事AIアプリケーションの規制である。 武器メーカーや防衛請負業者は、AI能力にますます投資し、AI企業とのパートナーシップを築き上げている。 AI研究者は、しばしば超知能AIの長期的な影響に焦点を当てるが、このアプローチは、軍事的応用においてAIがもたらす直接的な課題に適切に対処しないかもしれない。 成功には、軍事AIシステムのような防衛アプリケーションに統合される予定のフロンティアAIモデルの出現するリスクを認めて軽減する必要がある。 武器の制御は過去の破滅的なリスクを減らしているため、核抑止から学んだ教訓は、AIの安全性とセキュリティ研究を、検証と外交の革新へと導くことができる。 しかし、AI研究者は、軍事的環境における不安定性を明確に定義し緩和する技術研究の主導を支援する必要がある。 これらの新たな責任と十分な信頼性の低いソリューションが欠如していることを踏まえ、我々は、軍事AI応用のリスクを最小限に抑えるために、武器制御研究の推進において、AI研究者が主導的な役割を果たさなければならないと論じている。

関連論文リスト

• The Singapore Consensus on Global AI Safety Research Priorities [128.58674892183657]
  2025年シンガポールAI会議(SCAI: International Scientific Exchange on AI Safety)は、この分野での研究を支援することを目的としている。 ヨシュア・ベンジオが議長を務める国際AI安全レポート(AI Safety Report)は、33の政府によって支援されている。 レポートは、AI安全研究ドメインを3つのタイプに分類する。信頼に値するAIシステム(開発)作成の課題、リスク評価の課題(評価)、デプロイメント後の監視と介入の課題(会議)。
  論文  参考訳（メタデータ） (2025-06-25T17:59:50Z)
• Military AI Needs Technically-Informed Regulation to Safeguard AI Research and its Applications [1.4347154947542533]
  我々は、ターゲティングや戦場決定にAIを使用する致命的な自律兵器システム(LAWS)のサブセットに焦点を当てます。 これらのリスクは、軍事的効果とAI研究の開放性の両方を脅かす。 本稿では,AI-LAWSの行動に基づく定義を技術的根拠に基づく規制の基盤として提案する。
  論文  参考訳（メタデータ） (2025-05-23T20:58:38Z)
• Superintelligence Strategy: Expert Version [64.7113737051525]
  AI開発を不安定にすることで、大国間の対立の可能性が高まる可能性がある。 スーパーインテリジェンス — ほぼすべての認知タスクにおいて、AIが人間よりもはるかに優れている — が、AI研究者によって期待されている。 本稿では,相互保証型AI誤動作の概念を紹介する。
  論文  参考訳（メタデータ） (2025-03-07T17:53:24Z)
• AI-Powered Autonomous Weapons Risk Geopolitical Instability and Threaten AI Research [6.96356867602455]
  自律兵器システム(AWS)開発における機械学習の最近の採用は、地政学的な安定性とAI研究におけるアイデアの自由交換に深刻なリスクをもたらす、と我々は主張する。 MLはすでに、多くの戦場で、人間の兵士のためのAWSの代替を可能にしている。 さらに、AWSの軍事的価値は、AIによる軍備競争の投機と、AI研究に対する国家安全保障上の制限の誤った適用を提起する。
  論文  参考訳（メタデータ） (2024-05-03T05:19:45Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• Proceedings of the Artificial Intelligence for Cyber Security (AICS) Workshop at AAAI 2022 [55.573187938617636]
  ワークショップは、サイバーセキュリティの問題へのAIの適用に焦点を当てる。 サイバーシステムは大量のデータを生成し、これを効果的に活用することは人間の能力を超えます。
  論文  参考訳（メタデータ） (2022-02-28T18:27:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。