論文の概要: AI Researchers Must Help Lead Arms Control to Mitigate Military AI Risks
- arxiv url: http://arxiv.org/abs/2606.11533v1
- Date: Wed, 10 Jun 2026 00:34:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-11 16:42:38.224794
- Title: AI Researchers Must Help Lead Arms Control to Mitigate Military AI Risks
- Title（参考訳）: AI研究者は軍用AIのリスクを軽減するために武器の制御を手伝う必要がある
- Abstract要約: 差し迫った短期的な懸念は、軍事AIアプリケーションの規制である。
武器の制御は過去の破滅的なリスクを減らしたので、核抑止による教訓はAIの安全性とセキュリティ研究を導くことができる。
AI研究者は、軍事AI応用のリスクを最小限に抑えるために、武器制御研究の推進において主導的な役割を果たさなければならない、と我々は主張する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The advancement of AI capabilities compels researchers and the public to be more aware of its potential worldwide impact. A pressing near-term concern is the regulation of military AI applications. Armament manufacturers and defense contractors are increasingly investing in AI capabilities and forging partnerships with AI companies, creating a burgeoning coalition that demands military leaders, arms control diplomacy experts, and AI researchers collaborate to ensure a safer future. While AI researchers often focus on the long-term implications of superintelligent AI, this approach may not adequately address the immediate challenges posed by AI in military applications. Success requires acknowledging and mitigating the emerging risks of frontier AI models that plan to be integrated into defense applications, like military AI systems. Arms control has reduced past catastrophic risks, so lessons learned from nuclear deterrence can guide AI safety and security research towards innovations in verification and diplomacy. AI researchers, however, must assist in leading the technical research that clearly defines and alleviates instability in military settings. Given these new responsibilities and the lack of sufficiently reliable solutions, we argue that AI researchers must take a leading role in advancing arms control research to minimize risk in military AI applications.
- Abstract（参考訳）: AI能力の進歩は、研究者と一般大衆を補完し、その世界的影響の可能性をより認識させる。
差し迫った短期的な懸念は、軍事AIアプリケーションの規制である。
武器メーカーや防衛請負業者は、AI能力にますます投資し、AI企業とのパートナーシップを築き上げている。
AI研究者は、しばしば超知能AIの長期的な影響に焦点を当てるが、このアプローチは、軍事的応用においてAIがもたらす直接的な課題に適切に対処しないかもしれない。
成功には、軍事AIシステムのような防衛アプリケーションに統合される予定のフロンティアAIモデルの出現するリスクを認めて軽減する必要がある。
武器の制御は過去の破滅的なリスクを減らしているため、核抑止から学んだ教訓は、AIの安全性とセキュリティ研究を、検証と外交の革新へと導くことができる。
しかし、AI研究者は、軍事的環境における不安定性を明確に定義し緩和する技術研究の主導を支援する必要がある。
これらの新たな責任と十分な信頼性の低いソリューションが欠如していることを踏まえ、我々は、軍事AI応用のリスクを最小限に抑えるために、武器制御研究の推進において、AI研究者が主導的な役割を果たさなければならないと論じている。
関連論文リスト
- "We are not Future-ready": Understanding AI Privacy Risks and Existing Mitigation Strategies from the Perspective of AI Developers in Europe [56.1653658714305]
ヨーロッパを拠点とする25人のAI開発者を対象にインタビューを行い、ユーザ、開発者、ビジネスに最もリスクをもたらすと彼らが信じているプライバシの脅威を理解しました。
プライバシリスクの相対的なランク付けに関して、AI開発者の間ではほとんど合意が得られていないことが分かっています。
AI開発者はこれらのリスクに対処するために提案された緩和戦略を認識しているが、彼らは最小限の現実的採用を報告した。
論文 参考訳（メタデータ） (2025-10-01T13:51:33Z) - The Singapore Consensus on Global AI Safety Research Priorities [128.58674892183657]
2025年シンガポールAI会議(SCAI: International Scientific Exchange on AI Safety)は、この分野での研究を支援することを目的としている。
ヨシュア・ベンジオが議長を務める国際AI安全レポート(AI Safety Report)は、33の政府によって支援されている。
レポートは、AI安全研究ドメインを3つのタイプに分類する。信頼に値するAIシステム(開発)作成の課題、リスク評価の課題(評価)、デプロイメント後の監視と介入の課題(会議)。
論文 参考訳（メタデータ） (2025-06-25T17:59:50Z) - Military AI Needs Technically-Informed Regulation to Safeguard AI Research and its Applications [1.4347154947542533]
我々は、ターゲティングや戦場決定にAIを使用する致命的な自律兵器システム(LAWS)のサブセットに焦点を当てます。
これらのリスクは、軍事的効果とAI研究の開放性の両方を脅かす。
本稿では,AI-LAWSの行動に基づく定義を技術的根拠に基づく規制の基盤として提案する。
論文 参考訳（メタデータ） (2025-05-23T20:58:38Z) - Bare Minimum Mitigations for Autonomous AI Development [25.968739026333004]
2024年、チューリング賞受賞者を含む国際的な科学者は、自律的なAI研究と開発によるリスクについて警告した。
自律型AIR&Dの具体的なリスク、その発生方法、その緩和方法について、限定的な分析がなされている。
我々は、AIエージェントがAI開発を著しく自動化または加速する場合に適用可能な4つの最小限のセーフガードレコメンデーションを提案する。
論文 参考訳（メタデータ） (2025-04-21T20:01:17Z) - Superintelligence Strategy: Expert Version [64.7113737051525]
AI開発を不安定にすることで、大国間の対立の可能性が高まる可能性がある。
スーパーインテリジェンス — ほぼすべての認知タスクにおいて、AIが人間よりもはるかに優れている — が、AI研究者によって期待されている。
本稿では,相互保証型AI誤動作の概念を紹介する。
論文 参考訳（メタデータ） (2025-03-07T17:53:24Z) - AI-Powered Autonomous Weapons Risk Geopolitical Instability and Threaten AI Research [6.96356867602455]
自律兵器システム(AWS)開発における機械学習の最近の採用は、地政学的な安定性とAI研究におけるアイデアの自由交換に深刻なリスクをもたらす、と我々は主張する。
MLはすでに、多くの戦場で、人間の兵士のためのAWSの代替を可能にしている。
さらに、AWSの軍事的価値は、AIによる軍備競争の投機と、AI研究に対する国家安全保障上の制限の誤った適用を提起する。
論文 参考訳（メタデータ） (2024-05-03T05:19:45Z) - A Safe Harbor for AI Evaluation and Red Teaming [124.89885800509505]
一部の研究者は、そのような研究の実施や研究成果の公表が、アカウント停止や法的報復につながることを恐れている。
我々は、主要なAI開発者が法的、技術的に安全な港を提供することを約束することを提案します。
これらのコミットメントは、ジェネレーティブAIのリスクに取り組むための、より包括的で意図しないコミュニティ努力への必要なステップである、と私たちは信じています。
論文 参考訳（メタデータ） (2024-03-07T20:55:08Z) - Taking control: Policies to address extinction risks from advanced AI [0.0]
AI企業からの自発的なコミットメントは不適切で不十分な反応である、と私たちは主張する。
先進的なAIの脅威に有意義に対処する3つの政策提案について述べる。
論文 参考訳（メタデータ） (2023-10-31T15:53:14Z) - Managing extreme AI risks amid rapid progress [171.05448842016125]
我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。
このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。
現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
論文 参考訳（メタデータ） (2023-10-26T17:59:06Z) - Proceedings of the Artificial Intelligence for Cyber Security (AICS)
Workshop at AAAI 2022 [55.573187938617636]
ワークショップは、サイバーセキュリティの問題へのAIの適用に焦点を当てる。
サイバーシステムは大量のデータを生成し、これを効果的に活用することは人間の能力を超えます。
論文 参考訳（メタデータ） (2022-02-28T18:27:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。