論文の概要: Superintelligence and the Triple Risk of an AI Race

• arxiv url: http://arxiv.org/abs/2610.17085v1
• Date: Mon, 12 Oct 2026 16:47:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.420865
• Title: Superintelligence and the Triple Risk of an AI Race
• Title（参考訳）: スーパーインテリジェンスとAIレースの3つのリスク
• Abstract要約: 人工知能を最初に開発する国は、世界的支配を勝ち取ることができると信じる人もいる。 この見通しは米国と中国の間で激しい競争を巻き起こす恐れがある。 米国は、AIの安全性を改善するための一方的かつ協力的な努力を優先すべきである。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: On many estimates, artificial general intelligence (AGI) is likely to emerge within the next few decades or even sooner. Once it does, it may quickly surpass human intelligence, possibly by a huge margin. Some believe that the country that develops AGI first could attain global dominance. This prospect risks setting off intense competition between the United States and China. Indeed, a narrative has already developed that the superpowers are locked in an AI race, with the Trump administration proclaiming its determination to 'dismantle unnecessary regulatory barriers' to winning it. We argue that this approach presents three profound dangers. The first two are familiar from past arms races: being overtaken by a rival or triggering a war. The third is new: losing control of human beings' future to agents far more intelligent than we are, which could endanger our very survival. Striving to get to AGI first risks a race to the bottom on safety practices and regulation concerning them. China does not yet appear bent on racing to superintelligence. The United States should prioritise both unilateral and co-operative efforts to improve AI safety and avoid provoking a race that all humanity could lose.
• Abstract（参考訳）: 多くの推計では、人工知能(AGI)は今後数十年以内に出現する可能性が高い。 ひとたび実現すれば、人類の知能を急速に超えるかもしれない。 AGIを最初に開発する国は、世界的支配を達成できると考えている人もいる。 この見通しは米国と中国の間で激しい競争を巻き起こす恐れがある。 実際には、スーパーパワーがAIレースに閉じ込められているという物語がすでに発展しており、トランプ政権はAIレースに勝つために「不要な規制障壁を解体する」という決定を宣言している。 このアプローチは3つの重大な危険をもたらすと我々は主張する。 最初の2人は過去の武器レースに精通しており、ライバルに圧倒されたり、戦争の引き金になったりしている。 3つ目は、人類の未来を我々よりもはるかに知的なエージェントにコントロールできなくなり、人類の生存を危うくするかもしれないということです。 AGIに到達しようという試みは、まず、安全プラクティスとそれらに関する規制について、最下位のレースのリスクを負う。 中国はまだ、超知的な競争に屈していないようだ。 米国は、AIの安全性を改善し、人類が失う可能性のある人種を挑発することを避けるために、一方的かつ協力的な努力を優先すべきである。

関連論文リスト

• What if automating AI R&D triggers an intelligence explosion? [117.5802758931488]
  AIシステムは、数年以内にほとんどのAI R&D作業を自動化する。 もしこれがインテリジェンス爆発を引き起こすなら、AIのメリットを劇的に推し進めるだけでなく、極端なリスクをもたらす可能性がある。
  論文  参考訳（メタデータ） (2026-09-28T18:13:31Z)
• Against racing to AGI: Cooperation, deterrence, and catastrophic risks [0.0]
  AGI Racingは、AI開発における主要なアクター、特に強力な国々の自己利益であり、彼らのフロンティアAI開発を加速している、という見解である。 私たちはAGIレーシングに反対します。
  論文  参考訳（メタデータ） (2025-07-29T14:17:08Z)
• Superintelligence Strategy: Expert Version [64.7113737051525]
  AI開発を不安定にすることで、大国間の対立の可能性が高まる可能性がある。 スーパーインテリジェンス — ほぼすべての認知タスクにおいて、AIが人間よりもはるかに優れている — が、AI研究者によって期待されている。 本稿では,相互保証型AI誤動作の概念を紹介する。
  論文  参考訳（メタデータ） (2025-03-07T17:53:24Z)
• The Manhattan Trap: Why a Race to Artificial Superintelligence is Self-Defeating [0.0]
  我々は、米国がAISを開発するためのレースを動機付けるかもしれない仮定は、そのようなレースが極めて危険なことを暗示していると論じている。 分析の結果, ASI は囚人ジレンマよりも信頼ジレンマを呈しており, ASI 開発を制御するための国際協力が望ましいこと,戦略的に健全であること,などが示唆された。
  論文  参考訳（メタデータ） (2024-12-22T05:04:28Z)
• Keep the Future Human: Why and How We Should Close the Gates to AGI and Superintelligence, and What We Should Build Instead [0.20919309330073077]
  AIの進歩は、AIをニッチな学術分野から、世界最大の企業の中核的なビジネス戦略へと変えた。 このエッセイでは、人間よりも賢く自律的で汎用的なAIに「ゲート」を閉じることで、未来の人間を維持するべきだと論じています。 代わりに私たちは、個人を力づけ、最善を尽くすための人間の社会の能力を変革的に改善できる、強力で信頼できるAIツールに焦点を当てるべきです。
  論文  参考訳（メタデータ） (2023-11-15T23:41:12Z)
• Artificial Intelligence Security Competition (AISC) [52.20676747225118]
  人工知能セキュリティコンペティション(AISC)は、Zhonguancun Laboratory、China Industrial Control Systems Cyber Emergency Response Team、Institute for Artificial Intelligence、清華大学、RealAIによって組織された。 コンテストはディープフェイクセキュリティコンペティション、自律運転セキュリティコンペティション、顔認識セキュリティコンペティションの3つのトラックで構成されている。 本報告では,これらの3トラックの競合ルールと,各トラックの上位チームのソリューションについて紹介する。
  論文  参考訳（メタデータ） (2022-12-07T02:45:27Z)
• Adversarial Policies Beat Superhuman Go AIs [54.15639517188804]
  我々は,現在最先端の囲碁AIシステムであるKataGoを,敵の政策を訓練することによって攻撃する。 敵は囲碁を上手に弾くことで勝てない。かたごを騙して真剣な失敗を犯す。 我々の結果は、超人的AIシステムでさえ、驚くほどの障害モードを持っていることを実証している。
  論文  参考訳（メタデータ） (2022-11-01T03:13:20Z)
• Trustworthy AI: A Computational Perspective [54.80482955088197]
  我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。 各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
  論文  参考訳（メタデータ） (2021-07-12T14:21:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。