論文の概要: What if automating AI R&D triggers an intelligence explosion?

• arxiv url: http://arxiv.org/abs/2609.36054v1
• Date: Mon, 28 Sep 2026 18:13:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:46.930065
• Title: What if automating AI R&D triggers an intelligence explosion?
• Title（参考訳）: AI R&Dの自動化がインテリジェンスを爆発させるとしたら?
• Abstract要約: AIシステムは、数年以内にほとんどのAI R&D作業を自動化する。 もしこれがインテリジェンス爆発を引き起こすなら、AIのメリットを劇的に推し進めるだけでなく、極端なリスクをもたらす可能性がある。
• 参考スコア（独自算出の注目度）: 117.5802758931488
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In contrast to even a year ago, AI systems now write most of the code inside the companies that build them. As more of the AI research and development (R&D) pipeline is automated, could AI progress radically accelerate in an "intelligence explosion," where years of advances are compressed into months or less? Preliminary evidence suggests that it could. In this work, we assess this evidence, analyze an intelligence explosion's potential impacts, and propose policy responses. AI systems are on track to automate most AI R\&D work within a few years, and possibly all of it. If this triggers an intelligence explosion, it could dramatically bring forward AI's benefits, but also pose extreme risks: capabilities growth could accelerate far beyond what society can keep up with, humanity could lose control over superhuman AI systems, and checks on power within and between states, companies, and branches of government could be severely eroded. Although there remains much uncertainty about these possibilities, the high stakes warrant serious further attention. Policymakers should urgently obtain more visibility into the automation of AI R&D, develop ways to steer and constrain an intelligence explosion, and prepare society to adapt to an intelligence explosion's impacts.
• Abstract（参考訳）: 1年前とは対照的に、今やAIシステムは、構築する企業内のコードの大半を記述している。 AIリサーチと開発(R&D)パイプラインが自動化されるにつれて、AIの進歩は「知能爆発」で急激に加速するのだろうか? 予備的な証拠はそれが可能であることを示唆している。 本研究では、この証拠を評価し、情報爆発の潜在的影響を分析し、政策対応を提案する。 AIシステムは、数年以内にほとんどのAI R&D作業を自動化する。 もしこれが人工知能の爆発を引き起こすなら、AIのメリットを劇的に推し進める可能性があるが、同時に極端なリスクも生み出す。能力の成長は社会に遅れず、人間は超人的AIシステムのコントロールを失い、国家、企業、政府の部門間での権力のチェックはひどく損なわれる可能性がある。 これらの可能性について不確実性は残っているが、高い利害関係は深刻な注意を喚起している。 政策立案者は、AI R&Dの自動化の可視性を高め、インテリジェンス爆発を操り、制限する方法を開発し、インテリジェンス爆発の影響に適応するための社会に備えるべきである。

関連論文リスト

• The Closing Window: How Governments Could Lose Their Ability to Restrain Advanced AI [2.28438857884398]
  私たちは、どの世界イベントやAI開発状況の変更が将来のガバナンスをより難しく、あるいは効果的に不可能にするのかを分析します。 この分野のAI開発に対する理解が欠如しているため、いつ「リターンのポイント」に達するのかを知るのは難しい、あるいは不可能かもしれない。
  論文  参考訳（メタデータ） (2026-06-26T05:44:20Z)
• Superintelligence Strategy: Expert Version [64.7113737051525]
  AI開発を不安定にすることで、大国間の対立の可能性が高まる可能性がある。 スーパーインテリジェンス — ほぼすべての認知タスクにおいて、AIが人間よりもはるかに優れている — が、AI研究者によって期待されている。 本稿では,相互保証型AI誤動作の概念を紹介する。
  論文  参考訳（メタデータ） (2025-03-07T17:53:24Z)
• Superintelligent Agents Pose Catastrophic Risks: Can Scientist AI Offer a Safer Path? [37.13209023718946]
  未確認のAI機関は、公共の安全とセキュリティに重大なリスクをもたらす。 これらのリスクが現在のAIトレーニング方法からどのように生じるかについて議論する。 我々は,非エージェント型AIシステムの開発をさらに進めるために,コアビルディングブロックを提案する。
  論文  参考訳（メタデータ） (2025-02-21T18:28:36Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• X-Risk Analysis for AI Research [24.78742908726579]
  我々は、AI x-riskの分析方法のガイドを提供する。 まず、今日のシステムの安全性についてレビューする。 次に,今後のシステムの安全性に長期的影響を与える戦略について議論する。
  論文  参考訳（メタデータ） (2022-06-13T00:22:50Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• On Controllability of AI [1.370633147306388]
  我々は、高度なAIを完全に制御できないことを示す証拠だけでなく、議論も提示する。 人類の未来とAI研究、そしてAIの安全性とセキュリティについて、AIの制御不能な結果について議論する。
  論文  参考訳（メタデータ） (2020-07-19T02:49:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。