論文の概要: The Closing Window: How Governments Could Lose Their Ability to Restrain Advanced AI

• arxiv url: http://arxiv.org/abs/2608.05173v1
• Date: Fri, 26 Jun 2026 05:44:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.153032
• Title: The Closing Window: How Governments Could Lose Their Ability to Restrain Advanced AI
• Title（参考訳）: 政府が高度なAIをリトレーニングする能力を失う理由
• Abstract要約: 私たちは、どの世界イベントやAI開発状況の変更が将来のガバナンスをより難しく、あるいは効果的に不可能にするのかを分析します。 この分野のAI開発に対する理解が欠如しているため、いつ「リターンのポイント」に達するのかを知るのは難しい、あるいは不可能かもしれない。
• 参考スコア（独自算出の注目度）: 2.28438857884398
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As AI capabilities advance, AI systems will pose greater risks to national security and potentially humanity as a whole. Governments may eventually conclude that these risks warrant restraining AI development. This motivates the question: will governments still be able to restrain AI development in the future, should they want to do so? In this paper we analyze which world events and changes to the state of AI development would make future governance more difficult or even effectively impossible. Our analysis surfaces likely pathways that would lead to these difficulties, including hardware proliferation, continued algorithmic progress, and the release of catastrophically dangerous AI models. Due to the field's lack of understanding of AI development, it may be difficult or impossible to know when we will hit a "point of no return", and we therefore recommend a conservative approach. The window may be closing, but governments currently have an opportunity to preserve their optionality if they act soon. Our policy recommendations would enable governments to restrain AI development in the future, while imposing relatively small costs today.
• Abstract（参考訳）: AIの能力が向上するにつれて、AIシステムは国家の安全と潜在的人間性全体に大きなリスクをもたらす。 政府は最終的に、これらのリスクはAI開発を抑制することを保証していると結論付けるかもしれない。 政府は今後も、AI開発を抑えることができるだろうか? 本稿では,AI開発の現状の変化によって,将来のガバナンスがより困難になるか,あるいは事実上不可能になるかを分析する。 私たちの分析は、ハードウェアの普及、アルゴリズムの進歩の継続、破滅的に危険なAIモデルのリリースなど、これらの困難に繋がるであろう経路を表面化しています。 この分野のAI開発に対する理解が欠如しているため、いつ「リターンのポイント」に達するかを知ることは困難または不可能である可能性があるため、保守的なアプローチを推奨する。 窓は閉ざされているかもしれないが、政府が早期に行動すれば、オプションを維持する機会がある。 当社のポリシーレコメンデーションにより、政府は今後AI開発を抑えることができるが、今日では比較的小さなコストがかかる。

関連論文リスト

• An International Agreement to Prevent the Premature Creation of Artificial Superintelligence [1.5749416770494706]
  本報告では, 人工超知能の早期発達を防止するための国際協定を提案する。 この合意は、現在の安全なAIアプリケーションへのアクセスを維持しながら、危険なAI能力の進歩を停止する。 当事者間の信頼が欠如しているため、検証は合意の重要な部分である。
  論文  参考訳（メタデータ） (2025-11-13T20:07:29Z)
• AI Governance to Avoid Extinction: The Strategic Landscape and Actionable Research Questions [2.07180164747172]
  人間性は、人間のエキスパートを著しく上回るAIシステムを開発するために、間もなく進もうとしているようだ。 我々は、デフォルトの軌道は人類の絶滅を含む大惨事の可能性が高いと信じている。 リスクは、強力なAIシステムを制御できないこと、悪意ある悪役によるAIの誤用、大国間の戦争、権威主義的なロックインなどにある。
  論文  参考訳（メタデータ） (2025-05-07T17:35:36Z)
• Superintelligence Strategy: Expert Version [64.7113737051525]
  AI開発を不安定にすることで、大国間の対立の可能性が高まる可能性がある。 スーパーインテリジェンス — ほぼすべての認知タスクにおいて、AIが人間よりもはるかに優れている — が、AI研究者によって期待されている。 本稿では,相互保証型AI誤動作の概念を紹介する。
  論文  参考訳（メタデータ） (2025-03-07T17:53:24Z)
• Taking AI Welfare Seriously [0.5617572524191751]
  我々は、近い将来、一部のAIシステムが意識的または堅牢に作用する可能性があると論じている。 これは近い将来の問題であり、AI企業や他のアクターはそれを真剣に取り始める責任がある。
  論文  参考訳（メタデータ） (2024-11-04T17:57:57Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。