論文の概要: How Could AI Eliminate Humanity? A Failure-Mode Analysis of Civilizational Risk

• arxiv url: http://arxiv.org/abs/2610.08878v1
• Date: Tue, 06 Oct 2026 07:28:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.52237
• Title: How Could AI Eliminate Humanity? A Failure-Mode Analysis of Civilizational Risk
• Title（参考訳）: AIはどのように人間性を排除しているのか? : 文明的リスクの失敗モード分析
• Abstract要約: 本稿では,高度な人工知能が人類の絶滅,不可逆的な文明崩壊,永続的な人類の分散にどのように貢献するかを分析するための失敗モードフレームワークを開発する。 中心的な主張は、破滅的なAIリスクは、意識、敵意、あるいは人間性を傷つける明確な意図を必要としないということである。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This article develops a failure-mode framework for analyzing how advanced artificial intelligence could contribute to human extinction, irreversible civilizational collapse, or permanent human disempowerment. The central thesis is that catastrophic AI risk does not require consciousness, hostility, or an explicit intention to harm humanity. Instead, risk may arise through several distinct but interacting pathways, including autonomous misalignment, harmful human use, organizational failure, and competitive deployment. The severity of these pathways depends on factors such as capability, autonomy, external access, persistence, institutional safeguards, and the preservation of recovery capacity. The analysis is deliberately non-operational: it identifies causal conditions, empirically tractable intermediate quantities, and defensive research questions rather than procedures for causing harm.
• Abstract（参考訳）: 本稿では,高度な人工知能が人類の絶滅,不可逆的な文明崩壊,永続的な人類の分散にどのように貢献するかを分析するための失敗モードフレームワークを開発する。 中心的な主張は、破滅的なAIリスクは、意識、敵意、あるいは人間性を傷つける明確な意図を必要としないということである。 その代わり、リスクは、自律的なミスアライメント、有害な人的使用、組織的失敗、競争力のある展開など、異なるが相互作用するいくつかの経路を通じて生じる可能性がある。 これらの経路の深刻度は、能力、自律性、外部アクセス、永続性、施設の安全維持、回復能力の維持といった要因に依存する。 この分析は故意に非手術的であり、原因条件、実験的に抽出可能な中間量、障害を引き起こす手順よりも防御研究の問題を特定する。

関連論文リスト

• The Boundaries of Automation: A Theory of Persistent Human Participation [107.84677954791773]
  高い能力を持つAIシステムであっても、人間の参加は継続する可能性がある、と私たちは主張する。 一部のアクティビティでは、ターゲットは事前に完全に指定されるのではなく、代わりにインタラクション自体を通じて現れる。 この観点は、自動化の限界に重要な意味を持つ。
  論文  参考訳（メタデータ） (2026-07-23T17:33:43Z)
• AI Deception: Risks, Dynamics, and Controls [153.71048309527225]
  このプロジェクトは、AI偽装分野の包括的で最新の概要を提供する。 我々は、動物の偽装の研究からシグナル伝達理論に基づく、AI偽装の正式な定義を同定する。 我々は,AI偽装研究の展望を,偽装発生と偽装処理の2つの主要な構成要素からなる偽装サイクルとして整理する。
  論文  参考訳（メタデータ） (2025-11-27T16:56:04Z)
• When Autonomy Breaks: The Hidden Existential Risk of AI [0.0]
  私は、人間の自律性の遅さと不可解な低下には過小評価されるリスクがある、と論じます。 従うべきは、段階的な非スキル化のプロセスです。 人類にとって最大の脅威は、機械が人間らしくなるだけでなく、人間が機械のようになることです。
  論文  参考訳（メタデータ） (2025-03-28T05:10:32Z)
• Two Types of AI Existential Risk: Decisive and Accumulative [3.5051464966389116]
  本稿では,従来の「決定型AI x-リスク仮説」と「累積型AI x-リスク仮説」を対比する。 累積的な視点は、AIリスクに関する一見互換性のない視点を調整できる、と氏は主張する。
  論文  参考訳（メタデータ） (2024-01-15T17:06:02Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• Current and Near-Term AI as a Potential Existential Risk Factor [5.1806669555925975]
  我々は、現在および短期的な人工知能技術が、現実的なリスクに寄与する可能性があるという考えを問題視する。 我々は、すでに文書化されているAIの効果が、実在するリスク要因として機能する、という仮説を提案する。 私たちの主な貢献は、潜在的なAIリスク要因とそれら間の因果関係の展示です。
  論文  参考訳（メタデータ） (2022-09-21T18:56:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。