論文の概要: The Paradox of Doom: Acknowledging Extinction Risk Reduces the Incentive to Prevent It
- arxiv url: http://arxiv.org/abs/2509.04855v1
- Date: Fri, 05 Sep 2025 07:14:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-08 14:27:25.503464
- Title: The Paradox of Doom: Acknowledging Extinction Risk Reduces the Incentive to Prevent It
- Title（参考訳）: 絶滅のパラドックス:絶滅のリスクを認め、予防へのインセンティブを低下させる
- Authors: Jakub Growiec, Klaus Prettner,
- Abstract要約: 絶滅リスクに直面していると、人々はより遠視されるよりも、より忍耐強くなります。
我々の枠組みは、人類が破滅的なリスクを緩和するために一貫して過小評価している理由を説明するのに役立ちます。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We investigate the salience of extinction risk as a source of impatience. Our framework distinguishes between human extinction risk and individual mortality risk while allowing for various degrees of intergenerational altruism. Additionally, we consider the evolutionarily motivated "selfish gene" perspective. We find that the risk of human extinction is an indispensable component of the discount rate, whereas individual mortality risk can be hedged against - partially or fully, depending on the setup - through human reproduction. Overall, we show that in the face of extinction risk, people become more impatient rather than more farsighted. Thus, the greater the threat of extinction, the less incentive there is to invest in avoiding it. Our framework can help explain why humanity consistently underinvests in mitigation of catastrophic risks, ranging from climate change mitigation, via pandemic prevention, to addressing the emerging risks of transformative artificial intelligence.
- Abstract（参考訳）: 絶滅リスクの塩分濃度を不忍の原因として検討する。
ヒトの絶滅リスクと個人死亡リスクを区別し、世代間利他主義の多様さを許容する枠組みである。
さらに、進化的に動機付けられた「利己的な遺伝子」の観点から考える。
ヒトの絶滅リスクは割引率の必要不可欠な要素であり、一方、個々の死亡リスクは、設定によって部分的に、あるいは完全に、ヒトの生殖を通じてヘッジされる可能性がある。
全体として、絶滅のリスクに直面している場合、人々はより遠視されるよりも、より忍耐強くなります。
したがって、絶滅の脅威が大きいほど、それを避けるために投資するインセンティブが少なくなる。
我々の枠組みは、気候変動の緩和からパンデミックの予防を通じて、人類が破滅的なリスクを緩和し、変革的人工知能の新たなリスクに対処する上で、一貫して努力を怠っている理由を説明するのに役立ちます。
関連論文リスト
- The AI Risk Spectrum: From Dangerous Capabilities to Existential Threats [0.0]
本稿は、個々のユーザーに影響を与える現在の害から、人類の生存を危うくする現実的な脅威まで、AIリスクの全スペクトラムをマッピングする。
これらのリスクを3つの主要な因果分類に分類する。
私たちのゴールは、読者がAIリスクの全体像を理解するのを助けることです。
論文 参考訳（メタデータ） (2025-08-19T10:05:51Z) - Frontier AI Risk Management Framework in Practice: A Risk Analysis Technical Report [51.17413460785022]
本報告では,フロンティアリスクの包括的評価について述べる。
サイバー犯罪、生物学的および化学的リスク、説得と操作、制御不能な自律型AIR&D、戦略的騙しと計画、自己複製、共謀の7つの分野における重要なリスクを特定します。
論文 参考訳（メタデータ） (2025-07-22T12:44:38Z) - Fully Autonomous AI Agents Should Not be Developed [58.88624302082713]
本稿では,完全自律型AIエージェントを開発すべきではないと主張している。
この立場を支持するために、我々は、従来の科学文献と現在の製品マーケティングから、異なるAIエージェントレベルを規定するために構築する。
分析の結果,システムの自律性によって人へのリスクが増大することが明らかとなった。
論文 参考訳（メタデータ） (2025-02-04T19:00:06Z) - Risks of AI Scientists: Prioritizing Safeguarding Over Autonomy [65.77763092833348]
この視点は、AI科学者の脆弱性を調べ、その誤用に関連する潜在的なリスクに光を当てる。
我々は、ユーザ意図、特定の科学的領域、およびそれらが外部環境に与える影響を考慮に入れている。
本稿では,人間規制,エージェントアライメント,環境フィードバックの理解を含む三段階的枠組みを提案する。
論文 参考訳（メタデータ） (2024-02-06T18:54:07Z) - Two Types of AI Existential Risk: Decisive and Accumulative [3.5051464966389116]
本稿では,従来の「決定型AI x-リスク仮説」と「累積型AI x-リスク仮説」を対比する。
累積的な視点は、AIリスクに関する一見互換性のない視点を調整できる、と氏は主張する。
論文 参考訳（メタデータ） (2024-01-15T17:06:02Z) - Control Risk for Potential Misuse of Artificial Intelligence in Science [85.91232985405554]
我々は、科学におけるAI誤用の危険性の認識を高めることを目的としている。
化学科学における誤用の実例を取り上げる。
我々は、科学におけるAIモデルの誤用リスクを制御するSciGuardというシステムを提案する。
論文 参考訳（メタデータ） (2023-12-11T18:50:57Z) - How Do AI Timelines Affect Existential Risk? [0.0]
超知能AI(ASI)作成の遅れは、AIアライメント問題に人類が取り組む時間を増やすことによって、全体の生存リスクを減少させる可能性がある。
ASIは、ほとんどのリスクを減らすことができるため、ASIの作成の遅れは、他の既存のリスクを増大させる可能性がある。
戦争やハードウェアのオーバーハングといった他の要因は、AIのリスクを増大させ、認知の強化はAIのリスクを減少させる可能性がある。
論文 参考訳（メタデータ） (2022-08-30T15:49:11Z) - Learning Collective Action under Risk Diversity [68.88688248278102]
集団的リスクジレンマを演じることを学ぶエージェントのグループにおけるリスク多様性の結果について検討する。
リスクの多様性は、全体的な協力を著しく減らし、全体的な目標達成を妨げることを示す。
この結果から,エージェント間のリスク認識の整合性や新たな学習技術開発の必要性が浮き彫りになった。
論文 参考訳（メタデータ） (2022-01-30T18:21:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。