論文の概要: Smart Enough to Go Extinct? An Evolutionary Challenge to the Value of General Intelligence and Its Ethical Implications for AGI
- arxiv url: http://arxiv.org/abs/2608.10730v1
- Date: Tue, 11 Aug 2026 09:45:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-12 19:14:45.998417
- Title: Smart Enough to Go Extinct? An Evolutionary Challenge to the Value of General Intelligence and Its Ethical Implications for AGI
- Title（参考訳）: 知能の進化的挑戦とAGIの倫理的意味
- Abstract要約: 汎用知能の追求は、 一般知能が極めて価値があるという前提に基づいている。
進化の時間スケールでは、一般知能の適応的価値は実証的な確立には程遠いと我々は主張する。
一般知能の長期的進化的価値が不確実または負である場合、これはエンジニアリングAGIに関する倫理的疑問を提起し、さらに緊急に人工意識を創出する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The pursuit of artificial general intelligence (AGI) rests on a seemingly self-evident premise: that general intelligence, the kind of flexible, domain-general cognitive capacity exemplified by Homo sapiens, is extraordinarily valuable. This paper subjects this premise to critical scrutiny. We first present the intuitive case for the value of general intelligence before mounting an evolutionary challenge. We argue that, on evolutionary timescales, its adaptive value is far from empirically established. Numerous taxa, from cyanobacteria to horseshoe crabs, have persisted for hundreds of millions or even billions of years without anything resembling general intelligence, while Homo sapiens has existed for roughly 300,000 years and already faces self-generated existential risks. Mass extinction events do not preferentially favour cognitively sophisticated species. We argue that general intelligence may be the only biological strategy that generates existential threats to the species possessing it, an existential risk paradox with no parallel among non-intelligent survival strategies. Unlike prevailing accounts of AI risk that trace the danger to misalignment, we locate it in structural features of general intelligence itself, implying that even well-aligned AGI would inherit this liability. If the long-term evolutionary value of general intelligence is uncertain or negative, this raises ethical questions about engineering AGI and, more urgently, creating artificial consciousness. Drawing on deontological ethics and the precautionary principle, we argue that this uncertainty imposes a duty of caution: if we create a new kind of intelligent being, we bear responsibility for ensuring the conditions under which it can flourish.
- Abstract（参考訳）: 汎用知能は、ホモ・サピエンスによって実証された柔軟な、ドメイン汎用認知能力の一種であり、非常に価値のあるものである。
本稿では、この前提を批判的な精査に当てる。
まず、進化的課題を提起する前に、汎用知能の価値に関する直感的なケースを提示する。
進化の時間スケールでは、適応的価値は経験的に確立されるには程遠いと我々は主張する。
シアノバクテリアからカブトガニまで、多くの分類群が、一般の知能に似ることなく、数億年、あるいは何十億年も存続してきたが、ホモ・サピエンスはおよそ30万年前から存在し、すでに自己生成のリスクに直面している。
大量絶滅は、認知学的に洗練された種を優先的に好まない。
我々は、一般知能は、知能を持たない生存戦略に平行な存在リスクパラドックスである、それを持つ種に対する実在的な脅威を生み出す唯一の生物学的戦略であると主張している。
修正の危険性を辿るAIリスクの一般的な説明とは異なり、一般の知性自体の構造的特徴の中にそのリスクを見出し、うまく整合したAGIでさえこの負債を継承することを意味する。
一般知能の長期的進化的価値が不確実または負である場合、これはエンジニアリングAGIに関する倫理的疑問を提起し、さらに緊急に人工意識を創出する。
我々は、非オントロジー倫理と予防原則に基づいて、この不確実性は警告の義務を課す: もし私たちが新しい種類の知的存在を創出すれば、我々は、それが繁栄できる条件を保証する責任を負う。
関連論文リスト
- A Definition of AGI [208.25193480759026]
人工知能の具体的な定義の欠如は、今日の専門的なAIと人間レベルの認知のギャップを曖昧にしている。
そこで本研究では,AGIを認知的多目的性と熟達度に適合するものとして,これに対応するための定量的枠組みを提案する。
論文 参考訳（メタデータ） (2025-10-21T01:28:35Z) - P: A Universal Measure of Predictive Intelligence [0.0]
AIシステムが持つとされる知性について、一般的に合意されている定義はない。
人間、動物、AIの知能を1つの比率で比較できるような実践的な尺度は、誰も開発していません。
本稿では,予測が知能の最も重要な構成要素であるという仮説に基づく,新たな普遍的な知能尺度を提案する。
論文 参考訳（メタデータ） (2025-05-30T10:05:54Z) - Evaluating Intelligence via Trial and Error [59.80426744891971]
本研究では,試行錯誤プロセスにおける失敗回数に基づいて知性を評価するためのフレームワークとして,Survival Gameを紹介した。
フェールカウントの期待と分散の両方が有限である場合、新しい課題に対するソリューションを一貫して見つける能力を示す。
我々の結果は、AIシステムは単純なタスクで自律レベルを達成するが、より複雑なタスクではまだまだ遠いことを示している。
論文 参考訳（メタデータ） (2025-02-26T05:59:45Z) - Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
我々は人間の知恵について知られているものを調べ、そのAIのビジョンをスケッチする。
AIシステムは特にメタ認知に苦しむ。
スマートAIのベンチマーク、トレーニング、実装について論じる。
論文 参考訳（メタデータ） (2024-11-04T18:10:10Z) - On a Functional Definition of Intelligence [0.0]
合意されたインテリジェンスの定義がなければ、"このシステムはインテリジェントか?
知性(intelligence)とは、哲学、心理学、認知科学の分野である。
我々は、その知性が実際に達成される方法とは異なる、純粋に機能的でブラックボックスな知性の定義について論じる。
論文 参考訳（メタデータ） (2023-12-15T05:46:49Z) - Artificial General Intelligence, Existential Risk, and Human Risk
Perception [0.0]
人工知能(AGI)はまだ存在していないが、今後20年以内に人間レベルの知能に到達することが計画されている。
AGIは、AGIの目標が人間の目標と一致し続けることを確実にするための信頼性の高い方法がないため、人間に現実的なリスクをもたらす。
世界大災害やAGIによる絶滅のリスクは、他の既存のリスクよりも大きい。
論文 参考訳（メタデータ） (2023-11-15T04:57:16Z) - The Generative AI Paradox: "What It Can Create, It May Not Understand" [81.89252713236746]
生成AIの最近の波は、潜在的に超人的な人工知能レベルに対する興奮と懸念を引き起こしている。
同時に、モデルは、専門家でない人でも期待できないような理解の基本的な誤りを示している。
一見超人的な能力と、ごく少数の人間が起こすエラーの持続性を、どうやって再現すればよいのか?
論文 参考訳（メタデータ） (2023-10-31T18:07:07Z) - Natural Selection Favors AIs over Humans [18.750116414606698]
もっとも成功したAIエージェントは、望ましくない特性を持つ可能性が高い、と私たちは主張する。
もしそのようなエージェントが人間の能力を超える知性を持っているなら、人類は未来をコントロールできなくなるかもしれない。
これらのリスクと進化の力に対抗するため、我々はAIエージェントの本質的な動機を慎重に設計するなどの介入を検討する。
論文 参考訳（メタデータ） (2023-03-28T17:59:12Z) - When to Make Exceptions: Exploring Language Models as Accounts of Human
Moral Judgment [96.77970239683475]
AIシステムは人間の道徳的判断や決定を理解し、解釈し、予測しなければなりません。
AIの安全性に対する中心的な課題は、人間の道徳心の柔軟性を捉えることだ。
ルール破りの質問応答からなる新しい課題セットを提案する。
論文 参考訳（メタデータ） (2022-10-04T09:04:27Z) - Inductive Biases for Deep Learning of Higher-Level Cognition [108.89281493851358]
興味深い仮説は、人間と動物の知性はいくつかの原則によって説明できるということである。
この研究は、主に高いレベルとシーケンシャルな意識的処理に関心のある人を中心に、より大きなリストを考察する。
これらの特定の原則を明確にする目的は、人間の能力から恩恵を受けるAIシステムを構築するのに役立つ可能性があることである。
論文 参考訳（メタデータ） (2020-11-30T18:29:25Z) - Dynamic Cognition Applied to Value Learning in Artificial Intelligence [0.0]
この分野の数人の研究者が、堅牢で有益で安全な人工知能の概念を開発しようとしている。
人工知能エージェントが人間の価値観に合わせた価値を持っていることは、最も重要である。
この問題に対する可能なアプローチは、SEDのような理論モデルを使用することである。
論文 参考訳（メタデータ） (2020-05-12T03:58:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。