論文の概要: Keep the Future Human: Why and How We Should Close the Gates to AGI and Superintelligence, and What We Should Build Instead

• arxiv url: http://arxiv.org/abs/2311.09452v4
• Date: Fri, 07 Mar 2025 12:10:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-10 12:23:21.687165
• Title: Keep the Future Human: Why and How We Should Close the Gates to AGI and Superintelligence, and What We Should Build Instead
• Title（参考訳）: 未来の人間を維持する:AGIと超知性への門を閉じるべき理由と方法、その代わりに構築すべきもの
• Authors: Anthony Aguirre,
• Abstract要約: AIの進歩は、AIをニッチな学術分野から、世界最大の企業の中核的なビジネス戦略へと変えた。 このエッセイでは、人間よりも賢く自律的で汎用的なAIに「ゲート」を閉じることで、未来の人間を維持するべきだと論じています。 代わりに私たちは、個人を力づけ、最善を尽くすための人間の社会の能力を変革的に改善できる、強力で信頼できるAIツールに焦点を当てるべきです。
• 参考スコア（独自算出の注目度）: 0.20919309330073077
• License:
• Abstract: Dramatic advances in artificial intelligence over the past decade (for narrow-purpose AI) and the last several years (for general-purpose AI) have transformed AI from a niche academic field to the core business strategy of many of the world's largest companies, with hundreds of billions of dollars in annual investment in the techniques and technologies for advancing AI's capabilities. We now come to a critical juncture. As the capabilities of new AI systems begin to match and exceed those of humans across many cognitive domains, humanity must decide: how far do we go, and in what direction? This essay argues that we should keep the future human by closing the "gates" to smarter-than-human, autonomous, general-purpose AI -- sometimes called "AGI" -- and especially to the highly-superhuman version sometimes called "superintelligence." Instead, we should focus on powerful, trustworthy AI tools that can empower individuals and transformatively improve human societies' abilities to do what they do best.
• Abstract（参考訳）: 人工知能の過去10年間(狭義のAI)と過去数年間(汎用AI)の劇的な進歩は、AIをニッチな学術分野から、世界中の大企業のコアビジネス戦略に転換し、AIの能力向上のための技術と技術に毎年数十億ドルの投資をしている。 私たちは今、批判的な判断を下している。 新しいAIシステムの能力が、多くの認知領域にまたがる人間の能力に匹敵し始め、人類が決定しなければならない。 このエッセイは、「ゲート」を人間よりも賢く自律的で汎用的なAI(時に「AGI」と呼ばれる)、特に「超知能」と呼ばれる超人的なバージョンに閉ざすことで、未来の人間を維持するべきだと論じている。 代わりに私たちは、個人を力づけ、最善を尽くすための人間の社会の能力を変革的に改善できる、強力で信頼できるAIツールに焦点を当てるべきです。

関連論文リスト

• Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
  AIシステムは知恵を欠いている。 AI研究はタスクレベルの戦略に焦点を当てているが、メタ認知はAIシステムでは未発達である。 メタ認知機能をAIシステムに統合することは、その堅牢性、説明可能性、協力性、安全性を高めるために不可欠である。
  論文  参考訳（メタデータ） (2024-11-04T18:10:10Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• Natural Selection Favors AIs over Humans [18.750116414606698]
  もっとも成功したAIエージェントは、望ましくない特性を持つ可能性が高い、と私たちは主張する。 もしそのようなエージェントが人間の能力を超える知性を持っているなら、人類は未来をコントロールできなくなるかもしれない。 これらのリスクと進化の力に対抗するため、我々はAIエージェントの本質的な動機を慎重に設計するなどの介入を検討する。
  論文  参考訳（メタデータ） (2023-03-28T17:59:12Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• The Turing Trap: The Promise & Peril of Human-Like Artificial Intelligence [1.9143819780453073]
  人間のような人工知能の利点には、生産性の上昇、余暇の増加、そしておそらく最も重要なのは、私たちの心をよりよく理解することが含まれる。 しかし、あらゆるタイプのAIが人間に似ているわけではない。実際、最も強力なシステムの多くは、人間とは大きく異なる。 機械が人間の労働の代用となるにつれ、労働者は経済的・政治的交渉力を失う。 対照的に、AIが人間を模倣するのではなく強化することに焦点を当てている場合、人間は創造された価値の共有を主張する力を保持します。
  論文  参考訳（メタデータ） (2022-01-11T21:07:17Z)
• Making AI 'Smart': Bridging AI and Cognitive Science [0.0]
  認知科学の統合により、人工知能の「人工的な」特徴はすぐに「スマート」に置き換えられるかもしれない これにより、より強力なAIシステムが開発され、同時に人間の脳がどのように機能するかをよりよく理解できるようになる。 このような高度なシステムを開発するためには、まず人間の脳をよりよく理解する必要があるため、AIが人間の文明を乗っ取る可能性は低いと我々は主張する。
  論文  参考訳（メタデータ） (2021-12-31T09:30:44Z)
• Trustworthy AI: A Computational Perspective [54.80482955088197]
  我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。 各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
  論文  参考訳（メタデータ） (2021-07-12T14:21:46Z)
• Empowering Things with Intelligence: A Survey of the Progress, Challenges, and Opportunities in Artificial Intelligence of Things [98.10037444792444]
  AIがIoTをより速く、より賢く、よりグリーンで、より安全にするための力を与える方法を示します。 まず、認識、学習、推論、行動の4つの視点から、IoTのためのAI研究の進歩を示す。 最後に、私たちの世界を深く再形成する可能性が高いAIoTの有望な応用をいくつかまとめる。
  論文  参考訳（メタデータ） (2020-11-17T13:14:28Z)
• On Controllability of AI [1.370633147306388]
  我々は、高度なAIを完全に制御できないことを示す証拠だけでなく、議論も提示する。 人類の未来とAI研究、そしてAIの安全性とセキュリティについて、AIの制御不能な結果について議論する。
  論文  参考訳（メタデータ） (2020-07-19T02:49:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。