論文の概要: Open-Endedness is Essential for Artificial Superhuman Intelligence
- arxiv url: http://arxiv.org/abs/2406.04268v1
- Date: Thu, 6 Jun 2024 17:15:02 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-07 13:50:11.820138
- Title: Open-Endedness is Essential for Artificial Superhuman Intelligence
- Title（参考訳）: オープンエンドレスネスは人工超人的知能に欠かせない
- Authors: Edward Hughes, Michael Dennis, Jack Parker-Holder, Feryal Behbahani, Aditi Mavalankar, Yuge Shi, Tom Schaul, Tim Rocktaschel,
- Abstract要約: 我々は,人間の観察者に対して,AIシステムにおける開放性を達成するための材料が現在存在することを論じる。
我々は、一般の能力を持つオープンAIの安全性への影響を検証して結論付ける。
- 参考スコア（独自算出の注目度）: 19.381655909809776
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In recent years there has been a tremendous surge in the general capabilities of AI systems, mainly fuelled by training foundation models on internetscale data. Nevertheless, the creation of openended, ever self-improving AI remains elusive. In this position paper, we argue that the ingredients are now in place to achieve openendedness in AI systems with respect to a human observer. Furthermore, we claim that such open-endedness is an essential property of any artificial superhuman intelligence (ASI). We begin by providing a concrete formal definition of open-endedness through the lens of novelty and learnability. We then illustrate a path towards ASI via open-ended systems built on top of foundation models, capable of making novel, humanrelevant discoveries. We conclude by examining the safety implications of generally-capable openended AI. We expect that open-ended foundation models will prove to be an increasingly fertile and safety-critical area of research in the near future.
- Abstract（参考訳）: 近年、AIシステムの一般的な能力は飛躍的に急増しており、主にインターネットスケールデータに関する基礎モデルのトレーニングによって支えられている。
それでも、オープンで、常に自己改善するAIの創造は、いまだにあり得ない。
本稿では,人間の観察者に対して,AIシステムにおける開放性を実現するための材料が現在存在することを論じる。
さらに、そのような開放性は、いかなる人工超人的知能(ASI)においても不可欠な性質であると主張する。
まず、新規性と学習可能性のレンズを通して、オープンディペンデントを明確に定義することから始める。
次に、ファンデーションモデル上に構築されたオープンエンドシステムを通じてAISへの道を示し、新しい人間関係の発見を可能にする。
我々は、一般の能力を持つオープンAIの安全性への影響を検証して結論付ける。
オープンエンドのファンデーションモデルは、近い将来、ますます肥大化し、安全に欠かせない研究領域になると予想している。
関連論文リスト
- Open-world Machine Learning: A Review and New Outlooks [83.6401132743407]
本稿では,新たなオープンワールド機械学習パラダイムを包括的に紹介することを目的としている。
研究者がそれぞれの分野でより強力なAIシステムを構築するのを支援し、人工知能の開発を促進することを目的としている。
論文 参考訳（メタデータ） (2024-03-04T06:25:26Z) - Position Paper: Agent AI Towards a Holistic Intelligence [53.35971598180146]
エージェントAI - 大きな基盤モデルをエージェントアクションに統合する具体的システム。
本稿では,エージェント・ファウンデーション・モデル(エージェント・ファウンデーション・モデル)を提案する。
論文 参考訳（メタデータ） (2024-02-28T16:09:56Z) - A call for embodied AI [1.7544885995294304]
我々は、人工知能の次の基本ステップとして、エンボディードAIを提案する。
Embodied AIの範囲を広げることで、認知アーキテクチャに基づく理論的枠組みを導入する。
このフレームワークはFristonのアクティブな推論原則と一致しており、EAI開発に対する包括的なアプローチを提供する。
論文 参考訳（メタデータ） (2024-02-06T09:11:20Z) - The Future of Fundamental Science Led by Generative Closed-Loop
Artificial Intelligence [67.70415658080121]
機械学習とAIの最近の進歩は、技術革新、製品開発、社会全体を破壊している。
AIは、科学的な実践とモデル発見のための高品質なデータの大規模なデータセットへのアクセスがより困難であるため、基礎科学にはあまり貢献していない。
ここでは、科学的な発見に対するAI駆動、自動化、クローズドループアプローチの側面を調査し、調査する。
論文 参考訳（メタデータ） (2023-07-09T21:16:56Z) - Suffering Toasters -- A New Self-Awareness Test for AI [0.0]
現在のインテリジェンステストはすべて、インテリジェンスの存在や欠如を示すには不十分である、と我々は主張する。
人工自己認識のための新しい手法を提案し,その実装の概要を述べる。
論文 参考訳（メタデータ） (2023-06-29T18:58:01Z) - Intent-aligned AI systems deplete human agency: the need for agency
foundations research in AI safety [2.3572498744567127]
人間の意図の一致は、安全なAIシステムには不十分である、と我々は主張する。
我々は、人類の長期的機関の保存がより堅牢な標準であると論じている。
論文 参考訳（メタデータ） (2023-05-30T17:14:01Z) - Recognition of All Categories of Entities by AI [20.220102335024706]
本稿では,オントロジ・セクテットを包括的技術地図として見るための新たな議論的選択肢を提案する。
近い将来、AIは人間と同じ程度に様々な実体を認識できるようになると予測しています。
論文 参考訳（メタデータ） (2022-08-13T08:00:42Z) - WenLan 2.0: Make AI Imagine via a Multimodal Foundation Model [74.4875156387271]
我々は,膨大なマルチモーダル(視覚的・テキスト的)データを事前学習した新しい基礎モデルを開発する。
そこで本研究では,様々な下流タスクにおいて,最先端の成果が得られることを示す。
論文 参考訳（メタデータ） (2021-10-27T12:25:21Z) - Trustworthy AI: A Computational Perspective [54.80482955088197]
我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。
各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
論文 参考訳（メタデータ） (2021-07-12T14:21:46Z) - Empowering Things with Intelligence: A Survey of the Progress,
Challenges, and Opportunities in Artificial Intelligence of Things [98.10037444792444]
AIがIoTをより速く、より賢く、よりグリーンで、より安全にするための力を与える方法を示します。
まず、認識、学習、推論、行動の4つの視点から、IoTのためのAI研究の進歩を示す。
最後に、私たちの世界を深く再形成する可能性が高いAIoTの有望な応用をいくつかまとめる。
論文 参考訳（メタデータ） (2020-11-17T13:14:28Z) - Open Questions in Creating Safe Open-ended AI: Tensions Between Control
and Creativity [15.60659580411643]
オープンエンド進化と人工生命は、オープンエンドAIの理解に大きく貢献している。
本稿では、オープンエンドAIには、オープンエンドシステムの創造性を生産的かつ予測的に制御できるかどうかという、独自の安全性上の課題がある、と論じる。
論文 参考訳（メタデータ） (2020-06-12T22:28:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。