論文の概要: CERN for AGI: A Theoretical Framework for Autonomous Simulation-Based
Artificial Intelligence Testing and Alignment
- arxiv url: http://arxiv.org/abs/2312.09402v1
- Date: Thu, 14 Dec 2023 23:48:51 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-18 17:36:25.985342
- Title: CERN for AGI: A Theoretical Framework for Autonomous Simulation-Based
Artificial Intelligence Testing and Alignment
- Title(参考訳): CERN for AGI - 自律シミュレーションに基づく人工知能テストとアライメントのための理論的フレームワーク
- Authors: Ljubisa Bojic, Matteo Cinelli, Dubravko Culibrk, Boris Delibasic
- Abstract要約: 本研究では,現実世界の環境を再現するバーチャルリアリティー・フレームワークにおける,革新的なシミュレーションに基づくマルチエージェントシステムについて検討する。
このフレームワークは、複雑な社会構造と相互作用をシミュレートし、AGIを検査し最適化する自動化された「デジタル市民」によって人口が占められている。
- 参考スコア(独自算出の注目度): 1.9212368803706583
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: This paper explores the potential of a multidisciplinary approach to testing
and aligning artificial general intelligence (AGI) and LLMs. Due to the rapid
development and wide application of LLMs, challenges such as ethical alignment,
controllability, and predictability of these models have become important
research topics. This study investigates an innovative simulation-based
multi-agent system within a virtual reality framework that replicates the
real-world environment. The framework is populated by automated 'digital
citizens,' simulating complex social structures and interactions to examine and
optimize AGI. Application of various theories from the fields of sociology,
social psychology, computer science, physics, biology, and economics
demonstrates the possibility of a more human-aligned and socially responsible
AGI. The purpose of such a digital environment is to provide a dynamic platform
where advanced AI agents can interact and make independent decisions, thereby
mimicking realistic scenarios. The actors in this digital city, operated by the
LLMs, serve as the primary agents, exhibiting high degrees of autonomy. While
this approach shows immense potential, there are notable challenges and
limitations, most significantly the unpredictable nature of real-world social
dynamics. This research endeavors to contribute to the development and
refinement of AGI, emphasizing the integration of social, ethical, and
theoretical dimensions for future research.
- Abstract(参考訳): 本稿では,人工知能(AGI)とLLMの多分野的アプローチの可能性について検討する。
LLMの急速な開発と適用により、これらのモデルの倫理的整合性、制御可能性、予測可能性といった課題が重要な研究トピックとなっている。
本研究では,実世界環境を再現する仮想現実フレームワークにおける,革新的なシミュレーションベースのマルチエージェントシステムについて検討する。
このフレームワークには、複雑な社会構造と相互作用をシミュレートし、agiを検証および最適化する自動化された「デジタル市民」が住んでいる。
社会学、社会心理学、計算機科学、物理学、生物学、経済学の分野からの様々な理論の応用は、より人間らしく社会的に責任を持つAGIの可能性を示している。
このようなデジタル環境の目的は、高度なAIエージェントが対話し、独立した意思決定を行い、現実的なシナリオを模倣する動的なプラットフォームを提供することである。
LLMが運営するこのデジタルシティの俳優は、高い自治度を示す主要なエージェントとして機能している。
このアプローチは大きな可能性を示しているが、顕著な課題と制限があり、最も顕著に、現実の社会的ダイナミクスの予測不可能な性質である。
この研究は、将来の研究のために社会的、倫理的、理論的次元の統合を強調し、AGIの開発と改良に貢献する。
関連論文リスト
- Foundations of Multisensory Artificial Intelligence [32.56967614091527]
この論文は、多感覚AIの機械学習基盤を前進させることを目的としている。
第1部では,タスクに対する新たな情報を生み出すために,モーダルティが相互にどのように相互作用するかを定式化する理論的枠組みを提案する。
第2部では、多くのモダリティやタスクを一般化する実用的なマルチモーダル基礎モデルの設計について検討する。
論文 参考訳(メタデータ) (2024-04-29T14:45:28Z) - Learning World Models With Hierarchical Temporal Abstractions: A Probabilistic Perspective [2.61072980439312]
内部世界モデルを開発するためのフォーマリズムの開発は、人工知能と機械学習の分野における重要な研究課題である。
この論文は、状態空間モデルを内部世界モデルとして広く用いられることによるいくつかの制限を識別する。
形式主義におけるモデルの構造は、信念の伝播を用いた正確な確率的推論を促進するとともに、時間を通してのバックプロパゲーションによるエンドツーエンドの学習を促進する。
これらの形式主義は、世界の状態における不確実性の概念を統合し、現実世界の性質をエミュレートし、その予測の信頼性を定量化する能力を向上させる。
論文 参考訳(メタデータ) (2024-04-24T12:41:04Z) - Position Paper: Agent AI Towards a Holistic Intelligence [53.35971598180146]
エージェントAI - 大きな基盤モデルをエージェントアクションに統合する具体的システム。
本稿では,エージェント・ファウンデーション・モデル(エージェント・ファウンデーション・モデル)を提案する。
論文 参考訳(メタデータ) (2024-02-28T16:09:56Z) - On the Emergence of Symmetrical Reality [51.21203247240322]
物理仮想アマルガメーションの様々な形態を包含した統一表現を提供する対称現実感フレームワークを導入する。
我々は、対称現実の潜在的な応用を示すAI駆動型アクティブアシストサービスの例を提案する。
論文 参考訳(メタデータ) (2024-01-26T16:09:39Z) - Agent AI: Surveying the Horizons of Multimodal Interaction [83.18367129924997]
エージェントAI(Agent AI)とは、視覚刺激や言語入力、その他の環境データを知覚できる対話型システムである。
我々は,バーチャルリアリティやシミュレートされたシーンを容易に作成し,仮想環境内に具体化されたエージェントと対話できる未来を構想する。
論文 参考訳(メタデータ) (2024-01-07T19:11:18Z) - SOTOPIA: Interactive Evaluation for Social Intelligence in Language Agents [107.4138224020773]
人工エージェントと人間との複雑な社会的相互作用をシミュレートするオープンエンド環境であるSOTOPIAを提案する。
エージェントは、複雑な社会的目標を達成するために協調し、協力し、交換し、互いに競い合う。
GPT-4は,人間よりも目標達成率が著しく低く,社会的常識的推論や戦略的コミュニケーション能力の発揮に苦慮していることがわかった。
論文 参考訳(メタデータ) (2023-10-18T02:27:01Z) - Balancing Autonomy and Alignment: A Multi-Dimensional Taxonomy for
Autonomous LLM-powered Multi-Agent Architectures [0.0]
大規模言語モデル(LLM)は、洗練された言語理解と生成能力を備えた人工知能の分野に革命をもたらした。
本稿では,LLMを用いた自律型マルチエージェントシステムが自律性とアライメントの動的相互作用をどのようにバランスさせるかを分析するために,総合的な多次元分類法を提案する。
論文 参考訳(メタデータ) (2023-10-05T16:37:29Z) - The Future of Fundamental Science Led by Generative Closed-Loop
Artificial Intelligence [67.70415658080121]
機械学習とAIの最近の進歩は、技術革新、製品開発、社会全体を破壊している。
AIは、科学的な実践とモデル発見のための高品質なデータの大規模なデータセットへのアクセスがより困難であるため、基礎科学にはあまり貢献していない。
ここでは、科学的な発見に対するAI駆動、自動化、クローズドループアプローチの側面を調査し、調査する。
論文 参考訳(メタデータ) (2023-07-09T21:16:56Z) - RoboTHOR: An Open Simulation-to-Real Embodied AI Platform [56.50243383294621]
インタラクティブで具体化された視覚AIの研究を民主化するためにRoboTHORを導入する。
シミュレーションで訓練されたモデルの性能は,シミュレーションと慎重に構築された物理アナログの両方で試験される場合,大きな差があることが示される。
論文 参考訳(メタデータ) (2020-04-14T20:52:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。