論文の概要: CERN for AI: A Theoretical Framework for Autonomous Simulation-Based Artificial Intelligence Testing and Alignment

• arxiv url: http://arxiv.org/abs/2312.09402v2
• Date: Mon, 06 Jan 2025 06:32:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-07 17:04:47.062504
• Title: CERN for AI: A Theoretical Framework for Autonomous Simulation-Based Artificial Intelligence Testing and Alignment
• Title（参考訳）: CERN for AI - 自律シミュレーションに基づく人工知能テストとアライメントのための理論的フレームワーク
• Authors: Ljubisa Bojic, Matteo Cinelli, Dubravko Culibrk, Boris Delibasic,
• Abstract要約: 本研究では,現実世界の環境を再現するバーチャルリアリティー・フレームワークにおける,革新的なシミュレーションに基づくマルチエージェントシステムについて検討する。 このフレームワークは、複雑な社会構造と相互作用をシミュレートしてAIを調べ、最適化する自動化された「デジタル市民」によって人口が占められている。
• 参考スコア（独自算出の注目度）: 1.7586848727052424
• License:
• Abstract: This paper explores the potential of a multidisciplinary approach to testing and aligning artificial intelligence (AI), specifically focusing on large language models (LLMs). Due to the rapid development and wide application of LLMs, challenges such as ethical alignment, controllability, and predictability of these models emerged as global risks. This study investigates an innovative simulation-based multi-agent system within a virtual reality framework that replicates the real-world environment. The framework is populated by automated 'digital citizens,' simulating complex social structures and interactions to examine and optimize AI. Application of various theories from the fields of sociology, social psychology, computer science, physics, biology, and economics demonstrates the possibility of a more human-aligned and socially responsible AI. The purpose of such a digital environment is to provide a dynamic platform where advanced AI agents can interact and make independent decisions, thereby mimicking realistic scenarios. The actors in this digital city, operated by the LLMs, serve as the primary agents, exhibiting high degrees of autonomy. While this approach shows immense potential, there are notable challenges and limitations, most significantly the unpredictable nature of real-world social dynamics. This research endeavors to contribute to the development and refinement of AI, emphasizing the integration of social, ethical, and theoretical dimensions for future research.
• Abstract（参考訳）: 本稿では,大規模言語モデル(LLM)に特化して人工知能(AI)をテスト・調整するための多分野アプローチの可能性について検討する。 LLMの急速な開発と広範囲の応用により、これらのモデルの倫理的整合性、制御可能性、予測可能性といった課題が世界的なリスクとして浮上した。 本研究では,現実世界の環境を再現するバーチャルリアリティー・フレームワークにおける,革新的なシミュレーションに基づくマルチエージェントシステムについて検討する。 このフレームワークは、複雑な社会構造と相互作用をシミュレートしてAIを調べ、最適化する自動化された「デジタル市民」によって人口が占められている。 社会学、社会心理学、計算機科学、物理学、生物学、経済学の分野からの様々な理論の応用は、より人間らしく社会的に責任を持つAIの可能性を示している。 このようなデジタル環境の目的は、高度なAIエージェントが対話し、独立した意思決定を行い、現実的なシナリオを模倣する動的なプラットフォームを提供することである。 LLMが運営するこのデジタルシティの俳優は、高い自治度を示す主要なエージェントとして機能している。 このアプローチは大きな可能性を示しているが、顕著な課題と制限があり、最も顕著に、現実の社会的ダイナミクスの予測不可能な性質である。 この研究は、将来の研究のための社会的、倫理的、理論的次元の統合を強調し、AIの開発と洗練に貢献する努力である。

関連論文リスト

• Aligning Cyber Space with Physical World: A Comprehensive Survey on Embodied AI [129.08019405056262]
  人工知能(Embodied AI)は、人工知能(AGI)の実現に不可欠である MLMとWMは、その顕著な知覚、相互作用、推論能力のために、大きな注目を集めている。 本調査では,Embodied AIの最近の進歩を包括的に調査する。
  論文  参考訳（メタデータ） (2024-07-09T14:14:47Z)
• How Far Are We From AGI: Are LLMs All We Need? [15.705756259264932]
  AGIは、ヒューマンインテリジェンスに匹敵する効率と有効性で、多様な現実世界のタスクを実行する能力で区別されている。 本稿では、AGIに必要な機能フレームワークを概説し、内部、インターフェース、システム次元を統合する。 AIの統合によるユビキタスな影響について、具体的な洞察を得るため、複数のドメインにおけるAGIに対する既存の課題と潜在的な経路を概説する。
  論文  参考訳（メタデータ） (2024-05-16T17:59:02Z)
• LLM-Augmented Agent-Based Modelling for Social Simulations: Challenges and Opportunities [0.0]
  大きな言語モデルとエージェントベースのシミュレーションを統合することは、複雑な社会システムを理解するための変換可能性を提供する。 LLM強化社会シミュレーションを体系的に開発するためのアーキテクチャと手法について検討する。 LLMとエージェントベースのシミュレーションを統合することは、研究者や科学者に強力なツールセットを提供すると結論付けている。
  論文  参考訳（メタデータ） (2024-05-08T08:57:54Z)
• Position Paper: Agent AI Towards a Holistic Intelligence [53.35971598180146]
  エージェントAI - 大きな基盤モデルをエージェントアクションに統合する具体的システム。 本稿では,エージェント・ファウンデーション・モデル(エージェント・ファウンデーション・モデル)を提案する。
  論文  参考訳（メタデータ） (2024-02-28T16:09:56Z)
• On the Emergence of Symmetrical Reality [51.21203247240322]
  物理仮想アマルガメーションの様々な形態を包含した統一表現を提供する対称現実感フレームワークを導入する。 我々は、対称現実の潜在的な応用を示すAI駆動型アクティブアシストサービスの例を提案する。
  論文  参考訳（メタデータ） (2024-01-26T16:09:39Z)
• Balancing Autonomy and Alignment: A Multi-Dimensional Taxonomy for Autonomous LLM-powered Multi-Agent Architectures [0.0]
  大規模言語モデル(LLM)は、洗練された言語理解と生成能力を備えた人工知能の分野に革命をもたらした。 本稿では,LLMを用いた自律型マルチエージェントシステムが自律性とアライメントの動的相互作用をどのようにバランスさせるかを分析するために,総合的な多次元分類法を提案する。
  論文  参考訳（メタデータ） (2023-10-05T16:37:29Z)
• The Future of Fundamental Science Led by Generative Closed-Loop Artificial Intelligence [67.70415658080121]
  機械学習とAIの最近の進歩は、技術革新、製品開発、社会全体を破壊している。 AIは、科学的な実践とモデル発見のための高品質なデータの大規模なデータセットへのアクセスがより困難であるため、基礎科学にはあまり貢献していない。 ここでは、科学的な発見に対するAI駆動、自動化、クローズドループアプローチの側面を調査し、調査する。
  論文  参考訳（メタデータ） (2023-07-09T21:16:56Z)
• Machine Psychology [54.287802134327485]
  我々は、心理学にインスパイアされた行動実験において、研究のための実りある方向が、大きな言語モデルに係わっていると論じる。 本稿では,本手法が表に示す理論的視点,実験パラダイム,計算解析技術について述べる。 これは、パフォーマンスベンチマークを超えた、生成人工知能(AI)のための「機械心理学」の道を開くものだ。
  論文  参考訳（メタデータ） (2023-03-24T13:24:41Z)
• RoboTHOR: An Open Simulation-to-Real Embodied AI Platform [56.50243383294621]
  インタラクティブで具体化された視覚AIの研究を民主化するためにRoboTHORを導入する。 シミュレーションで訓練されたモデルの性能は,シミュレーションと慎重に構築された物理アナログの両方で試験される場合,大きな差があることが示される。
  論文  参考訳（メタデータ） (2020-04-14T20:52:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。