論文の概要: Possible principles for aligned structure learning agents

• arxiv url: http://arxiv.org/abs/2410.00258v1
• Date: Mon, 30 Sep 2024 22:06:06 GMT
• ステータス: 処理完了
• システム内更新日: 2024-11-05 06:46:17.066691
• Title: Possible principles for aligned structure learning agents
• Title（参考訳）: 整列型構造学習エージェントの原理
• Authors: Lancelot Da Costa, Tomáš Gavenčiak, David Hyland, Mandana Samiei, Cristian Dragos-Manta, Candice Pattisapu, Adeel Razi, Karl Friston,
• Abstract要約: スケーラブルなAIへの道のりは、人工知能が私たちの好みのよいモデルを含む世界の良いモデルを学習できるようにすることにあります。 本稿では,構造学習におけるコア知識,情報幾何学,モデル縮小の本質的役割について論じる。 アシモフの『ロボットの法則』は、エージェントが他のエージェントの悪影響を最小限に抑えるために慎重に行動するよう規定している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper offers a roadmap for the development of scalable aligned artificial intelligence (AI) from first principle descriptions of natural intelligence. In brief, a possible path toward scalable aligned AI rests upon enabling artificial agents to learn a good model of the world that includes a good model of our preferences. For this, the main objective is creating agents that learn to represent the world and other agents' world models; a problem that falls under structure learning (a.k.a. causal representation learning). We expose the structure learning and alignment problems with this goal in mind, as well as principles to guide us forward, synthesizing various ideas across mathematics, statistics, and cognitive science. 1) We discuss the essential role of core knowledge, information geometry and model reduction in structure learning, and suggest core structural modules to learn a wide range of naturalistic worlds. 2) We outline a way toward aligned agents through structure learning and theory of mind. As an illustrative example, we mathematically sketch Asimov's Laws of Robotics, which prescribe agents to act cautiously to minimize the ill-being of other agents. We supplement this example by proposing refined approaches to alignment. These observations may guide the development of artificial intelligence in helping to scale existing -- or design new -- aligned structure learning systems.
• Abstract（参考訳）: 本稿では,自然知能の第一原理記述から,スケーラブルなアライメント人工知能(AI)開発へのロードマップを提供する。 簡単に言うと、スケーラブルなアライメントAIへの道のりは、人工知能が私たちの好みのよいモデルを含む世界の良いモデルを学習できるようにすることにあります。 この目的のために、主な目的は、世界と他のエージェントの世界モデルを表現することを学習するエージェントを作成することであり、構造学習(因果表現学習)に該当する問題である。 我々は、この目標を念頭に置いて構造学習とアライメントの問題を明らかにし、数学、統計学、認知科学にまたがる様々なアイデアを合成し、私たちを先導する原則を公表する。 1) 構造学習におけるコア知識, 情報幾何学, モデル縮小の本質的役割を論じ, 幅広い自然主義世界を学ぶために, コア構造モジュールを提案する。 2) 構造学習と心の理論を通して, 協調エージェントへの道のりを概説する。 アシモフの『ロボットの法則』は、エージェントが他のエージェントの悪影響を最小限に抑えるために慎重に行動するよう規定している。 この例は、アライメントに対する洗練されたアプローチを提案することで補います。 これらの観察は、既存の -- あるいは新しい -- 整列した構造学習システムの設計を支援するために、人工知能の開発を導くかもしれない。

関連論文リスト

• VisualPredicator: Learning Abstract World Models with Neuro-Symbolic Predicates for Robot Planning [86.59849798539312]
  本稿では,記号的・神経的知識表現の強みを組み合わせた一階抽象言語Neuro-Symbolic Predicatesを提案する。 提案手法は, サンプルの複雑さの向上, 分布外一般化の強化, 解釈可能性の向上を実現する。
  論文  参考訳（メタデータ） (2024-10-30T16:11:05Z)
• SciAgents: Automating scientific discovery through multi-agent intelligent graph reasoning [0.0]
  人工知能の鍵となる課題は、科学的理解を自律的に進めるシステムを作ることである。 3つのコア概念を活用するアプローチであるSciAgentsを提案する。 この枠組みは研究仮説を自律的に生成し、基礎となるメカニズム、設計原則、予期せぬ材料特性を解明する。 我々のケーススタディでは、生成AI、オントロジ表現、マルチエージェントモデリングを組み合わせて、生物学的システムに似た知能の群を活用できるスケーラブルな能力を実証している。
  論文  参考訳（メタデータ） (2024-09-09T12:25:10Z)
• Position Paper: Agent AI Towards a Holistic Intelligence [53.35971598180146]
  エージェントAI - 大きな基盤モデルをエージェントアクションに統合する具体的システム。 本稿では,エージェント・ファウンデーション・モデル(エージェント・ファウンデーション・モデル)を提案する。
  論文  参考訳（メタデータ） (2024-02-28T16:09:56Z)
• Pangu-Agent: A Fine-Tunable Generalist Agent with Structured Reasoning [50.47568731994238]
  人工知能(AI)エージェント作成の鍵となる方法は強化学習(RL)である 本稿では,構造化推論をAIエージェントのポリシーに統合し,学習するための一般的なフレームワークモデルを提案する。
  論文  参考訳（メタデータ） (2023-12-22T17:57:57Z)
• Active Predictive Coding: A Unified Neural Framework for Learning Hierarchical World Models for Perception and Planning [1.3535770763481902]
  能動予測符号化と呼ばれる予測符号化のための新しいフレームワークを提案する。 階層的な世界モデルを学び、AIの2つの根本的に異なるオープン問題を解くことができる。
  論文  参考訳（メタデータ） (2022-10-23T05:44:22Z)
• WenLan 2.0: Make AI Imagine via a Multimodal Foundation Model [74.4875156387271]
  我々は,膨大なマルチモーダル(視覚的・テキスト的)データを事前学習した新しい基礎モデルを開発する。 そこで本研究では,様々な下流タスクにおいて,最先端の成果が得られることを示す。
  論文  参考訳（メタデータ） (2021-10-27T12:25:21Z)
• A Metamodel and Framework for Artificial General Intelligence From Theory to Practice [11.756425327193426]
  本稿では,自律学習と適応性を大幅に向上させるメタモデルに基づく知識表現を提案する。 我々は,時系列解析,コンピュータビジョン,自然言語理解といった問題にメタモデルを適用した。 メタモデルの驚くべき結果のひとつは、新たなレベルの自律的な学習と、マシンインテリジェンスのための最適な機能を可能にするだけでなく、それを可能にすることだ。
  論文  参考訳（メタデータ） (2021-02-11T16:45:58Z)
• Concept Learners for Few-Shot Learning [76.08585517480807]
  本研究では,人間の解釈可能な概念次元に沿って学習することで,一般化能力を向上させるメタ学習手法であるCOMETを提案する。 我々は,細粒度画像分類,文書分類,セルタイプアノテーションなど,さまざまな領域からの少数ショットタスクによるモデルの評価を行った。
  論文  参考訳（メタデータ） (2020-07-14T22:04:17Z)
• A general framework for scientifically inspired explanations in AI [76.48625630211943]
  我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。 このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
  論文  参考訳（メタデータ） (2020-03-02T10:32:21Z)
• Intelligence, physics and information -- the tradeoff between accuracy and simplicity in machine learning [5.584060970507507]
  私は、インテリジェンスを多くの統合的な側面で見ることと、タスクのパフォーマンスと複雑さの間の普遍的な2日間のトレードオフは、2つの実現可能な視点を提供すると信じています。 この論文では、インテリジェンスのいくつかの側面においていくつかの重要な問題に対処し、2期間のトレードオフにおける相転移について研究する。
  論文  参考訳（メタデータ） (2020-01-11T18:34:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。