論文の概要: A Formalisation of the Purpose Framework: the Autonomy-Alignment Problem in Open-Ended Learning Robots

• arxiv url: http://arxiv.org/abs/2403.02514v2
• Date: Mon, 07 Apr 2025 17:46:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-08 14:06:50.518189
• Title: A Formalisation of the Purpose Framework: the Autonomy-Alignment Problem in Open-Ended Learning Robots
• Title（参考訳）: 目的フレームワークの形式化:オープンエンド学習ロボットにおける自律調整問題
• Authors: Gianluca Baldassarre, Richard J. Duro, Emilio Cartoni, Mehdi Khamassi, Alejandro Romero, Vieri Giuliano Santucci,
• Abstract要約: 自律性と制御のバランスをとる自律ロボットの設計を支援するための計算フレームワークを提案する。 人間の目的は、人間がロボットに学ばせるか、やらないかを規定する。 このフレームワークは、自律的なアライメント問題を、より難解なサブプロブレムに分解する。
• 参考スコア（独自算出の注目度）: 39.94239759860999
• License:
• Abstract: The unprecedented advancement of artificial intelligence enables the development of increasingly autonomous robots. These robots hold significant potential, particularly in moving beyond engineered factory settings to operate in the unstructured environments inhabited by humans. However, this possibility also generates a relevant autonomy-alignment problem to ensure that robots' autonomous learning processes still focus on acquiring knowledge relevant to accomplish human practical purposes, while their behaviour still aligns with their broader purposes. The literature has only begun to address this problem, and a conceptual, terminological, and formal framework is still lacking. Here we address one of the most challenging instances of the problem: autonomous open-ended learning (OEL) robots, capable of cumulatively acquiring new skills and knowledge through direct interaction with the environment, guided by self-generated goals and intrinsic motivations. In particular, we propose a computational framework, first introduced qualitatively and then formalised, to support the design of OEL robot architectures that balance autonomy and control. The framework pivots on the novel concept of purpose. A human purpose specifies what humans (e.g., designers or users) want the robot to learn, do or not do, within a certain boundary of autonomy and independently of the domains in which it operates.The framework decomposes the autonomy-alignment problem into more tractable sub-problems: the alignment of `robot purposes' with human purposes, either by hardwiring or through learning; the arbitration between multiple purposes; the grounding of purposes into specific domain-dependent robot goals; and the competence acquisition needed to accomplish these goals. The framework and its potential utility are further elucidated through the discussion of hypothetical example scenarios framed within it.
• Abstract（参考訳）: 人工知能の先例のない進歩は、ますます自律的なロボットの開発を可能にする。 これらのロボットは大きな可能性を秘めており、特に人が住んでいる非構造環境での作業のために、エンジニアリングされた工場環境を超えて移動している。 しかし、この可能性はまた、ロボットの自律学習プロセスが人間の実践的な目的を達成するための知識獲得に引き続き集中することを保証するための、関連する自律調整問題も生み出す。 文学はこの問題にのみ対処し始めており、概念的、用語的、形式的な枠組みはいまだに欠落している。 自律的オープンエンド学習(OEL)ロボットは、自己生成目標と本質的なモチベーションによって導かれる環境との直接的な相互作用を通じて、新たなスキルと知識を累積的に獲得することができる。 特に,自律性と制御のバランスをとるOELロボットアーキテクチャの設計を支援するために,まず定性的に導入され,次に形式化された計算フレームワークを提案する。 この枠組みは、新しい目的の概念に基づいている。 人間の目的は、人間(例えば、デザイナーやユーザ)が、自律性のある領域の特定の境界内で、その動作するドメインから独立して、ロボットが何を学ぼうとするかを学習することである。このフレームワークは、自律性アライメント問題をより難解なサブプロブレムに分解する:「ロボットの目的」を、ハードワイリングまたは学習を通じて、人間の目的に合わせること、複数の目的の仲裁、目的を特定のドメイン依存のロボットの目標に基礎付けること、これらの目標を達成するために必要な能力獲得である。 フレームワークとその潜在的なユーティリティは、仮説的なシナリオの議論を通じてさらに解明される。

関連論文リスト

• Growing from Exploration: A self-exploring framework for robots based on foundation models [13.250831101705694]
  我々は、ロボットが人間の介入なしに自律的に探索し学習することを可能にするGExpというフレームワークを提案する。 幼児が世界と対話する方法に触発されて、GExpはロボットに、一連の自己生成タスクで環境を理解し、探索するように促す。
  論文  参考訳（メタデータ） (2024-01-24T14:04:08Z)
• Toward General-Purpose Robots via Foundation Models: A Survey and Meta-Analysis [82.59451639072073]
  汎用ロボットはどんな環境でも、どんな物体でもシームレスに動作し、様々なスキルを使って様々なタスクをこなす。 コミュニティとしては、特定のタスク用に設計し、特定のデータセットでトレーニングし、特定の環境にデプロイすることで、ほとんどのロボットシステムを制約してきました。 ウェブスケールで大規模で大容量の事前学習型モデルの優れたオープンセット性能とコンテンツ生成能力に感銘を受けて,本調査は,汎用ロボティクスに基礎モデルを適用する方法について検討した。
  論文  参考訳（メタデータ） (2023-12-14T10:02:55Z)
• CASPER: Cognitive Architecture for Social Perception and Engagement in Robots [0.5918643136095765]
  本稿では,他のエージェントの追求目標を予測し,最適な協調行動を計算するために,定性的空間推論を用いた記号的認知アーキテクチャであるCASPERを提案する。 我々は、このアーキテクチャをシミュレーションされたキッチン環境でテストし、収集した結果から、ロボットが進行中の目標を認識し、その達成に向けて適切に協力できることが分かる。
  論文  参考訳（メタデータ） (2022-09-01T10:15:03Z)
• Autonomous Open-Ended Learning of Tasks with Non-Stationary Interdependencies [64.0476282000118]
  固有のモチベーションは、目標間のトレーニング時間を適切に割り当てるタスクに依存しないシグナルを生成することが証明されている。 内在的に動機付けられたオープンエンドラーニングの分野におけるほとんどの研究は、目標が互いに独立しているシナリオに焦点を当てているが、相互依存タスクの自律的な獲得を研究するのはごくわずかである。 特に,タスク間の関係に関する情報をアーキテクチャのより高レベルなレベルで組み込むことの重要性を示す。 そして、自律的に取得したシーケンスを格納する新しい学習層を追加することで、前者を拡張する新しいシステムであるH-GRAILを紹介する。
  論文  参考訳（メタデータ） (2022-05-16T10:43:01Z)
• Can Foundation Models Perform Zero-Shot Task Specification For Robot Manipulation? [54.442692221567796]
  タスク仕様は、熟練していないエンドユーザの関与とパーソナライズされたロボットの採用に不可欠である。 タスク仕様に対する広く研究されているアプローチは、目標を通じて、コンパクトな状態ベクトルまたは同じロボットシーンのゴールイメージを使用することである。 そこで本研究では,人間の指定や使用が容易な目標仕様の代替的,より汎用的な形式について検討する。
  論文  参考訳（メタデータ） (2022-04-23T19:39:49Z)
• From Machine Learning to Robotics: Challenges and Opportunities for Embodied Intelligence [113.06484656032978]
  記事は、インテリジェンスが機械学習技術の進歩の鍵を握っていると主張している。 私たちは、インテリジェンスを具体化するための課題と機会を強調します。 本稿では,ロボット学習の最先端性を著しく向上させる研究の方向性を提案する。
  論文  参考訳（メタデータ） (2021-10-28T16:04:01Z)
• Actionable Models: Unsupervised Offline Reinforcement Learning of Robotic Skills [93.12417203541948]
  与えられたデータセットの任意の目標状態に到達するために学習することによって、環境の機能的な理解を学ぶ目的を提案する。 提案手法は,高次元カメラ画像上で動作し,これまで見つからなかったシーンやオブジェクトに一般化した実ロボットの様々なスキルを学習することができる。
  論文  参考訳（メタデータ） (2021-04-15T20:10:11Z)
• REAL-X -- Robot open-Ended Autonomous Learning Architectures: Achieving Truly End-to-End Sensorimotor Autonomous Learning Systems [0.0]
  先程提案されたREALコンペティションによる課題について検討する。 本稿では,ベンチマークの異なるバージョンを解くことができるREAL-Xロボットアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2020-11-27T18:12:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。