論文の概要: Intrinsically Motivated Open-Ended Multi-Task Learning Using Transfer Learning to Discover Task Hierarchy

• arxiv url: http://arxiv.org/abs/2102.09854v1
• Date: Fri, 19 Feb 2021 10:44:08 GMT
• ステータス: 処理完了
• システム内更新日: 2021-02-22 13:41:04.356783
• Title: Intrinsically Motivated Open-Ended Multi-Task Learning Using Transfer Learning to Discover Task Hierarchy
• Title（参考訳）: トランスファー学習を用いたタスク階層発見のための本質的動機付きマルチタスク学習
• Authors: Nicolas Duminy (Lab-STICC), Sao Mai Nguyen (U2IS), Junshuai Zhu (IMT Atlantique), Dominique Duhaut (UBS), Jerome Kerdreux (Lab-STICC)
• Abstract要約: オープンエンド環境では、ロボットは階層的強化学習において複数のパラメータ化された制御タスクを学習する必要がある。 最も複雑なタスクは、より単純なタスクから知識を転送することでより簡単に学習でき、タスクにアクションの複雑さを適用することでより早く学習できることを示します。 複雑な行動のタスク指向表現(手順と呼ばれる)を提案し、オンラインのタスク関係とアクションプリミティブの無制限のシーケンスを学び、環境の異なる可観測性を制御する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In open-ended continuous environments, robots need to learn multiple parameterised control tasks in hierarchical reinforcement learning. We hypothesise that the most complex tasks can be learned more easily by transferring knowledge from simpler tasks, and faster by adapting the complexity of the actions to the task. We propose a task-oriented representation of complex actions, called procedures, to learn online task relationships and unbounded sequences of action primitives to control the different observables of the environment. Combining both goal-babbling with imitation learning, and active learning with transfer of knowledge based on intrinsic motivation, our algorithm self-organises its learning process. It chooses at any given time a task to focus on; and what, how, when and from whom to transfer knowledge. We show with a simulation and a real industrial robot arm, in cross-task and cross-learner transfer settings, that task composition is key to tackle highly complex tasks. Task decomposition is also efficiently transferred across different embodied learners and by active imitation, where the robot requests just a small amount of demonstrations and the adequate type of information. The robot learns and exploits task dependencies so as to learn tasks of every complexity.
• Abstract（参考訳）: オープンエンド環境では、ロボットは階層的強化学習において複数のパラメータ化された制御タスクを学習する必要がある。 我々は、最も複雑なタスクは、より単純なタスクから知識を移すことによってより簡単に学習でき、タスクにアクションの複雑さを適用することでより速く学習できると仮定する。 複雑な行動のタスク指向表現(手順と呼ばれる)を提案し、オンラインのタスク関係とアクションプリミティブの無制限のシーケンスを学び、環境の異なる可観測性を制御する。 目標バブリングと模倣学習と,本質的なモチベーションに基づく知識の伝達を併用して,本アルゴリズムは学習プロセスを自己編成する。 それはいつでも焦点を合わせるべきタスクを選びます。そして、知識を移すために何、どのように、いつ、誰から。 クロスタスクとクロスリーナートランスファーの設定では、非常に複雑なタスクに取り組むためのタスク構成が重要であることをシミュレーションと実際の産業ロボットアームで示します。 タスク分解は、異なる具体的学習者間で効率よく転送され、ロボットが少量のデモと適切な種類の情報を要求するアクティブな模倣によって行われる。 ロボットはタスクの依存性を学習し、あらゆる複雑さのタスクを学習する。

関連論文リスト

• Exploring CausalWorld: Enhancing robotic manipulation via knowledge transfer and curriculum learning [6.683222869973898]
  本研究では,指間の複雑な動きと協調を必要とする,学習に基づく三指ロボットアーム操作タスクについて検討する。 強化学習を利用することで、エージェントに熟練した操作に必要なスキルを習得するよう訓練する。 微調整とカリキュラム学習という2つの知識伝達戦略を,ソフトアクター・クリティカルなアーキテクチャで活用した。
  論文  参考訳（メタデータ） (2024-03-25T23:19:19Z)
• Continual Robot Learning using Self-Supervised Task Inference [19.635428830237842]
  新しいタスクを継続的に学習するための自己教師型タスク推論手法を提案する。 我々は、行動マッチング型自己教師型学習目標を用いて、新しいタスク推論ネットワーク(TINet)を訓練する。 マルチタスクポリシはTINet上に構築され、タスクよりもパフォーマンスを最適化するために強化学習でトレーニングされている。
  論文  参考訳（メタデータ） (2023-09-10T09:32:35Z)
• Fast Inference and Transfer of Compositional Task Structures for Few-shot Task Generalization [101.72755769194677]
  本稿では,タスクがサブタスクグラフによって特徴づけられる,数発の強化学習問題として定式化する。 我々のマルチタスクサブタスクグラフ推論器(MTSGI)は、トレーニングタスクから、まず、サブタスクグラフの観点から、一般的なハイレベルなタスク構造を推測する。 提案手法は,2次元グリッドワールドおよび複雑なWebナビゲーション領域において,タスクの共通基盤構造を学習し,活用し,未知のタスクへの適応を高速化する。
  論文  参考訳（メタデータ） (2022-05-25T10:44:25Z)
• Modular Adaptive Policy Selection for Multi-Task Imitation Learning through Task Division [60.232542918414985]
  マルチタスク学習は、しばしば負の伝達に悩まされ、タスク固有の情報を共有する。 これは、プロトポリケーションをモジュールとして使用して、タスクを共有可能な単純なサブ振る舞いに分割する。 また、タスクを共有サブ行動とタスク固有のサブ行動の両方に自律的に分割する能力を示す。
  論文  参考訳（メタデータ） (2022-03-28T15:53:17Z)
• Robots Learn Increasingly Complex Tasks with Intrinsic Motivation and Automatic Curriculum Learning [44.62475518267084]
  ロボットによるマルチタスク学習は、タスクの複雑さ、必要なアクションの複雑さ、伝達学習におけるタスク間の関係といった、ドメイン知識の課題を提起する。 このドメイン知識は、生涯学習の課題に対処するために学習できることを実証する。 そこで本稿では,ロボットが複雑度の高い複数の制御タスクを実現するために,非境界複雑性の動作列を学習するためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-02-11T08:14:16Z)
• Lifelong Robotic Reinforcement Learning by Retaining Experiences [61.79346922421323]
  多くのマルチタスク強化学習は、ロボットが常にすべてのタスクからデータを収集できると仮定している。 本研究では,物理ロボットシステムの実用的制約を動機として,現実的なマルチタスクRL問題について検討する。 我々は、ロボットのスキルセットを累積的に成長させるために、過去のタスクで学んだデータとポリシーを効果的に活用するアプローチを導出する。
  論文  参考訳（メタデータ） (2021-09-19T18:00:51Z)
• Behavior Self-Organization Supports Task Inference for Continual Robot Learning [18.071689266826212]
  本稿では,ロボット制御タスクの連続学習に対する新しいアプローチを提案する。 本手法は, 漸進的に自己組織化された行動によって, 行動埋め込みの教師なし学習を行う。 従来の手法とは異なり,本手法ではタスク分布の仮定は行わず,タスクを推論するタスク探索も必要としない。
  論文  参考訳（メタデータ） (2021-07-09T16:37:27Z)
• MT-Opt: Continuous Multi-Task Robotic Reinforcement Learning at Scale [103.7609761511652]
  大規模集団ロボット学習システムが,行動のレパートリーを同時に獲得できることを示す。 新しいタスクは、以前学んだタスクから継続的にインスタンス化できる。 我々は,7台のロボットから収集したデータを用いて,実世界のタスク12組でシステムを訓練し,評価する。
  論文  参考訳（メタデータ） (2021-04-16T16:38:02Z)
• Modeling Long-horizon Tasks as Sequential Interaction Landscapes [75.5824586200507]
  本稿では,一連のデモビデオからのみ,サブタスク間の依存関係と遷移を学習するディープラーニングネットワークを提案する。 これらのシンボルは、画像観察から直接学習し、予測できることが示される。 我々は,(1)人間によって実行されるパズル片のブロック積み重ね,(2)物体のピック・アンド・プレイスとキャビネットドアを7-DoFロボットアームで滑らせるロボット操作という,2つの長期水平作業において,我々の枠組みを評価する。
  論文  参考訳（メタデータ） (2020-06-08T18:07:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。