論文の概要: Action Priors for Large Action Spaces in Robotics
- arxiv url: http://arxiv.org/abs/2101.04178v2
- Date: Mon, 15 Feb 2021 23:45:25 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-04 14:29:27.402369
- Title: Action Priors for Large Action Spaces in Robotics
- Title(参考訳): ロボティクスにおける大規模行動空間の行動優先
- Authors: Ondrej Biza, Dian Wang, Robert Platt, Jan-Willem van de Meent and
Lawson L. S. Wong
- Abstract要約: ロボット工学では、純粋なモデルレス強化学習を用いて有用なポリシーを学ぶことはしばしば不可能である。
本論文では,解決した課題の解決方法を用いてアクションを事前に作成する手法を提案する。
- 参考スコア(独自算出の注目度): 6.16827157770137
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In robotics, it is often not possible to learn useful policies using pure
model-free reinforcement learning without significant reward shaping or
curriculum learning. As a consequence, many researchers rely on expert
demonstrations to guide learning. However, acquiring expert demonstrations can
be expensive. This paper proposes an alternative approach where the solutions
of previously solved tasks are used to produce an action prior that can
facilitate exploration in future tasks. The action prior is a probability
distribution over actions that summarizes the set of policies found solving
previous tasks. Our results indicate that this approach can be used to solve
robotic manipulation problems that would otherwise be infeasible without expert
demonstrations. Source code is available at
\url{https://github.com/ondrejba/action_priors}.
- Abstract(参考訳): ロボット工学では、報酬形成やカリキュラム学習を伴わず、純粋なモデルなし強化学習を用いて有用な政策を学ぶことはしばしば不可能である。
その結果、多くの研究者は、学習をガイドする専門家のデモンストレーションに頼っている。
しかし、専門家によるデモンストレーションの獲得は高価である。
本稿では,先程解決したタスクの解法を,将来のタスクの探索を容易にするためのアクションを生成するための代替手法を提案する。
前者のアクションは、前のタスクを解決するポリシーの集合をまとめるアクション上の確率分布である。
以上の結果から,本手法は専門的な実演なしでは実現不可能なロボット操作問題の解決に有効であることが示唆された。
ソースコードは \url{https://github.com/ondrejba/action_priors} で入手できる。
関連論文リスト
- Robot Policy Learning with Temporal Optimal Transport Reward [18.60627708199452]
リワード仕様は強化学習において最も難しい問題の1つです。
最近の研究は、1/2人の専門家によるビデオデモからロボットポリシーを学習する方法を調査している。
本稿では、時間的順序情報を組み込むために、時間的最適輸送(Temporal Optimal Transport, TemporalOT)報酬を導入する。
論文 参考訳(メタデータ) (2024-10-29T07:00:47Z) - SPIRE: Synergistic Planning, Imitation, and Reinforcement Learning for Long-Horizon Manipulation [58.14969377419633]
タスクをより小さな学習サブプロブレムに分解し、第2に模倣と強化学習を組み合わせてその強みを最大化するシステムであるspireを提案する。
我々は、模倣学習、強化学習、計画を統合する従来の手法よりも平均タスク性能が35%から50%向上していることを発見した。
論文 参考訳(メタデータ) (2024-10-23T17:42:07Z) - Latent Action Priors From a Single Gait Cycle Demonstration for Online Imitation Learning [42.642008092347986]
本稿では,ロボット学習における帰納的バイアスとして,専門家による実証から学んだ潜伏行動を行動空間の先行として提案する。
単純なオートエンコーダを用いて1つのオープンループ歩行サイクルのみからこれらの動作先を学習できることが示される。
論文 参考訳(メタデータ) (2024-10-04T09:10:56Z) - Learning to Solve Tasks with Exploring Prior Behaviours [29.237750606330135]
ディープ・強化学習(Dep Reinforcement Learning, DRL)では、疎い報酬でタスクを解くのに広く使われている。
本稿では,本文の例題に基づく制御法であるtextbf(IRDEC)を提案する。
提案手法は,必要な先行行動の探索と取得をエージェントに行うことができ,その上でタスク固有の動作に接続してスパース・リワードタスクを解決することができる。
論文 参考訳(メタデータ) (2023-07-06T09:48:51Z) - Learning Reward Functions for Robotic Manipulation by Observing Humans [92.30657414416527]
我々は、ロボット操作ポリシーのタスク非依存報酬関数を学習するために、幅広い操作タスクを解く人間のラベル付きビデオを使用する。
学習された報酬は、タイムコントラストの目的を用いて学習した埋め込み空間におけるゴールまでの距離に基づいている。
論文 参考訳(メタデータ) (2022-11-16T16:26:48Z) - Leveraging Sequentiality in Reinforcement Learning from a Single
Demonstration [68.94506047556412]
本稿では,複雑なロボットタスクの制御ポリシーを1つの実演で学習するために,シーケンシャルなバイアスを活用することを提案する。
本研究は, ヒューマノイド移動やスタンドアップなど, 模擬課題のいくつかを, 前例のないサンプル効率で解くことができることを示す。
論文 参考訳(メタデータ) (2022-11-09T10:28:40Z) - Parrot: Data-Driven Behavioral Priors for Reinforcement Learning [79.32403825036792]
そこで本研究では,実験で得られた複雑なインプット・アウトプット関係を事前に学習する手法を提案する。
RLエージェントが新規な動作を試す能力を阻害することなく、この学習が新しいタスクを迅速に学習するのにどのように役立つかを示す。
論文 参考訳(メタデータ) (2020-11-19T18:47:40Z) - COG: Connecting New Skills to Past Experience with Offline Reinforcement
Learning [78.13740204156858]
我々は、動的プログラミングによって新しいスキルを拡張するために、事前データを再利用できることを示します。
我々は、新しいタスクを解決するために、以前のデータセットに見られるいくつかの動作をチェーンすることで、アプローチの有効性を実証する。
我々は、高次元画像観察を低レベルのロボット制御コマンドにマッピングし、エンドツーエンドでポリシーを訓練する。
論文 参考訳(メタデータ) (2020-10-27T17:57:29Z) - Hierarchical Affordance Discovery using Intrinsic Motivation [69.9674326582747]
本研究では,移動ロボットの価格学習を支援するために,本質的なモチベーションを用いたアルゴリズムを提案する。
このアルゴリズムは、事前にプログラムされたアクションなしで、相互に関連のある価格を自律的に発見し、学習し、適応することができる。
一度学習すると、これらの余裕はアルゴリズムによって様々な困難を伴うタスクを実行するために一連のアクションを計画するために使われる。
論文 参考訳(メタデータ) (2020-09-23T07:18:21Z) - Learning rewards for robotic ultrasound scanning using probabilistic
temporal ranking [17.494224125794187]
本研究は,課題の目的が不明な逆問題を考えるとともに,実例から報酬関数を推定する必要がある。
既存の報酬推論戦略の多くは、実験の探索的な性質のため、この種の問題には適していない。
この確率的時間的ランク付けアプローチを定式化し、既存のアプローチを改善したことを示す。
論文 参考訳(メタデータ) (2020-02-04T11:58:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。