論文の概要: Mulligan: Performance-Guided Data Collection for Efficient On-Robot Learning
- arxiv url: http://arxiv.org/abs/2610.05882v1
- Date: Mon, 05 Oct 2026 06:56:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 03:30:56.004259
- Title: Mulligan: Performance-Guided Data Collection for Efficient On-Robot Learning
- Title(参考訳): Mulligan: 効率的なオンロボット学習のためのパフォーマンスガイド付きデータコレクション
- Abstract要約: 人間のデモから学ぶことは、ロボットに新しいタスクを教えるための信頼できる方法だが、ポリシーが改善するにつれて、追加のデモから得られる利益は減少する。
我々は、高精度な操作タスクにおいて、監督エピソードの固定予算から改善を最大化する方法を問う。
フェールが初期状態の小さなサブセットに集中できることを観察するため、均一なコレクションは、ポリシーがすでに処理している状態にオペレータの時間の大部分を費やします。
- 参考スコア(独自算出の注目度): 49.96968347002295
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Learning from human demonstrations is a reliable way to teach robots new tasks, but the gains from each additional demonstration shrink as the policy improves. Continued improvement can instead come from supervised deployment, where an operator places the objects and intervenes when the policy fails. We ask how to maximize improvement from a fixed budget of supervised episodes on high-precision manipulation tasks with wide ranges of object placements. We observe that failures can concentrate in a small subset of initial states, so uniform collection spends much of the operator's time on states the policy already handles. Mulligan makes the initial-state distribution a decision, starting each round's episodes at observed failures and untried states. To further improve data efficiency, we augment interactive imitation learning with a value function trained on all data, including failures that imitation discards. Across three real-world tasks evaluated on 2,550 held-out, blinded episodes and two simulated tasks, Mulligan outperforms uniform initial-state sampling at matched collection budgets, and combined with value-based action selection, HiL-IDQL+Mulligan, improves final real-task success by 10-34 percentage points. With operator interventions, the human-robot team completes 98% of collection episodes, remaining productive while the policy learns. Videos, code, and data are available at https://mulligan.page/.
- Abstract(参考訳): 人間のデモから学ぶことは、ロボットに新しいタスクを教えるための信頼できる方法だが、ポリシーが改善するにつれて、追加のデモから得られる利益は減少する。
継続的に改善されるのは、運用担当者がオブジェクトを配置し、ポリシーが失敗した時に介入する、管理されたデプロイメントからである。
我々は,広範囲な物体配置を持つ高精度な操作タスクにおいて,教師付きエピソードの固定予算から改善を最大化する方法を問う。
フェールが初期状態の小さなサブセットに集中できることを観察するため、均一なコレクションは、ポリシーがすでに処理している状態にオペレータの時間の大部分を費やします。
マリガンは初期状態の配布を決断し、各ラウンドのエピソードを観測された失敗と未検索状態で開始する。
データ効率をさらに向上するために、模倣破棄の失敗を含む、すべてのデータに基づいて訓練された値関数を用いて、インタラクティブな模倣学習を強化する。
2.550のホールトアウト、ブラインドエピソード、2つのシミュレートされたタスクで評価された3つの現実世界タスクの中で、Mulliganは一致したコレクション予算で一様の初期状態サンプリングを上回り、価値ベースのアクション選択であるHiL-IDQL+Mulliganと組み合わせることで、最終的なリアルタスクの成功を10-34ポイント向上する。
オペレーターの介入により、人間ロボットチームは収集エピソードの98%を完了し、ポリシーが学習している間も生産的のままである。
ビデオ、コード、データはhttps://mulligan.page/.comで公開されている。
関連論文リスト
- Stable and Efficient Real-World Online VLA Post-Training via Asynchronous Replay-Anchored Policy Improvement [60.83624556700821]
本稿では,リプレイ動作における批評家とアクターの更新の両方を基盤として,ロールアウトと学習を同時に行うフレームワークを提案する。
RAPolicyを4つのシングルタスク設定と1つのジョイント5タスク設定で実世界で評価し,オンライントレーニングの予算は1~2時間に過ぎなかった。
論文 参考訳(メタデータ) (2026-09-19T08:45:18Z) - Beyond the Majority: Long-tail Imitation Learning for Robotic Manipulation [121.31598641762251]
訓練デモンストレーションの長期分布は、政策学習を妨げる。
Approaching-Phase Augmentation (APA)は、デモを必要とせずに、データリッチなヘッドタスクからデータシャースなテールタスクに知識を転送する。
論文 参考訳(メタデータ) (2026-02-06T09:10:02Z) - Using Temperature Sampling to Effectively Train Robot Learning Policies on Imbalanced Datasets [3.342232437547785]
ロボットタスクの多くのデータセットは、それらが表す物理的なロボット動作に関して、実質的に不均衡である。
この不均衡を緩和する政策訓練のための簡単なサンプリング戦略を提案する。
その結果,従来の最先端手法と比較して,低リソースタスクの大幅な改善が見られた。
論文 参考訳(メタデータ) (2025-10-22T08:48:55Z) - AnyPos: Automated Task-Agnostic Actions for Bimanual Manipulation [24.199522837278128]
本稿では,タスク固有の条件からアクション実行を分離するタスク非依存のアクションパラダイムを提案する。
ATARAはスケーラブルなセルフ教師付きフレームワークで、人間の遠隔操作と比較して30倍以上のコレクションを高速化する。
我々はArm-Decoupled EstimationとDirection-Aware Decoderを備えた逆動的モデルであるAnyPosを提案する。
論文 参考訳(メタデータ) (2025-07-17T03:48:57Z) - CUPID: Curating Data your Robot Loves with Influence Functions [29.79350259314518]
CUPIDは、模倣学習ポリシーのための新しい影響関数理論定式化に基づく、ロボットデータキュレーション手法である。
我々は,1)政策パフォーマンスを損なうトレーニングデモをフィルタリングし,2)政策を最も改善する新たなトラジェクトリをサブセレクトするために,CUPIDを用いてデータをキュレートする。
論文 参考訳(メタデータ) (2025-06-23T20:49:34Z) - Reward Relabelling for combined Reinforcement and Imitation Learning on
sparse-reward tasks [2.0305676256390934]
そこで本稿では, オンライン上で収集した実演とエピソードを, オフ・ポリティクス・アルゴリズムを用いて任意のスパース・リワード環境において活用する手法を提案する。
本手法は、実演や成功エピソードに与えられる報酬ボーナスに基づいて、専門家の模倣と自己模倣を奨励する。
実験では、ロボット工学の操作、特にシミュレーションにおける6自由度ロボットアームの3つのタスクに焦点を当てた。
論文 参考訳(メタデータ) (2022-01-11T08:35:18Z) - Human-in-the-Loop Imitation Learning using Remote Teleoperation [72.2847988686463]
6-DoF操作設定に合わせたデータ収集システムを構築します。
システムによって収集された新しいデータに基づいて,ポリシーを反復的にトレーニングするアルゴリズムを開発した。
介入型システムで収集したデータに基づいて訓練されたエージェントと、非介入型デモ参加者が収集した同等数のサンプルで訓練されたアルゴリズムを上回るエージェントを実証する。
論文 参考訳(メタデータ) (2020-12-12T05:30:35Z) - COG: Connecting New Skills to Past Experience with Offline Reinforcement
Learning [78.13740204156858]
我々は、動的プログラミングによって新しいスキルを拡張するために、事前データを再利用できることを示します。
我々は、新しいタスクを解決するために、以前のデータセットに見られるいくつかの動作をチェーンすることで、アプローチの有効性を実証する。
我々は、高次元画像観察を低レベルのロボット制御コマンドにマッピングし、エンドツーエンドでポリシーを訓練する。
論文 参考訳(メタデータ) (2020-10-27T17:57:29Z) - Hierarchical Reinforcement Learning as a Model of Human Task
Interleaving [60.95424607008241]
我々は、強化学習によって駆動される監督制御の階層モデルを開発する。
このモデルは、タスクインターリービングの既知の経験的効果を再現する。
その結果、階層的RLがタスクインターリービングのもっともらしいモデルとして支持された。
論文 参考訳(メタデータ) (2020-01-04T17:53:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。