論文の概要: Robotic Data Inoculation
- arxiv url: http://arxiv.org/abs/2610.39054v1
- Date: Wed, 28 Oct 2026 23:31:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-03 08:00:50.790918
- Title: Robotic Data Inoculation
- Title(参考訳): ロボットデータの接種
- Abstract要約: Data Inoculation(DI)は、人間がクローズドループの遠隔操作コマンドを提供し、残りのポリシーがこれらのコマンドを妨害する共有制御フレームワークである。
DIは、動作クローンとオフラインRLの両方でトレーニングされたポリシーの成功率を一貫して改善または一致させる。
- 参考スコア(独自算出の注目度): 52.546321526450136
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Modern robot learning systems feed on high-quality demonstration data, and their performance hinges on coverage. Without good coverage, small errors compound and the policy can quickly go into out-of-distribution states from which it cannot recover. Yet there is no principled way of collecting high-coverage data, and data collection often relies on heuristic instructions to human operators. Purely online reinforcement learning (RL) explores at the cost of safety and sample efficiency, while DAgger-style interventions require the policy to fail by chance before a human can correct it. In this paper, we ask instead whether we can modify how the robot behaves during data collection to collect more useful data. We propose Data Inoculation (DI), a shared-control framework in which a human provide closed-loop teleoperation commands while a residual policy perturbs these commands. The residual policy is trained online, on the growing dataset, with the same reward-maximizing objective later used for policy extraction, so its perturbations steer data collection toward the deviations a policy trained on the data would make. These perturbations expose the robot to a wider range of states, while the human's continuous corrections provide recovery demonstrations, "inoculating" the dataset against the learner's future mistakes while the human remains in control. On three challenging real-world robotic tasks, DI consistently improves or matches the success rate of policies trained with both behavioral cloning and offline RL, showing DI as an effective data collection strategy for improving downstream policy performance.
- Abstract(参考訳): 現代のロボット学習システムは、高品質なデモデータを提供し、その性能はカバレッジに依存している。
十分なカバレッジがなければ、小さなエラーは複雑になり、ポリシーはすぐに配布外状態に陥り、そこから回復することができない。
しかし、高カバレッジデータの収集には原則的な方法はなく、データ収集はしばしば人間の操作者へのヒューリスティックな指示に依存している。
純粋にオンライン強化学習(RL)は安全性とサンプル効率のコストを探求する一方で、DAggerスタイルの介入は、人間がそれを修正する前に、偶然失敗するポリシーを必要とする。
本稿では,データ収集時にロボットがどのように振る舞うかを,より有用なデータ収集のために変更できるかを問う。
我々は,人間が閉鎖ループ遠隔操作コマンドを提供する共有制御フレームワークであるData Inoculation (DI)を提案する。
残余ポリシーは、成長するデータセットに基づいてオンラインでトレーニングされ、後にポリシー抽出に使用された報酬を最大化する目的と同じである。
これらの摂動はロボットを広範囲の州に露出させ、一方で人間の継続的な修正は、人間が制御している間に学習者の将来の過ちに対してデータセットを「接種」する回復デモを提供する。
現実の3つの困難なロボットタスクにおいて、DIは、動作クローンとオフラインRLの両方でトレーニングされたポリシーの成功率を一貫して改善または一致させ、下流ポリシーのパフォーマンスを改善する効果的なデータ収集戦略としてDIを示す。
関連論文リスト
- Ego4WAM: What Matters When Scaling Egocentric Human Data for Robot Learning? [54.32406853559322]
既存の作業では、人間のデータの増加とともにスケーリングが好まれるが、どのデータ特性が下流ロボットの獲得を促進するかは不明だ。
本稿では,世界アクション・モデル・フレームワークを統一した枠組みの下で,アライメントと監督の異なるエゴセントリックな人間データの体系的研究を行う。
協調した人間によるデモンストレーションにより,配布外一般化が大幅に向上し,目標目標のロボットデータ要求が大幅に低減されることが判明した。
論文 参考訳(メタデータ) (2026-09-30T17:58:35Z) - REVOLVE: An Automated Closed-Loop Framework for Evolving Robot Manipulation with Minimal Human Intervention [17.399763167916195]
人間の介入を最小限に抑えてロボット操作を進化させるための自動クローズドループフレームワークであるREVOLVEを提案する。
統一されたソフトウェアプラットフォーム上に構築されたREVOLVEは、データ収集、ポリシトレーニングとデプロイメント、障害回復、継続的な学習を単一のクローズドループワークフローに統合する。
論文 参考訳(メタデータ) (2026-09-13T16:08:03Z) - Set-Supervised Diffusion Policy: Learning Action-Chunking Diffusion through Corrections [25.961145214027255]
拡散ポリシーは、ロボットの望ましくない行動と人間の教師の矯正行動の形でペア化された監督を提供する。
提案するSDP(Set-Supervised Diffusion Policy)は,コントラッシブなアクションチャンクデータを用いて,人間の修正から拡散ポリシーを訓練する新しい学習フレームワークである。
SDPは、特にノイズの多いデータに対するロバスト性において、ポリシーパフォーマンスを継続的に改善する。
論文 参考訳(メタデータ) (2026-06-01T08:14:38Z) - Back to the Manifold: Recovering from Out-of-Distribution States [20.36024602311382]
本稿では,エージェントをトレーニング多様体に戻すための回復策を提案する。
実際のロボットプラットフォーム上での操作実験により提案手法の有効性を実証する。
論文 参考訳(メタデータ) (2022-07-18T15:10:58Z) - Latent-Variable Advantage-Weighted Policy Optimization for Offline RL [70.01851346635637]
オフラインの強化学習メソッドは、新しいトランジションを環境に問い合わせる必要なしに、事前にコンパイルされたデータセットから学習ポリシーを保証します。
実際には、オフラインデータセットは、しばしば異種、すなわち様々なシナリオで収集される。
より広範な政策分布を表現できる潜在変数ポリシーを活用することを提案する。
提案手法は,次回のオフライン強化学習法の性能を,異種データセット上で49%向上させる。
論文 参考訳(メタデータ) (2022-03-16T21:17:03Z) - Curriculum Offline Imitation Learning [72.1015201041391]
オフラインの強化学習タスクでは、エージェントは、環境とのさらなるインタラクションなしに、事前にコンパイルされたデータセットから学ぶ必要がある。
我々は,適応的な近隣政策を模倣する経験的選択戦略を,より高いリターンで活用するテキストカリキュラムオフライン学習(COIL)を提案する。
連続制御ベンチマークでは、COILを模倣ベースとRLベースの両方の手法と比較し、混合データセット上で平凡な振る舞いを学ぶことを避けるだけでなく、最先端のオフラインRL手法と競合することを示します。
論文 参考訳(メタデータ) (2021-11-03T08:02:48Z) - A Framework for Efficient Robotic Manipulation [79.10407063260473]
単一のロボットアームがピクセルからスパースリワード操作ポリシーを学習できることを示します。
デモは10回しかなく、単一のロボットアームがピクセルからスパースリワード操作のポリシーを学習できることを示しています。
論文 参考訳(メタデータ) (2020-12-14T22:18:39Z) - Human-in-the-Loop Imitation Learning using Remote Teleoperation [72.2847988686463]
6-DoF操作設定に合わせたデータ収集システムを構築します。
システムによって収集された新しいデータに基づいて,ポリシーを反復的にトレーニングするアルゴリズムを開発した。
介入型システムで収集したデータに基づいて訓練されたエージェントと、非介入型デモ参加者が収集した同等数のサンプルで訓練されたアルゴリズムを上回るエージェントを実証する。
論文 参考訳(メタデータ) (2020-12-12T05:30:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。