論文の概要: Adaptation of Generalist Robot Policies with Minimal Data
- arxiv url: http://arxiv.org/abs/2608.11363v1
- Date: Tue, 11 Aug 2026 19:15:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-13 19:07:54.359003
- Title: Adaptation of Generalist Robot Policies with Minimal Data
- Title(参考訳): 最小データを用いた汎用ロボット政策の適応
- Abstract要約: 我々は、訓練済みのロボットポリシーが1つのデモから新しいタスクを学習し、その後に自律的なオンラインインタラクションを行う体制である、最小データ適応について研究する。
MiDASは、単純なオフラインからオンラインまでのRLレシピで、まずトレーニング済みのVLAをターゲットタスクに固定し、シングル/フェーのデモで振る舞いのクローンを行い、その後、残留ポリシーパラメータ化による値ベースのオンラインRLにより改善する。
LIBEROとRoboCasa全体で、MiDASは1つのデモから強いタスクパフォーマンスを回復し、ベースラインを大幅に上回り、実証された条件を超えて一般化する。
- 参考スコア(独自算出の注目度): 33.33185411457105
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A central goal in robot learning is to move beyond task-specific human data collection toward robots that improve through autonomous interaction. Yet fully autonomous learning remains difficult with current policies: sparse rewards and weak zero-shot exploration make it unlikely that a robot will discover successful behavior from scratch. We study minimal-data adaptation, a regime in which a pre-trained robot policy must learn a new task from as little as one demonstration followed by autonomous online interaction. This setting serves as the closest tractable proxy for fully autonomous improvement, allowing us to study whether minimal human guidance can bootstrap autonomous learning and what algorithmic ingredients make it feasible. We build MiDAS, a simple offline-to-online RL recipe that first anchors a pre-trained VLA to the target task with behavior cloning on single/few demonstrations, then improves it through value-based online RL on a residual policy parameterization. Across LIBERO and RoboCasa, MiDAS recovers strong task performance from as little as one demonstration, substantially outperforming baselines and generalizing beyond demonstrated conditions. We further evaluate MiDAS on a bimanual YAM platform. Starting from a fragile low-success policy obtained from a single demonstration, MiDAS improves its robustness and learns new successful behaviors over ~6 hours of online interaction. To the best of our knowledge, this is the first demonstration of reliable robot policy adaptation from a single task demonstration.
- Abstract(参考訳): ロボット学習における中心的な目標は、タスク固有の人間のデータ収集を超えて、自律的なインタラクションを通じて改善するロボットに移行することである。
しかし、完全な自律学習は、現在のポリシーでは難しいままだ。報酬の希薄化とゼロショット探索の弱さにより、ロボットがゼロから成功する行動を発見する可能性は低い。
我々は、訓練済みのロボットポリシーが1つのデモから新しいタスクを学習し、その後に自律的なオンラインインタラクションを行う体制である、最小データ適応について研究する。
この設定は、完全自律的な改善のための最も近い牽引可能なプロキシとして機能し、最小限の人間のガイダンスが自律学習をブートストラップできるかどうか、アルゴリズム的な要素が実現可能かどうかを調査することができる。
MiDASは単純なオフライン-オフラインのRLレシピで、まずトレーニング済みのVLAをターゲットタスクに固定し、シングル/フェーのデモで振る舞いのクローンを行い、その後、残留ポリシーパラメータ化による値ベースのオンラインRLにより改善する。
LIBEROとRoboCasa全体で、MiDASは1つのデモから強いタスクパフォーマンスを回復し、ベースラインを大幅に上回り、実証された条件を超えて一般化する。
さらに,双方向YAMプラットフォーム上でのMIDASの評価を行った。
単一のデモンストレーションから得られる脆弱な低リスクポリシから始まり、MiDASはその堅牢性を改善し、オンラインインタラクションの約6時間にわたって、新たな成功行動を学ぶ。
我々の知る限りでは、これは単一のタスクのデモンストレーションから信頼性の高いロボットポリシー適応の初めての実演である。
関連論文リスト
- Self-Improving Embodied Foundation Models [21.81624145902717]
ロボット工学における2段階のポストトレーニング手法を提案する。
第1段階であるSupervised Fine-Tuning (SFT) は、a) 行動クローニングとb) ステップ・トゥ・ゴーの予測目的の両方を用いたファインチューン事前訓練基礎モデルである。
第2段階では、ステップ・トゥ・ゴー予測により、良好な形状の報酬関数と堅牢な成功検出器の抽出が可能となる。
論文 参考訳(メタデータ) (2025-09-18T17:00:08Z) - Self-Augmented Robot Trajectory: Efficient Imitation Learning via Safe Self-augmentation with Demonstrator-annotated Precision [2.3548641190233264]
自己拡張型ロボット軌道(Self-Augmented Robot Trajectory, SART)は、一つの人間のデモンストレーションからポリシー学習を可能にするフレームワークである。
SARTは、人間による実証にのみ訓練されたポリシーよりも、はるかに高い成功率を達成する。
論文 参考訳(メタデータ) (2025-09-11T23:10:56Z) - So You Think You Can Scale Up Autonomous Robot Data Collection? [22.7035324720716]
強化学習(RL)には、自律的なデータ収集を可能にするという約束がある。
環境設計と計測に要する多大な労力のために、現実世界でのスケーリングは依然として困難である。
イミテーション・ラーニング (IL) の手法は環境設計の努力をほとんど必要とせず、人的監督を必要とする。
論文 参考訳(メタデータ) (2024-11-04T05:31:35Z) - Robotic Control via Embodied Chain-of-Thought Reasoning [86.6680905262442]
学習したロボット制御ポリシーの鍵となる制限は、トレーニングデータの外部で一般化できないことである。
視覚言語行動モデル(VLA)に関する最近の研究は、大規模なインターネット事前学習型視覚言語モデルを使用することで、その堅牢性と一般化能力を大幅に向上させることができることを示した。
ロボットの動作を予測する前に、VLAに対して、計画、サブタスク、動作、視覚的接地機能について複数の推論を行うために、VLAに対してEmbodied Chain-of-Thought Reasoning (ECoT)を導入する。
論文 参考訳(メタデータ) (2024-07-11T17:31:01Z) - Robot Fine-Tuning Made Easy: Pre-Training Rewards and Policies for
Autonomous Real-World Reinforcement Learning [58.3994826169858]
ロボット強化学習のためのリセット不要な微調整システムであるRoboFuMEを紹介する。
我々の洞察は、オフラインの強化学習技術を利用して、事前訓練されたポリシーの効率的なオンライン微調整を確保することである。
提案手法では,既存のロボットデータセットからのデータを組み込んで,目標タスクを3時間以内の自律現実体験で改善することができる。
論文 参考訳(メタデータ) (2023-10-23T17:50:08Z) - Stabilizing Contrastive RL: Techniques for Robotic Goal Reaching from Offline Data [96.5899286619008]
自己指導型学習は、制御戦略を学ぶのに必要な人間のアノテーションとエンジニアリングの労力を減らす可能性がある。
我々の研究は、強化学習(RL)自体が自己監督的な問題であることを示す先行研究に基づいている。
コントラスト学習に基づく自己教師付きRLアルゴリズムは,実世界の画像に基づくロボット操作タスクを解くことができることを示す。
論文 参考訳(メタデータ) (2023-06-06T01:36:56Z) - Self-Improving Robots: End-to-End Autonomous Visuomotor Reinforcement
Learning [54.636562516974884]
模倣と強化学習において、人間の監督コストは、ロボットが訓練できるデータの量を制限する。
本研究では,自己改善型ロボットシステムのための新しい設計手法であるMEDAL++を提案する。
ロボットは、タスクの実施と解除の両方を学ぶことで、自律的にタスクを練習し、同時にデモンストレーションから報酬関数を推論する。
論文 参考訳(メタデータ) (2023-03-02T18:51:38Z) - Leveraging Sequentiality in Reinforcement Learning from a Single
Demonstration [68.94506047556412]
本稿では,複雑なロボットタスクの制御ポリシーを1つの実演で学習するために,シーケンシャルなバイアスを活用することを提案する。
本研究は, ヒューマノイド移動やスタンドアップなど, 模擬課題のいくつかを, 前例のないサンプル効率で解くことができることを示す。
論文 参考訳(メタデータ) (2022-11-09T10:28:40Z) - Scalable Multi-Task Imitation Learning with Autonomous Improvement [159.9406205002599]
我々は、自律的なデータ収集を通じて継続的に改善できる模倣学習システムを構築している。
我々は、ロボット自身の試行を、実際に試みたタスク以外のタスクのデモとして活用する。
従来の模倣学習のアプローチとは対照的に,本手法は,継続的改善のための疎い監視によるデータ収集を自律的に行うことができる。
論文 参考訳(メタデータ) (2020-02-25T18:56:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。