論文の概要: Skill-Space Shooting for Autonomous Robot Policy Improvement
- arxiv url: http://arxiv.org/abs/2609.38178v1
- Date: Tue, 29 Sep 2026 17:59:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.837914
- Title: Skill-Space Shooting for Autonomous Robot Policy Improvement
- Title(参考訳): 自律型ロボット政策改善のためのスキルスペースシューティング
- Abstract要約: 本稿では,再利用可能なスキルを通じて補正を探索し,成功した試行を政策改善に転換するための基礎モデルガイダンスを用いた技術空間撮影について紹介する。
実世界の実験では、自律的に行動する政策が繰り返し改善される一方で、新しいタスクを改善するために必要な教育を減らすためにスキルを共有することもできる。
- 参考スコア(独自算出の注目度): 11.951650001399997
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Robots deployed in the physical world must be able to improve beyond their initial training as they encounter new situations and failures. For this improvement to scale across tasks, it must make effective use of experience without requiring human demonstration of each correction. Recent agentic systems offer a way to reduce this reliance on human effort by using foundation models to autonomously compose learned behaviors to complete tasks. Yet completing tasks this way does not itself teach a task policy to overcome its own failures; that requires turning these behaviors into learnable corrections for the policy. Our insight is that many such corrections are familiar short behaviors, or skills: they recur across tasks and describe actions that foundation models can reason about from a scene. We introduce skill-space shooting, which uses foundation model guidance to explore corrections through these reusable skills and turn successful trials into policy improvement. Real-world experiments show repeated improvement in policies acting autonomously, while skills can also be shared to reduce the teaching needed to improve on new tasks. By making reusable skills a source of corrective supervision, skill-space shooting enables scalable and generalizable policy improvement within and across tasks. Additional results and videos at https://skill-space-shooting.github.io.
- Abstract(参考訳): 物理的な世界で展開されたロボットは、新しい状況や失敗に遭遇する際に、最初のトレーニング以上の改善を行なわなければならない。
この改善がタスクをスケールするためには、各修正の人間による実演を必要とせずに、経験を効果的に活用する必要がある。
近年のエージェントシステムは、基礎モデルを用いて学習行動を自律的に構成し、タスクを完了させることにより、人間の努力への依存を減らす方法を提供している。
しかし、この方法でタスクを完了させることは、それ自体が自身の失敗を克服するためのタスクポリシーを教えるのではなく、これらの振る舞いをポリシーの学習可能な修正に変換する必要がある。
私たちの洞察では、このような修正の多くは、慣れ親しんだ短い行動やスキルであり、タスクをまたいで再帰し、基礎モデルがシーンから推論できるアクションを記述する。
我々は,これらの再利用可能なスキルを通じて補正を探索し,成功した試行を政策改善に転換する基礎モデルガイダンスを用いて,スキルスペースシューティングを導入する。
実世界の実験では、自律的に行動する政策が繰り返し改善される一方で、新しいタスクを改善するために必要な教育を減らすためにスキルを共有することもできる。
再利用可能なスキルを是正的監督の源とすることで、スキルスペース・シューティングは、タスク内およびタスク間のスケーラブルで一般化可能なポリシー改善を可能にする。
さらなる結果とビデオはhttps://skill-space- shooting.github.ioにある。
関連論文リスト
- AUSO: Action-Level Unified Skill Optimization from Internalization to Utilization [23.057686255420546]
AUSOは、プログレッシブでアクション対応の最適化プロセスを通じて、スキル学習とスキル利用を実現する。
AUSOはトレーニングの開始時に、教師の指導と環境結果から共同で学習する。
政策が成熟するにつれて、AUSOはスキル条件とスキルフリーの両方の状況下で各サンプルアクションを評価する。
論文 参考訳(メタデータ) (2026-08-21T16:53:27Z) - Teach and Grow: An Agent-Centered Architecture for General Robot Learning [20.811152351871257]
Teach-and-Grow Learning (TGL)は、汎用ロボット学習のためのエージェント中心アーキテクチャである。
マルチモーダルエージェントは、いくつかの成功したデモを再利用可能なスキルブロック(意味のあるサブゴールのためのクローズドループ動作)に変換する。
新しいタスクは、タスク固有のポリシーの再トレーニングなしで取得される。
論文 参考訳(メタデータ) (2026-08-17T23:45:21Z) - Adapting Generalist Robot Policies with Semantic Reinforcement Learning [59.009122725071386]
ジェネラリストロボットポリシーは、大規模な事前訓練から多様な行動のレパートリーを学ぶ。
本稿では,オンラインインタラクションを通じて,このプロンプト空間を最適化するためのセマンティック・アクション強化学習(SARL)を提案する。
我々は、SARLが基本的に新しい機能をアンロックしていることを示します。
論文 参考訳(メタデータ) (2026-06-30T17:00:33Z) - SENTINEL: Failure-Driven Reinforcement Learning for Training Tool-Using Language Model Agents [52.758563996979596]
言語モデルエージェントは、マルチターンツールの使用によって現実的なタスクを解決するのにますます効果的である。
SENTINELは障害駆動型強化学習フレームワークで,障害のロールアウトを目標とするトレーニングタスクに変換する。
Tau2-Bench Retail with Qwen3-4B-Thinking-2507では、SENTINELはPass1を66.4から74.9に改善し、Passkメトリクス全体にわたる一般的な合成タスクにおいてRLを上回っている。
論文 参考訳(メタデータ) (2026-06-11T05:06:50Z) - Unsupervised Learning of Efficient Exploration: Pre-training Adaptive Policies via Self-Imposed Goals [0.0]
教師なし事前学習は、強化学習エージェントに事前知識を付与し、下流タスクでの学習を加速することができる。
本稿では,文脈内学習者と対向目標生成戦略を組み合わせた教師なしメタ学習手法ULEEを提案する。
論文 参考訳(メタデータ) (2026-01-27T17:10:29Z) - Robust Finetuning of Vision-Language-Action Robot Policies via Parameter Merging [53.41119829581115]
大規模で多様なデータセットに基づいて訓練された汎用ロボットポリシーは、一般化する能力を実証している。
トレーニングデータに含まれていない新しいタスクにはまだ不足しています。
本研究では,ファインタニング時の一般政策の一般化能力を保全する手法を開発した。
論文 参考訳(メタデータ) (2025-12-09T08:02:11Z) - Emergent Real-World Robotic Skills via Unsupervised Off-Policy
Reinforcement Learning [81.12201426668894]
報奨関数を使わずに多様なスキルを習得し,これらのスキルを下流のタスクに再利用する効率的な強化学習手法を開発した。
提案アルゴリズムは学習効率を大幅に向上させ,報酬のない実世界のトレーニングを実現する。
また,学習スキルは,目標指向ナビゲーションのためのモデル予測制御を用いて,追加のトレーニングを伴わずに構成可能であることも実証した。
論文 参考訳(メタデータ) (2020-04-27T17:38:53Z) - Never Stop Learning: The Effectiveness of Fine-Tuning in Robotic
Reinforcement Learning [109.77163932886413]
本稿では,ロボットによるロボット操作ポリシーを,政治以外の強化学習を通じて微調整することで,新たなバリエーションに適応する方法を示す。
この適応は、タスクをゼロから学習するために必要なデータの0.2%未満を使用する。
事前訓練されたポリシーを適用するという私たちのアプローチは、微調整の過程で大きなパフォーマンス向上につながります。
論文 参考訳(メタデータ) (2020-04-21T17:57:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。