論文の概要: Reward-DAgger: Robot-Gated Interactive Imitation Learning with General-Purpose Progress-Based Reward Models
- arxiv url: http://arxiv.org/abs/2610.04054v1
- Date: Fri, 02 Oct 2026 21:05:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-12 20:37:33.834119
- Title: Reward-DAgger: Robot-Gated Interactive Imitation Learning with General-Purpose Progress-Based Reward Models
- Title(参考訳): Reward-Dagger: 汎用プログレッシブベースリワードモデルを用いたロボット学習型インタラクティブ模倣学習
- Abstract要約: 本稿では,ロボットによる対話型模倣学習フレームワークReward-DAggerを紹介する。
一般的な報酬モデルからの高密度な進行信号を使用して、人間の介入が必要なタイミングを判断する。
以上の結果から,Reward-DAggerは既存の監視ベースラインよりも,障害検出精度とレイテンシのトレードオフが優れていることがわかった。
- 参考スコア(独自算出の注目度): 4.470775998553155
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent advances in robot learning have enabled generalist control policies capable of completing a wide range of tasks. However, their performance degrades when deployed in unseen environments, making it critical to detect failures and teach recovery behaviors. Existing runtime monitoring methods often require task- and policy-specific training or hyperparameter tuning, limiting cross-task deployment and introducing additional overhead during iterative policy updates. We present Reward-DAgger, a robot-gated interactive imitation learning framework that uses dense progress signals from a general-purpose reward model to determine when human intervention is needed. Our approach is agnostic to the underlying policy architecture, requires no access to policy internals, and can be applied across tasks without retuning the gating mechanism. Our results show that Reward-DAgger achieves a better failure-detection accuracy-latency tradeoff than existing runtime monitoring baselines. Across eight simulated and real-world tasks, Reward-DAgger consistently improves the downstream policy's autonomous success rate throughout interactive learning and achieves strong return on human effort, outperforming the baselines in most settings. Importantly, the same gating configuration is used across tasks without task-specific hyperparameter tuning, demonstrating transfer across tasks, environments, and policy architectures. Code and videos are available at https://liralab.usc.edu/reward-dagger.
- Abstract(参考訳): 近年のロボット学習の進歩により、幅広いタスクを完了できる汎用的な制御ポリシーが実現されている。
しかしながら、そのパフォーマンスは、目に見えない環境にデプロイすると劣化し、障害を検出し、リカバリ動作を教えることが重要になる。
既存のランタイム監視手法では、タスク固有のトレーニングやハイパーパラメータチューニング、クロスタスクデプロイメントの制限、反復的なポリシ更新時のオーバーヘッドの追加が必要になることが多い。
本稿では,ロボットによる対話型模倣学習フレームワークであるReward-DAggerについて紹介する。
当社のアプローチは,基本となるポリシアーキテクチャに非依存であり,ポリシ内部へのアクセスは不要であり,ゲーティング機構を変更することなく,タスク間で適用することができる。
以上の結果から,Reward-DAggerは既存の監視ベースラインよりも,障害検出精度とレイテンシのトレードオフが優れていることがわかった。
8つのシミュレートされた実世界のタスクの中で、Reward-Daggerは対話的な学習を通して下流政策の自律的な成功率を継続的に改善し、多くの設定においてベースラインを上回った。
重要なことに、同じゲーティング構成はタスク固有のハイパーパラメータチューニングなしで、タスク、環境、ポリシーアーキテクチャ間での転送を示すために、タスク間で使用される。
コードとビデオはhttps://liralab.usc.edu/reward-dagger.comで公開されている。
関連論文リスト
- Adapting Generalist Robot Policies with Semantic Reinforcement Learning [59.009122725071386]
ジェネラリストロボットポリシーは、大規模な事前訓練から多様な行動のレパートリーを学ぶ。
本稿では,オンラインインタラクションを通じて,このプロンプト空間を最適化するためのセマンティック・アクション強化学習(SARL)を提案する。
我々は、SARLが基本的に新しい機能をアンロックしていることを示します。
論文 参考訳(メタデータ) (2026-06-30T17:00:33Z) - Step-level Optimization for Efficient Computer-use Agents [51.29573359027217]
我々は、強力なコンピュータ利用エージェントは、実際は高価で遅いと論じている。
本稿では,コンピュータ利用エージェントのためのイベント駆動ステップレベルカスケードを提案する。
論文 参考訳(メタデータ) (2026-04-29T19:59:36Z) - Trajectory2Task: Training Robust Tool-Calling Agents with Synthesized Yet Verifiable Data for Complex User Intents [52.30603055218294]
Trajectory2Taskは,3つの現実的なユーザシナリオの下で大規模なツール使用を研究するための,検証可能なデータ生成パイプラインである。
有効なツールコールトラジェクトリを、制御されたインテント適応を伴うユーザ向けタスクに変換する。
我々は、生成された複雑なユーザシナリオタスクに対して、7つの最先端のLCMをベンチマークし、頻繁な障害を観察する。
論文 参考訳(メタデータ) (2026-01-28T00:36:13Z) - Zero-Shot Whole-Body Humanoid Control via Behavioral Foundation Models [71.34520793462069]
教師なし強化学習(RL)は、複雑な環境下で幅広い下流タスクを解くことができる事前学習エージェントを目標としている。
本稿では,ラベルのない行動データセットからトラジェクトリを模倣するための,教師なしRLの正規化アルゴリズムを提案する。
我々は,この手法の有効性を,挑戦的なヒューマノイド制御問題において実証する。
論文 参考訳(メタデータ) (2025-04-15T10:41:11Z) - STRAP: Robot Sub-Trajectory Retrieval for Augmented Policy Learning [8.860366821983211]
STRAPは、トレーニング済みの視覚基盤モデルと動的時間ワープを利用して、大規模なトレーニングコーパスからトラジェクトリのサブシーケンスを堅牢に検索する技術である。
本研究では、事前学習された視覚基盤モデルと動的時間ワープを活用して、大規模学習コーパスからのトラジェクトリのサブシーケンスをロバストに検索するSTRAPを提案する。
論文 参考訳(メタデータ) (2024-12-19T18:54:06Z) - Model-Based Runtime Monitoring with Interactive Imitation Learning [30.70994322652745]
本研究は,タスク実行中のエラーを監視し,検出する能力を備えたロボットの実現を目的とする。
本稿では,デプロイメントデータからシステム異常を検出し,障害を予測するためのモデルベースランタイム監視アルゴリズムを提案する。
本手法は, シミュレーションおよび物理ハードウェアにおいて, 23%, 40%高い成功率で, システムレベルおよび単体テストの基準線を上回り, 性能を向上する。
論文 参考訳(メタデータ) (2023-10-26T16:45:44Z) - Towards Robust Continual Learning with Bayesian Adaptive Moment Regularization [51.34904967046097]
継続的な学習は、モデルが以前に学習した情報を忘れてしまう破滅的な忘れ込みの課題を克服しようとする。
本稿では,パラメータ成長の制約を緩和し,破滅的な忘れを減らし,新しい事前手法を提案する。
以上の結果から, BAdamは, 単頭クラスインクリメンタル実験に挑戦する先行手法に対して, 最先端の性能を達成できることが示唆された。
論文 参考訳(メタデータ) (2023-09-15T17:10:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。