論文の概要: Task-Space Imitation Guidance for Efficient Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2610.07527v1
- Date: Mon, 05 Oct 2026 23:49:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.717978
- Title: Task-Space Imitation Guidance for Efficient Reinforcement Learning
- Title(参考訳): 効率的な強化学習のためのタスク空間模倣指導
- Abstract要約: 効率的な強化学習(TIGER)のためのタスク空間模倣指導
TIGERは、スパースリワードテーブルトップロボット操作のための報酬構成および事前訓練フレームワークである。
- 参考スコア(独自算出の注目度): 0.16311150636417257
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We introduce Task-Space Imitation Guidance for Efficient Reinforcement Learning (TIGER), a reward-construction and pretraining framework for sparse-reward tabletop robotic manipulation. TIGER treats an action-chunked imitation policy not as an executable controller or action prior, but as a local task-space progress estimator: predicted action chunks are converted, using controller-aware action-to-motion mapping, into short-horizon end-effector references, and the RL agent receives dense progress rewards toward these references while the sparse environment reward remains the dominant objective. During pretraining, TIGER uses imitation-guided look-ahead signals to relax conservative value penalties for actions predicted to make task-space progress, reducing off-manifold exploration during early online RL. Across simulation and real-robot experiments, TIGER improves early sample efficiency and reduces measured safety violations while matching or improving final success rates relative to prior RL and IL-RL baselines on the evaluated tasks.
- Abstract(参考訳): 本稿では,スパルス・リワード型テーブルトップロボット操作のための報酬構成と事前学習フレームワークであるTIGER(Task-Space Imitation Guidance for Efficient Reinforcement Learning)を紹介する。
TIGERは、アクションチャンク化された模倣ポリシーを、実行可能コントローラやアクション先行ではなく、ローカルなタスク空間進行推定器として扱う: 予測されたアクションチャンクは、コントローラに認識されたアクション・ツー・モーションマッピングを使用して、短水平のエンドエフェクタ参照に変換され、RLエージェントは、スパース環境報酬が支配的な目的のまま、これらの参照に対して密集した進捗報酬を受け取る。
プレトレーニング中、TIGERは模倣誘導のルックアヘッド信号を使用して、タスク空間の進行を予測したアクションに対する保守的な価値のペナルティを緩和し、オンラインRLの初期におけるオフマンフォールド探索を減らした。
シミュレーションおよび実ロボット実験を通じて、TIGERは早期サンプル効率を向上し、評価されたタスクに対する先行RLとIL-RLの基準値に対する最終成功率を一致または改善しながら、測定された安全違反を低減する。
関連論文リスト
- WAM-OPD: Sharpening World Action Models via On-Policy Distillation [84.1328443874472]
事前訓練された世界行動モデル(WAM)は、多様なロボット操作タスクにまたがる汎用機能を提供する。
WAMのオンライン蒸留(OPD)とWAM-OPDの導入について検討する。
We show WAM-OPD improves target-task performance while maintaining near-itial performance on tasks excludeed by adapt。
論文 参考訳(メタデータ) (2026-09-28T03:56:23Z) - Reward-free Pretraining for Reinforcement Learning via Occupancy Coverage Maximization [31.035684025590417]
スパース報酬は、エージェントが目標に到達するまで情報信号を受け取らないため、強化学習において中心的な課題となる。
本稿では,下流タスク時間におけるスパース報酬に迅速に適応するトランスファー可能な探索ポリシーを事前訓練する手法を提案する。
論文 参考訳(メタデータ) (2026-06-19T09:47:38Z) - Preference-Calibrated Human-in-the-Loop Reinforcement Learning for Robotic Manipulation [40.17737666526493]
PACT(Preference-calibrated Actor-Critic Training framework)を提案する。
まず、人間の実演から学習し、信用補正のための最適部分を特定するプログレスモデルを設計する。
次に、選好ペアを構築して、同定された準最適セグメントのベルマン目標をペナルティ化する反ファクト的優位性を定義する。
論文 参考訳(メタデータ) (2026-06-02T17:38:25Z) - Foundation-Preserving Adaptation via Generalized Rayleigh-Quotient Optimization [36.95831224411691]
本稿では,忘れがちな最適化フレームワークであるFoLoRA(Foundation Preserving LoRA)を提案する。
FoLoRAは、プレトレーニングプロキシアクティベーションよりも忘れるペナルティと、下流タスクアクティベーションよりもタスクユーティリティを定義している。
数学、コード、命令の順応による実験は、FoLoRAがベースラインよりも強い保存適応バランスを達成していることを示している。
論文 参考訳(メタデータ) (2026-05-28T21:22:31Z) - Latent Action Reparameterization for Efficient Agent Inference [56.42014061367112]
本稿では,複数のステップのセマンティックな振る舞いに対応する,コンパクトな潜在行動空間を学習するフレームワークを提案する。
手作りのマクロや階層型コントローラとは異なり、潜在動作はエージェントの軌跡から学習され、モデルに直接統合される。
論文 参考訳(メタデータ) (2026-05-18T16:07:44Z) - PRTS: A Primitive Reasoning and Tasking System via Contrastive Representations [66.94988600664574]
我々は,目標達成型強化学習を通じて事前学習を再構築するVLA基盤モデルであるtextbfPRTS(textbfPrimitive textbfReasoning and textbfTasking textbfSystem)を提案する。
論文 参考訳(メタデータ) (2026-04-30T06:14:02Z) - Actor-Critic for Continuous Action Chunks: A Reinforcement Learning Framework for Long-Horizon Robotic Manipulation with Sparse Reward [85.84943447589511]
本稿では,高次元連続行動系列を生成するための新しいRLフレームワークであるAC3(Actor-Critic for Continuous Chunks)を紹介する。
この学習プロセスを安定させ、データ効率を高めるため、AC3はアクターと批評家の両方に目標安定化機構を組み込む。
論文 参考訳(メタデータ) (2025-08-15T01:27:15Z) - MoRe-ERL: Learning Motion Residuals using Episodic Reinforcement Learning [31.10756488629562]
MoRe-ERLは、エピソード強化学習(ERL)と残留学習を組み合わせたフレームワークである。
MoRe-ERLは、重要なタスクに関連する操作を保存しながら、修正を必要とする軌道セグメントを特定する。
B-Splineベースの運動プリミティブを用いてスムーズな残留調整を生成する。
論文 参考訳(メタデータ) (2025-08-02T15:28:11Z) - Growing Q-Networks: Solving Continuous Control Tasks with Adaptive Control Resolution [51.83951489847344]
ロボット工学の応用において、スムーズな制御信号はシステム摩耗とエネルギー効率を減らすために一般的に好まれる。
本研究では,離散的な動作空間を粗い状態から細かい制御分解能まで拡大することにより,この性能ギャップを埋めることを目的とする。
我々の研究は、値分解とアダプティブ・コントロール・リゾリューションが組み合わさることで、単純な批判のみのアルゴリズムが得られ、連続制御タスクにおいて驚くほど高い性能が得られることを示唆している。
論文 参考訳(メタデータ) (2024-04-05T17:58:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。