論文の概要: ADEPT: Accelerating Dexterity via Pre-Training and Post-Training using Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2608.19182v1
- Date: Wed, 19 Aug 2026 17:55:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-20 20:13:55.486768
- Title: ADEPT: Accelerating Dexterity via Pre-Training and Post-Training using Reinforcement Learning
- Title(参考訳): ADEPT:強化学習を用いた事前学習と後学習によるデキスタリティの促進
- Abstract要約: 本稿では,Sim-to-real Transferable dexterityを学習するための大規模強化学習フレームワークであるADEPT(Pre-Training)による高速化デキスタリティについて紹介する。
ADEPTは、ジェネリックオブジェクトのリポジトリタスクで厳格なポリシーを事前訓練した後、事前訓練された振る舞いを前として下流ポリシーをトレーニングする。
ポストトレーニングを受けた教師を2つの実施形態にゼロショット・シム・トゥ・リアル・トランスファーを知覚する学生に蒸留する。
- 参考スコア(独自算出の注目度): 4.555414332509501
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We introduce Accelerating Dexterity via Pre-Training (ADEPT), a large-scale reinforcement learning (RL) framework for learning sim-to-real transferable dexterity across high degree-of-freedom (DoF) robot embodiments that can solve long-horizon tasks directly from raw visuo-tactile perception. ADEPT pretrains a dexterous policy on a generic object reposing task, then post-trains downstream policies with this pretrained behavior as a prior. ADEPT enables learning new behaviors that are otherwise difficult to discover from scratch on multi-fingered robots and avoids learning the same set of skills over again for every new downstream task. The pretrained policy zero-shots the reposing phase of downstream tasks, but naïve RL fine-tuning rapidly degrades this capability during transfer. We address this with a stable post-training recipe combining behavior-cloning distillation, critic warm-up, and conservative on-policy updates. To safely exploit the full kinematic dexterity, we introduce a joint-space Geometric Fabric that mediates between the RL policy and the robot. We distill post-trained teachers into perceptive students that zero-shot sim-to-real transfer on two embodiments: a 23 DoF Kuka-Allegro with two RGB cameras, and a 29 DoF Flexiv-Sharpa with two RGB cameras and five vision-based tactile sensors, and can solve long-horizon tasks from challenging initial states with dexterity at human-level speed.
- Abstract(参考訳): 本研究では,高自由度ロボットを用いた大規模強化学習(RL)フレームワークであるADEPT(Pre-Training)による高速化デキスタリティ(Accelerating Dexterity)について紹介する。
ADEPTは、ジェネリックオブジェクトのリポジトリタスクで厳格なポリシーを事前訓練した後、事前訓練された振る舞いを前として下流ポリシーをトレーニングする。
ADEPTは、マルチフィンガーロボットでスクラッチから発見し難い新しい行動の学習を可能にし、新しい下流タスク毎に同じスキルセットを再び学習するのを避ける。
事前訓練されたポリシーは下流のタスクの再現フェーズをゼロショットするが、ナビブ・RLの微調整は転送時にこの能力を急速に低下させる。
我々は, 行動閉鎖蒸留, 批判的ウォームアップ, 保守的オンライン更新を組み合わせた, 安定した訓練後レシピでこの問題に対処する。
本稿では,RLポリシーとロボットの仲介を行う共同空間の幾何学的ファブリックを導入する。
2台のRGBカメラを備えた23のDoF Kuka-Allegroと、2台のRGBカメラと5台の視覚ベースの触覚センサーを備えた29のDoF Flexiv-Sharpaの2つの実施形態を、ゼロショットのsim-to-realトランスファーが人間レベルの速度でデクスタリティに挑戦することで、長い水平タスクを解くことができる。
関連論文リスト
- Pre-training Visual Dexterity in Simulation [67.17477115017896]
シミュレーションで完全に収集されたデータを利用するデクスタラスな操作のための事前学習フレームワークを導入する。
5人のオペレーターの助けを借りて、1週間にわたって75時間のマルチタスク・デキスタラスな操作を収集し、配列モデリングの目的に基づいて因果変換器を事前訓練する。
提案手法は,シミュレーション遠隔操作が実世界における創発的操作のトレーニング前情報源として有効なことを示し,学習行動のクローン化方針をゼロから上回る結果を得た。
論文 参考訳(メタデータ) (2026-08-16T20:21:33Z) - FlashSAC: Fast and Stable Off-Policy Reinforcement Learning for High-Dimensional Robot Control [55.38832429564216]
強化学習(Reinforcement Learning, RL)は、専門家によるデモンストレーションが利用できない場合のロボット制御における中核的なアプローチである。
我々は,Soft Actor-Critic上に構築された高速で安定なオフポリチィRLアルゴリズムであるFlashSACを提案する。
10のシミュレータで60以上のタスクをこなし、FlashSACは最終的なパフォーマンスとトレーニング効率の両方において、PPOと強力なオフポリシーベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2026-04-06T09:03:41Z) - PLATE: Plasticity-Tunable Efficient Adapters for Geometry-Aware Continual Learning [1.8985807299725523]
従来のタスクデータへのアクセスを必要としない事前学習モデルの連続学習法を開発した。
冗長性は 自然の偏見を与えます
textscPLATEは、可塑性保持トレードオフを明示的に制御する。
論文 参考訳(メタデータ) (2026-02-03T18:59:42Z) - Opening the Sim-to-Real Door for Humanoid Pixel-to-Action Policy Transfer [59.02729900344616]
GPUを加速したフォトリアリスティックなシミュレーションは、ロボット学習のためのスケーラブルなデータ生成パスを開いた。
視覚に基づくヒューマノイドロコ操作のための教師-学生-ブートストラップ学習フレームワークを開発した。
これは、純粋なRGB知覚を用いた多様な調音ロコ操作が可能な初めてのヒューマノイド・シム・トゥ・リアル政策である。
論文 参考訳(メタデータ) (2025-11-30T20:07:13Z) - Learned Controllers for Agile Quadrotors in Pursuit-Evasion Games [42.74003740156243]
我々は,アジャイル1v1クアッドロータ追従回避の問題に対処する。
これらの問題に対処するために,非同期多段階人口ベース (AMSPB) アルゴリズムを提案する。
このフレームワークでは、ベロシティコマンドまたはボディーレートを集合推力で出力するニューラルネットワークコントローラをトレーニングします。
論文 参考訳(メタデータ) (2025-06-03T13:19:23Z) - DexterityGen: Foundation Controller for Unprecedented Dexterity [67.15251368211361]
ツール使用など,ロボットの巧妙な操作スキルを教えることは,大きな課題となる。
現在のアプローチは、人間の遠隔操作(模倣学習)とシミュレート・トゥ・リアル強化学習(sim-to-real reinforcement learning)の2つの戦略に大別できる。
本稿では,手動回転や翻訳などの大規模動きプリミティブをRLで事前学習するDexterityGenを紹介する。
現実の世界では、人間の遠隔操作をコントローラーのプロンプトとして利用し、厳密な振る舞いを生み出す。
論文 参考訳(メタデータ) (2025-02-06T18:49:35Z) - SLIM: Sim-to-Real Legged Instructive Manipulation via Long-Horizon Visuomotor Learning [20.33419404756149]
本稿では,シミュレーションで純粋に強化学習によって訓練された実世界の課題を,低コストで解決するモバイル操作システムを提案する。
単一のポリシーは、検索、移動、把握、輸送、降下を含む長期的タスクを自律的に解決し、80%近い現実世界の成功を達成します。
この性能は、ロボットがより効率的であり、遠隔操作の約1.5倍の速度で動作しているのに対して、同じタスクにおける専門家の遠隔操作に匹敵する。
論文 参考訳(メタデータ) (2025-01-17T01:32:18Z) - FLaRe: Achieving Masterful and Adaptive Robot Policies with Large-Scale Reinforcement Learning Fine-Tuning [74.25049012472502]
FLaReは、堅牢な事前訓練された表現、大規模なトレーニング、勾配安定化技術を統合する大規模な強化学習フレームワークである。
提案手法は,タスク完了に向けた事前訓練されたポリシーを整列し,これまで実証され,全く新しいタスクや実施状況において,最先端(SoTA)のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2024-09-25T03:15:17Z) - Continual Diffuser (CoD): Mastering Continual Offline Reinforcement Learning with Experience Rehearsal [54.93261535899478]
強化学習のロボット制御のような現実世界の応用では、タスクが変化し、新しいタスクが順次発生する。
この状況は、タスクの変更に適応し、獲得した知識を保持するエージェントを訓練する上で、可塑性-安定トレードオフという新たな課題を生じさせる。
本研究では,連続拡散器(Continuous diffuser,CoD)と呼ばれるリハーサルに基づく連続拡散モデルを提案する。
論文 参考訳(メタデータ) (2024-09-04T08:21:47Z) - Collision Avoidance and Navigation for a Quadrotor Swarm Using End-to-end Deep Reinforcement Learning [8.864432196281268]
本研究では,障害物のある環境下での四元子群制御のためのエンドツーエンドDRL手法を提案する。
筆者らは, 障害物の多い環境下での性能向上を図るために, 衝突エピソードのカリキュラムと再生バッファを提供する。
我々の研究は、エンドツーエンドDRLで訓練された隣人回避および障害物回避制御ポリシーを学習する可能性を示す最初の研究である。
論文 参考訳(メタデータ) (2023-09-23T06:56:28Z) - Generative Adversarial Imitation Learning for End-to-End Autonomous
Driving on Urban Environments [0.8122270502556374]
GAIL(Generative Adversarial Imitation Learning)は、報酬関数を明示的に定義することなくポリシーを訓練することができる。
両モデルとも,訓練終了後に開始から終了まで,専門家の軌道を模倣できることを示す。
論文 参考訳(メタデータ) (2021-10-16T15:04:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。