論文の概要: FlowDAgger: Human-in-the-Loop Adaptation of Generative Robot Policies in Latent Space
- arxiv url: http://arxiv.org/abs/2607.08877v1
- Date: Thu, 09 Jul 2026 19:07:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-13 16:48:13.416708
- Title: FlowDAgger: Human-in-the-Loop Adaptation of Generative Robot Policies in Latent Space
- Title(参考訳): FlowDAgger: 潜在空間における生成ロボットポリシーの適応
- Abstract要約: FlowDAggerは、潜伏空間における人間の介入から凍結した生成ロボットポリシーを適用するためのサンプルおよび計算効率のよい方法である。
私たちのキーとなるアイデアはアクション・インバージョン(アクション・インバージョン)です。
本研究では,FlowDAggerのシミュレーションおよび実世界のバイマニュアルおよびシングルアーム操作について評価する。
- 参考スコア(独自算出の注目度): 15.351960740594201
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Pretrained generative robot policies based on flow matching and diffusion have achieved impressive results across a wide range of manipulation tasks. Yet real-world deployments routinely expose failure modes outside the pretraining distribution. Closing these gaps typically requires large-scale data collection or online reinforcement learning on physical hardware, which is impractical for rapid and safe adaptation. We present FlowDAgger, a sample- and compute-efficient method for adapting frozen generative robot policies from human interventions in latent space. Our key idea is action inversion: each human expert action is mapped to the noise that would have produced it under the frozen base policy, using reverse-time integration followed by local refinement. The resulting inverted noise provides supervision for a lightweight latent policy that steers the base model at deployment time, enabling rapid skill acquisition while preserving its behavioral priors. We evaluate FlowDAgger in simulation and on real-world bimanual and single-arm manipulation, adapting both action-head VLAs and world-action models from a handful of interventions. FlowDAgger outperforms supervised fine-tuning and latent-space RL baselines and preserves pretrained skills on held-out tasks, offering a practical path for adapting robot foundation models in the real world. Website: https://microsoft.github.io/FlowDAgger
- Abstract(参考訳): フローマッチングと拡散に基づく事前学習された生成ロボットポリシーは、幅広い操作タスクにおいて印象的な結果を得た。
しかし、現実のデプロイメントは、トレーニング済みのディストリビューションの外の障害モードを定期的に公開します。
このようなギャップを埋めるには、大規模なデータ収集や物理ハードウェアのオンライン強化学習が必要で、高速で安全な適応には実用的ではない。
本稿では,人間による潜伏空間の介入から凍結生成ロボットポリシーを適応するための,サンプルおよび計算効率のよいFlowDAggerを提案する。
私たちのキーとなるアイデアはアクション・インバージョンです。人間の専門家のアクションは、リバースタイムの統合と局所的な改善によって、凍結されたベースポリシーの下で発生したであろうノイズにマッピングされます。
結果として生じる逆ノイズは、デプロイメント時にベースモデルを操縦する軽量な潜在ポリシーを監督し、その振る舞いの事前を保ちながら、迅速なスキル獲得を可能にする。
本研究では,フローダガーのシミュレーションおよび実世界のバイマガル・シングルアーム操作において,アクションヘッドVLAとワールドアクションモデルの両方を少数の介入から適用し,フローダガーの評価を行った。
FlowDAggerは、微調整と潜伏空間のRLベースラインを監督し、保持されたタスクに事前訓練されたスキルを保ち、現実の世界でロボット基盤モデルを適応するための実践的なパスを提供する。
ウェブサイト:https://microsoft.github.io/FlowDAgger
関連論文リスト
- RoMAN-Flow: Taming Autoregressive Normalizing Flows for Offline Reinforcement Learning in Robotic Manipulation [36.16163751472016]
オフライン強化学習フレームワークは、ロボット操作にAR-NFポリシーを実用的なものにする。
RoMAN-Flowはサンプリング不要で有利な可能性の目標を採用している。
シミュレーションされた操作ベンチマークと実世界のロボットプラットフォームによる実験は、RoMAN-Flowが競合ポリシーのパフォーマンスを達成することを実証している。
論文 参考訳(メタデータ) (2026-08-20T16:07:56Z) - HAF: Adapting Generalist VLAs to Humanoid Whole-Body Loco-manipulation via Hierarchical Action Flow and Spectral Latent RL [56.014913786737104]
本稿では,HAF(Humanoid Adaptation Framework)を導入し,市販の汎用VLAファンデーションモデルをヒューマノイド全体のロコ操作に転送する。
HAF-VLAは、事前訓練されたフローマッチングVLA上に構築された階層型アクションフロージェネレータである。
HaF-Steerは、フローマッチングの可逆性とDCTに基づく次元削減を活用する、オフラインからオフラインまでの潜時パイプラインである。
論文 参考訳(メタデータ) (2026-08-17T17:22:33Z) - PriGo: Test-Time Primitive Guidance to Diffusion and Flow Policies for Adaptive Robotic Manipulation [28.358317763869664]
PriGoは、堅牢なロボット操作のためのプリミティブ誘導テストタイム適応フレームワークである。
本稿では,観測結果から直接原始分布を推定する軽量プリミティブ予測モジュールPANetを紹介する。
以前のプリミティブ条件のアプローチとは異なり、PriGoは完全にテスト時に動作し、事前訓練された拡散とフローポリシーにシームレスに統合できる。
論文 参考訳(メタデータ) (2026-07-08T07:08:11Z) - HiL-ResRL: A Model-Agnostic Finetuning Adapter via Human-in-the-loop Residual Reinforcement Learning [15.872908522637957]
本稿では,VLA(Vision-Language-Action)モデルのための,プラグイン・アンド・プレイファインチューニングパイプラインを提案する。
VLA生成したアクションを統一インターフェースとして概念化し、残留ポリシーをトレーニングする。
オンラインのRLトレーニングを1.5時間以内に行うと、実際のロボットの平均成功率は95%を超えます。
論文 参考訳(メタデータ) (2026-06-22T05:07:08Z) - FlowCorrect: Efficient Interactive Correction of Generative Flow Policies for Robotic Manipulation [0.7666240799116112]
FlowCorrectはモジュール型のインタラクティブな模倣学習アプローチで、フローマッチング操作ポリシのデプロイメント時適応を可能にする。
実際のロボットを4つのテーブルトップタスク(ピック・アンド・プレイス、注ぐ、カップアップライト、挿入)で評価した。
修正予算の低いFlowCorrectは、以前に失敗したケースで80%の成功率を達成した。
論文 参考訳(メタデータ) (2026-02-25T16:06:49Z) - RFS: Reinforcement Learning with Residual Flow Steering for Dexterous Manipulation [7.500999283386335]
残留フローステアリング(Residual Flow Steering、RFS)は、事前訓練された生成ポリシーを適用するためのデータ効率の強化学習フレームワークである。
RFSは、残留動作と潜時雑音分布を協調的に最適化することにより、事前訓練されたフローマッチングポリシーを操る。
シミュレーションと実世界の両方の設定において, RFS が効率よく微調整できることを示す。
論文 参考訳(メタデータ) (2026-02-02T08:11:57Z) - Towards Bridging the Gap between Large-Scale Pretraining and Efficient Finetuning for Humanoid Control [18.618486126491334]
SAC(Soft Actor-Critic)がヒューマノイド・ロコモーション・ポリシーの大規模事前学習を確実に支援していることが判明した。
SAC-pretrained Policyは、モデルベースの手法を用いて、新しい環境やアウト・オブ・ディストリビューションタスクで微調整できる。
全体としては, 大規模シミュレーションのウォールクロック効率と, 微調整時のモデルベース学習のサンプル効率を両立させる。
論文 参考訳(メタデータ) (2026-01-29T07:43:24Z) - SPACeR: Self-Play Anchoring with Centralized Reference Models [50.55045557371374]
Simエージェントポリシーは、現実的で、人間らしく、高速で、マルチエージェント設定でスケーラブルである。
大規模な拡散モデルやトークン化モデルを用いた模倣学習の最近の進歩は、人間の運転データから直接行動を把握することができることを示している。
本研究では,事前訓練されたトークン化自己回帰運動モデルを利用したSPACeRを提案する。
論文 参考訳(メタデータ) (2025-10-20T19:53:02Z) - Dexplore: Scalable Neural Control for Dexterous Manipulation from Reference-Scoped Exploration [58.4036440289082]
ハンドオブジェクトモーションキャプチャ(MoCap)は、大規模でコンタクトに富んだデモと、器用なロボットスコープの約束を提供する。
Dexploreは、リポジトリとトラッキングを実行し、MoCapから直接ロボット制御ポリシーを学習する、統一された単一ループ最適化である。
論文 参考訳(メタデータ) (2025-09-11T17:59:07Z) - Align-Then-stEer: Adapting the Vision-Language Action Models through Unified Latent Guidance [63.33213516925946]
textbfAlign-Then-stEer(textttATE)は,新しいデータ効率,プラグアンドプレイ適応フレームワークである。
我々の研究は、新しいロボットプラットフォームやタスクにVLAモデルをデプロイする実用性を大幅に向上させる、汎用的で軽量なソリューションを提供する。
論文 参考訳(メタデータ) (2025-09-02T07:51:59Z) - Action Flow Matching for Continual Robot Learning [54.10050120844738]
ロボット工学における継続的な学習は、変化する環境やタスクに常に適応できるシステムを求める。
本稿では,オンラインロボット力学モデルアライメントのためのフローマッチングを利用した生成フレームワークを提案する。
ロボットは,不整合モデルで探索するのではなく,行動自体を変換することで,より効率的に情報収集を行う。
論文 参考訳(メタデータ) (2025-04-25T16:26:15Z) - Let Offline RL Flow: Training Conservative Agents in the Latent Space of
Normalizing Flows [58.762959061522736]
オフライン強化学習は、追加の環境相互作用なしに、事前に記録された、固定されたデータセット上でポリシーをトレーニングすることを目的としている。
我々は、最近、潜在行動空間における学習ポリシーを基礎として、生成モデルの構築に正規化フローの特別な形式を用いる。
提案手法が最近提案したアルゴリズムより優れていることを示すため,様々な移動タスクとナビゲーションタスクについて評価を行った。
論文 参考訳(メタデータ) (2022-11-20T21:57:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。