論文の概要: EvoHIL: Self-Evolving Reward and Flow-Matched Policy Optimization for Robust Human-in-the-Loop Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2608.03872v1
- Date: Tue, 04 Aug 2026 16:12:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 07:04:20.732516
- Title: EvoHIL: Self-Evolving Reward and Flow-Matched Policy Optimization for Robust Human-in-the-Loop Reinforcement Learning
- Title(参考訳): EvoHIL:ロバストなヒューマン・イン・ザ・ループ強化学習のための自己進化的リワードとフローマッチ型ポリシー最適化
- Abstract要約: EvoHILは、報酬モデル、アクションジェネレータ、ヴィジュアルドメインを、段階的なヒューマン・イン・ザ・ループ学習プロセスに適合させる統一されたフレームワークである。
タスクの成功、人間確認ラベルとの合意、動作のスムーズさ、ループ中の人間と模倣のベースラインに対する完了時間を改善する。
- 参考スコア(独自算出の注目度): 14.891400906901433
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Human-in-the-loop reinforcement learning (HIL-RL) enables robots to learn contact-rich manipulation from limited real-world interaction, but deployment exposes three coupled limitations: static visual reward models fail under scene changes; independently sampled actions cause temporally inconsistent motion; and vision-based policies remain sensitive to appearance shifts. We present EvoHIL, a unified framework that adapts the reward model, action generator, and visual do main within a staged human-in-the-loop learning process. First, self-evolving reward (SER) adapts the success classifier from human-confirmed positives and provisional weak negatives. Second, Action Flow Stabilization (AFS) generates temporally coherent action chunks through flow matching, grounding policy updates in executed action prefixes and demonstrated behavior. Third, retention-aware offline fine-tuning replays relit interaction data while anchoring the AFS actor-critic to prior behavior, adapting the visual domain without additional robot interaction. Across six manipulation tasks on Franka FR3 and SO-101 arms under a controlled lighting shift, EvoHIL improves task success, agreement with human-confirmation labels, motion smoothness, and completion time relative to human-in-the-loop and imitation baselines.Project page: https://anonymous4366.github.io/EvoHIL/
- Abstract(参考訳): ヒューマン・イン・ザ・ループ強化学習(HIL-RL)は、ロボットが現実世界の限られた相互作用からコンタクトリッチな操作を学習することを可能にするが、デプロイは3つの複合的な制限を露呈する。
EvoHILは報奨モデル、アクションジェネレータ、視覚ドメインを段階的な人間-ループ学習プロセスに適応させる統合フレームワークである。
第一に、自己進化報酬(SER)は、人間の肯定陽性と仮弱陰性から成功分類器を適応させる。
第2に、アクションフロー安定化(AFS)は、フローマッチング、実行されたアクションプレフィックスのポリシー更新、動作の実証を通じて、時間的に一貫性のあるアクションチャンクを生成する。
第3に、保持を意識したオフライン微調整リプレイは、AFSアクター批判を事前の動作に固定しつつ、ロボットのインタラクションを追加せずに視覚領域を適応させながら、インタラクションデータに依存する。
制御された照明シフト下でのFranka FR3とSO-101アームの6つの操作タスクにおいて、EvoHILはタスク成功、人間確認ラベルとの合意、動作のスムーズさ、人間のループと模倣ベースラインに対する完了時間を改善する。
関連論文リスト
- Unifying Physics-Based Humanoid Interaction with a Context-Conditioned Interaction Prior [20.58647951068921]
CHIPは、不均一な動きデータから再利用可能なヒューマノイド相互作用スキルを学習するための物理学的な基盤となるフレームワークである。
我々はまず,不均一な相互作用データから基礎となる教師の行動を取得する物理に基づくモーション・イミュレーション・ポリシーを学習する。
次に、これらの動作を文脈条件付き相互作用に蒸留し、移動と操作をまたいだ再利用可能な運動構造をキャプチャする。
論文 参考訳(メタデータ) (2026-09-06T13:16:48Z) - HAF: Adapting Generalist VLAs to Humanoid Whole-Body Loco-manipulation via Hierarchical Action Flow and Spectral Latent RL [56.014913786737104]
本稿では,HAF(Humanoid Adaptation Framework)を導入し,市販の汎用VLAファンデーションモデルをヒューマノイド全体のロコ操作に転送する。
HAF-VLAは、事前訓練されたフローマッチングVLA上に構築された階層型アクションフロージェネレータである。
HaF-Steerは、フローマッチングの可逆性とDCTに基づく次元削減を活用する、オフラインからオフラインまでの潜時パイプラインである。
論文 参考訳(メタデータ) (2026-08-17T17:22:33Z) - Skill Self-Play: Pushing the Frontier of LLM Capability with Co-Evolving Skills [53.15216425100295]
本稿では,提案者,解決者,スキルコントローラからなる共進化型フレームワークであるスキルセルフプレイ(スキルSP)を紹介する。
プロジェクタは動的にサンプリングされたスキルを前提とした挑戦的なタスクを生成し、ソルバは能力境界を押し上げるための候補ソリューションを探索し、スキルコントローラは実行フィードバックを収集してスキルライブラリを更新および拡張する。
このインタラクティブな共進化は、構造化された検証とオープンな調査の間のギャップを効果的に埋める。
論文 参考訳(メタデータ) (2026-07-24T17:59:22Z) - CausalDrive: Real-time Causal World Models for Autonomous Driving [60.66609721457312]
制御可能でリアルタイムなファンデーション駆動の世界であるCausalDriveを紹介します。
CaulDriveは、最初のフロントビューフレーム、エゴ車両の軌道、マクロテキストプロンプトのみで動作する。
本稿では,(1)衝突アーティファクトを著しく緩和した生成的クローズループ評価,(2)ビデオ2Rewardモジュールによる大規模強化学習(RL)後トレーニング,(3)リアルタイムの人間-イン-ザ・ループシミュレーション,の3つのダウンストリームアプリケーションにおける汎用性を実証する。
論文 参考訳(メタデータ) (2026-06-13T15:04:44Z) - HOIST: Humanoid Optimization with Imitation and Sample-efficient Tuning for Manipulating Suspended Loads [26.63242922377076]
本報告では, 吊り荷重の操作にImitation と Sample- efficient Tuning を最適化したHOIST-Humanoidを提案する。
HOISTはまず、仮想現実(VR)遠隔操作のデモから、高レベルのビジョンアクション(VLA)ポリシーを微調整する。
次に、VLAロールアウトと反復バッチRLを使用して配置精度を改善し、動作を停止する。
論文 参考訳(メタデータ) (2026-05-29T18:33:32Z) - From Imagined Futures to Executable Actions: Mixture of Latent Actions for Robot Manipulation [88.39072412680633]
将来の映像を実行可能な表現に変換する制御指向インタフェースであるMoLAを提案する。
我々は,シミュレーションベンチマークと実世界のロボット操作タスクに対するアプローチを評価した。
論文 参考訳(メタデータ) (2026-05-12T14:15:16Z) - LatentPilot: Scene-Aware Vision-and-Language Navigation by Dreaming Ahead with Latent Visual Reasoning [51.969318585152116]
LatentPilotは、トレーニング中の将来の観察を貴重なデータソースとして利用して、アクション条件付きビジュアルダイナミクスを学習する。
そこで本稿では,フライホイール方式のトレーニング機構を提案する。これは,道路上の軌道を反復的に収集し,エージェントの行動分布に適合するようにモデルを再訓練する。
R2R-CE、RxR-CE、R2R-PEベンチマークの実験では新たなSOTA結果が得られた。
論文 参考訳(メタデータ) (2026-03-31T02:21:59Z) - Self-Correcting VLA: Online Action Refinement via Sparse World Imagination [55.982504915794514]
本稿では, 自己補正VLA (SC-VLA) を提案する。
SC-VLAは最先端のパフォーマンスを達成し、最高タスクスループットを16%削減し、最高パフォーマンスのベースラインよりも9%高い成功率を得る。
論文 参考訳(メタデータ) (2026-02-25T06:58:06Z) - FlowHOI: Flow-based Semantics-Grounded Generation of Hand-Object Interactions for Dexterous Robot Manipulation [23.19464039872024]
FlowHOIは、時間的にコヒーレントなHOIシーケンスを生成するフローマッチングフレームワークである。
本研究では,FlowHOIが最も高い動作認識精度と1.7$times$高い物理シミュレーション成功率を達成することを示す。
論文 参考訳(メタデータ) (2026-02-13T20:46:08Z) - ConLA: Contrastive Latent Action Learning from Human Videos for Robotic Manipulation [27.54751123419347]
人間のビデオからロボットポリシーを学習するための教師なし事前学習フレームワークであるConLAを提案する。
人間のビデオのみに事前学習を行うことで、実際のロボット軌道事前学習で得られた性能を初めて上回ります。
論文 参考訳(メタデータ) (2026-01-31T06:40:57Z) - Learning Whole-Body Human-Humanoid Interaction from Human-Human Demonstrations [63.80827184637476]
D-STAR(D-STAR)は,行動すべき場所から行動すべき場所を乱す階層的な政策である。
広範かつ厳密なシミュレーションを通じて、我々のフレームワークを検証する。
論文 参考訳(メタデータ) (2026-01-14T14:37:06Z) - Bootstrap Dynamic-Aware 3D Visual Representation for Scalable Robot Learning [20.535171893983794]
AFROは,行動や再建を伴わない3次元表現を学習する自己指導型フレームワークである。
視覚的特徴の質と安定性を改善し,特徴の相違と逆一貫性の監視を取り入れた。
Diffusion Policyと組み合わせると、AFROは16のシミュレーションと4つの実世界のタスクの操作成功率を大幅に向上させる。
論文 参考訳(メタデータ) (2025-11-25T02:15:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。