論文の概要: CLIFT: Turning Gemini Robotics On-Device into Humanoid Specialists via Non-Invasive Closed-Loop Iterative Fine-Tuning
- arxiv url: http://arxiv.org/abs/2607.29172v1
- Date: Fri, 31 Jul 2026 08:50:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-03 14:29:40.656756
- Title: CLIFT: Turning Gemini Robotics On-Device into Humanoid Specialists via Non-Invasive Closed-Loop Iterative Fine-Tuning
- Title(参考訳): CLIFT:ジェミニ・ロボティクスのオンデバイスを非侵襲的なクローズドループ・イテレーティブ・ファインタニングでヒューマノイドのスペシャリストに
- Abstract要約: クローズドウェイトロボットファウンデーションモデルに対する新たなアクセスパラダイムは、管理された教師付き微調整(SFT)APIである。
我々は,この管理API体制がヒューマノイド適応にいかに有効かを研究する。
CLIFT: Closed-Loop Iterative Fine-Tuningは、デプロイメント時の報酬フィードバックをAPI互換の教師付きデータに変換するものです。
- 参考スコア(独自算出の注目度): 45.60764233402256
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: While robot foundation models are growing increasingly capable, the strongest models are typically trained on proprietary data and remain closed-source, limiting downstream users' ability to adapt them to new tasks, embodiments, and deployment settings. Following the LLM community, an emerging access paradigm for closed-weight robot foundation models is the managed supervised fine-tuning (SFT) API, where users submit training data and receive a tuned policy without access to model weights, gradients, or training internals. While such APIs let downstream users leverage powerful proprietary foundation models, they restrict policy improvement to pure imitation, ruling out reinforcement learning and other closed-loop methods that rely on internal training signals. This limitation is particularly acute for agile, contact-rich humanoid manipulation, where the gap between policy outputs and deployed behavior is large due to novel states, action tracking dynamics, latency, and controller-specific failure modes. We study how effective this managed-API regime is for humanoid adaptation, and how closed-loop improvement can be realized within it to push policies toward task mastery. We conduct one of the first empirical studies of managed-API adaptation on a real humanoid, instantiated on Gemini Robotics On-Device (GROD). We find that direct SFT through the API substantially outperforms a leading open-weight VLA trained on the same demonstrations, yet still falls short of deployment-level mastery on agile, contact-rich tasks. To close this gap, we introduce CLIFT: Closed-Loop Iterative Fine-Tuning, which turns deployment-time reward feedback into API-compatible supervised data and enables closed-loop policy improvement without accessing weights, gradients, likelihoods, or losses-pushing GROD to near-perfect success after two flywheel cycles, all without "opening the model box."
- Abstract(参考訳): ロボットファンデーションモデルはますます有能になっているが、最強のモデルは一般的にプロプライエタリなデータに基づいてトレーニングされ、クローズドソースのままであり、下流のユーザが新しいタスクや実施状況、デプロイメント設定に適応する能力を制限する。
LLMコミュニティに続いて、クローズドウェイトロボットファンデーションモデルの新たなアクセスパラダイムとして、ユーザがトレーニングデータを送信し、モデルウェイト、勾配、トレーニング内部へのアクセスなしにチューニングされたポリシーを受け取る、管理された微調整(SFT)APIがある。
このようなAPIによって、下流のユーザは強力なプロプライエタリなファンデーションモデルを活用することができるが、ポリシーの改善を純粋な模倣に制限し、内部のトレーニング信号に依存する強化学習やその他のクローズループメソッドを除外する。
ポリシ出力とデプロイされた動作のギャップは、新しい状態、アクショントラッキングのダイナミクス、レイテンシ、コントローラ固有の障害モードによって大きくなります。
我々は,この管理API体制がヒューマノイド適応にいかに有効か,また,その内部でクローズドループ改善を実現し,タスク熟達に向けてポリシーをプッシュするかを検討する。
我々は,Gemini Robotics On-Device (GROD) をベースとした,実際のヒューマノイド上でのマネージドAPI適応に関する最初の実証的研究を行った。
私たちは、APIを通じて直接SFTは、同じデモでトレーニングされた主要なオープンウェイトVLAよりも大幅に優れていますが、アジャイルでコンタクト豊富なタスクに対するデプロイメントレベルの熟達には欠けています。
このギャップを埋めるために、CLIFTを紹介します。 クローズドループイテレーティブファインタニングは、デプロイ時の報酬フィードバックをAPI互換の教師付きデータに変換し、ウェイト、グラデーション、可能性、損失処理のGRODにアクセスせずにクローズドループポリシーの改善を可能にします。
関連論文リスト
- VGFM: Expressive Robot Policies via Dense Value Guidance in Flow Matching [2.7429630700600893]
本稿では,フローベースのポリシ内で高密度な値誘導型シェーピングを可能にする,スケーラブルなオフラインRLフレームワークを提案する。
VGFMは、アクション(x-述語)空間における条件付きフローマッチングモデルとしてポリシーをパラメータ化する。
本稿では,厳密な評価プロトコルの下で,VGFMが幅広いタスクに対して高い性能を実現することを示す。
論文 参考訳(メタデータ) (2026-09-13T03:50:52Z) - FlowDAgger: Human-in-the-Loop Adaptation of Generative Robot Policies in Latent Space [15.351960740594201]
FlowDAggerは、潜伏空間における人間の介入から凍結した生成ロボットポリシーを適用するためのサンプルおよび計算効率のよい方法である。
私たちのキーとなるアイデアはアクション・インバージョン(アクション・インバージョン)です。
本研究では,FlowDAggerのシミュレーションおよび実世界のバイマニュアルおよびシングルアーム操作について評価する。
論文 参考訳(メタデータ) (2026-07-09T19:07:33Z) - CLEAR: Closed-Loop Reinforcement Learning at Scale for End-to-End Autonomous Driving [66.77752555295355]
E2E-ADのための大規模強化学習(RL)を用いた閉ループ訓練システムであるCLEARを提案する。
簡単な報奨により、CLEARは従来の手法よりも大幅に優れ、新しい最先端性能を設定できることが示される。
論文 参考訳(メタデータ) (2026-07-03T00:34:50Z) - AceGRPO: Adaptive Curriculum Enhanced Group Relative Policy Optimization for Autonomous Machine Learning Engineering [52.67783579040657]
AceGRPOは、エージェントの学習フロンティアにおけるタスクを優先順位付けして学習効率を最大化する機械学習システムである。
我々のトレーニングされたAce-30Bモデルは、MLE-Bench-Lite上で100%有効な応募率を実現し、プロプライエタリなフロンティアモデルの性能にアプローチし、より大きなオープンソースベースラインを上回ります。
論文 参考訳(メタデータ) (2026-02-08T10:55:03Z) - Constrained Decoding for Robotics Foundation Models [12.916330118607918]
本稿では,自動回帰ロボット基盤モデルのための制約付き復号化フレームワークであるSafeDecを紹介する。
タスク固有の安全ルールはSignal Temporal Logic (STL) 公式として表現され、最小限のオーバーヘッドで推論時に強制される。
提案手法は,実行時に仮定された動的条件下でのSTL仕様を,再トレーニングなしで確実に満たすものである。
論文 参考訳(メタデータ) (2025-09-01T19:17:40Z) - Human-assisted Robotic Policy Refinement via Action Preference Optimization [26.144183856600687]
行動選好最適化(Action Preference Optimization、APO)は、視覚・言語・行動モデル(VLA)を人間の操作による選好アライメントによって洗練する手法である。
これを解決するために、APOは相互作用から導出される二元的望ましくない信号を用いた適応的再重み付けアルゴリズムを提案する。
シミュレーションと実世界のシナリオで行われた実験は、より優れた一般化とロバスト性を示す。
論文 参考訳(メタデータ) (2025-06-08T13:14:18Z) - Action Flow Matching for Continual Robot Learning [54.10050120844738]
ロボット工学における継続的な学習は、変化する環境やタスクに常に適応できるシステムを求める。
本稿では,オンラインロボット力学モデルアライメントのためのフローマッチングを利用した生成フレームワークを提案する。
ロボットは,不整合モデルで探索するのではなく,行動自体を変換することで,より効率的に情報収集を行う。
論文 参考訳(メタデータ) (2025-04-25T16:26:15Z) - Zero-Shot Whole-Body Humanoid Control via Behavioral Foundation Models [71.34520793462069]
教師なし強化学習(RL)は、複雑な環境下で幅広い下流タスクを解くことができる事前学習エージェントを目標としている。
本稿では,ラベルのない行動データセットからトラジェクトリを模倣するための,教師なしRLの正規化アルゴリズムを提案する。
我々は,この手法の有効性を,挑戦的なヒューマノイド制御問題において実証する。
論文 参考訳(メタデータ) (2025-04-15T10:41:11Z) - Let Offline RL Flow: Training Conservative Agents in the Latent Space of
Normalizing Flows [58.762959061522736]
オフライン強化学習は、追加の環境相互作用なしに、事前に記録された、固定されたデータセット上でポリシーをトレーニングすることを目的としている。
我々は、最近、潜在行動空間における学習ポリシーを基礎として、生成モデルの構築に正規化フローの特別な形式を用いる。
提案手法が最近提案したアルゴリズムより優れていることを示すため,様々な移動タスクとナビゲーションタスクについて評価を行った。
論文 参考訳(メタデータ) (2022-11-20T21:57:10Z) - Fully Decentralized Model-based Policy Optimization for Networked
Systems [23.46407780093797]
本研究の目的は,モデルベース学習によるマルチエージェント制御のデータ効率の向上である。
エージェントが協力的であり、隣人とのみローカルに通信するネットワークシステムについて検討する。
提案手法では,各エージェントが将来の状態を予測し,通信によって予測をブロードキャストする動的モデルを学習し,その後,モデルロールアウトに基づいてポリシーをトレーニングする。
論文 参考訳(メタデータ) (2022-07-13T23:52:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。