論文の概要: RARA: Robust Policy Fine-Tuning through Retrieval-Anchored Representation Alignment for Robotic Manipulation
- arxiv url: http://arxiv.org/abs/2610.13578v1
- Date: Fri, 09 Oct 2026 13:31:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-13 04:06:29.600918
- Title: RARA: Robust Policy Fine-Tuning through Retrieval-Anchored Representation Alignment for Robotic Manipulation
- Title(参考訳): RARA:ロボットマニピュレーションのための検索型表現アライメントによるロバストポリシーファインチューニング
- Abstract要約: Retrieval-Anchored Representation Alignment (RARA)は2段階適応法である。
RARAは、同様のタスク意図と動作で事前トレーニングから表現機能を取得する。
ターゲットのデモのポリシーを微調整し、検索したデモの表現がどれだけ変化するかを微調整する。
- 参考スコア(独自算出の注目度): 17.617980558210956
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Pre-trained robot policies, such as Vision-Language-Action (VLA) models, provide a strong foundation for generalist robotic manipulation, but adapting them to new tasks with only a few demonstrations remains challenging. Directly fine-tuning a pre-trained policy often achieves strong in-distribution performance, yet it can distort the representations learned during pre-training and weaken the model's generalization ability under out-of-distribution shifts. We propose Retrieval-Anchored Representation Alignment (RARA), a two-stage adaptation method, to address this issue. First, RARA retrieves representation features from pretraining with similar task intent and motion, and aligns the policy's representations of the target demonstrations with the pre-trained representations of the retrieved demonstrations. Second, RARA fine-tunes the policy on the target demonstrations while limiting how much its representations of the retrieved demonstrations change during fine-tuning. By reducing the representation mismatch before action learning and preserving pre-trained knowledge during adaptation, RARA limits unnecessary representation drift during fine-tuning. Experiments with Diffusion Policy and GR00T on 13 tasks in RoboTwin, RoboCasa, and on a real robot show that RARA improves the average success of fine-tuning by 9.5 points in-distribution and 13.6 points out-of-distribution, and outperforms all compared baselines. Project page: https://shua-kang.github.io/RARA_robot/
- Abstract(参考訳): VLA(Vision-Language-Action)モデルのような事前訓練されたロボットポリシーは、汎用的なロボット操作の強力な基盤を提供するが、いくつかのデモで新しいタスクに適応することは依然として困難である。
事前学習されたポリシーを直接微調整することは、しばしば強い分配性能を達成するが、事前学習中に学んだ表現を歪め、アウト・オブ・ディストリビューションシフトの下でモデルの一般化能力を弱めることができる。
本稿では,2段階適応法であるRetrieval-Anchored Representation Alignment (RARA)を提案する。
まず、RARAは、類似したタスク意図と動作で事前訓練された表現特徴を検索し、対象とするデモのポリシーの表現と、検索したデモの事前訓練された表現とを整列させる。
第二に、RARAはターゲットのデモのポリシーを微調整し、検索したデモの表現がどれだけ変化するかを細調整する。
動作学習前の表現ミスマッチを減らし、適応中に訓練済みの知識を保存することにより、RARAは微調整時に不要な表現ドリフトを制限する。
拡散政策とGR00TによるRoboTwin、RoboCasa、および実際のロボットでの13のタスクの実験では、RARAはファインチューニングの成功率を9.5ポイント、13.6ポイントのアウト・オブ・ディストリビューションで改善し、全ての比較ベースラインを上回っている。
プロジェクトページ:https://shua-kang.github.io/RARA_robot/
関連論文リスト
- Residual Modeling Closes the Regression and Generative Policy Gap in Robot Learning [25.08351129371334]
政策学習の一般的な選択は拡散やフローマッチング(Flow-Policies)を使うことであり、これは平均二乗誤差(MSE-Policies)で訓練された直接の行動回帰よりも優れている。
我々は、このギャップを統計的モデリングの観点から再考する: 行動予測が政策最適化をどう形作るか。
我々は,入力依存型残差尺度を学習し,重尾の影響を低減するヘテロスセダスティックな学生-t行動回帰(HT-Policies)を導入する。
論文 参考訳(メタデータ) (2026-10-08T16:16:09Z) - Stable and Efficient Real-World Online VLA Post-Training via Asynchronous Replay-Anchored Policy Improvement [60.83624556700821]
本稿では,リプレイ動作における批評家とアクターの更新の両方を基盤として,ロールアウトと学習を同時に行うフレームワークを提案する。
RAPolicyを4つのシングルタスク設定と1つのジョイント5タスク設定で実世界で評価し,オンライントレーニングの予算は1~2時間に過ぎなかった。
論文 参考訳(メタデータ) (2026-09-19T08:45:18Z) - Beyond Noise Steering: Dual-Latent Space Reinforcement Learning for Generative Robot Policy [13.530890681678619]
事前訓練された生成ロボットポリシーは、デモの前に表現行動を学ぶ。
既存の強化学習法はノイズ空間のみを操るが、生成過程中に中間的な動作表現を変調することができない。
そこで本研究では,凍結発生器内の表現レベル制御で初期ノイズの操舵を補完する新しいDual-Latent Space Reinforcement Learningフレームワークを提案する。
論文 参考訳(メタデータ) (2026-09-10T09:04:04Z) - Robust Bimanual Vision-Language-Action Models via Embarrassingly Simple Modality Masking [48.85795530951384]
構造化されたトレーニング時間マスキングは、双方向操作のためのクエリベースのVLAポリシーの堅牢性を向上させることができることを示す。
その結果,構造化学習時間マスキングは,双方向操作のためのクエリベースのVLAポリシーの堅牢性を改善するための実践的な方法であることが示唆された。
論文 参考訳(メタデータ) (2026-08-23T13:48:57Z) - StellaVLA: In-Context Structured Demonstration for Generalizable Vision-Language-Action Models [37.45050514108603]
本稿では,検索した1つのデモを条件付けして,テスト時に適応するフレームワークであるStellaVLAを紹介する。
自動オフラインパイプラインは、各生の軌跡を、例えばタスクプラン、サブゴール記述、言語化された3Dモーションなどの構造化されたデモに変換する。
並列な二重訓練設計は、この推論を共同行動および言語目的を通じて内部化し、推論はアクションエキスパートのみを使用する。
論文 参考訳(メタデータ) (2026-08-12T05:30:53Z) - Perfect Demo Makes Poor Teacher: Learning Robust Alignment from Critical Motion Segments [53.85970147743299]
専門家によるデモンストレーションは、ロボット模倣学習における金の標準であると広く考えられている。
しかし、挿入、積み重ね、アライメントなどのきめ細かい操作のために、私たちは直感的な失敗モードを発見しました。
視覚言語モデルとアクションエキスパートをブリッジする,コンパクトな動的特徴であるSTAIRを導入する。
論文 参考訳(メタデータ) (2026-06-14T04:15:29Z) - Two Bridges, One Pathway: From VLMs to Generalizable VLAs with Embodied Trajectory-Coupled Data [93.7685703383343]
視覚言語モデル(VLM)は強力な汎用推論器であるが、ロボット制御ポリシーに変換することは驚くほど難しい。
このギャップは、適切な中間データで徐々にブリッジできると我々は主張する。
本研究では,タスク関連アウト・オブ・ディストリビューションETCデータと少量のアクションデータとを混合することにより,新しい視覚言語条件に一般化できることを示す。
論文 参考訳(メタデータ) (2026-06-07T08:57:51Z) - VLS: Steering Pretrained Robot Policies via Vision-Language Models [31.189909515514668]
Vision-Language Steering (VLS)は、凍結生成ロボットポリシーの推論時間適応のためのトレーニング不要フレームワークである。
VLSは、適応を推論時間制御問題として扱い、事前訓練された拡散またはフローマッチングポリシーのサンプリングプロセスを操る。
論文 参考訳(メタデータ) (2026-02-03T19:50:16Z) - EVOLVE-VLA: Test-Time Training from Environment Feedback for Vision-Language-Action Models [57.75717492488268]
VLA(Vision-Language-Action)モデルは、大きな言語モデルを活用することで高度なロボット操作を行う。
Supervised Finetuning (SFT) では、タスク毎の数百のデモ、厳格に軌跡を記憶すること、デプロイメント条件がトレーニングから逸脱したときに適応できないことなどが求められている。
EVOLVE-VLA(EVOLVE-VLA)は、VLAが最小またはゼロのタスク固有のデモで環境相互作用を通じて継続的に適応できるテストタイムトレーニングフレームワークである。
論文 参考訳(メタデータ) (2025-12-16T18:26:38Z) - Robust Instant Policy: Leveraging Student's t-Regression Model for Robust In-context Imitation Learning of Robot Manipulation [4.545367391076448]
我々は、ロバストインスタントポリシー(RIP)と呼ばれる、新しいロバストなインコンテキスト模倣学習アルゴリズムを提案する。
RIPは、LLMから与えられたタスクを完了させるためにいくつかの候補ロボット軌道を生成し、学生のt分布を用いてそれらを集約する。
実環境と実環境の両方で実験を行った結果,RIPは最先端のIL法よりも優れていた。
論文 参考訳(メタデータ) (2025-06-18T06:02:06Z) - A State-Distribution Matching Approach to Non-Episodic Reinforcement
Learning [61.406020873047794]
現実世界の応用への大きなハードルは、エピソード的な環境でのアルゴリズムの開発である。
提案手法は,提案する実証実験における状態分布に一致するように後方方針を訓練する手法である。
実験の結果,MEDALは3つのスパース・リワード連続制御タスクにおいて先行手法と一致し,性能が向上することがわかった。
論文 参考訳(メタデータ) (2022-05-11T00:06:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。