論文の概要: $Δ$ Flow Matching for Robot Foundation Models
- arxiv url: http://arxiv.org/abs/2610.15794v1
- Date: Sun, 11 Oct 2026 17:31:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-19 16:33:56.974487
- Title: $Δ$ Flow Matching for Robot Foundation Models
- Title(参考訳): ロボット基礎モデルのための$Δ$フローマッチング
- Abstract要約: フローマッチングは、ロボット基礎モデルの一般的な生成レシピである。
固定されたガウスの先行値ではなく、最近の歴史から緩やかな雑音で情報源を構成する$-flowを導入する。
$-flow は LIBERO-Plus の最先端の一般化性能に到達します。
- 参考スコア(独自算出の注目度): 23.8461776255119
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Flow matching is a common generative recipe for robot foundation models. Vision-language-action models (VLAs) generate action chunks, while world-action models (WAMs) additionally generate future visual states. Both start generation from a fixed Gaussian prior, despite temporal continuity between past and future states and actions. This requires costly training and iterative sampling, especially for WAMs with an additional visual branch. We introduce $Δ$-flow, which constructs the source from recent history with mild noise rather than from a fixed Gaussian prior. This moves the source closer to the target, reducing transport to a small residual $Δ$ that can be learned efficiently and enables single-step inference. We integrate $Δ$-flow into the VLA policy $π_{0.5}$ and the WAM policies ImageWAM and Fast-WAM. On LIBERO, ImageWAM reaches 90% success in one epoch rather than six, and Fast-WAM reaches 95% in two epochs rather than eight. With LoRA fine-tuning, $π_{0.5}$ exceeds its baseline's five-epoch performance after one epoch. Single-step inference gives $1.54\times$, $2.49\times$, and $4.45\times$ speedups on $π_{0.5}$, ImageWAM, and Fast-WAM, respectively. It preserves action smoothness, achieving a $4.5\times$ reduction in action jerk compared with one-step Gaussian sampling. $Δ$-flow reaches state-of-the-art generalization performance on LIBERO-Plus. Action-history sources can be applied to pretrained WAM policies without retraining. Replacing the Gaussian action source at inference largely preserves task success with a single sampling step and can slightly improve it. We further study how action representation and visual information in action learning affect history-to-future prediction in $Δ$-flow. These results show that $Δ$-flow is simple yet effective, improving the efficiency and generalization of robot foundation models.
- Abstract(参考訳): フローマッチングは、ロボット基礎モデルの一般的な生成レシピである。
視覚言語アクションモデル(VLA)はアクションチャンクを生成し、ワールドアクションモデル(WAM)は将来の視覚状態を生成する。
どちらも、過去と将来の状態と行動の間の時間的連続性に拘わらず、固定されたガウス先行から始まる。
これは、特に追加の視覚枝を持つWAMに対して、コストのかかるトレーニングと反復的なサンプリングを必要とする。
固定ガウス先行法ではなく、最近の歴史から緩やかな雑音で情報源を構成する$Δ$-flowを導入する。
これにより、ソースをターゲットに近づくことで、効率よく学習でき、シングルステップ推論を可能にする小さな残差$Δ$への輸送を減らすことができる。
我々は、$Δ$-flow を VLA ポリシー $π_{0.5}$ と WAM ポリシー ImageWAM と Fast-WAM に統合する。
LIBEROでは、ImageWAMは6つではなく1つのエポックで90%成功し、Fast-WAMは8つではなく2つのエポックで95%成功している。
LoRAファインチューニングにより、$π_{0.5}$は1エポック後のベースラインの5エポックパフォーマンスを上回る。
シングルステップ推論では、それぞれ$1.54\times$、$2.49\times$、$π_{0.5}$、ImageWAM、Fast-WAMで$4.45\times$のスピードアップが与えられる。
アクション・スムーズさを保ち、アクション・ジャークを1ステップのガウスサンプリングと比較すると4.5\times$還元する。
Δ$-flow は LIBERO-Plus の最先端の一般化性能に達する。
アクション・ヒストリー・ソースは、事前訓練されたWAMポリシーに再トレーニングなしで適用することができる。
ガウスの行動源を推論で置き換えることは、単一のサンプリングステップでタスクの成功を保ち、わずかに改善することができる。
さらに,アクション学習における行動表現と視覚情報が$Δ$-flowの履歴・未来予測に与える影響について検討する。
これらの結果から,$Δ$-flowは単純かつ効果的であり,ロボット基礎モデルの効率化と一般化が期待できる。
関連論文リスト
- Decoupled Early Exits for Task-Dependent Compute Allocation in Flow-Matching VLAs [53.20313939184399]
フローマッチング型ビジョン・ランゲージ・アクション(VLA)モデルは、ジェネラリストロボット制御の潜在的な解決策として浮上している。
本稿では,バックボーン深度を$V$,アクションエキスパート深度を$A$,ステップを$D$とすることを提案する。
最適な計算予算はタスクに依存しており、様々なタスクは異なる軸と深さから恩恵を受ける。
論文 参考訳(メタデータ) (2026-09-24T11:10:00Z) - REFACTOR-VLA: Unsupervised Library Learning of Typed Motor Programs [0.0]
ほとんどの視覚言語アクション(VLA)モデルはモノリシックである。
本稿では、再利用可能なスキルを学習するためのウェイク/スリープモデルシステムであるREFACTOR-VLAを紹介する。
論文 参考訳(メタデータ) (2026-09-01T13:19:05Z) - How Neural Reward Models Learn Features for Policy Optimization: A Single-Index Analysis [53.063298916923976]
r*(x) = *(langle *, xrangle)$ と $x sim N(0, I_d)$ でガウスの単一インデックスモデルでフィードバックを研究する。
まず、報酬重み付きサンプルから隠れた方向を*$で学習し、次に重み付きリッジ回帰により読み出し層に適合する2段階のニューラル報酬モデルを分析する。
論文 参考訳(メタデータ) (2026-05-23T22:00:38Z) - On Fitting Flow Models with Large Sinkhorn Couplings [34.004981672572484]
フローモデルは、1つのモーダリティ(例えばノイズ)から別のモーダリティ(例えば画像)へ徐々にデータを変換する。
近年の研究では、$n$ソースと$n$ターゲットポイントのミニバッチをサンプリングし、OTソルバを使用してそれらを再注文してより良いペアを作る方法が提案されている。
エントロピーの正則化が低い大きなシンクホーンカップリングを組み込む場合, 流れモデルに大きな利点があることが示される。
論文 参考訳(メタデータ) (2025-06-05T19:19:01Z) - Simple ReFlow: Improved Techniques for Fast Flow Models [68.32300636049008]
拡散および流れマッチングモデルは、優れた生成性能を実現するが、多くのサンプリングステップを犠牲にしている。
我々は、力学、学習、推論のトレーニングに7つの改善点を提案する。
我々は、ニューラルネットワークによる高速な生成のために、最先端のFIDスコア(ガイダンスなし/参照なし)を達成している。
論文 参考訳(メタデータ) (2024-10-10T11:00:55Z) - Reward-Mixing MDPs with a Few Latent Contexts are Learnable [75.17357040707347]
報酬混合マルコフ決定過程(RMMDP)におけるエピソード強化学習の検討
我々のゴールは、そのようなモデルにおける時間段階の累積報酬をほぼ最大化する、ほぼ最適に近いポリシーを学ぶことである。
論文 参考訳(メタデータ) (2022-10-05T22:52:00Z) - Improving Robustness and Generality of NLP Models Using Disentangled
Representations [62.08794500431367]
スーパービジョンニューラルネットワークはまず入力$x$を単一の表現$z$にマップし、次に出力ラベル$y$にマッピングする。
本研究では,非交叉表現学習の観点から,NLPモデルの堅牢性と汎用性を改善する手法を提案する。
提案した基準でトレーニングしたモデルは、広範囲の教師付き学習タスクにおいて、より堅牢性とドメイン適応性を向上することを示す。
論文 参考訳(メタデータ) (2020-09-21T02:48:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。