論文の概要: Flash-WAM: Modality-Aware Distillation for World Action Models
- arxiv url: http://arxiv.org/abs/2606.05254v1
- Date: Wed, 03 Jun 2026 15:29:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-05 22:39:44.28554
- Title: Flash-WAM: Modality-Aware Distillation for World Action Models
- Title(参考訳): Flash-WAM:世界アクションモデルのためのモダリティ対応蒸留
- Authors: Arman Akbari, Ci Zhang, Arash Akbari, Lin Zhao, Yixiao Chen, Weiwei Chen, Xuan Zhang, Geng Yuan, Yanzhi Wang,
- Abstract要約: Flash-WAMは、一貫性蒸留にインスパイアされたモダリティ対応のステップ蒸留フレームワークである。
各モードにおける推論を1ステップに圧縮する。
シミュレーションベンチマークでのタスク成功を保ち、現実世界のパフォーマンスを大幅に回復する。
- 参考スコア(独自算出の注目度): 33.01873740511348
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: World-action models (WAMs) jointly generate future video and robot actions through iterative diffusion, achieving strong performance on manipulation benchmarks but requiring tens of denoising steps, a cost that precludes real-time control. Step distillation has emerged as the natural remedy, but off-the-shelf methods break down in the joint video-action setting because video and action streams use different SNR-shifted noise schedules and reach training with substantially different marginal noise distributions, an asymmetry that single-modality distillation methods cannot accommodate. We introduce \textbf{Flash-WAM}, a modality-aware step-distillation framework inspired by consistency distillation that selects the consistency function for each modality to match its noise regime: a linear-gradient-scaling parametrization for the action stream's low-noise regime, paired with a variance-preserving parametrization for the video stream's high-noise regime, grounded in a structural analysis of the consistency-function family that characterizes the achievable gradient scaling under the consistency boundary condition. Instantiated on LingBot-VA, Flash-WAM compresses inference to a single step in each modality. On RoboTwin 2.0, this reduces per-chunk latency from $8.1$ seconds to $348$ ms on NVIDIA L40S, a $23{\times}$ speedup that enables real-time inference. Flash-WAM preserves task success on simulation benchmarks ($85.5\%$ RoboTwin 2.0, $95.7\%$ LIBERO) and substantially recovers real-world performance ($60\%$ average on a Unitree G1 humanoid robot), while naive consistency distillation drops to $24\%$ at the same step budget.
- Abstract(参考訳): ワールドアクションモデル(WAM)は、反復拡散を通じて将来のビデオとロボットのアクションを共同で生成し、操作ベンチマーク上で強力なパフォーマンスを達成するが、リアルタイム制御を妨げている数段のデノイングステップを必要とする。
ステップ蒸留は自然な治療法として現れてきたが、ビデオとアクションストリームは異なるSNRシフトノイズスケジュールを使用し、ほぼ異なる限界雑音分布を持つ訓練に達するため、ビデオとアクションストリームは、単独のモダリティ蒸留法が許容できない非対称性である。
本稿では, ビデオストリームの高雑音状態に対する分散保存パラメトリゼーションと組み合わせて, 整合性境界条件下での達成可能な勾配スケーリングを特徴付ける整合性関数ファミリーの構造解析を基礎とした, 動作ストリームの低雑音状態に対する線形勾配スケーリングパラメトリゼーションという, 各モードの整合性関数を選択する, 整合性蒸留にインスパイアされたモダリティ対応のステップ蒸留フレームワークである \textbf{Flash-WAM} を紹介する。
LingBot-VA上にインストールされたFlash-WAMは、各モードにおける推論を単一のステップに圧縮する。
RoboTwin 2.0では、チャンク毎のレイテンシを秒間8.1ドルから348ドルまで短縮する。
Flash-WAMは、シミュレーションベンチマークでのタスク成功(85.5\%$ RoboTwin 2.0, 9,5.7\%$ LIBERO)を保ち、実際のパフォーマンス(Unitree G1のヒューマノイドロボットでは平均60\%$)を実質的に回復する。
関連論文リスト
- A1: A Fully Transparent Open-Source, Adaptive and Efficient Truncated Vision-Language-Action Model [112.9420001646428]
VLA(Vision-Language-Action)モデルは、オープンワールドロボット操作の強力なパラダイムとして登場したが、実際の展開はコストに制約されることが多い。
我々は、低コストで高スループットな推論のために設計された、完全にオープンソースで透明なVLAフレームワークであるA1を提示する。
A1は最先端の成功率を達成すると同時に、推論コストを大幅に削減する。
論文 参考訳(メタデータ) (2026-04-07T10:18:40Z) - DRiffusion: Draft-and-Refine Process Parallelizes Diffusion Models with Ease [3.5025591191253933]
DRiffusionは、ドラフト・アンド・リファインプロセスを通じて拡散推論を並列化する並列サンプリングフレームワークである。
実証的には、DRiffusionは1.4$times$-3.7$times$speedupを複数の拡散モデルで達成し、生成品質は最小限に低下する。
論文 参考訳(メタデータ) (2026-03-26T19:58:42Z) - Global Prior Meets Local Consistency: Dual-Memory Augmented Vision-Language-Action Model for Efficient Robotic Manipulation [95.89924101984566]
GPM(Global Prior Memory)とLCM(Local Consistency Memory)を備えたデュアルメモリVLAフレームワークOptimusVLAを紹介する。
GPMはガウスノイズを意味論的に類似した軌道から取得したタスクレベルの先行値に置き換える。
LCMは、時間的コヒーレンスと軌道の滑らかさを強制する学習された一貫性制約を注入する。
論文 参考訳(メタデータ) (2026-02-22T15:39:34Z) - Large Scale Diffusion Distillation via Score-Regularized Continuous-Time Consistency [60.74505433956616]
連続時間一貫性モデル(sCM)は理論的に原理化され、学術規模の拡散を加速するために実証的に強力である。
まず並列性互換なFlashAttention-2 JVPカーネルを開発し、100億以上のパラメータと高次元ビデオタスクを持つモデル上でsCMトレーニングを可能にする。
本稿では, スコア蒸留を長軸正則化器として組み込んだスコア規則化連続時間一貫性モデル(rCM)を提案する。
論文 参考訳(メタデータ) (2025-10-09T16:45:30Z) - POSE: Phased One-Step Adversarial Equilibrium for Video Diffusion Models [18.761042377485367]
POSE(Phased One-Step Equilibrium)は、大規模ビデオ拡散モデルのサンプリングステップを削減する蒸留フレームワークである。
PSEはVBench-I2V上の他の加速度法よりもセマンティックアライメント,時間的会議,フレーム品質が平均7.15%向上していることを示す。
論文 参考訳(メタデータ) (2025-08-28T17:20:01Z) - One-Step Diffusion Policy: Fast Visuomotor Policies via Diffusion Distillation [80.71541671907426]
OneStep Diffusion Policy (OneDP)は、事前訓練された拡散政策から知識を単一ステップのアクションジェネレータに蒸留する新しいアプローチである。
OneDPはロボット制御タスクの応答時間を著しく短縮する。
論文 参考訳(メタデータ) (2024-10-28T17:54:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。