論文の概要: Deltoris: Enabling Real-time VLA Inference in Embodied AI via Bit-level Sparsity and Speculative Inference

• arxiv url: http://arxiv.org/abs/2608.04428v1
• Date: Wed, 05 Aug 2026 04:17:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-06 14:48:43.719588
• Title: Deltoris: Enabling Real-time VLA Inference in Embodied AI via Bit-level Sparsity and Speculative Inference
• Title（参考訳）: Deltoris氏:bit-level SparsityとSpeculative Inferenceを通じて、Embodied AIでリアルタイムVLA推論を実現する
• Abstract要約: 視覚アクション(VLA)モデルは、具体化されたAIの重要なコンポーネントとして登場した。 本稿では,効率的な拡散型VLA推論のためのアルゴリズムハードウェア協調設計フレームワークであるDeltorisを提案する。
• 参考スコア（独自算出の注目度）: 40.7778980764007
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vision-language-action (VLA) models have emerged as a key component in embodied AI. Among existing approaches, diffusion-based VLA models achieve superior motion quality and generalization. However, diffusion-based VLA models are compute-intensive and must run at high control frequency, e.g., 50-200 Hz. Thus, it imposes strict latency and energy constraints on edge devices. In this work, we present Deltoris, an algorithm-hardware co-design framework for efficient diffusion-based VLA inference. First, we exploit the temporal similarity of consecutive inputs and propose a \textit{temporal-aware bit-sparsity} algorithm that computes only the differences between consecutive inputs, eliminating redundant bit-level operations. To further address the extra off-chip traffic introduced by our algorithm, we propose a \textit{speculative inference} technique, which amortizes data loading across multiple control steps. Lastly, to support these techniques, we co-design a dedicated accelerator with customized 1D systolic bit-serial PE arrays that eliminate PE workload imbalance. Our evaluation shows that Deltoris achieves up to 34.2$\times$ speedup over mobile GPUs and 6.1$\times$ over prior accelerators, while maintaining comparable accuracy.
• Abstract（参考訳）: 視覚言語アクション(VLA)モデルは、組み込みAIの重要なコンポーネントとして登場した。 既存のアプローチの中で、拡散に基づくVLAモデルはより優れた運動品質と一般化を実現する。 しかし、拡散ベースのVLAモデルは計算集約的であり、例えば50-200Hzの高制御周波数で実行する必要がある。 したがって、エッジデバイスに厳格なレイテンシとエネルギー制約を課す。 本稿では,効率的な拡散に基づくVLA推論のためのアルゴリズムハードウェア協調設計フレームワークであるDeltorisを紹介する。 まず、連続入力の時間的類似性を利用して、連続入力間の差のみを計算し、冗長なビットレベル演算を除去する「textit{temporal-aware bit-sparsity}」アルゴリズムを提案する。 提案アルゴリズムは,複数の制御ステップにまたがるデータローディングを復号化するための<textit{speculative inference} 手法を提案する。 最後に、これらの技術をサポートするために、PEの負荷不均衡を解消する1次元シストリックなビットシリアルPEアレイをカスタマイズした専用加速器を設計する。 我々の評価によると、DeltorisはモバイルGPUよりも34.2$\times$スピードアップし、以前のアクセラレータよりも6.1$\times$を達成でき、精度は同等である。

関連論文リスト

• WAM-Diff2: Hierarchical AR-to-Diffusion Distillation for Highly Efficient Autonomous Driving VLA [27.102605117827398]
  VLA(Vision-Language-Action)モデルは、エンドツーエンドの自動運転の顕著なパラダイムとして登場した。 それらは、シーケンシャルな自己回帰的復号から生じる高い計算遅延と露出バイアスによって制約される。 WAM-Diff2は3段階階層戦略を利用したマルチタスク離散拡散VLAフレームワークである。
  論文  参考訳（メタデータ） (2026-08-02T06:45:16Z)
• A Motion-Aware Vector Quantization Framework with Centroid Reuse for Efficient VLA Inference [16.66163943624991]
  VLA(Vision-Language-Action)モデルは、AIを具現化するための強力な可能性を示しているが、GPU上の高い推論レイテンシは、リアルタイムデプロイメントを制限する。 本稿では,VQVLAを提案する。VQVLAは,重みの類似性や実行のダイナミクスを利用して,VLA推論を高速化するアルゴリズムハードウェアの共同設計フレームワークである。 VQVLAはA100 GPU, Dadu-Corki, LUT-DLA, CodeGEMM, ShiftAddLLMでそれぞれ6.5x, 2.8x, 1.9x, 3.3x, 4.3xのスピードアップを実現している。
  論文  参考訳（メタデータ） (2026-07-27T08:29:05Z)
• FLARE: Diffusion for Hybrid Language Model [72.60770374799634]
  FLAREは、ハイブリッドアテンションな大規模言語モデルのための体系的な変換フレームワークである。 トークン平等なAR/拡散目標、ハードウェア対応カーネル、統一推論を組み合わせることで、ひとつのチェックポイントがARスタイルの検証された復号化と拡散スタイルの並列復号化の両方をサポートすることができる。 この結果から,実際のdLLMは復号化アルゴリズムだけでなく,データ品質や現在のブロック拡散目標のトレーニング非効率によって制限されていることが示唆された。
  論文  参考訳（メタデータ） (2026-06-01T06:58:15Z)
• BlockVLA: Accelerating Autoregressive VLA via Block Diffusion Finetuning [41.5997751218601]
  BlockVLAは、事前訓練されたARバックボーンを効率的な離散拡散ポリシーに適合させるフレームワークである。 LIBERO と SimplerEnv のベンチマークを広範囲に評価する。 本モデルでは, トレーニング効率が向上し, 成功率がベースラインよりもかなり高速に収束する。
  論文  参考訳（メタデータ） (2026-05-13T11:37:51Z)
• DA-PTQ: Drift-Aware Post-Training Quantization for Efficient Vision-Language-Action Models [61.26694413585136]
  DA-PTQ (Drift-Aware Post-Training Quantization) は、逐次決定過程に対するドリフト-アウェア最適化問題として量子化を定式化する。 DA-PTQはキネマティックドリフトを著しく低減し、低ビット設定下での完全精度モデルに匹敵する性能を達成する。
  論文  参考訳（メタデータ） (2026-04-13T14:51:43Z)
• Steering Vision-Language-Action Models as Anti-Exploration: A Test-Time Scaling Approach [78.4812458793128]
  動作チャンクの高忠実度検証に軽量な擬数推定器を適用したテスト時間スケーリングフレームワークである textbfTACO を提案する。 我々の手法は、オフライン強化学習(RL)における古典的な反探索原理に似ており、勾配のないため、計算上の大きな恩恵をもたらす。
  論文  参考訳（メタデータ） (2025-12-02T14:42:54Z)
• NinA: Normalizing Flows in Action. Training VLA Models with Normalizing Flows [75.70583906344815]
  拡散モデルは、複雑なマルチモーダルな動作分布をモデル化できるため、アクションデコーダとして広く採用されている。 我々は、Vision-Language-Action(VLA)モデルのための拡散型デコーダの高速かつ表現性の高い代替品であるNinAを提案する。
  論文  参考訳（メタデータ） (2025-08-23T00:02:15Z)
• SP-VLA: A Joint Model Scheduling and Token Pruning Approach for VLA Model Acceleration [70.72227437717467]
  VLA(Vision-Language-Action)モデルは、その強力な制御能力に注目が集まっている。 計算コストが高く、実行頻度も低いため、ロボット操作や自律ナビゲーションといったリアルタイムタスクには適さない。 本稿では,共同スケジューリングモデルとプルーニングトークンにより,VLAモデルを高速化する統一フレームワークSP-VLAを提案する。
  論文  参考訳（メタデータ） (2025-06-15T05:04:17Z)
• MAS-Attention: Memory-Aware Stream Processing for Attention Acceleration on Resource-Constrained Edge Devices [24.1144641404561]
  本稿では,メモリ制約付きエッジアクセラレータ上での正確なアテンション推定高速化手法を提案する。 エッジコンピューティングのシナリオではFLAT (State-of-the-art attention fusion Method) と比較して,2.75倍のスピードアップと54%のエネルギー消費削減が見られた。
  論文  参考訳（メタデータ） (2024-11-20T19:44:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。