論文の概要: A Motion-Aware Vector Quantization Framework with Centroid Reuse for Efficient VLA Inference

• arxiv url: http://arxiv.org/abs/2607.24148v1
• Date: Mon, 27 Jul 2026 08:29:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-28 22:34:15.362647
• Title: A Motion-Aware Vector Quantization Framework with Centroid Reuse for Efficient VLA Inference
• Title（参考訳）: 効率的なVLA推論のためのCentroid Reuseを用いた運動認識ベクトル量子化フレームワーク
• Abstract要約: VLA(Vision-Language-Action)モデルは、AIを具現化するための強力な可能性を示しているが、GPU上の高い推論レイテンシは、リアルタイムデプロイメントを制限する。 本稿では,VQVLAを提案する。VQVLAは,重みの類似性や実行のダイナミクスを利用して,VLA推論を高速化するアルゴリズムハードウェアの共同設計フレームワークである。 VQVLAはA100 GPU, Dadu-Corki, LUT-DLA, CodeGEMM, ShiftAddLLMでそれぞれ6.5x, 2.8x, 1.9x, 3.3x, 4.3xのスピードアップを実現している。
• 参考スコア（独自算出の注目度）: 16.66163943624991
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Vision-Language-Action (VLA) models have demonstrated strong potential for embodied AI, yet their high inference latency on GPUs limits real-time deployment. Existing accelerators, such as Dadu-Corki, improve efficiency but treat VLA models as full-precision workloads, leaving substantial redundancy in both memory and computation underexploited. In this paper, we propose VQVLA, an algorithm-hardware co-design framework that accelerates VLA inference by exploiting weight similarity and execution dynamics. We first introduce MotionVQ, a motion-aware vector quantization scheme that dynamically adjusts quantization precision based on the robot's execution state, reducing memory access while preserving task success rate. We then propose a merged-centroid vectorized GEMM paradigm that operates on the codebook-index representation, eliminating redundant multiplications through spatial aggregation and temporal reuse of centroids. To realize these optimizations, we design an accelerator that efficiently supports dynamic precision selection and centroid-reuse computation. Experimental results show that VQVLA achieves 6.5x, 2.8x, 1.9x, 3.3x, and 4.3x speedup over the A100 GPU, Dadu-Corki, LUT-DLA, CodeGEMM, and ShiftAddLLM, respectively, with negligible accuracy degradation.
• Abstract（参考訳）: VLA(Vision-Language-Action)モデルは、AIを具現化する強力な可能性を示しているが、GPUにおける高い推論レイテンシは、リアルタイムデプロイメントを制限する。 Dadu-Corkiのような既存のアクセラレータは効率を改善するが、VLAモデルをフル精度のワークロードとして扱い、メモリと計算の両方にかなりの冗長性を残している。 本稿では,VQVLAを提案する。VQVLAは,重み類似性と実行ダイナミクスを利用して,VLA推論を高速化するアルゴリズム・ハードウェア協調設計フレームワークである。 我々はまず,ロボットの実行状況に基づいて量子化精度を動的に調整し,タスク成功率を維持しながらメモリアクセスを減少させる動き対応ベクトル量子化スキームであるMotionVQを紹介する。 次に,コードブックとインデックス表現を併用した統合セントロイドベクトル化GEMMパラダイムを提案し,空間アグリゲーションとセンチロイドの時間的再利用による冗長な乗算を排除した。 これらの最適化を実現するために,動的精度選択と遠心分離計算を効率的にサポートするアクセラレータを設計する。 VQVLAはA100 GPU, Dadu-Corki, LUT-DLA, CodeGEMM, ShiftAddLLMでそれぞれ6.5x, 2.8x, 1.9x, 3.3x, 4.3xのスピードアップを達成した。

関連論文リスト

• Deltoris: Enabling Real-time VLA Inference in Embodied AI via Bit-level Sparsity and Speculative Inference [40.7778980764007]
  視覚アクション(VLA)モデルは、具体化されたAIの重要なコンポーネントとして登場した。 本稿では,効率的な拡散型VLA推論のためのアルゴリズムハードウェア協調設計フレームワークであるDeltorisを提案する。
  論文  参考訳（メタデータ） (2026-08-05T04:17:03Z)
• DA-PTQ: Drift-Aware Post-Training Quantization for Efficient Vision-Language-Action Models [61.26694413585136]
  DA-PTQ (Drift-Aware Post-Training Quantization) は、逐次決定過程に対するドリフト-アウェア最適化問題として量子化を定式化する。 DA-PTQはキネマティックドリフトを著しく低減し、低ビット設定下での完全精度モデルに匹敵する性能を達成する。
  論文  参考訳（メタデータ） (2026-04-13T14:51:43Z)
• AdaFuse: Accelerating Dynamic Adapter Inference via Token-Level Pre-Gating and Fused Kernel Optimization [84.25316984309725]
  動的スパース構造とパラメータ効率のよいアダプタ(例えばLoRA)の統合は、大規模言語モデル(LLM)を拡張するための強力な技術である。 計算負荷は最小限に抑えられるが、計算のレイテンシが急上昇し、復号速度が2.5倍以上遅くなる。 AdaFuseはアルゴリズムと基盤となるハードウェアシステムとの緊密な協調設計に基づいて構築されたフレームワークで、効率的な動的アダプタ実行を実現する。
  論文  参考訳（メタデータ） (2026-03-12T12:46:42Z)
• Learning to Accelerate Vision-Language-Action Models through Adaptive Visual Token Caching [25.295588774254952]
  我々は、学習可能なポリシー最適化問題として推論加速度を再構成する。 本稿では,タスク認識による意思決定プロセスを直接Vision-Language-Actionモデルに統合する新しいフレームワークを提案する。 提案手法は, 平均成功率を同時に向上させながら, 1.76倍のウォールクロック推定速度向上を実現する。
  論文  参考訳（メタデータ） (2026-01-31T12:12:51Z)
• DCO: Dynamic Cache Orchestration for LLM Accelerators through Predictive Management [2.5993532871616027]
  本稿では,共有システムレベルのキャッシュとアプリケーション対応管理ポリシを備えたマルチコアAIアクセラレータを提案する。 従来のキャッシュアーキテクチャと比較すると,パフォーマンスの大幅な向上(最大1.80倍の高速化)が観察できる。 我々の研究は、将来のAIアクセラレータシステムの開発を支援する共有キャッシュ設計の可能性を探るものである。
  論文  参考訳（メタデータ） (2025-12-08T08:56:10Z)
• Orthogonal Finetuning Made Scalable [92.34573849209238]
  OFT(Orthogonal Finetuning)は、壊滅的な忘れ込みを防止しつつ、パラメータ効率の高い適応を提供するが、実行時とメモリの要求が高いため、実際のデプロイメントが制限される。 ここでは,OFTの計算ボトルネックを重み中心の実装とみなす。 本稿では,行列ベクトル乗法(行列フリー計算)を用いて,計算コストを2次に削減する入力中心の変換法OFTv2を提案する。 これらの変更により、OFTv2は最大10倍の高速トレーニングと3倍のGPUメモリ使用率を達成することができる。
  論文  参考訳（メタデータ） (2025-06-24T17:59:49Z)
• SP-VLA: A Joint Model Scheduling and Token Pruning Approach for VLA Model Acceleration [70.72227437717467]
  VLA(Vision-Language-Action)モデルは、その強力な制御能力に注目が集まっている。 計算コストが高く、実行頻度も低いため、ロボット操作や自律ナビゲーションといったリアルタイムタスクには適さない。 本稿では,共同スケジューリングモデルとプルーニングトークンにより,VLAモデルを高速化する統一フレームワークSP-VLAを提案する。
  論文  参考訳（メタデータ） (2025-06-15T05:04:17Z)
• Accelerating 3D Gaussian Splatting with Neural Sorting and Axis-Oriented Rasterization [14.87046071090259]
  3D Gaussian Splatting (3DGS) は、最近、高品質で効率的なビュー合成において大きな注目を集めている。 アルゴリズムの性能は素晴らしいが、リソースに制約のあるデバイスのリアルタイムレンダリングは、厳しい電力と地域予算のために依然として大きな課題だ。
  論文  参考訳（メタデータ） (2025-06-08T10:14:54Z)
• QuartDepth: Post-Training Quantization for Real-Time Depth Estimation on the Edge [55.75103034526652]
  ASIC のハードウェアアクセラレーションによる MDE モデルの定量化を後学習量子化に応用した QuartDepth を提案する。 提案手法では,重みとアクティベーションの両方を4ビット精度で定量化し,モデルサイズと計算コストを削減する。 我々は、カーネル融合とカスタマイズされた命令プログラム性をサポートすることにより、フレキシブルでプログラム可能なハードウェアアクセラレータを設計する。
  論文  参考訳（メタデータ） (2025-03-20T21:03:10Z)
• Accelerating Vision-Language-Action Model Integrated with Action Chunking via Parallel Decoding [24.1236728596359]
  VLA(Vision-Language-Action)モデルでは、一般化可能なロボット操作の可能性を示している。 本稿では,アクションチャンキングと統合されたVLAモデルのための最初の並列デコーディングフレームワークであるPD-VLAを提案する。 本フレームワークは,並列な固定点反復によって解く非線形システムとして自己回帰復号を再構成する。
  論文  参考訳（メタデータ） (2025-03-04T06:12:08Z)
• Efficient Arbitrary Precision Acceleration for Large Language Models on GPU Tensor Cores [3.6385567224218556]
  大規模言語モデル(LLM)は広く応用されているが、効率的な推論では課題に直面している。 本稿では、並列計算を容易にし、対称量子化をサポートする新しいバイポーラ-INTデータフォーマットを提案する。 ビットレベルで分解・復元する任意の精度行列乗算方式を実装し,フレキシブルな精度を実現する。
  論文  参考訳（メタデータ） (2024-09-26T14:17:58Z)
• Latency-aware Unified Dynamic Networks for Efficient Image Recognition [72.8951331472913]
  LAUDNetは動的ネットワークの理論的および実用的な効率ギャップを橋渡しするフレームワークである。 3つの主要な動的パラダイム - 適応型計算、動的層スキップ、動的チャネルスキップ - を統合している。 これにより、V100,3090やTX2 GPUのようなプラットフォーム上で、ResNetのようなモデルの遅延を50%以上削減できる。
  論文  参考訳（メタデータ） (2023-08-30T10:57:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。