論文の概要: Quantize by Doing: Task-Guided Mixed-Precision Quantization of Vision-Language-Action Models
- arxiv url: http://arxiv.org/abs/2610.38661v1
- Date: Wed, 28 Oct 2026 18:46:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-03 09:13:02.825444
- Title: Quantize by Doing: Task-Guided Mixed-Precision Quantization of Vision-Language-Action Models
- Title(参考訳): 処理による量子化:視覚・言語・アクションモデルのタスクガイド混合精度量子化
- Abstract要約: 後学習量子化(PTQ)は視覚言語アクション(VLA)モデルのメモリフットプリントを削減する。
タスク誘導型混合精度量子化法である textbfQbD-VLA を提案する。
実験では、平均4ビットの重みとアクティベーションの6ビット未満の平均精度でタスク性能を示す。
- 参考スコア(独自算出の注目度): 9.740410892223112
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Post-training quantization (PTQ) reduces the memory footprint of vision-language-action (VLA) models, but lowering bit widths while maintaining task performance remains challenging. Existing work has used sensitivity estimates from calibration data to assign bit widths to different model components. However, using task success directly to guide mixed-precision allocation is underexplored because closed-loop evaluations are costly and the effect of quantizing one component depends on the precision of other components. To this end, we propose \textbf{QbD-VLA}, a task-guided mixed-precision quantization method that uses task success from short closed-loop evaluations to assign weight and activation bit widths while accounting for interactions between model components. Experiments covering four VLA models and all four LIBERO suites show strong task performance at average precisions of approximately 4 bits for weights and fewer than 6 bits for activations. On SIMPLER, the gain over uniform quantization is small. On a Franka Research 3 robot arm, simulation-selected allocations show no detected success-rate loss on X-VLA but fail on $π_{0.5}$. These findings support using task success to guide mixed-precision VLA quantization, while highlighting the need for real-world evaluation before deployment. Code is available at \href{https://github.com/jiuyixu25/QbD-VLA}{\texttt{github.com/jiuyixu25/QbD-VLA}}.
- Abstract(参考訳): 後トレーニング量子化(PTQ)は、視覚言語アクション(VLA)モデルのメモリフットプリントを削減するが、タスク性能を維持しながらビット幅を小さくするのは難しい。
既存の作業では、キャリブレーションデータからの感度推定を使用して、異なるモデルコンポーネントにビット幅を割り当てている。
しかし、クローズドループ評価はコストがかかり、一方のコンポーネントを定量化する効果は他のコンポーネントの精度に依存するため、タスク成功を直接利用して混合精度の割り当てを導出するには過小評価される。
そこで本研究では,モデルコンポーネント間の相互作用を考慮しつつ,短い閉ループ評価からタスク成功を利用して,重みとアクティベーションビット幅を割り当てるタスク誘導型混合精度量子化手法である \textbf{QbD-VLA} を提案する。
4つのVLAモデルと4つのLIBEROスイートをカバーした実験では、約4ビットの重みとアクティベーションの6ビット未満の平均精度でタスク性能が向上した。
SIMPLERでは、均一量子化よりも利得が小さい。
フランカリサーチ3のロボットアームでは、X-VLAでは成功率の損失は検出されず、π_{0.5}$で失敗する。
これらの結果は、タスク成功による混合精度VLA量子化のガイドをサポートし、デプロイ前の実世界評価の必要性を強調している。
コードは \href{https://github.com/jiuyixu25/QbD-VLA}{\texttt{github.com/jiuyixu25/QbD-VLA}} で公開されている。
関連論文リスト
- VLAQuantBench: Closed-Loop Evaluation of Post-Training Quantization for Vision-Language-Action Models [16.92949089246918]
トレーニング後の量子化は、視覚言語アクション(VLA)モデルのメモリ要求を減少させる。
textbfVLAQuantBenchは409回の実行と94,574回のシミュレーションで評価される。
その結果、レシピに依存した相互作用を確立し、具体的な精度の割り当てを特定する。
論文 参考訳(メタデータ) (2026-09-21T20:15:26Z) - Mix-QVLA: Task-Evidence-Aware Mixed-Precision Quantization of Vision-Language-Action Models [2.1485350418225244]
Mix-QVLAは、VLAモデルのためのタスクエビデンス対応の混合精度PTQフレームワークである。
境界活性化から正規化勾配重み付きタスクエビデンスマップを計算する。
決定を支持する証拠の強さと割り当ての両方の変化を捉えます。
論文 参考訳(メタデータ) (2026-06-17T20:08:14Z) - SignRoundV2: Closing the Performance Gap in Extremely Low-Bit Post-Training Quantization for LLMs [4.946856266233001]
SignRoundV2は訓練後の量子化フレームワークであり、混合精度なしでも非常に効果的である。
提案手法は大規模言語モデルの競合精度を保ち、4-5ビットで約1%のばらつきで生産レベルの性能を達成する。
論文 参考訳(メタデータ) (2025-12-04T12:35:10Z) - APHQ-ViT: Post-Training Quantization with Average Perturbation Hessian Based Reconstruction for Vision Transformers [71.2294205496784]
平均摂動ヘシアン (APH) を用いた重要度推定に基づく新しいPTQ手法である textbfAPHQ-ViT を提案する。
本稿では,線形量子化器を用いたAPHQ-ViTが既存のPTQ法よりも3ビット,4ビットの差が大きいことを示す。
論文 参考訳(メタデータ) (2025-04-03T11:48:56Z) - ADFQ-ViT: Activation-Distribution-Friendly Post-Training Quantization for Vision Transformers [7.155242379236052]
ビジョントランスフォーマー(ViT)の量子化は、これらの課題を緩和するための有望なソリューションとして現れている。
既存の手法は依然として低ビットでの精度の低下に悩まされている。
ADFQ-ViTは、画像分類、オブジェクト検出、および4ビットでのインスタンスセグメンテーションタスクにおいて、様々なベースラインを大幅に改善する。
論文 参考訳(メタデータ) (2024-07-03T02:41:59Z) - SliM-LLM: Salience-Driven Mixed-Precision Quantization for Large Language Models [63.118592279833656]
後学習量子化(PTQ)は,大規模言語モデル(LLM)の圧縮に有効な手法である
本稿では,SliM-LLMを提案する。SliM-LLMは,グループ単位でビット幅を割り当てるサリエンス駆動の混合精度量子化フレームワークである。
実験により、SliM-LLMは低ビット幅の様々なLLMにおいて優れた性能を発揮することが示された。
論文 参考訳(メタデータ) (2024-05-23T16:21:48Z) - SqueezeLLM: Dense-and-Sparse Quantization [80.32162537942138]
LLMにおける生成推論の主なボトルネックは、単一のバッチ推論のための計算ではなく、メモリ帯域幅である。
学習後量子化フレームワークであるSqueezeLLMを導入し、最大3ビットの超低精度でのロスレス圧縮を実現する。
本フレームワークは,2次情報に基づく最適ビット精度割当を探索する感度ベース非一様量子化法と,2次情報に基づくDense-and-Sparse分解法と,2次情報量割当値と感度重み値を効率的にスパース形式で格納するDense-and-Sparse分解法である。
論文 参考訳(メタデータ) (2023-06-13T08:57:54Z) - Q-ASR: Integer-only Zero-shot Quantization for Efficient Speech
Recognition [65.7040645560855]
ASRモデルに対する整数のみのゼロショット量子化スキームであるQ-ASRを提案する。
全精度ベースラインモデルと比較すると,wrの変化は無視できる。
Q-ASRは、WER劣化が少ない4倍以上の圧縮率を示します。
論文 参考訳(メタデータ) (2021-03-31T06:05:40Z) - AQD: Towards Accurate Fully-Quantized Object Detection [94.06347866374927]
本稿では,浮動小数点演算を除去するために,AQDと呼ばれる高精度な量子化オブジェクト検出ソリューションを提案する。
我々のAQDは、非常に低ビットのスキームの下での完全精度と比較して、同等またはそれ以上の性能を実現しています。
論文 参考訳(メタデータ) (2020-07-14T09:07:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。