論文の概要: AGQ: Action-Guided Ultra-Low-Bit Quantization for Vision-Language-Action Models

• arxiv url: http://arxiv.org/abs/2610.33074v1
• Date: Wed, 21 Oct 2026 06:22:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.239533
• Title: AGQ: Action-Guided Ultra-Low-Bit Quantization for Vision-Language-Action Models
• Title（参考訳）: AGQ:視覚・言語・アクションモデルのためのアクションガイド型ウルトラロービット量子化
• Abstract要約: VLA(Vision-Constrained-action)モデルにより、ロボットは自然言語で指定されたタスクを実行できる。 超低ビット量子化は、このフットプリントを減らすが、タスク性能を保ち、重量回収コストを制御することは依然として困難である。 本稿では,動作感度と重み回復コストを併用したアクションガイド量子化法を提案し,ストレージ予算下で行列ビット幅を割り当てる。
• 参考スコア（独自算出の注目度）: 5.213250788055269
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Vision-language-action (VLA) models enable robots to perform tasks specified through natural-language instructions, but their large weight footprint challenges deployment on memory-constrained onboard platforms. Ultra-low-bit quantization reduces this footprint, yet preserving task performance and controlling weight recovery costs remain challenging. We propose Action-Guided Quantization, which combines action sensitivity with a measured proxy for weight recovery cost to allocate matrix bitwidths under storage budgets. Per-channel calibration compensates for quantization error, while a uniform bitwidth within each matrix preserves regular layouts. Bit-dependent grouped lossless coding reduces resident weight storage, and block-wise recovery limits temporary buffers. On LIBERO, AGQ achieves 92.7% task success at W3, exceeding AWQ and GPTQ by 1.2 and 3.7 percentage points, respectively, and retains 70.5% success at W2.5. An asymmetric configuration, denoted W1.5$^{*}$, uses W4 vision weights and a parameter-weighted average of 1.5 bits for language weights. With lossless coding, it achieves $6.10\times$ complete-model compression relative to BF16 while retaining 25.5% task success. Code and experimental results are available at https://github.com/Qiuxu00/AGQ
• Abstract（参考訳）: 視覚言語アクション(VLA)モデルは、ロボットが自然言語命令によって指定されたタスクを実行することを可能にするが、その大きな重量フットプリントは、メモリに制限されたオンボードプラットフォームへの展開に挑戦する。 超低ビット量子化は、このフットプリントを減らすが、タスク性能を保ち、重量回収コストを制御することは依然として困難である。 本稿では,動作感度と重み回復コストを併用したアクションガイド量子化法を提案し,ストレージ予算下で行列ビット幅を割り当てる。 チャネルごとのキャリブレーションは量子化誤差を補正し、各行列内の均一なビット幅は通常のレイアウトを保存する。 ビット依存型グループ化ロスレス符号化は、居住重量を減少させ、ブロックワイドリカバリにより一時バッファが制限される。 LIBEROでは、AGQはW3で92.7%のタスク成功を達成し、それぞれAWQとGPTQを1.2ポイント、GPTQを3.7%上回り、W2.5で70.5%の成功を維持している。 W1.5$^{*}$と表記される非対称な構成は、W4視覚重みとパラメータ重み付き平均1.5ビットを用いる。 ロスレスコーディングでは、BF16と比較して6.10\times$完全モデル圧縮を実現し、25.5%のタスク成功を維持している。 コードと実験結果はhttps://github.com/Qiuxu00/AGQで公開されている。

関連論文リスト

• Q-WAM: 4-Bit Quantization of World Action Models with Action-Subspace Protection [33.326130688074876]
  モデルが生成する動作を保存したWAMのための新しい4ビット重み活性化量子化法を開発した。 我々は,3つのWAM上でのQ-WAMをシミュレーションおよび実世界の展開において評価した。
  論文  参考訳（メタデータ） (2026-09-27T06:24:30Z)
• Activation-Weighted Seeded Residual Coding for Low-Bit LLM Weight Repair [5.606117282929355]
  Activation-Weighted Seeded Residual Coding (AWSRC)は、既存の量子化バックボーンのコンパクトな修復である。 一致する49.25MBのサイドカー、BF16モデルの重量ペイロードの約0.8%で、AWSRCは最も複雑で平均的なタスク精度を提供する。
  論文  参考訳（メタデータ） (2026-08-24T11:49:37Z)
• Minimizing the Hidden Cost of Scales: Graph-Guided Ultra-Low-Bit Quantization for Large Language Models [50.16014098038291]
  学習後量子化(PTQ)は,大規模言語モデル(LLM)の効率的な展開に重要である 隠れスケーリングコストを最小限に抑えるLLMのための超低ビット量子化フレームワークであるSAGE-PTQを提案する。 LLaMA-3B では、SAGE-PTQ は BiLLM の 55.8 と比較して 6.74 WikiText2 のパープレキシティを実現している。
  論文  参考訳（メタデータ） (2026-06-03T20:51:52Z)
• ActQuant: Sub-4-bit Action-Guided Quantization for Vision-Language-Action Models [45.62029693245481]
  本稿では,アクション誘導型混合精度PTQフレームワークであるActQuantを紹介する。 ActQuant は、(1) エージェントの動作の予測にどの程度貢献するかに基づいて、各重み行列に1ビット幅を割り当てるテンソル間ビットアロケータである。 我々はまた、効率的な低ビットカーネルを持つネイティブC/C++にポートするエージェント変換パイプラインであるOmniModelも導入した。
  論文  参考訳（メタデータ） (2026-05-19T19:57:26Z)
• LittleBit: Ultra Low-Bit Quantization via Latent Factorization [7.199927818041659]
  大規模言語モデル(LLM)は、かなりのメモリと計算コストの課題に直面していることが多い。 本稿では,極端LLM圧縮の新しい手法であるLittleBitを紹介する。 重量あたり0.1ビット(BPW)のレベルを目標としており、メモリの削減に約31ドル(約1,300円)かかります。
  論文  参考訳（メタデータ） (2025-05-30T06:43:03Z)
• Task-Circuit Quantization: Leveraging Knowledge Localization and Interpretability for Compression [55.323397702682506]
  後トレーニング量子化(PTQ)は、コストのかかる再トレーニングなしに全精度重みを低ビット重みにマッピングすることで、モデルのメモリフットプリントを削減する。 我々は,自動回路発見に並列性を持つ新しい混合精度PTQ手法であるTask-Circuit Quantization (TaCQ)を開発した。
  論文  参考訳（メタデータ） (2025-04-10T02:19:03Z)
• SVDQuant: Absorbing Outliers by Low-Rank Components for 4-Bit Diffusion Models [61.474101404805545]
  拡散モデルは高品質なイメージを生成することができるが、スケールするにつれて、メモリ要求が増加し、より高いレイテンシがデプロイメント上の課題を引き起こす。 この制限を克服する新しい4ビット量子化パラダイムであるSVDQuantを提案する。 We reduce the memory usage for the 12B FLUX.1 models by 3.5$times$, achieved 3.0$times$ speedup over the 4-bit weight-only Quantization (W4A16) baseline。
  論文  参考訳（メタデータ） (2024-11-07T18:59:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。