論文の概要: CHASE-VLA: Post-Training Quantization Framework for Vision-Language-Action Models with Chunk-Aware Scale Estimation
- arxiv url: http://arxiv.org/abs/2610.02666v1
- Date: Fri, 02 Oct 2026 01:34:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 00:14:30.158715
- Title: CHASE-VLA: Post-Training Quantization Framework for Vision-Language-Action Models with Chunk-Aware Scale Estimation
- Title(参考訳): CHASE-VLA:チャンク・アウェア・スケール推定によるビジョン・ランゲージ・アクションモデルのためのポストトレーニング量子化フレームワーク
- Abstract要約: VLA(Vision-Language-Action)モデルは、視覚的な観察と言語指示を連続したロボットアクションにマッピングする。
低ビット後量子化(PTQ)における拡散型アクションエキスパート(AE)の課題
ポリシーから容易に利用できるVLA固有の信号を利用するチャンク対応PTQ法であるCHASE-VLAを提案する。
- 参考スコア(独自算出の注目度): 4.911151464475535
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Vision-Language-Action (VLA) models map visual observations and language instructions to continuous robot actions, but a diffusion-based action expert (AE) poses a key challenge for low-bit post-training quantization (PTQ). The AE is repeatedly invoked across denoising steps and policy queries, where fixed calibration scales can be mismatched with activation ranges that vary with denoising progress and intended motion. We propose CHASE-VLA, a chunk-aware PTQ method that exploits a VLA-specific signal readily available from the policy: the generated action chunk, including its unexecuted future suffix. Rather than relying only on static scale matching for AE layers, CHASE-VLA combines the previously generated chunk as causal action context with denoising step group information to adapt AE activation scales. This enables W4A4 quantization of both MLP and attention projections in the repeated AE without modifying the pretrained policy. On LIBERO, CHASE-VLA achieves 97.3% average success rate on $π_{0.5}$ when both MLP and attention projections in the AE are quantized to W4A4, restoring FP16-level performance. CHASE-VLA also reduces the weight storage of the quantized AE linear layers by 73.4% and their single-chunk memory traffic by 70.9% and 71.2% on $π_{0.5}$ and GR00T N1.6, respectively, with a predictor overhead of at most 1.26% of the saved storage.
- Abstract(参考訳): VLA(Vision-Language-Action)モデルは、視覚的な観察と言語指示を連続したロボット動作にマッピングするが、拡散に基づくアクションエキスパート(AE)は低ビット後量子化(PTQ)において重要な課題を提起する。
AEは復調ステップやポリシークエリ間で繰り返し起動され、固定校正スケールは復調進行や意図された動きによって異なるアクティベーション範囲とミスマッチすることができる。
提案するチャンク対応PTQ手法であるCHASE-VLAを提案する。
CHASE-VLAは、AE層の静的スケールマッチングにのみ依存するのではなく、以前に生成されたチャンクを因果アクションコンテキストとして組み合わせ、ステップグループ情報を識別してAEアクティベーションスケールを適応させる。
これにより、事前訓練されたポリシーを変更することなく、繰り返しAEにおけるMLPとアテンションプロジェクションの両方をW4A4量子化することができる。
LIBEROでは、CHASE-VLAが平均成功率97.3%を$π_{0.5}$で達成する。
CHASE-VLAは、量子化されたAEリニア層の重量を73.4%削減し、それぞれ$π_{0.5}$とGR00T N1.6でシングルチャンクメモリトラフィックを70.9%、71.2%削減する。
関連論文リスト
- VLAQuantBench: Closed-Loop Evaluation of Post-Training Quantization for Vision-Language-Action Models [16.92949089246918]
トレーニング後の量子化は、視覚言語アクション(VLA)モデルのメモリ要求を減少させる。
textbfVLAQuantBenchは409回の実行と94,574回のシミュレーションで評価される。
その結果、レシピに依存した相互作用を確立し、具体的な精度の割り当てを特定する。
論文 参考訳(メタデータ) (2026-09-21T20:15:26Z) - LA4VLA: Learning to Act without Seeing via Language-Action Pretraining [51.209359878543005]
VLA(Vision-Language-Action)モデルは、視覚的な観察と言語指示を共同で行動にマッピングすることで、ロボットのデモンストレーションで一般的に事前訓練される。
LA4VLAは、視覚的観察なしに、ポリシーが言語条件付きアクションの事前取得を可能にする、言語行動事前訓練フレームワークである。
論文 参考訳(メタデータ) (2026-06-25T17:13:02Z) - Mix-QVLA: Task-Evidence-Aware Mixed-Precision Quantization of Vision-Language-Action Models [2.1485350418225244]
Mix-QVLAは、VLAモデルのためのタスクエビデンス対応の混合精度PTQフレームワークである。
境界活性化から正規化勾配重み付きタスクエビデンスマップを計算する。
決定を支持する証拠の強さと割り当ての両方の変化を捉えます。
論文 参考訳(メタデータ) (2026-06-17T20:08:14Z) - ProbeAct: Probe-Guided Training-Free Failure Recovery in Vision-Language-Action Models [23.3892541362594]
PROBEACTはトレーニング不要のランタイム介入フレーム6である。
プレ-7の訓練されたVLAポリシーの把握と配置の失敗を検知し、回復する。
論文 参考訳(メタデータ) (2026-06-08T17:04:24Z) - Ω-QVLA: Robust Quantization for Vision-Language-Action Models via Composite Rotation and Per-step Scaling [17.355916557144994]
Omega-QVLAは、Vision-Language-Action(VLA)モデルのためのトレーニング不要のポストトレーニング量子化フレームワークである。
言語バックボーンと拡散アクションヘッド全体を均一なW4A4精度に圧縮し、混合精度の割り当てを必要としない。
LIBEROでは、Omega-QVLA が Pi 0.5 と GR00T N1.5 を 98.0% と 87.8% のタスク成功率で W4A4 に圧縮し、FP16 参照の 97.1% と 87.0% をマッチングまたは超過し、静的メモリのフットプリントを 71.3% 削減した。
論文 参考訳(メタデータ) (2026-05-27T17:55:01Z) - ActQuant: Sub-4-bit Action-Guided Quantization for Vision-Language-Action Models [45.62029693245481]
本稿では,アクション誘導型混合精度PTQフレームワークであるActQuantを紹介する。
ActQuant は、(1) エージェントの動作の予測にどの程度貢献するかに基づいて、各重み行列に1ビット幅を割り当てるテンソル間ビットアロケータである。
我々はまた、効率的な低ビットカーネルを持つネイティブC/C++にポートするエージェント変換パイプラインであるOmniModelも導入した。
論文 参考訳(メタデータ) (2026-05-19T19:57:26Z) - A1: A Fully Transparent Open-Source, Adaptive and Efficient Truncated Vision-Language-Action Model [112.9420001646428]
VLA(Vision-Language-Action)モデルは、オープンワールドロボット操作の強力なパラダイムとして登場したが、実際の展開はコストに制約されることが多い。
我々は、低コストで高スループットな推論のために設計された、完全にオープンソースで透明なVLAフレームワークであるA1を提示する。
A1は最先端の成功率を達成すると同時に、推論コストを大幅に削減する。
論文 参考訳(メタデータ) (2026-04-07T10:18:40Z) - Global Prior Meets Local Consistency: Dual-Memory Augmented Vision-Language-Action Model for Efficient Robotic Manipulation [95.89924101984566]
GPM(Global Prior Memory)とLCM(Local Consistency Memory)を備えたデュアルメモリVLAフレームワークOptimusVLAを紹介する。
GPMはガウスノイズを意味論的に類似した軌道から取得したタスクレベルの先行値に置き換える。
LCMは、時間的コヒーレンスと軌道の滑らかさを強制する学習された一貫性制約を注入する。
論文 参考訳(メタデータ) (2026-02-22T15:39:34Z) - Token-Level Inference-Time Alignment for Vision-Language Models [58.41370989069588]
VLM(Vision-Language Models)は、現代のマルチモーダルインテリジェンスの重要なバックボーンとなっている。
本稿では,基本VLMを凍結し,その分布を近似する報酬モデルをトレーニングする軽量フレームワークTITAを提案する。
推測中、暗黙の選好信号は報酬モデルと目標VLMの対数確率比として抽出され、密集した自己回帰フィードバックが得られる。
論文 参考訳(メタデータ) (2025-10-20T09:58:03Z) - GrAInS: Gradient-based Attribution for Inference-Time Steering of LLMs and VLMs [56.93583799109029]
GrAInSは推論時ステアリングのアプローチで、言語のみのモデルと視覚言語の両方のモデルとタスクで動作する。
推論中、GrAInSはトークンレベルの属性信号によって誘導されるトランスフォーマー層で隠されたアクティベーションを隠蔽し、アクティベーションを正規化し、表現スケールを保存する。
微調整と既存のステアリングベースラインの両方を一貫して上回る。
論文 参考訳(メタデータ) (2025-07-24T02:34:13Z) - Listen Attentively, and Spell Once: Whole Sentence Generation via a
Non-Autoregressive Architecture for Low-Latency Speech Recognition [66.47000813920619]
我々はLASOと呼ばれる非自己回帰型エンドツーエンド音声認識システムを提案する。
非自己回帰性のため、LASOは他のトークンに依存することなくシーケンス内のテキストトークンを予測する。
我々は,中国における公開データセットAISHELL-1の実験を行った。
論文 参考訳(メタデータ) (2020-05-11T04:45:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。