論文の概要: FoldQuantVLA: Native Low-Bit Quantization of Vision-Language-Action Models via Consistent Folding

• arxiv url: http://arxiv.org/abs/2609.24433v1
• Date: Mon, 21 Sep 2026 11:28:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-23 18:04:03.984415
• Title: FoldQuantVLA: Native Low-Bit Quantization of Vision-Language-Action Models via Consistent Folding
• Title（参考訳）: FoldQuantVLA: Consistent Foldingによるビジョン・ランゲージ・アクションモデルのネイティブ低ビット量子化
• Abstract要約: 低ビットの視覚-言語-行動推論は、ロボットの動作を保ちながら、観察-行動間遅延を減らさなければならない。 FoldQuantVLAは、キャリブレーション、重み付け、ネイティブ整数実行を通じて一貫したアクティベーション表現を行う、ポストトレーニング量子化フレームワークである。 4つの実ロボットタスクの中で、この構成はGR00T N1.7の成功率を、均一なW4A4で80.0%から922.5%に引き上げる。
• 参考スコア（独自算出の注目度）: 8.807364108422414
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Low-bit vision-language-action inference must reduce observation-to-action latency while preserving robot behavior. We present FoldQuantVLA, a post-training quantization framework that carries a consistent activation representation through calibration, weight rounding, and native integer execution. It combines channel scaling and block Hadamard transforms with dynamic per-token quantization, without policy retraining. Custom TensorRT plugins execute projections in both the language backbone and iterative action expert with four-bit weights and activations (W4A4) on Ada GPUs and Jetson AGX Orin. Evaluation spans LIBERO, SimplerEnv, and two robot platforms. Across three GR00T checkpoints and $π_{0.5}$, W4A4 achieves $1.20$ to $1.33\times$ speedups over floating-point TensorRT on Orin and $1.25$ to $1.52\times$ on desktop. Retaining language attention-output and feed-forward down projections at eight bits (W8A8) improves held-out action fidelity on all four checkpoints. Across four real-robot tasks, this configuration raises observed GR00T N1.7 success from $80.0\%$ with uniform W4A4 to $92.5\%$ over 80 trials per configuration, with a measured additional Orin latency of 1 ms.
• Abstract（参考訳）: 低ビットビジョン-言語-アクション推論は、ロボットの動作を保ちながら、観察-行動間レイテンシを低減する必要がある。 FoldQuantVLAは、キャリブレーション、重み付け、ネイティブ整数実行を通じて一貫したアクティベーション表現を行う、ポストトレーニング量子化フレームワークである。 チャネルのスケーリングと、Adamard変換をポリシーの再トレーニングなしで動的にトーケン単位の量子化と組み合わせる。 カスタムTensorRTプラグインは、Ada GPUとJetson AGX Orin上で、4ビットの重みとアクティベーション(W4A4)を持つ言語バックボーンと反復アクションエキスパートの両方でプロジェクションを実行する。 評価はLIBERO、SimplerEnv、および2つのロボットプラットフォームにまたがる。 3つのGR00Tチェックポイントと$π_{0.5}$で、W4A4はOrin上の浮動小数点テンソルRTよりも1.20$から1.33\times$スピードアップし、デスクトップでは1.25$から1.52\times$を達成した。 8ビット(W8A8)での言語注意出力とフィードフォワードダウンプロジェクションの保持は、4つのチェックポイントすべてにおけるホールドアウトアクション忠実性を改善する。 4つの実ロボットタスクの中で、この構成はGR00T N1.7の成功率を、均一なW4A4を持つ80.0\%から1つの構成につき92.5\%に引き上げる。

関連論文リスト

• An Embedded RISC-V Evaluation of Kolmogorov--Arnold Networks in Hard-Constrained Recurrent Physics-Informed Models [0.0]
  Kolmogorov--Arnold Networks (KAN) は多層パーセプトロン (MLP) の効率的な代替として提案されている。 本稿では,パラメータ効率がデプロイに有効かどうかを問う。
  論文  参考訳（メタデータ） (2026-08-01T16:20:24Z)
• APEX4: Efficient Pure W4A4 LLM Inference via Intra-SM Compute Rebalancing [7.218138615728212]
  W4A4の量子化はINT4 Coreの完全な利用を約束するが、Coresのグループの分散化オーバーヘッドは、既存のシステムを混合精度のフォールバックへと駆り立てている。 本稿では,SM内計算バランスがこのボトルネックをいかに支配するかについて,最初の系統的研究を行う。
  論文  参考訳（メタデータ） (2026-06-07T18:01:55Z)
• QAM-W: Joint 2D Codebook Quantization for LLM Weights via Hadamard Rotation and Activation-Aware Scaling [0.0]
  トレーニング後の量子化器は、重み列内のペアワイズ座標構造を捨てる。 本稿では,QAM-W (Quadrature Amplitude Modulation for Weights) を導入する。 3.5bpwの変種は量子化耐性アーキテクチャと競合する。
  論文  参考訳（メタデータ） (2026-05-25T21:28:46Z)
• ActQuant: Sub-4-bit Action-Guided Quantization for Vision-Language-Action Models [45.62029693245481]
  本稿では,アクション誘導型混合精度PTQフレームワークであるActQuantを紹介する。 ActQuant は、(1) エージェントの動作の予測にどの程度貢献するかに基づいて、各重み行列に1ビット幅を割り当てるテンソル間ビットアロケータである。 我々はまた、効率的な低ビットカーネルを持つネイティブC/C++にポートするエージェント変換パイプラインであるOmniModelも導入した。
  論文  参考訳（メタデータ） (2026-05-19T19:57:26Z)
• SlideSparse: Fast and Flexible (2N-2):2N Structured Sparsity [86.71343842875878]
  NVIDIAの2:4 Sparse Coresは2倍のスループットを提供するが、厳しい50%のプルーニングを要求する。 Milder $(2N-2):2N$パターンは正確さを維持しながらハードウェアサポートを受けない。 Sparse Coreアクセラレーションをアンロックする最初のシステムであるSlideSparseを紹介する。
  論文  参考訳（メタデータ） (2026-03-05T14:49:16Z)
• Single layer tiny Co$^4$ outpaces GPT-2 and GPT-BERT [2.3551878971309956]
  Co$4$は、BabyLM ChallengeのベースラインであるGPT-2 (124M, 12 Layer, $O(N2))$とGPT-BERT (30M, 12 Layer, $O(N2))$をわずか2回で上回り、どちらも10回トレーニングされている。 特に、Co$4$は、ゼロショットの7つ中5つ、微調整の7つ中6つでGPT-2、両方のケースで7つ中4つでGPT-BERTを上回っている。
  論文  参考訳（メタデータ） (2025-10-09T16:22:30Z)
• FlatQuant: Flatness Matters for LLM Quantization [58.28221892035609]
  重みとアクティベーションの平坦性を高める新しいポストトレーニング量子化手法であるFlatQuantを提案する。 本手法では, 線形層毎の最適アフィン変換を, 軽量な目的により数時間で調整する。 LLaMA-3-70BモデルでのW4A4量子化の精度は1%以下で、SpinQuantを7.5%上回る。
  論文  参考訳（メタデータ） (2024-10-12T08:10:28Z)
• Simple ReFlow: Improved Techniques for Fast Flow Models [68.32300636049008]
  拡散および流れマッチングモデルは、優れた生成性能を実現するが、多くのサンプリングステップを犠牲にしている。 我々は、力学、学習、推論のトレーニングに7つの改善点を提案する。 我々は、ニューラルネットワークによる高速な生成のために、最先端のFIDスコア(ガイダンスなし/参照なし)を達成している。
  論文  参考訳（メタデータ） (2024-10-10T11:00:55Z)
• HAWQV3: Dyadic Neural Network Quantization [73.11579145354801]
  現在の低精度量子化アルゴリズムは、浮動小数点から量子化された整数値への変換の隠れコストを持つことが多い。 HAWQV3は、新しい混合精度整数のみの量子化フレームワークである。
  論文  参考訳（メタデータ） (2020-11-20T23:51:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。