論文の概要: MiX: Micro-Inverted-Scaling for End-to-End Low-Bit Vision-Language Model Acceleration

• arxiv url: http://arxiv.org/abs/2609.19683v1
• Date: Thu, 17 Sep 2026 04:31:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-20 08:55:54.100605
• Title: MiX: Micro-Inverted-Scaling for End-to-End Low-Bit Vision-Language Model Acceleration
• Title（参考訳）: MiX: エンド・ツー・エンドの低ビットビジョンランゲージモデル高速化のためのマイクロ・インバート・スケーリング
• Abstract要約: Micro-Inverted-Scaling (MiX)は、マイクロスケーリングパラダイムを数学的に反転させる新しいフォーマットである。 MiXグループは1つの共有マティーサの下で1要素当たりのプライベートな指数をグループ化する。 4.5ビット MiX の定式化は,NVFP4 と比較して,マルチモーダルベンチマークにおいて同等あるいは優れた精度を示す。
• 参考スコア（独自算出の注目度）: 8.312722615208363
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The deployment of Vision-Language Models (VLMs) on edge devices is severely bottlenecked by memory bandwidth, necessitating aggressive sub-8-bit quantization. Since edge accelerators are strictly constrained by area and power, they require end-to-end quantized models. However, the extreme dynamic range gap between multi-modal tokens causes standard block formats to suffer "microscaling collapse," where a single massive outlier hijacks the shared exponent, underflowing surrounding elements and destroying attention maps. To break this bottleneck, we propose Micro-Inverted-Scaling (MiX), a novel format that mathematically inverts the microscaling paradigm: rather than grouping multiple mantissas under one shared exponent, MiX groups private, per-element exponents under a single shared mantissa. To handle asymmetric VLM outlier topologies, we introduce an adaptive dual-format (MiX-MX) inference framework. By algebraically factoring out the shared MiX mantissa, this framework maps to a custom accelerator, replacing multipliers with efficient shifters. Evaluated end-to-end on multiple VLMs, our 4.5-bit MiX formulation exhibits equivalent or superior accuracy on multi-modal benchmarks compared to NVFP4. Simultaneously, the MiX accelerator delivers a 25% improvement in area efficiency over the NVFP4 baseline and a 2.3-4.5x speedup with 1.4-2.9x energy reduction across models compared to the state-of-the-art accelerator Focus, proving the inverted-scaling datapath is physically superior for efficient VLM deployment.
• Abstract（参考訳）: VLM(Vision-Language Models)のエッジデバイスへの展開は、メモリ帯域幅によって著しくボトルネックとなり、攻撃的なサブ8ビット量子化を必要とする。 エッジアクセラレータは領域とパワーによって厳格に制約されているため、エンドツーエンドの量子化モデルが必要である。 しかし、マルチモーダルトークン間の極端なダイナミックレンジギャップは、標準ブロックフォーマットが「マイクロスケーリング崩壊」に苦しむ原因となり、1つの巨大なアウトレイアが共有指数をハイジャックし、周囲の要素を降ろし、注意マップを破壊する。 このボトルネックを克服するために,マイクロ・インバージョン・スケーリング(MiX)という,マイクロスケーリングパラダイムを数学的に逆転する新しいフォーマットを提案する。 非対称なVLM外乱トポロジーを扱うために、適応的デュアルフォーマット(MiX-MX)推論フレームワークを導入する。 共有 MiX の行列を代数的に分解することで、このフレームワークは任意の加速器にマップし、乗算器を効率的なシフト器に置き換える。 複数のVLM上でのエンドツーエンドの評価を行い,NVFP4と比較して4.5ビットのMiX定式化は,マルチモーダルベンチマークにおいて同等あるいは優れた精度を示す。 同時に、MiXアクセラレータはNVFP4ベースラインよりも25%効率が向上し、2.3-4.5xのスピードアップと1.4-2.9倍のエネルギー削減を実現した。

関連論文リスト

• MXAttention: Data-Free Optimal Scaling and Pre-Normalization Quantization for MXFP4 Attention [11.481044720988876]
  我々はMXFP4の注意を引くためのデータフリーのポストトレーニング量子化フレームワークMXAttentionを提案する。 MXAttentionは,OCP MXFP4 と FP16 の VBench Imaging Quality ギャップの少なくとも95%を閉じ,フレームレベルの類似性を著しく改善し,FP16 レベルの生成品質を 0.01 未満の絶対劣化で維持することを示した。
  論文  参考訳（メタデータ） (2026-07-27T12:53:22Z)
• OScaR: The Occam's Razor for Extreme KV Cache Quantization in LLMs and Beyond [50.440302567029654]
  マルチモーダルインテリジェンスにより、Key-Valueキャッシュは効率的なデプロイメントのための主要なメモリボトルネックとなった。 本研究では、チャネルごとの量子化パラダイムの本質的な限界を再考する。 X-LLMのための高精度かつ軽量なKVキャッシュ圧縮フレームワークOScaRを提案する。
  論文  参考訳（メタデータ） (2026-05-19T10:53:03Z)
• BWTA: Accurate and Efficient Binarized Transformer by Algorithm-Hardware Co-design [71.97035034203275]
  バイナライゼーションにおけるゼロ点歪みを解析し,BWTA量子化方式を提案する。 本稿では,Smooth Multi-Stage Quantizationを提案し,レベルワイド・デグラデーション・ストラテジーとMagnitude Alignment Projection Factorを組み合わせた。 実験の結果、BWTAはTransformerベースのモデルに対して、GLUEでは平均3.5%、タスクでは2%未満の精度でフル精度のパフォーマンスにアプローチしていることがわかった。
  論文  参考訳（メタデータ） (2026-04-05T04:25:07Z)
• BATQuant: Outlier-resilient MXFP4 Quantization via Learnable Block-wise Optimization [34.40883652676667]
  MXFP4に適用した場合, 評価後量子化法は深刻な性能低下に悩まされる。 本稿では,MXFPと整合する変換を制限するBATQuantを提案する。 我々は、BATQuantが攻撃的なW4A4KV16構成の下で、最先端の新たな結果を確立することを示す。
  論文  参考訳（メタデータ） (2026-03-17T14:37:08Z)
• Bridging the Gap Between Promise and Performance for Microscaling FP4 Quantization [77.67818998672516]
  本研究は,MXFP4とNVFP4の学習後量子化に関する総合的研究である。 本稿では,従来のGPTQ量子化アルゴリズムの変種であるMicro-Rotated-GPTQ(MR-GPTQ)を紹介する。 MR-GPTQは最先端の精度で一致または性能が向上することを示す。
  論文  参考訳（メタデータ） (2025-09-27T09:22:21Z)
• MicroMix: Efficient Mixed-Precision Quantization with Microscaling Formats for Large Language Models [3.305409455598179]
  量子化は大規模言語モデル(LLM)の推論を著しく加速する 近年のウェイトアクティベーション量子化の進歩は、主にウェイトとアクティベーションの両方をINT4フォーマットにマッピングすることに焦点を当てている。 マイクロスケーリング(MX)データフォーマットをベースとした混合精度量子化アルゴリズムと行列乗算カーネルであるMicroMixを提案する。
  論文  参考訳（メタデータ） (2025-08-04T12:22:39Z)
• Nanoscaling Floating-Point (NxFP): NanoMantissa, Adaptive Microexponents, and Code Recycling for Direct-Cast Compression of Large Language Models [5.680646377552021]
  ナノスケーリング(NxFP)は、最先端のMxFPよりも精度とメモリフットプリントを向上する3つの手法を提案する。 NxFPはメモリフットプリントを最大16%削減し、MxFPと同等のパープレキシティを実現する。
  論文  参考訳（メタデータ） (2024-12-15T22:18:20Z)
• Edge-MoE: Memory-Efficient Multi-Task Vision Transformer Architecture with Task-level Sparsity via Mixture-of-Experts [60.1586169973792]
  M$3$ViTは、Mix-of-experts (MoE)を導入した最新のマルチタスクViTモデルである。 MoEは精度の向上と80%以上の削減計算を実現しているが、FPGAに効率的なデプロイを行う上での課題は残されている。 Edge-MoEと呼ばれる私たちの研究は、アーキテクチャの革新の集合を伴って、マルチタスクのViTのための最初のエンドツーエンドFPGAアクセラレータを導入するという課題を解決します。
  論文  参考訳（メタデータ） (2023-05-30T02:24:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。