論文の概要: ApexQuant: Data-Free Elastic Quantization by Residual Re-Isotropization

• arxiv url: http://arxiv.org/abs/2610.07904v1
• Date: Tue, 06 Oct 2026 07:49:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:29.875274
• Title: ApexQuant: Data-Free Elastic Quantization by Residual Re-Isotropization
• Title（参考訳）: ApexQuant: Residual Re-Isotropizationによるデータフリーな量子化
• Abstract要約: ApexQuantは、残差を量子化するキャリブレーションフリーの量子化法である。 新鮮なランダム回転は、各残余を超球面上の均一分布に戻す。 ApexQuantをスカラー、E_8$、トレリスの3つの交換可能なステージでインスタンス化し、4つのオープンウェイトLCMと地球観測および医療ドメインで検証する。
• 参考スコア（独自算出の注目度）: 0.5833117322405447
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We introduce ApexQuant, a calibration-free quantization method that recursively re-quantizes the residual error, serving as a refinement layer on top of existing quantizers. We establish that a fresh random rotation returns each residual to the uniform distribution on the hypersphere, which characterizes the rate of progressive error decay across successive passes. This result lets us determine, before any weight is read, how many passes a layer needs for a target weight-space error. Every prefix is itself a valid lower-rate model, so one artifact serves several precisions. We instantiate ApexQuant with three interchangeable stages, scalar, $E_8$ and trellis, and validate it on four open-weight LLMs and on Earth-observation and medical domains where in-distribution data is often unattainable as imagery arrives under restrictive licences or due to patient material under privacy constraints. Progressive re-isotropization comes within a few percent of full precision at four bits and gives the best two-bit arm we measure, in a completely data-free setting.
• Abstract（参考訳）: ApexQuantはキャリブレーションのない量子化手法で、残差を再帰的に再量子化し、既存の量子化器の上の精錬層として機能する。 本研究では,各残差を超球面上の均一分布に戻すことにより,逐次パス間の進行誤差の減衰率を特徴付ける。 この結果から、任意の重みが読み込まれる前に、ターゲットの重み空間エラーに必要な層数を決定することができる。 各接頭辞はそれ自体が有効なローレートモデルであるため、1つのアーティファクトはいくつかの精度を提供する。 我々は、ApexQuantをスカラー、$E_8$、トレリスの3つの交換可能なステージでインスタンス化し、それを4つのオープンウェイトLCMと地球観測および医療ドメインで検証する。 プログレッシブな再等方性は4ビットで完全精度の数分以内で得られ、測定した2ビットの腕を、完全にデータのない状態で与えます。

関連論文リスト

• Activation Denoising: A Robustness View on Parallel vs Sequential LLM Quantization [58.53931135216174]
  トレーニング後の量子化は、大きな言語モデルを圧縮するための強力なツールである。 逐次量子化(Sequential Quantization)は、各層を前者の既に定量化されている出力に再計算することで、エラーの複雑化の原因となる。 本稿では, 量子化を完全に並列に保ちながら, 逐次的利益の多くを回復する, アクティベーションデノイングによる並列量子化を提案する。
  論文  参考訳（メタデータ） (2026-10-05T23:41:48Z)
• Quantization-Aware Kalman Estimation for Diffusion Sampling [17.016094185289372]
  攻撃的圧縮は、量子化された出力を、その完全精度の出力から大きく逸脱させる可能性がある。 本稿では,量子化を意識したカルマンエスタであるQuakeと条件付きガウス観測モデルを提案する。 W4A4量子化テキスト-画像拡散モデルによる実験により、QuAKEは完全精度サンプリングから分布差を減らすために既存の手法より一貫して優れていることが示された。
  論文  参考訳（メタデータ） (2026-09-18T07:18:50Z)
• Quantized Low-Rank Quantum State Tomography: Hyperbolic Quantization and Riemannian Least-Squares Recovery [8.187661034157335]
  有限ビットパウリバッチ応答を用いた低ランク量子状態トモグラフィーについて検討する。 パウリ反応の第2モーメントスケールに適応した平均保存型双曲量子化器HyperQuantを提案する。 非漸近的回復保証と、有限ビット応答が不等化バッチ平均の誤差順序を保持する明示的なビットショットトレードオフを導出する。
  論文  参考訳（メタデータ） (2026-08-27T04:24:35Z)
• FlatQuant: Flatness Matters for LLM Quantization [58.28221892035609]
  重みとアクティベーションの平坦性を高める新しいポストトレーニング量子化手法であるFlatQuantを提案する。 本手法では, 線形層毎の最適アフィン変換を, 軽量な目的により数時間で調整する。 LLaMA-3-70BモデルでのW4A4量子化の精度は1%以下で、SpinQuantを7.5%上回る。
  論文  参考訳（メタデータ） (2024-10-12T08:10:28Z)
• Towards Accurate Post-Training Quantization of Vision Transformers via Error Reduction [48.740630807085566]
  ビジョントランスフォーマー(ViT)のPTQ(Post-training Quantization)は,学術的,産業的にも注目されている。 現在の方法は、量子化された重みとアクティベーションの間の複雑な相互作用を考慮できないため、量子化エラーと準最適性能をもたらす。 本稿では,活性化と重み量子化による量子化誤差を逐次低減する2段階PTQ法であるERQを提案する。
  論文  参考訳（メタデータ） (2024-07-09T12:06:03Z)
• Relaxed Quantile Regression: Prediction Intervals for Asymmetric Noise [51.87307904567702]
  量子レグレッション(Quantile regression)は、出力の分布における量子の実験的推定を通じてそのような間隔を得るための主要なアプローチである。 本稿では、この任意の制約を除去する量子回帰に基づく区間構成の直接的な代替として、Relaxed Quantile Regression (RQR)を提案する。 これにより、柔軟性が向上し、望ましい品質が向上することが実証された。
  論文  参考訳（メタデータ） (2024-06-05T13:36:38Z)
• Quantizing Heavy-tailed Data in Statistical Estimation: (Near) Minimax Rates, Covariate Quantization, and Uniform Recovery [22.267482745621997]
  本稿では,いくつかの統計的推定問題における重み付きデータの定量化について検討する。 我々は、均一な量子化の前にデータを切断し、適切に拡張することを提案する。
  論文  参考訳（メタデータ） (2022-12-30T06:28:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。