論文の概要: Same Bit Width, Different Outcomes: Post-Training Quantization of Text-to-Speech Across Architectures
- arxiv url: http://arxiv.org/abs/2609.28974v1
- Date: Thu, 24 Sep 2026 03:41:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 21:10:09.695113
- Title: Same Bit Width, Different Outcomes: Post-Training Quantization of Text-to-Speech Across Architectures
- Title(参考訳): ビット幅と出力の違い: テキストから音声へのアーキテクチャ間の後処理量子化
- Abstract要約: トレーニング後量子化(PTQ)はデバイス上でのテキスト音声(TTS)のコストを削減する
我々は,TTSアーキテクチャ上でのPTQを1つのプロトコルで評価し,3つのコアモデル,さらに8つの重み付けとアクティベーションの短縮,および2つのホールドアウトモデルを定量化した。
- 参考スコア(独自算出の注目度): 3.636240564994662
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Post-training quantization (PTQ) reduces the cost of on-device text-to-speech (TTS), but published evaluations cover one system or method. We evaluate PTQ across TTS architectures under one protocol with three core models, weight and activation ablations of eight more, and two held-out models quantized blind. Four-bit per-channel weights reduce UTMOS, a predicted mean opinion score, by 2.8 on Supertonic and 0.07 on Kokoro, and per-tensor scaling can cause severe degradation even at 8 bits. The same bit width yields different outcomes, because the sensitive component is model-specific and not reliably predicted from the model class. A staged ablation procedure identifies it, and per-layer GPTQ can restore it to within 0.1 UTMOS. Real int8 and int4 kernels reproduce the simulated ordering at hardware-dependent cost. On a Mac mini, a 4-bit weight kernel runs Supertonic at 0.60x the fp32 latency while int8 is slower, so each configuration requires validation on the target runtime.
- Abstract(参考訳): トレーニング後量子化(PTQ)はデバイス上でのテキスト合成(TTS)のコストを低減させるが、評価は1つのシステムまたはメソッドをカバーする。
我々は,TTSアーキテクチャ上でのPTQを1つのプロトコルで評価し,3つのコアモデル,さらに8つの重み付けとアクティベーションの短縮,および2つのホールドアウトモデルを定量化した。
4ビット毎の重み付けにより、予測された平均値スコアであるUTMOSがSupertonicで2.8、Kokoroで0.07減少し、テンソル単位のスケーリングは8ビットでも深刻な劣化を引き起こす可能性がある。
同じビット幅は、感度成分がモデル固有であり、モデルクラスから確実に予測されないため、異なる結果をもたらす。
段階的アブレーション法によりそれを同定し、層ごとのGPTQにより0.1 UTMOS以内に復元することができる。
実際の int8 と int4 カーネルは、ハードウェア依存のコストでシミュレートされた順序を再現する。
Mac miniでは、4ビットのカーネルがSupertonicを0.60倍のfp32レイテンシで実行し、int8は遅いため、各設定はターゲットランタイム上で検証する必要がある。
関連論文リスト
- Compress and Forget: bitsandbytes Quantization Amplifies Proactive Interference in LLMs [0.23438564092609357]
プロアクティブ干渉(英: Proactive interference, PI)は、大規模言語モデルにおける文書化された障害モードであり、繰り返し上書きされた値の検索は、事前上書きが蓄積されるにつれて劣化する。
PTQは現在、オープンウェイトモデルのデフォルトのデプロイメントパスとなっているが、この障害モードへの影響はテストされていない。
アーキテクチャ的に異なる3つの命令調整モデルの3つの精度レベル(FP16, INT8, INT4/NF4, ビット/バイト)を評価する。
論文 参考訳(メタデータ) (2026-08-19T06:17:13Z) - Recurrent Residual Quantization: A Progressive Multi-Precision Representation for LLMs [9.68624792431081]
本稿では,学習後の量子化フレームワークであるRecurrent Residual Quantization (RRQ)を紹介する。
RRQは、重みを低ビットの量子化された基底として表し、量子化された残差補正の列を表わす。
Qwen3-8Bでは,全RTN 2-/4-/6-/8-bitパッケージを1,293秒で構築した。
論文 参考訳(メタデータ) (2026-08-04T08:32:05Z) - VibeVoice-ASR-BitNet Technical Report [86.93881874028209]
VibeVoice-ASR-BitNetは、エッジCPU上のリアルタイム推論に最適化されたVibeVoice-ASRの圧縮版である。
攻撃的圧縮下での精度を維持するために,プログレッシブ量子化対応トレーニング戦略を実装した。
VibeVoice-ASR-BitNetはWhisperより1.6-2.3倍速い。
論文 参考訳(メタデータ) (2026-07-23T09:08:04Z) - Holding the FP8 Quality Ceiling at 8-Bit Weights and Activations: INT8 and GGUF Post-Training Quantization of Ideogram 4.0 for Consumer GPUs [0.08599681538174887]
9.3Bフローベース拡散変圧器(DiT)Ideogram 4.0の学習後量子化について検討する。
我々は、Ideogramの公開キャプション仕様に組み込んだ拡張器によって生成されたスキーマ値プロンプトに基づいて、すべての変種を評価する。
We release the INT8 W8A8 and GG Q4_K Quantized weights on Hugging under a gated, non-commercial license。
論文 参考訳(メタデータ) (2026-06-10T16:19:49Z) - BPDQ: Bit-Plane Decomposition Quantization on a Variable Grid for Large Language Models [56.504879072674015]
本稿では,ビットプレーンとスカラー係数による可変量子化グリッドを構成するビットプレーン分解量子化(BPDQ)を提案する。
BPDQは、1つのGTX 3090上でQwen2.5-72Bを83.85%のGSM8Kの精度で提供できる(ただし16ビットでは90.83%)。
論文 参考訳(メタデータ) (2026-02-04T02:54:37Z) - DeepGEMM: Accelerated Ultra Low-Precision Inference on CPU Architectures
using Lookup Tables [49.965024476651706]
DeepGEMMはSIMDハードウェア上で超高精度畳み込みニューラルネットワークを実行するためのルックアップテーブルベースのアプローチである。
実装は、x86プラットフォーム上で、対応する8ビット整数カーネルを最大1.74倍の性能で上回る。
論文 参考訳(メタデータ) (2023-04-18T15:13:10Z) - Post-Training Sparsity-Aware Quantization [2.2530496464901106]
量子化(quantization)は、ディープニューラルネットワーク(DNN)において、実行性能とハードウェア効率を向上させるために使用されるテクニックである。
本研究では,非構造および動的アクティベーション・スパシティを異なる表現粒度に利用したスパーシティー対応量子化(SPARQ)法を提案する。
SPARQは、小さな精度の劣化、広く使われているハードウェアアーキテクチャの2倍の高速化、実用的なハードウェア実装を実現している。
論文 参考訳(メタデータ) (2021-05-23T20:12:35Z) - Differentiable Model Compression via Pseudo Quantization Noise [99.89011673907814]
本稿では,モデルパラメータに独立な擬似量子化雑音を加えて量子化演算子の効果を近似する。
本手法が,画像分類,言語モデリング,音声ソース分離などのベンチマークやアーキテクチャにおいて,最先端の量子化技術を上回ることを実験的に検証した。
論文 参考訳(メタデータ) (2021-04-20T14:14:03Z) - HAWQV3: Dyadic Neural Network Quantization [73.11579145354801]
現在の低精度量子化アルゴリズムは、浮動小数点から量子化された整数値への変換の隠れコストを持つことが多い。
HAWQV3は、新しい混合精度整数のみの量子化フレームワークである。
論文 参考訳(メタデータ) (2020-11-20T23:51:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。