論文の概要: On Low-Bit Quantization Errors in Speaker Verification: Diagnostic and Mitigation
- arxiv url: http://arxiv.org/abs/2606.08078v1
- Date: Sat, 06 Jun 2026 09:55:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-09 14:42:05.763677
- Title: On Low-Bit Quantization Errors in Speaker Verification: Diagnostic and Mitigation
- Title(参考訳): 話者検証における低ビット量子化誤差について:診断と緩和
- Abstract要約: ResNet-36とResNet-200の低ビット量子化学習について検討した。
我々は,FP32閾値付近に集中するスコアドリフトと有害な決定フリップを有する2ビットの明確な膝点を同定した。
2ビットでほとんどの試行を解消し、曖昧なケースのみをエスカレートする校正多重精度カスケードを提案する。
- 参考スコア(独自算出の注目度): 6.8167913328808405
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Although low-bit quantization provides practical means to deploy speaker verification on resource-constrained devices, its effects on speaker verification performance remain poorly understood. In this paper, we study uniform K-means quantization-aware training of ResNet-36 and ResNet-200 through joint layer-wise and score-level analyses. Our layer-wise analysis highlights fragile components and shows that score degradation is not fully explained by weight distortion alone. We identify a clear knee point at 2 bits, with larger score drift and harmful decision flips concentrated near the FP32 threshold. Our score-level analysis reveals where and how score errors emerge under extreme quantization. Building on these findings, we propose a calibrated multi-precision cascade that resolves most trials at 2 bits and escalates only ambiguous cases, achieving performance close to FP32 while preserving the efficiency benefits of low-bit inference with substantially lower compute and memory costs.
- Abstract(参考訳): 低ビット量子化は、リソース制約のあるデバイスに話者検証をデプロイする実用的な手段を提供するが、その話者検証性能への影響はよく分かっていない。
本稿では,ResNet-36とResNet-200のK平均量子化学習について,ジョイント層とスコアレベル解析を用いて検討する。
筆者らの層別分析では, 脆性成分が強調され, 重量歪みだけでは, スコア劣化が完全に説明できないことが示された。
我々は,FP32閾値付近にスコアドリフトと有害な決定フリップが集中した2ビットの明確な膝点を同定した。
我々のスコアレベル分析は、極端量子化の下でスコアエラーが出現する場所と方法を明らかにする。
これらの結果に基づいて,2ビットでほとんどの試行を解消し,不明瞭なケースのみをエスカレートし,FP32に近い性能を実現し,計算コストとメモリコストを大幅に低減した低ビット推論の効率性を維持した校正マルチ精度カスケードを提案する。
関連論文リスト
- ANCHOR: Autoregressive Non-intrusive Chunk-Ordered Refinement for Joint Multi-Resolution Speech Quality Modeling [62.983372215479925]
ストリーミングと生成システムは、部分的なオーディオから漸進的な推定を必要とする。
多分解能オートレタスクとしてインクリメンタルアセスメントを改良したANCHORを提案する。
2秒プレフィックスの48%のPLCMOSエラー削減を含む、部分入力下でのかなりの堅牢性を示す実験。
論文 参考訳(メタデータ) (2026-06-08T22:46:30Z) - Evaluating Self-Correcting Vision Agents Through Quantitative and Qualitative Metrics [0.0]
Vision-Language Agents (VLA) は複雑な視覚タスクを実行可能なツールベースの計画に分解することができる。
最近のベンチマークでは反復的自己補正の評価が始まっているが、その量的制限と支配的な推論ボトルネックはいまだに不十分である。
論文 参考訳(メタデータ) (2026-01-14T15:17:11Z) - Pushing the Limits of Low-Bit Optimizers: A Focus on EMA Dynamics [64.62231094774211]
ステートフル(例えばアダム)は、最適収束を達成するために、モデルサイズを2倍も補助情報を維持する。
SOLOにより、アダムスタイルは3ビットまたは2ビットの精度で量子化された状態を維持することができる。
したがって、SOLOはAdamスタイルにシームレスに適用でき、精度の低下を最小限に抑えることができる。
論文 参考訳(メタデータ) (2025-05-01T06:47:45Z) - Benchmarking the quality of multiplexed qubit readout beyond assignment fidelity [0.0]
我々は検出器トモグラフィーを用いて超伝導トランスモン量子ビットのマルチキュービット読み出しを完全に特徴付ける。
異なる読み出しパラメータが情報抽出率に与える影響について検討した。
代入忠実度検証ツールとして不確定性収束率を提案する。
論文 参考訳(メタデータ) (2025-02-12T17:21:38Z) - Quantization Meets Reasoning: Exploring LLM Low-Bit Quantization Degradation for Mathematical Reasoning [29.687113675756127]
大規模言語モデルは、MATHのような複雑な数学的推論ベンチマークにおいて大きな進歩を遂げた。
モデル量子化は、低い精度とビット幅の表現を用いることで、メモリ使用量と計算コストを削減する効果的な戦略として登場した。
論文 参考訳(メタデータ) (2025-01-06T14:23:02Z) - DB-LLM: Accurate Dual-Binarization for Efficient LLMs [83.70686728471547]
大規模言語モデル(LLM)は自然言語処理の分野を著しく進歩させてきた。
既存の超低ビット量子化は、常に深刻な精度低下を引き起こす。
本稿では,LLM,すなわちDB-LLMのための新しいデュアルバイナライズ手法を提案する。
論文 参考訳(メタデータ) (2024-02-19T09:04:30Z) - QuEST: Low-bit Diffusion Model Quantization via Efficient Selective Finetuning [52.157939524815866]
本稿では,不均衡な活性化分布を量子化困難の原因として同定する。
我々は,これらの分布を,より量子化しやすいように微調整することで調整することを提案する。
本手法は3つの高解像度画像生成タスクに対して有効性を示す。
論文 参考訳(メタデータ) (2024-02-06T03:39:44Z) - On-Chip Hardware-Aware Quantization for Mixed Precision Neural Networks [52.97107229149988]
エッジデバイス上でハードウェア対応の混合精度量子化を行うOn-Chipハードウェア・アウェア量子化フレームワークを提案する。
このパイプラインは、量子化プロセスが量子化演算子の実際のハードウェア効率を知覚することを可能にする。
精度測定のために,マルチチップシナリオにおける演算子の精度への影響を効果的に推定するMask-Guided Quantization Estimation技術を提案する。
論文 参考訳(メタデータ) (2023-09-05T04:39:34Z) - Make RepVGG Greater Again: A Quantization-aware Approach [22.36179771869403]
我々は、量子化に親しみやすい構造を持つための単純で堅牢で効果的な治療法を提案する。
ベルとホイッスルがなければ、ImageNetのトップ1の精度低下は、トレーニング後の標準的な量子化によって2%以内に減少する。
また,提案手法はRepVGGと同様のFP32性能を実現する。
論文 参考訳(メタデータ) (2022-12-03T11:14:10Z) - Neural Networks with Quantization Constraints [111.42313650830248]
量子化学習における制約付き学習手法を提案する。
結果の問題は強い双対であり、勾配推定は不要であることを示す。
提案手法は画像分類タスクにおける競合性能を示す。
論文 参考訳(メタデータ) (2022-10-27T17:12:48Z) - SQuAT: Sharpness- and Quantization-Aware Training for BERT [43.049102196902844]
シャープネスと量子化アウェアトレーニング(SQuAT)を提案する。
提案手法は,2,3,4ビット条件下で,最先端の量子化BERTモデルよりも1%向上する。
また, シャープネスの測定実験により, 他の量子化法と比較して, より平坦な最小値が得られることが示唆された。
論文 参考訳(メタデータ) (2022-10-13T16:52:19Z) - DAQ: Distribution-Aware Quantization for Deep Image Super-Resolution
Networks [49.191062785007006]
画像超解像のための深い畳み込みニューラルネットワークの定量化は、計算コストを大幅に削減する。
既存の作業は、4ビット以下の超低精度の厳しい性能低下に苦しむか、または性能を回復するために重い微調整プロセスを必要とします。
高精度なトレーニングフリー量子化を実現する新しい分散認識量子化方式(DAQ)を提案する。
論文 参考訳(メタデータ) (2020-12-21T10:19:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。