論文の概要: Same Predictions, Different Reasons: The Effect of Quantization on Model Explanations
- arxiv url: http://arxiv.org/abs/2607.22872v1
- Date: Fri, 24 Jul 2026 19:26:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-28 22:34:14.916172
- Title: Same Predictions, Different Reasons: The Effect of Quantization on Model Explanations
- Title（参考訳）: 同じ予測, 異なる理由: 量子化がモデル説明に及ぼす影響
- Abstract要約: 学習後量子化(PTQ)は、リソース制約エッジデバイスにディープラーニングモデルをデプロイするための実用的なソリューションとなっている。
本研究では,静的PTQが5つの広く使用されているCNNアーキテクチャの解釈可能性/説明可能性に与える影響について,系統的評価を行った。
- 参考スコア（独自算出の注目度）: 0.431493144418712
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Post-training quantization (PTQ) has become a practical solution for deploying deep learning models on resource-constrained edge devices by compressing high-precision floating-point weights into low-precision representations without requiring retraining. Past research has demonstrated that quantization largely preserves classification accuracy; however, whether it also preserves the model's internal reasoning remains an open question. This study presents a systematic evaluation on how static PTQ affects the interpretability / explainability of five widely used CNN architectures: VGG19, ResNet18, EfficientNet-B0, DenseNet161, and MobileNetV2 at INT8 and INT4 precision. We employ a dual interpretability framework that combines Grad-CAM for spatial attention analysis with LIME for input-level feature attribution, and systematically compare full-precision and quantized models on two binary classification datasets. Interpretability is evaluated using three complementary metrics: the Pearson correlation coefficient, structural similarity index, and top-20% IoU to capture distributional and structural variations in model explanations, supplemented by deletion/insertion faithfulness analysis. The results show that classification accuracy is not a reliable indicator of interpretability stability under reduced precision. DenseNet161 maintains strong feature consistency across both precision levels, whereas EfficientNet-B0, despite achieving competitive spatial attention and classification accuracy at INT8 precision, exhibits a substantial degradation in input-level feature attribution. These findings have direct implications for the trustworthy deployment of quantized models in applications with high interpretability requirements, demonstrating that architecture selection is as important as the quantization strategy.
- Abstract（参考訳）: ポストトレーニング量子化(PTQ)は, 高精度浮動小数点重みを低精度表現に圧縮することにより, 資源制約エッジデバイスにディープラーニングモデルを展開するための実用的なソリューションとなっている。
過去の研究では、量子化は分類の精度を保っていることが証明されているが、それがモデルの内部的推論を保存しているかどうかについては未解決のままである。
本研究では,静的PTQが5つの広く使用されているCNNアーキテクチャ(VGG19, ResNet18, EfficientNet-B0, DenseNet161, MobileNetV2)の解釈可能性/説明可能性に与える影響を,INT8およびINT4で系統的に評価した。
本研究では,空間的注意分析にGrad-CAMを,入力レベルの特徴属性にLIMEを併用した二重解釈可能性フレームワークを用いて,2つのバイナリ分類データセットの完全精度と定量化モデルを体系的に比較する。
Pearson相関係数、構造類似度指数、およびトップ20%IoUの3つの相補的指標を用いて、モデル説明における分布的・構造的変動を捉え、削除/挿入忠実度分析によって補足する。
その結果,分類精度は精度の低下の下での解釈可能性安定性の信頼性を示す指標ではないことがわかった。
DenseNet161は両方の精度レベルにわたって強い特徴一貫性を維持しているのに対し、EfficientNet-B0はINT8精度で競争力のある空間的注意と分類精度を達成したにもかかわらず、入力レベルの特徴属性が大幅に低下している。
これらの知見は、高い解釈可能性要件を持つアプリケーションにおける量子化モデルの信頼性の高い展開に直接的な意味を持ち、アーキテクチャの選択が量子化戦略と同じくらい重要であることを証明している。
関連論文リスト
- Multimodal Learning on Low-Quality Data with Conformal Predictive Self-Calibration [72.0672328514289]
マルチモーダル学習は、しばしば低品質データの課題に悩まされる。
コンフォーマル予測自己校正(Conformal Predictive Self-Calibration)と呼ばれる統合フレームワークを提案する。
私たちのフレームワークは、既存の最先端メソッドを一貫して上回ります。
論文 参考訳（メタデータ） (2026-05-05T14:48:52Z) - Mixture-of-Experts Models in Vision: Routing, Optimization, and Generalization [0.0]
画像分類設定におけるMoEの挙動について検討し、予測性能、専門家の活用、一般化に着目した。
我々は、CIFAR10データセット上の密度、SoftMoE、SparseMoE分類器を、同等のモデルキャパシティで比較する。
どちらのMoE変種も、正規化によるバランスの取れた専門家の利用を維持しながら、密度の高いベースラインよりもわずかに高い検証精度を達成する。
DenseとSparseMoEは、全てのモデルが同等の一般化性能を達成しているにもかかわらず、同様の曲率状態にあるのに対して、SoftMoEはこれらの指標によってよりシャープさを示す。
論文 参考訳（メタデータ） (2026-01-21T14:22:25Z) - QuIC: A Quantum-Inspired Interaction Classifier for Revitalizing Shallow CNNs in Fine-Grained Recognition [1.2747974581480312]
QuICは軽量なプラグイン・アンド・プレイモジュールで、機能ディメンションを爆発させることなく、安定したシングルステージのエンドツーエンドトレーニングをサポートする。
これはVGG16のTop-1精度を20%近く向上させ、ResNet18の最先端アテンション機構(SE-Block)を上回っている。
論文 参考訳（メタデータ） (2026-01-05T15:09:18Z) - Feature Ranking in Credit-Risk with Qudit-Based Networks [0.0]
金融においては、予測モデルは正確性と解釈可能性のバランスをとる必要がある。
量子ニューラルネットワーク(QNN)を1つのキューディットに基づいて提案する。
台湾の信用リスクデータセットを実世界の非バランスでベンチマークする。
論文 参考訳（メタデータ） (2025-11-24T14:15:57Z) - Continual Action Quality Assessment via Adaptive Manifold-Aligned Graph Regularization [53.82400605816587]
アクション品質アセスメント(AQA)は、ビデオにおける人間の行動を定量化し、スポーツスコアリング、リハビリテーション、スキル評価の応用を支援する。
大きな課題は、現実世界のシナリオにおける品質分布の非定常的な性質にある。
本稿では,進化する分布を扱うための連続学習機能を備えた連続AQA(Continuous AQA)を紹介する。
論文 参考訳（メタデータ） (2025-10-08T10:09:47Z) - Saliency Assisted Quantization for Neural Networks [0.0]
本稿では,学習期間中にリアルタイムな説明を提供することにより,深層学習モデルのブラックボックスの性質に対処する。
我々は資源制約に対処するために確立された量子化手法を用いる。
提案手法の有効性を評価するため,量子化が畳み込みニューラルネットワークの解釈可能性や精度に与える影響について検討する。
論文 参考訳（メタデータ） (2024-11-07T05:16:26Z) - Augmenting Hessians with Inter-Layer Dependencies for Mixed-Precision
Post-Training Quantization [7.392278887917975]
本稿では,ネットワーク上のテンソルに異なる数値精度を割り当てる混合精度ポストトレーニング量子化手法を提案する。
実験では,16ビットベースラインの25.48%$,21.69%$,33.28%$に対して,レイテンシの低減を実証した。
論文 参考訳（メタデータ） (2023-06-08T02:18:58Z) - Neural Networks with Quantization Constraints [111.42313650830248]
量子化学習における制約付き学習手法を提案する。
結果の問題は強い双対であり、勾配推定は不要であることを示す。
提案手法は画像分類タスクにおける競合性能を示す。
論文 参考訳（メタデータ） (2022-10-27T17:12:48Z) - ClusterQ: Semantic Feature Distribution Alignment for Data-Free
Quantization [111.12063632743013]
本稿では,ClusterQと呼ばれるデータフリーな量子化手法を提案する。
意味的特徴のクラス間分離性を高めるために,特徴分布統計をクラスタ化し,整列する。
また、クラス内分散を組み込んで、クラスワイドモードの崩壊を解決する。
論文 参考訳（メタデータ） (2022-04-30T06:58:56Z) - Accuracy on the Line: On the Strong Correlation Between
Out-of-Distribution and In-Distribution Generalization [89.73665256847858]
分布外性能は,広範囲なモデルと分布シフトに対する分布内性能と強く相関していることを示す。
具体的には,CIFAR-10 と ImageNet の変種に対する分布内分布と分布外分布性能の強い相関関係を示す。
また,CIFAR-10-Cと組織分類データセットCamelyon17-WILDSの合成分布の変化など,相関が弱いケースについても検討した。
論文 参考訳（メタデータ） (2021-07-09T19:48:23Z) - Robust Implicit Networks via Non-Euclidean Contractions [63.91638306025768]
暗黙のニューラルネットワークは、精度の向上とメモリ消費の大幅な削減を示す。
彼らは不利な姿勢と収束の不安定さに悩まされる。
本論文は,ニューラルネットワークを高機能かつ頑健に設計するための新しい枠組みを提供する。
論文 参考訳（メタデータ） (2021-06-06T18:05:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。