Fugu-MT 論文翻訳(概要): Detecting Unreliable Classifications from Quantized Models

論文の概要: Detecting Unreliable Classifications from Quantized Models

arxiv url: http://arxiv.org/abs/2610.18575v1
Date: Tue, 13 Oct 2026 15:41:24 GMT
ステータス: 翻訳完了
システム内更新日: 2026-10-16 20:35:46.843547
Title: Detecting Unreliable Classifications from Quantized Models
Title（参考訳）: 量子化モデルによる信頼できない分類の検出
Abstract要約: FP32とINT8モデルの出力確率ベクトル間のコサイン類似度を予測毎に計算する。このアウトプット・アグリメントの類似性は、4つの評価されたアーキテクチャで低い精度の予測を分離する。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Post-training INT8 quantization is typically validated by checking accuracy retention, which requires ground-truth labels often unavailable in low-resource clinical settings. We show a label-free alternative: comparing a model's own output before and after quantization. We compute cosine similarity between the FP32 and INT8 models' output probability vectors for each prediction, which requires only a single forward pass. This output-agreement similarity separates lower-accuracy predictions across four evaluated architectures (ResNet-50, VGG-16-BN, Wide ResNet-50, and ViT-B/16) under fixed-percentile splits, outperforming a confidence-only baseline for all four. These results show that quantized models can be compared to their baselines to assess their drift and determine whether they are well suited for clinical deployment.
Abstract（参考訳）: トレーニング後のINT8量子化は、通常、精度の保持をチェックすることによって検証される。ラベルなしの代替手段として、量子化前後のモデル自身の出力を比較する。 FP32モデルとINT8モデルの出力確率ベクトルのコサイン類似性を計算する。この出力-アグリメント類似性は、4つの評価されたアーキテクチャ(ResNet-50、VGG-16-BN、Wide ResNet-50、ViT-B/16)で、固定パーセンタイル分割下での低精度予測を分離し、4つすべてに対して信頼性のみのベースラインを上回っている。これらの結果から, 定量化モデルとベースラインを比較して, ドリフトを評価し, 臨床展開に適しているかどうかを判定できることがわかった。

関連論文リスト

Benchmarking Self-Supervised 3D Medical Vision Foundation Models and Transferability Estimation [57.65266782182578]
セルフ教師付き事前トレーニングは、3D医療基盤モデルのプールを拡張したが、異なるデータセット、エンドポイント、微調整プロトコルを使用した評価を公表した。 14のセグメンテーション、分類、回帰タスク、複数の解剖学とモダリティにまたがる23の候補をベンチマークした。 3モデルショートリストは、7つのセグメンテーションタスクで記録された抜粋+訓練ジョブ時間を85.8%削減した。
論文参考訳（メタデータ） (2026-10-13T01:52:19Z)
Greedy Decoding Is Not Precision-Invariant: Cross-Precision Output Divergence in LLM Inference [13.137699166830322]
大規模言語モデルからのグレディ復号は、一般に決定論的として扱われる。同一のモデル,プロンプト,デコードアルゴリズムは同一のハードウェア上で,BF16とFP16の異なる出力を生成する。実験により,22層に蓄積したボディーエラーは,浮動小数点数と浮動小数点数とを区別しないことがわかった。
論文参考訳（メタデータ） (2026-09-22T15:54:16Z)
Target-Aware Calibration Data Selection for Preserving Uncertainty in Quantized Language Models [21.86864148430797]
量子化は大規模言語モデルの展開に広く用いられているが、不確実性に対する影響は主要な目的として扱われることは滅多にない。ターゲット依存不確実性保存問題として量子化のためのキャリブレーションデータ選択を行う。完全精度予測を用いた軽量な事前量子化レシピファミリーであるDoub-Preserving Quantization (DPQ)を紹介する。
論文参考訳（メタデータ） (2026-08-21T12:07:49Z)
Same Predictions, Different Reasons: The Effect of Quantization on Model Explanations [0.431493144418712]
学習後量子化(PTQ)は、リソース制約エッジデバイスにディープラーニングモデルをデプロイするための実用的なソリューションとなっている。本研究では,静的PTQが5つの広く使用されているCNNアーキテクチャの解釈可能性/説明可能性に与える影響について,系統的評価を行った。
論文参考訳（メタデータ） (2026-07-24T19:26:47Z)
What Single-Prompt Accuracy Misses: A Multi-Variant Reliability Audit of Language Models [0.0]
シングルプロンプト精度は、言語モデルをベンチマークする主要な方法であるが、重要な信頼性障害を見逃す可能性がある。 15モデルオープンウェイトコーパスの評価を行い,5つの分類と推論ベンチマークによる10のインストラクトモデルに着目した信頼性解析を行った。まず、評価設計は結論を根本的に変えることができる。第2に、信頼信号は脆弱である。MMLU-Proでは、各プライマリモデルは、その精度と同一行上のトークン確率信頼の両方よりもかなり高い信頼度を言語的に報告し、単一のプロンプト変種における単一のモデルに対して、動詞のパースレートが崩壊する可能性がある。
論文参考訳（メタデータ） (2026-05-03T20:05:08Z)
VAREX: A Benchmark for Multi-Modal Structured Extraction from Documents [1.06378109904813]
VAREXは政府形態からの構造化データ抽出を評価するためのベンチマークである。ベンチマークは、1,777の文書と1,771のユニークな文書から成っており、3相品質保証を通じて真理を検証している。結果は、4Bパラメータ以下では、コンプライアンス出力 -- 抽出能力ではなく -- が主要なボトルネックであることを示している。
論文参考訳（メタデータ） (2026-03-16T11:15:56Z)
Model Correlation Detection via Random Selection Probing [62.093777777813756]
既存の類似性に基づく手法では、モデルパラメータにアクセスしたり、しきい値なしでスコアを生成する必要がある。本稿では,モデル相関検出を統計的テストとして定式化する仮説テストフレームワークであるランダム選択探索(RSP)を紹介する。 RSPは相関の証拠を定量化する厳密なp-値を生成する。
論文参考訳（メタデータ） (2025-09-29T01:40:26Z)
Accelerated Test-Time Scaling with Model-Free Speculative Sampling [58.69141724095398]
STAND(Stochastic Adaptive N-gram Drafting)は,新しいモデルフリーな投機的デコード手法である。従来の自己回帰復号法と比較して,STANDは推論遅延を60～65%削減することを示した。モデルフリーのアプローチとして、STANDは追加のトレーニングなしで既存の言語モデルに適用できる。
論文参考訳（メタデータ） (2025-06-05T07:31:18Z)
"Give Me BF16 or Give Me Death"? Accuracy-Performance Trade-Offs in LLM Quantization [67.3213104337679]
量子化は大規模言語モデル(LLM)推論を高速化するための強力なツールであるが、異なるフォーマット間での精度と性能のトレードオフは依然として不明である。 FP8,INT8,INT4の量子化を学術ベンチマークや実世界のタスクで評価し,これまでで最も包括的な実証的研究を行った。
論文参考訳（メタデータ） (2024-11-04T18:21:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。