論文の概要: Calibration-Preserving Pruning: Compression as a Reliability Contract
- arxiv url: http://arxiv.org/abs/2608.23744v1
- Date: Mon, 24 Aug 2026 18:31:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-26 14:09:34.525719
- Title: Calibration-Preserving Pruning: Compression as a Reliability Contract
- Title（参考訳）: キャリブレーション保存プルーニング:信頼性契約としての圧縮
- Abstract要約: プルーニング規則ではなく、分割された共形予測は、プルーニングモデルが固定されると有限サンプルの限界カバレッジを提供する。
プルーニングは、より小さな有効な予測セットを得るのに十分なスコア幾何学を保てるか?
CPP-SparseGPTは15個のデータセット・スパーシティセルにまたがって13個のデータセットを生成し,11。
- 参考スコア（独自算出の注目度）: 6.908972852063454
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Split conformal prediction, not the pruning rule, supplies finite-sample marginal coverage once a pruned model is fixed independently of the conformal calibration split. We study the separate efficiency problem: can pruning preserve score geometry well enough to obtain smaller valid prediction sets? Calibration-Preserving Pruning (CPP) augments a base pruning score with nonconformity-gradient saliency and uses disjoint pruning, validation-selection, conformal-calibration, and test splits. Bounded score perturbations imply bounded conformal-quantile shifts and controlled set inflation, but do not make the generic coverage theorem CPP-specific. Final five-seed Qwen2.5-1.5B results at 50\% sparsity show the largest gains on large-label tasks. On DBpedia-14, CPP-SparseGPT reduces mean set size from \(10.1\) to \(8.6\) while changing accuracy from \(0.347\) to \(0.366\); CPP-Wanda reduces \(11.2\) to \(9.0\) with an accuracy trade-off from \(0.310\) to \(0.295\). Across 15 dataset--sparsity cells, CPP-SparseGPT produces smaller sets in 13 and higher accuracy in 11. Matched controls show that generic supervised gradients explain much of the gain: true-label CPP is not statistically resolved from matched Wanda+SNIP, whereas threshold-aware candidate-label CPP reaches \(7.8\) mean set size at explicit accuracy and offline-compute costs. RoBERTa-base and Llama-3-8B diagnostics support transfer, but our claims remain limited to reliability-sensitive classification.
- Abstract（参考訳）: 分割共形予測は、プルーニング則ではなく、コンフォメーションキャリブレーション分割とは無関係に、プルーニングモデルが固定されると有限サンプルの限界カバレッジを提供する。
プルーニングは、より小さな有効な予測セットを得るのに十分なスコア幾何学を保てるか?
Calibration-Preserving Pruning (CPP)は、非整合性漸進性でベースプルーニングスコアを増やし、不整合プルーニング、バリデーション-セレクション、コンフォーマル-キャリブレーション、テストスプリットを使用する。
有界なスコア摂動は、共形量子シフトと制御された集合のインフレーションを暗示するが、一般的なカバレッジ定理 CPP を特有としない。
最終5シードのQwen2.5-1.5Bは50\%のスパシティで、大きなラベルのタスクで最大の伸びを示している。
DBpedia-14では、CPP-SparseGPTは平均セットサイズを(10.1\)から(8.6\)に減らし、精度を(0.347\)から(0.366\)に変更し、CPP-Wandaは((11.2\)から(9.0\)に減らし、精度を(0.310\)から(0.295\)にする。
CPP-SparseGPTは15個のデータセット・スパーシティセルにまたがって13個のデータセットを生成し,11。
一致した制御は、一般的な教師付き勾配が多くの利得を説明することを示している: true-label CPP は一致した Wanda+SNIP から統計的に解決されないが、閾値対応の候補ラベル CPP は明示的な精度とオフライン計算コストでセットサイズが 7.8\ に達する。
RoBERTa-baseとLlama-3-8Bの診断は転送をサポートするが,信頼性に敏感な分類に限られる。
関連論文リスト
- SPARC: Single-Pass Scaling for Motion Forecasting with Conformal Bayesian Last Layers [1.4452289368758382]
シングルパス適応リスク(英: Single-Pass Adaptive Risk)は、人間の動き予測器に対する構造的、校正的、効率的な不確実性推定である。
決定論的バックボーンは将来の平均を予測し、共役ベイズ最後の層は時間領域の特徴レバレッジを解析的地平線スケールに変換する。
NLLと組み合わせたMPJPE+NLLの基準では、競争点の精度と効率的な校正管を維持している。
論文 参考訳（メタデータ） (2026-08-21T07:20:22Z) - Decoupled Conformal Optimisation: Efficient Prediction Sets via Independent Tuning and Calibration [20.21455697379946]
そこで我々は,列車チューンキャリブレート設計の原則としてデカップリング・コンフォーマル最適化(DCO)を提案する。
DCOは、効率指向構造選択のために独立したチューニングスプリットと、最終共形量子化のための新鮮なキャリブレーションスプリットを使用する。
DCOは,PACスタイルのキャリブレーションに対して,平均予測セットサイズや間隔幅を小さくしながら,名目カバレッジレベルを密に追跡する。
論文 参考訳（メタデータ） (2026-05-18T13:10:21Z) - Probabilistic Object Detection with Conformal Prediction [2.21658458251407]
Conformal Prediction (CP) は、有限サンプル被覆保証付き予測セットを構築するための分布自由な方法である。
標準の非スケールCPは入力間で固定幅の予測間隔を生成し、不確かさの予測に不要な幅をもたらす。
IoUは19%,IoUは39%,CPは39%であった。
論文 参考訳（メタデータ） (2026-05-08T10:23:43Z) - Learning from Emptiness: De-biasing Listwise Rerankers with Content-Agnostic Probability Calibration [76.08899010904652]
CapCalは、ランキング決定から位置バイアスを機械的に分離する、トレーニング不要のフレームワークである。
シングルパス効率を保ちながら、トレーニング不要の手法で優れた性能を発揮する。
論文 参考訳（メタデータ） (2026-04-11T10:47:22Z) - LATA: Laplacian-Assisted Transductive Adaptation for Conformal Uncertainty in Medical VLMs [61.06744611795341]
医用視覚言語モデル(VLM)は医用画像の強力なゼロショット認識器である。
本研究では,ラプラシアン支援トランスダクティブ・アダプティブ・アダプティブ・アダプティブ・アダプティブ・アダプティブ・アダプティブ・アダプティブ(texttttextbfLATA,ラプラシアン支援トランスダクティブ・アダプティブ・アダプティブ・アダプティブ)を提案する。
texttttextbfLATAは交換性を損なうことなくゼロショット予測をシャープにする。
論文 参考訳（メタデータ） (2026-02-19T16:45:38Z) - ST-BCP: Tightening Coverage Bound for Backward Conformal Prediction via Non-Conformity Score Transformation [18.272247805086284]
コンフォーマル予測(CP)は、カバレッジ保証付き予測セットを構成する不確実性定量化のための統計フレームワークを提供する。
BCPはこのパラダイムを逆転させ、セットサイズに事前定義された上限を強制し、その結果のカバレッジ保証を推定する。
本稿では,非整合性スコアのデータ依存変換を導入し,カバレッジギャップを狭める新しい方法ST-BCPを紹介する。
論文 参考訳（メタデータ） (2026-02-02T07:18:35Z) - Unsupervised Conformal Inference: Bootstrapping and Alignment to Control LLM Uncertainty [49.19257648205146]
生成のための教師なし共形推論フレームワークを提案する。
我々のゲートは、分断されたUPPよりも厳密で安定した閾値を提供する。
その結果は、ラベルのない、API互換の、テスト時間フィルタリングのゲートになる。
論文 参考訳（メタデータ） (2025-09-26T23:40:47Z) - COIN: Uncertainty-Guarding Selective Question Answering for Foundation Models with Provable Risk Guarantees [51.5976496056012]
COINは、統計的に有効な閾値を校正し、質問毎に1つの生成された回答をフィルタリングする不確実性保護選択フレームワークである。
COINはキャリブレーションセット上で経験的誤差率を推定し、信頼区間法を適用して真誤差率に高い確率上界を確立する。
リスク管理におけるCOINの堅牢性,許容回答を維持するための強いテストタイムパワー,キャリブレーションデータによる予測効率を実証する。
論文 参考訳（メタデータ） (2025-06-25T07:04:49Z) - Semi-Supervised Conformal Prediction With Unlabeled Nonconformity Score [19.15617038007535]
コンフォーマル予測(CP)は不確実性定量化のための強力なフレームワークである。
ラベル付きデータがしばしば制限される現実世界のアプリケーションでは、標準CPはカバレッジの偏りを生じさせ、非常に大きな予測セットを出力する。
ラベル付きデータとラベルなしデータの両方を利用してキャリブレーションを行うSemiCPを提案する。
論文 参考訳（メタデータ） (2025-05-27T12:57:44Z) - Robust Conformal Prediction with a Single Binary Certificate [58.450154976190795]
コンフォーマル予測(CP)は、任意のモデルの出力を、真のラベルを(調整可能な)高い確率でカバーすることを保証した予測セットに変換する。
我々は,MCサンプルが著しく低い場合でも,より小さな集合を生成する頑健な共形予測を提案する。
論文 参考訳（メタデータ） (2025-03-07T08:41:53Z) - Distribution-free binary classification: prediction sets, confidence
intervals and calibration [106.50279469344937]
分布自由条件における二項分類のための不確実性定量化(キャリブレーション、信頼区間、予測セット)の3つの概念について検討する。
固定幅と一様質量の両双対の双対確率に対する信頼区間を導出する。
我々の「三脚」定理の結果として、双有理確率に対するこれらの信頼区間は分布自由キャリブレーションに繋がる。
論文 参考訳（メタデータ） (2020-06-18T14:17:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。