論文の概要: Conformal Prediction Sets Quantify Information Gain: A Theoretical Perspective

• arxiv url: http://arxiv.org/abs/2610.08785v1
• Date: Tue, 06 Oct 2026 17:59:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:30.166006
• Title: Conformal Prediction Sets Quantify Information Gain: A Theoretical Perspective
• Title（参考訳）: 情報ゲインの定量化のためのコンフォーマル予測セット:理論的視点
• Abstract要約: 本稿では,共形予測セットのサイズとカバレッジに基づく一般化情報尺度のファミリを紹介する。 本報告では, キャリブレーションに依存した家族間で, 付加情報からの共形集合サイズの減少がサンドイッチされていることを示す。 この理論を11の分類条件で検証し, グリージーな特徴選択実験において, セットサイズ縮小とシャノンの相互情報を異なるランク付けできることを示す。
• 参考スコア（独自算出の注目度）: 10.775585632115286
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Conformal prediction is a popular tool for uncertainty quantification that outputs prediction sets with finite-sample coverage guarantees. While prediction set size is commonly used as a heuristic measure of uncertainty, the information-theoretic basis for this interpretation remains poorly understood. In this work, we provide such a foundation using a decision-theoretic generalization of entropy tailored to set-valued prediction. In particular, we introduce a family of generalized information measures based on the size and coverage of conformal prediction sets. Notably, Shannon mutual information admits an exact integral representation in terms of these measures. We then show that, in standard classification settings, the reduction in conformal set size from additional information (i) is sandwiched between calibration-dependent members of this family and (ii) obeys a data processing inequality, both up to finite-sample calibration and model error terms. Together, our results formally relate conformal prediction to classical information-theoretic quantities and justify using set-size reduction as an information gain metric. Empirically, we validate our theory across 11 classification settings and show that set-size reduction and Shannon mutual information can rank features differently in a greedy feature selection experiment.
• Abstract（参考訳）: コンフォーマル予測は、有限サンプルカバレッジ保証付き予測セットを出力する不確実性定量化の一般的なツールである。 予測セットのサイズは不確実性のヒューリスティックな尺度として一般的に用いられるが、この解釈の情報理論の基礎はいまだに理解されていない。 本研究では,設定値予測に適したエントロピーの決定論的一般化を用いて,そのような基礎を提供する。 特に、共形予測セットのサイズとカバレッジに基づいて、一般化された情報尺度のファミリーを導入する。 特に、シャノンの相互情報はこれらの測度に関して正確な積分表現を認めている。 次に、標準分類設定では、追加情報から共形集合サイズの縮小が示される。 (i)キャリブレーションに依存しない同族との間を挟む (ii) 有限サンプルキャリブレーションとモデル誤差項の両方において、データ処理の不等式に従う。 本研究の結果は,古典的情報理論量に対する共形予測を公式に関連付け,情報ゲイン指標としてセットサイズ縮小を用いて正当化する。 実験により,11の分類条件で理論を検証し,セットサイズ縮小とシャノンの相互情報により,グリージーな特徴選択実験において,特徴のランク付けが可能であることを示す。

関連論文リスト

• Conformal Prediction Sets with Improved Conditional Coverage using Trust Scores [52.92618442300405]
  有限サンプルにおいて、正確に分布のない条件付きカバレッジを達成することは不可能である。 本稿では,最も重要となる範囲を対象とするコンフォメーション予測アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-01-17T12:01:56Z)
• Provably Reliable Conformal Prediction Sets in the Presence of Data Poisoning [53.42244686183879]
  コンフォーマル予測は、モデルに依存しない、分布のない不確実性定量化を提供する。 しかし、敵が訓練データと校正データを操作した場合の毒殺攻撃では、共形予測は信頼性が低い。 信頼性予測セット (RPS): 汚染下での信頼性保証を証明可能な共形予測セットを構築するための最初の効率的な方法を提案する。
  論文  参考訳（メタデータ） (2024-10-13T15:37:11Z)
• Split Conformal Prediction under Data Contamination [14.23965125128232]
  データ汚染環境における分割共形予測の堅牢性について検討する。 構築した集合のカバレッジと効率に及ぼす劣化したデータの影響を定量化する。 本稿では,汚染ロバスト・コンフォーマル予測(Contamination Robust Conformal Prediction)と呼ぶ分類設定の調整を提案する。
  論文  参考訳（メタデータ） (2024-07-10T14:33:28Z)
• Generalization and Informativeness of Conformal Prediction [36.407171992845456]
  Con conformal prediction (CP) は任意のベース予測器をカバレッジ保証付きセット予測器に変換する。 CPは、予測セットがユーザ定義の許容範囲でターゲット量を含むことを認証するが、予測セットの平均サイズを制御できない。 基底予測器の一般化特性と結果のCP予測セットの情報性との間に理論的な関係が確立される。 導出上界は、CPセット予測器の平均サイズが、キャリブレーションデータの量、目標信頼性、ベース予測器の一般化性能に依存することを洞察する。
  論文  参考訳（メタデータ） (2024-01-22T10:14:45Z)
• On the Expected Size of Conformal Prediction Sets [24.161372736642157]
  分割共形予測フレームワークを用いて,予測セットの予測サイズを理論的に定量化する。 この正確な定式化は通常直接計算できないので、点推定と高確率境界間隔を導出する。 回帰と分類の両問題に対する実世界のデータセットを用いた実験により,結果の有効性を裏付ける。
  論文  参考訳（メタデータ） (2023-06-12T17:22:57Z)
• CovarianceNet: Conditional Generative Model for Correct Covariance Prediction in Human Motion Prediction [71.31516599226606]
  本稿では,将来の軌道の予測分布に関連する不確かさを正確に予測する手法を提案する。 我々のアプローチであるCovariaceNetは、ガウス潜在変数を持つ条件付き生成モデルに基づいている。
  論文  参考訳（メタデータ） (2021-09-07T09:38:24Z)
• Private Prediction Sets [72.75711776601973]
  機械学習システムは、個人のプライバシーの確実な定量化と保護を必要とする。 これら2つのデシラタを共同で扱う枠組みを提案する。 本手法を大規模コンピュータビジョンデータセット上で評価する。
  論文  参考訳（メタデータ） (2021-02-11T18:59:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。