論文の概要: Conformal Prediction for Zero-Shot Models

• arxiv url: http://arxiv.org/abs/2505.24693v1
• Date: Fri, 30 May 2025 15:16:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-02 19:47:53.028857
• Title: Conformal Prediction for Zero-Shot Models
• Title（参考訳）: ゼロショットモデルの等角予測
• Authors: Julio Silva-Rodríguez, Ismail Ben Ayed, Jose Dolz,
• Abstract要約: 分割共形予測パラダイムに基づくCLIPモデルの能力について検討する。 本稿では、キャリブレーションとクエリセットを併用してトランスダクティブを動作させるトランスダクティブ学習環境であるConf-OTを提案する。
• 参考スコア（独自算出の注目度）: 20.94974284175104
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vision-language models pre-trained at large scale have shown unprecedented adaptability and generalization to downstream tasks. Although its discriminative potential has been widely explored, its reliability and uncertainty are still overlooked. In this work, we investigate the capabilities of CLIP models under the split conformal prediction paradigm, which provides theoretical guarantees to black-box models based on a small, labeled calibration set. In contrast to the main body of literature on conformal predictors in vision classifiers, foundation models exhibit a particular characteristic: they are pre-trained on a one-time basis on an inaccessible source domain, different from the transferred task. This domain drift negatively affects the efficiency of the conformal sets and poses additional challenges. To alleviate this issue, we propose Conf-OT, a transfer learning setting that operates transductive over the combined calibration and query sets. Solving an optimal transport problem, the proposed method bridges the domain gap between pre-training and adaptation without requiring additional data splits but still maintaining coverage guarantees. We comprehensively explore this conformal prediction strategy on a broad span of 15 datasets and three non-conformity scores. Conf-OT provides consistent relative improvements of up to 20% on set efficiency while being 15 times faster than popular transductive approaches.
• Abstract（参考訳）: 大規模に事前訓練された視覚言語モデルは、下流タスクに対する前例のない適応性と一般化を示している。 識別能力は広く研究されているが、信頼性と不確実性はまだ見過ごされている。 本研究では,小さなラベル付きキャリブレーションセットに基づくブラックボックスモデルに対する理論的保証を提供する分割共形予測パラダイムの下でのCLIPモデルの性能について検討する。 視覚分類器における共形予測器に関する文献の本文とは対照的に、基礎モデルは、転送されたタスクとは異なる、アクセス不能なソースドメイン上で1回に1度事前訓練される、特定の特性を示す。 この領域のドリフトは共形集合の効率に悪影響を及ぼし、さらなる問題を引き起こす。 この問題を軽減するために,キャリブレーションとクエリセットを併用してトランスダクティブを演算する伝達学習環境であるConf-OTを提案する。 提案手法は,データ分割を必要とせず,カバレッジ保証を維持しつつ,事前学習と適応の領域ギャップを埋める。 我々は15のデータセットと3つの非整合性スコアの広い範囲で、この共形予測戦略を包括的に探求する。 Conf-OTは、一般的なトランスダクティブアプローチの15倍の速度で、セット効率を最大20%向上させる。

関連論文リスト

• CLUE: Neural Networks Calibration via Learning Uncertainty-Error alignment [7.702016079410588]
  CLUE(Calibration via Learning Uncertainty-Error Alignment)は,学習中の予測不確かさを観測誤差と整合させる新しい手法である。 CLUEは,最先端のアプローチに対して,キャリブレーション品質と競争予測性能に優れることを示す。
  論文  参考訳（メタデータ） (2025-05-28T19:23:47Z)
• Domain Adaptive Skin Lesion Classification via Conformal Ensemble of Vision Transformers [3.7305040207339286]
  本稿では,コンフォーマル・アンサンブル・オブ・ビジョン・トランスフォーマー(CE-ViT)と呼ばれる新しいフレームワークを提案する。 領域適応とモデルロバスト性を優先し,不確実性を考慮し,画像分類性能の向上を図る。 このフレームワークは、HAM10000モデルと比較して9.95%の改善を示す90.38%という高いカバレッジ率を達成する。
  論文  参考訳（メタデータ） (2025-05-21T20:28:43Z)
• A Bayesian Model Selection Criterion for Selecting Pretraining Checkpoints [4.005483185111992]
  下流適応性を高める事前学習チェックポイントの特性について検討した。 我々は、チェックポイントの適応性を定量化する下流自由エネルギーと呼ばれるベイズモデル選択基準を導入する。 評価基準が微調整性能の向上と確実に相関することを示す実証的証拠を提供する。
  論文  参考訳（メタデータ） (2024-10-08T01:50:21Z)
• Source-Free Unsupervised Domain Adaptation with Hypothesis Consolidation of Prediction Rationale [53.152460508207184]
  Source-Free Unsupervised Domain Adaptation (SFUDA)は、モデルがターゲットのドメインラベルやソースドメインデータにアクセスせずに新しいドメインに適応する必要がある、という課題である。 本稿では,各サンプルについて複数の予測仮説を考察し,各仮説の背景にある理論的根拠について考察する。 最適性能を達成するために,モデル事前適応,仮説統合,半教師付き学習という3段階の適応プロセスを提案する。
  論文  参考訳（メタデータ） (2024-02-02T05:53:22Z)
• Multiclass Alignment of Confidence and Certainty for Network Calibration [10.15706847741555]
  最近の研究では、ディープニューラルネットワーク(DNN)が過信的な予測を行う傾向があることが示されている。 予測平均信頼度と予測確実性(MACC)の多クラスアライメントとして知られる簡易なプラグアンドプレイ補助損失を特徴とする列車時キャリブレーション法を提案する。 本手法は,領域内および領域外両方のキャリブレーション性能を実現する。
  論文  参考訳（メタデータ） (2023-09-06T00:56:24Z)
• Federated Conformal Predictors for Distributed Uncertainty Quantification [83.50609351513886]
  コンフォーマル予測は、機械学習において厳密な不確実性定量化を提供するための一般的なパラダイムとして現れつつある。 本稿では,共形予測を連邦学習環境に拡張する。 本稿では、FL設定に適した部分交換可能性の弱い概念を提案し、それをフェデレート・コンフォーマル予測フレームワークの開発に利用する。
  論文  参考訳（メタデータ） (2023-05-27T19:57:27Z)
• Improving Adaptive Conformal Prediction Using Self-Supervised Learning [72.2614468437919]
  我々は、既存の予測モデルの上に自己教師付きプレテキストタスクを持つ補助モデルを訓練し、自己教師付きエラーを付加的な特徴として用いて、非整合性スコアを推定する。 合成データと実データの両方を用いて、効率(幅)、欠陥、共形予測間隔の超過といった付加情報の利点を実証的に実証する。
  論文  参考訳（メタデータ） (2023-02-23T18:57:14Z)
• Towards Trustworthy Predictions from Deep Neural Networks with Fast Adversarial Calibration [2.8935588665357077]
  本稿では,ドメインシフト後に得られたサンプルに対して,信頼度の高い信頼度を得るための効率的かつ汎用的なモデリング手法を提案する。 本稿では,エントロピー増大損失項と逆キャリブレーション損失項を組み合わせた新しいトレーニング戦略を導入し,この結果が適切に調整され,技術的に信頼できる予測となることを示す。
  論文  参考訳（メタデータ） (2020-12-20T13:39:29Z)
• Trust but Verify: Assigning Prediction Credibility by Counterfactual Constrained Learning [123.3472310767721]
  予測信頼性尺度は統計学と機械学習において基本的なものである。 これらの措置は、実際に使用される多種多様なモデルを考慮に入れるべきである。 この研究で開発されたフレームワークは、リスクフィットのトレードオフとして信頼性を表現している。
  論文  参考訳（メタデータ） (2020-11-24T19:52:38Z)
• Accurate and Robust Feature Importance Estimation under Distribution Shifts [49.58991359544005]
  PRoFILEは、新しい特徴重要度推定法である。 忠実さと頑健さの両面で、最先端のアプローチよりも大幅に改善されていることを示す。
  論文  参考訳（メタデータ） (2020-09-30T05:29:01Z)
• Unlabelled Data Improves Bayesian Uncertainty Calibration under Covariate Shift [100.52588638477862]
  後続正則化に基づく近似ベイズ推定法を開発した。 前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
  論文  参考訳（メタデータ） (2020-06-26T13:50:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。