論文の概要: Technical note on calibrating vision-language models under covariate shift

• arxiv url: http://arxiv.org/abs/2502.07847v1
• Date: Tue, 11 Feb 2025 10:10:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-13 13:49:31.662575
• Title: Technical note on calibrating vision-language models under covariate shift
• Title（参考訳）: 共変量シフト下における視覚言語モデルの校正に関する技術的考察
• Authors: Behraj Khan, Rizwan Qureshi, Tahir Syed,
• Abstract要約: 低ショットビジョン分類のための視覚言語基盤モデルは、ターゲットデータ分布に一般化する限られた能力を有する。 我々は,共変量シフトと信頼の相違を緩和する統合フレームワークであるtextitConfidence-Calibrated Covariate Shift Correction(C3SC$)を提案する。 C3SC$はキャリブレーションの堅牢性(ECE)を最大5.82%向上させる。
• 参考スコア（独自算出の注目度）: 2.8470354623829577
• License:
• Abstract: Despite being a successful example of emerging capability, vision-language foundation models for low-shot vision classification have a limited ability to sufficiently generalize to the target data distribution due to sample poverty, leading to sensitivity to variations in the data. A popular mitigation strategy is finetuning over multiple datasets, but domain generalization is expensive when practiced in this manner. This work examines both covariate shift between pre-training data and the underspecified target data, and \textit{confidence misalignment}, where the model's prediction confidence amplified by the limited data availability. We propose \textit{Confidence-Calibrated Covariate Shift Correction ($C3SC$)}, a unified framework to mitigate both covariate shift and confidence misalignment. $C3SC$ leverages Fisher information penalty for covariate shift correction and confidence misalignment penalty (CMP) to lower confidence on misclassified examples. Experimental results across various vision and covariate shift datasets demonstrates that $C3SC$ significantly improves in calibration (ECE) by $5.82\%$ at maximum. $C3SC$ shows better robustness as well by showing $3.5\%$ improvement in accuracy metric on challenging covariate shift datasets, making $C3SC$ a promising solution for reliable real-world vision-language low-shot applications under distribution shift.
• Abstract（参考訳）: 新興能力の例としては成功したものの、低ショット視覚分類のための視覚言語基礎モデルは、サンプルの貧困による対象データ分布に十分に一般化する能力に制限があり、データの変動に敏感になる。 一般的な緩和戦略は、複数のデータセットを微調整するが、ドメインの一般化は、この方法で実践する場合、高価である。 本研究では、事前学習データと未特定対象データとの共変量シフトと、限られたデータ可用性によってモデルの予測信頼度が増幅される「textit{confidence misalignment」について検討する。 我々は、共変量シフトと信頼の相違を緩和する統一的なフレームワークである「textit{Confidence-Calibrated Covariate Shift Correction」(C3SC$)}を提案する。 C3SC$は、CMP(covariate shift correct and confidence misalignment penalty)に対してFisher情報ペナルティを利用して、分類ミスの事例に対する信頼性を低くする。 様々なビジョンと共変量シフトデータセットの実験的結果は、C3SC$がキャリブレーション(ECE)を最大5.82\%改善することを示した。 C3SC$は、共変量シフトデータセットに挑戦する際の正確度を3.5\%$で改善することで、信頼性の高い実世界のビジョン言語ローショットアプリケーションに対して、有望なソリューションを提供する。

関連論文リスト

• Technical report on label-informed logit redistribution for better domain generalization in low-shot classification with foundation models [0.0]
  信頼度校正は、基礎モデルに基づく現実世界の意思決定システムにおいて、新たな課題である。 本研究では,微調整の際,不正分類を罰する損失目標に組み込んだペナルティを提案する。 CMP(textitconfidence misalignment penalty)と呼ぶ。
  論文  参考訳（メタデータ） (2025-01-29T11:54:37Z)
• SGCCNet: Single-Stage 3D Object Detector With Saliency-Guided Data Augmentation and Confidence Correction Mechanism [7.631190617438259]
  単一段階点ベース3次元物体検出器は、低品質物体(ILQ)の不十分な学習や、局所化精度と分類信頼度(MLC)の不一致といった課題に直面している。 ILQでは、SGCCNetがSaliency-Guided Data Augmentation(SGDA)戦略を採用し、低品質オブジェクトに対するモデルの堅牢性を高める。 MLCでは、ポイントベースマルチクラス検出器に特化して信頼性補正機構(CCM)を設計する。
  論文  参考訳（メタデータ） (2024-07-01T12:36:01Z)
• Binary Classification with Confidence Difference [100.08818204756093]
  本稿では,信頼性差分法 (ConfDiff) という,弱教師付き二項分類問題について考察する。 本稿では,この問題に対処するためのリスク一貫性のあるアプローチを提案し,推定誤差が最適収束率と一致することを示す。 また,整合性や収束率も証明されたオーバーフィッティング問題を緩和するためのリスク補正手法も導入する。
  論文  参考訳（メタデータ） (2023-10-09T11:44:50Z)
• Unleashing the Power of Graph Data Augmentation on Covariate Distribution Shift [50.98086766507025]
  本稿では,AIA(Adversarial Invariant Augmentation)という,シンプルで効率の良いデータ拡張戦略を提案する。 AIAは、拡張プロセス中に元の安定した特徴を同時に保存しながら、新しい環境をエクスポーレーションし、生成することを目的としている。
  論文  参考訳（メタデータ） (2022-11-05T07:55:55Z)
• Leveraging Unlabeled Data to Predict Out-of-Distribution Performance [63.740181251997306]
  実世界の機械学習デプロイメントは、ソース(トレーニング)とターゲット(テスト)ディストリビューションのミスマッチによって特徴づけられる。 本研究では,ラベル付きソースデータとラベルなしターゲットデータのみを用いて,対象領域の精度を予測する手法を検討する。 本稿では,モデルの信頼度をしきい値として学習し,精度をラベルなし例のごく一部として予測する実践的手法である平均閾値保持信頼度(ATC)を提案する。
  論文  参考訳（メタデータ） (2022-01-11T23:01:12Z)
• Test-time Batch Statistics Calibration for Covariate Shift [66.7044675981449]
  我々は,推論中に深層モデルを新しい環境に適応させることを提案する。 バッチ統計の校正に$alpha$-BNの一般的な定式化を提案する。 また、統合テスト時間適応フレームワークCoreを形成するための新しい損失関数も提示する。
  論文  参考訳（メタデータ） (2021-10-06T08:45:03Z)
• Closer Look at the Uncertainty Estimation in Semantic Segmentation under Distributional Shift [2.05617385614792]
  セマンティックセグメンテーションのタスクの不確かさをドメインシフトの異なるレベルで評価する。 単純な色変換は、既に強いベースラインを提供していることが示されている。 モデルのアンサンブルは、擬似ラベル生成を改善するために自己学習設定に利用された。
  論文  参考訳（メタデータ） (2021-05-31T19:50:43Z)
• Unlabelled Data Improves Bayesian Uncertainty Calibration under Covariate Shift [100.52588638477862]
  後続正則化に基づく近似ベイズ推定法を開発した。 前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
  論文  参考訳（メタデータ） (2020-06-26T13:50:19Z)
• Evaluating Prediction-Time Batch Normalization for Robustness under Covariate Shift [81.74795324629712]
  我々は予測時間バッチ正規化と呼び、共変量シフト時のモデル精度とキャリブレーションを大幅に改善する。 予測時間バッチ正規化は、既存の最先端アプローチに相補的な利点をもたらし、ロバスト性を向上させることを示します。 この手法は、事前トレーニングと併用して使用すると、さまざまな結果が得られるが、より自然なタイプのデータセットシフトでは、パフォーマンスが良くないようだ。
  論文  参考訳（メタデータ） (2020-06-19T05:08:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。