論文の概要: Test-time Adaptation Meets Image Enhancement: Improving Accuracy via Uncertainty-aware Logit Switching
- arxiv url: http://arxiv.org/abs/2403.17423v1
- Date: Tue, 26 Mar 2024 06:40:03 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-27 16:26:20.318873
- Title: Test-time Adaptation Meets Image Enhancement: Improving Accuracy via Uncertainty-aware Logit Switching
- Title（参考訳）: 画像強調機能を備えたテスト時間適応:不確実性を考慮したロジットスイッチングによる精度向上
- Authors: Shohei Enomoto, Naoya Hasegawa, Kazuki Adachi, Taku Sasaki, Shin'ya Yamaguchi, Satoshi Suzuki, Takeharu Eda,
- Abstract要約: テスト時間適応(TTA)は実用性からよく研究されている。
入力画像をTTA手法に組み込むことにより,予測の不確実性を低減できる。
TECA(Test-time Enhancer and Adaptation)は,予測の不確かさを低減し,TTA法の精度を向上させる。
- 参考スコア（独自算出の注目度）: 7.837009376353597
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep neural networks have achieved remarkable success in a variety of computer vision applications. However, there is a problem of degrading accuracy when the data distribution shifts between training and testing. As a solution of this problem, Test-time Adaptation~(TTA) has been well studied because of its practicality. Although TTA methods increase accuracy under distribution shift by updating the model at test time, using high-uncertainty predictions is known to degrade accuracy. Since the input image is the root of the distribution shift, we incorporate a new perspective on enhancing the input image into TTA methods to reduce the prediction's uncertainty. We hypothesize that enhancing the input image reduces prediction's uncertainty and increase the accuracy of TTA methods. On the basis of our hypothesis, we propose a novel method: Test-time Enhancer and Classifier Adaptation~(TECA). In TECA, the classification model is combined with the image enhancement model that transforms input images into recognition-friendly ones, and these models are updated by existing TTA methods. Furthermore, we found that the prediction from the enhanced image does not always have lower uncertainty than the prediction from the original image. Thus, we propose logit switching, which compares the uncertainty measure of these predictions and outputs the lower one. In our experiments, we evaluate TECA with various TTA methods and show that TECA reduces prediction's uncertainty and increases accuracy of TTA methods despite having no hyperparameters and little parameter overhead.
- Abstract（参考訳）: ディープニューラルネットワークは、様々なコンピュータビジョンアプリケーションで顕著な成功を収めている。
しかし、データ分散がトレーニングとテストの間でシフトする場合、精度を低下させる問題がある。
この問題の解法として、テスト時間適応~(TTA)は実用性からよく研究されている。
TTA法は,テスト時にモデルを更新することで分布シフト時の精度を向上させるが,不確実性予測を用いることで精度を劣化させることが知られている。
入力画像は分布シフトの根本であるので,TTA手法に入力画像を強化する新たな視点を取り入れ,予測の不確実性を低減させる。
入力画像の強調は予測の不確かさを低減し、TTA法の精度を高めるという仮説を立てる。
本仮説に基づいて,テスト時間エンハンサーと分類器適応~(TECA)という新しい手法を提案する。
TECAでは、入力画像を認識しやすいものに変換する画像強調モデルと組み合わせ、これらのモデルを既存のTTA法で更新する。
さらに,拡張画像からの予測は,元の画像からの予測よりも必ずしも不確実性が低いとは限らないことがわかった。
そこで本稿では,これらの予測の不確かさを比較検討し,より低い値を出力するロジットスイッチングを提案する。
実験では, TECAを様々なTTA手法で評価し, TECAは過パラメータやパラメータのオーバーヘッドが少ないにもかかわらず, 予測の不確かさを低減し, TTA手法の精度を向上することを示した。
関連論文リスト
- AETTA: Label-Free Accuracy Estimation for Test-Time Adaptation [7.079932622432037]
テスト時間適応(TTA)は、未ラベルのテストデータを使用して、事前訓練されたモデルをドメインシフトに適応するための実行可能なソリューションとして登場した。
ラベルのないTTAの精度推定アルゴリズムであるAETTAを提案する。
AETTAはベースラインと比較して平均19.8%の精度で推定可能である。
論文 参考訳（メタデータ） (2024-04-01T04:21:49Z) - Uncertainty-Calibrated Test-Time Model Adaptation without Forgetting [55.17761802332469]
テスト時間適応(TTA)は、与えられたモデルw.r.t.を任意のテストサンプルに適用することにより、トレーニングデータとテストデータの間の潜在的な分散シフトに取り組むことを目指している。
事前の手法は各テストサンプルに対してバックプロパゲーションを実行するため、多くのアプリケーションに対して許容できない最適化コストがかかる。
本稿では, 有効サンプル選択基準を策定し, 信頼性および非冗長なサンプルを同定する, 効率的なアンチフォッティングテスト時間適応法を提案する。
論文 参考訳（メタデータ） (2024-03-18T05:49:45Z) - Test-time Augmentation for Factual Probing [33.12189913850943]
事実探索の問題は、プロンプトの小さな変更がモデル出力に大きな変化をもたらす可能性があることである。
そこで本研究では,TTA(Test-time augmentation)を関係性に依存しない手法として用いて,感度を低減し,変動を誘発する手法を提案する。
論文 参考訳（メタデータ） (2023-10-26T03:41:32Z) - Multiclass Alignment of Confidence and Certainty for Network Calibration [10.15706847741555]
最近の研究では、ディープニューラルネットワーク(DNN)が過信的な予測を行う傾向があることが示されている。
予測平均信頼度と予測確実性(MACC)の多クラスアライメントとして知られる簡易なプラグアンドプレイ補助損失を特徴とする列車時キャリブレーション法を提案する。
本手法は,領域内および領域外両方のキャリブレーション性能を実現する。
論文 参考訳（メタデータ） (2023-09-06T00:56:24Z) - Diverse Data Augmentation with Diffusions for Effective Test-time Prompt
Tuning [73.75282761503581]
DiffTPTを提案する。DiffTPTは,事前学習した拡散モデルを用いて,多種多様な情報データを生成する。
DiffTPTがゼロショット精度を平均5.13%向上することを示す。
論文 参考訳（メタデータ） (2023-08-11T09:36:31Z) - Approaching Test Time Augmentation in the Context of Uncertainty Calibration for Deep Neural Networks [2.112682368145474]
画像分類のための深部モデルの不確実性校正を改善するため,M-ATTAとV-ATTAという新しい手法を提案する。
ナ適応重み付けシステムを利用することで、M/V-ATTAはモデルの精度に影響を与えることなく不確実性校正を改善する。
論文 参考訳（メタデータ） (2023-04-11T10:01:39Z) - Taming Overconfident Prediction on Unlabeled Data from Hindsight [50.9088560433925]
ラベルのないデータに対する予測の不確実性を最小化することは、半教師付き学習において優れた性能を達成するための鍵となる要素である。
本稿では,アダプティブシャーニング(Adaptive Sharpening, ADS)と呼ばれる2つのメカニズムを提案する。
ADSは、プラグインにすることで最先端のSSLメソッドを大幅に改善する。
論文 参考訳（メタデータ） (2021-12-15T15:17:02Z) - Training on Test Data with Bayesian Adaptation for Covariate Shift [96.3250517412545]
ディープニューラルネットワークは、信頼できない不確実性推定で不正確な予測を行うことが多い。
分布シフトの下でのラベルなし入力とモデルパラメータとの明確に定義された関係を提供するベイズモデルを導出する。
本手法は精度と不確実性の両方を向上することを示す。
論文 参考訳（メタデータ） (2021-09-27T01:09:08Z) - Evaluating Prediction-Time Batch Normalization for Robustness under
Covariate Shift [81.74795324629712]
我々は予測時間バッチ正規化と呼び、共変量シフト時のモデル精度とキャリブレーションを大幅に改善する。
予測時間バッチ正規化は、既存の最先端アプローチに相補的な利点をもたらし、ロバスト性を向上させることを示します。
この手法は、事前トレーニングと併用して使用すると、さまざまな結果が得られるが、より自然なタイプのデータセットシフトでは、パフォーマンスが良くないようだ。
論文 参考訳（メタデータ） (2020-06-19T05:08:43Z) - Tent: Fully Test-time Adaptation by Entropy Minimization [77.85911673550851]
モデルは、テスト中に新しいデータや異なるデータに一般化するように適応する必要があります。
この完全なテスト時間適応の設定では、モデルはテストデータとそれ自身のパラメータしか持たない。
実験エントロピー最小化(tent): 予測のエントロピーによって測定された信頼度に対するモデルを最適化する。
論文 参考訳（メタデータ） (2020-06-18T17:55:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。