論文の概要: Boost Test-Time Performance with Closed-Loop Inference
- arxiv url: http://arxiv.org/abs/2203.10853v1
- Date: Mon, 21 Mar 2022 10:20:21 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-22 17:30:37.972718
- Title: Boost Test-Time Performance with Closed-Loop Inference
- Title(参考訳): クローズドループ推論によるテスト時間パフォーマンスの向上
- Authors: Shuaicheng Niu and Jiaxiang Wu and Yifan Zhang and Guanghui Xu and
Haokun Li and Junzhou Huang and Yaowei Wang and Mingkui Tan
- Abstract要約: そこで本研究では,モデル性能を高めるために,ループ方式でハードクラス化試験サンプルを予測することを提案する。
まず、追加の推論ループを必要とするハードクラス化テストサンプルを識別するためにフィルタリング基準を考案する。
各ハードサンプルに対して、モデルのキャリブレーションを行うために、元の上位$K$予測に基づいて補助学習タスクを構築する。
- 参考スコア(独自算出の注目度): 85.43516360332646
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Conventional deep models predict a test sample with a single forward
propagation, which, however, may not be sufficient for predicting
hard-classified samples. On the contrary, we human beings may need to carefully
check the sample many times before making a final decision. During the recheck
process, one may refine/adjust the prediction by referring to related samples.
Motivated by this, we propose to predict those hard-classified test samples in
a looped manner to boost the model performance. However, this idea may pose a
critical challenge: how to construct looped inference, so that the original
erroneous predictions on these hard test samples can be corrected with little
additional effort. To address this, we propose a general Closed-Loop Inference
(CLI) method. Specifically, we first devise a filtering criterion to identify
those hard-classified test samples that need additional inference loops. For
each hard sample, we construct an additional auxiliary learning task based on
its original top-$K$ predictions to calibrate the model, and then use the
calibrated model to obtain the final prediction. Promising results on ImageNet
(in-distribution test samples) and ImageNet-C (out-of-distribution test
samples) demonstrate the effectiveness of CLI in improving the performance of
any pre-trained model.
- Abstract(参考訳): 従来のディープモデルでは、単一の前方伝播を持つテストサンプルを予測するが、ハード分類されたサンプルを予測するには不十分である。
反対に、人間は最終的な決定をする前に、サンプルを慎重にチェックする必要があるかもしれない。
再チェックの過程では、関連するサンプルを参照して予測を洗練/調整することができる。
そこで本研究では,これらの厳格化テストサンプルをループ的に予測し,モデル性能を向上させることを提案する。
しかし、このアイデアは、ループ型推論をどうやって構築するかという、重要な課題を生じさせるかもしれない。
そこで本研究では,一般閉ループ推論(CLI)手法を提案する。
具体的には、まず、追加の推論ループを必要とするハードクラス化テストサンプルを特定するためのフィルタリング基準を考案する。
各ハードサンプルに対して、元の上位$K$予測に基づいて補助学習タスクを構築し、キャリブレーションモデルを用いて最終的な予測を得る。
ImageNet (in-distriion test sample) と ImageNet-C (out-of-distriion test sample) は、事前訓練されたモデルの性能向上におけるCLIの有効性を示す。
関連論文リスト
- DOTA: Distributional Test-Time Adaptation of Vision-Language Models [52.98590762456236]
トレーニングフリーテスト時動的アダプタ(TDA)は、この問題に対処するための有望なアプローチである。
単体テスト時間適応法(Dota)の簡易かつ効果的な方法を提案する。
Dotaは継続的にテストサンプルの分布を推定し、モデルがデプロイメント環境に継続的に適応できるようにします。
論文 参考訳(メタデータ) (2024-09-28T15:03:28Z) - A3Rank: Augmentation Alignment Analysis for Prioritizing Overconfident Failing Samples for Deep Learning Models [2.6499018693213316]
拡張アライメント解析を用いた新しいテストケース優先順位付け手法を提案する。
A3$Rankは、信頼ベースのリジェクタのチェックから逃れた失敗するサンプルを効果的にランク付けすることができる。
また、これらの故障したサンプルを保護するために、これらのリジェクタを増強する専用の検出器を構築するためのフレームワークも提供する。
論文 参考訳(メタデータ) (2024-07-19T08:32:10Z) - Uncertainty-Calibrated Test-Time Model Adaptation without Forgetting [55.17761802332469]
テスト時間適応(TTA)は、与えられたモデルw.r.t.を任意のテストサンプルに適用することにより、トレーニングデータとテストデータの間の潜在的な分散シフトに取り組むことを目指している。
事前の手法は各テストサンプルに対してバックプロパゲーションを実行するため、多くのアプリケーションに対して許容できない最適化コストがかかる。
本稿では, 有効サンプル選択基準を策定し, 信頼性および非冗長なサンプルを同定する, 効率的なアンチフォッティングテスト時間適応法を提案する。
論文 参考訳(メタデータ) (2024-03-18T05:49:45Z) - TTAPS: Test-Time Adaption by Aligning Prototypes using Self-Supervision [70.05605071885914]
本研究では,単体テストサンプルに適用可能な自己教師付きトレーニングアルゴリズムSwaVの新たな改良を提案する。
ベンチマークデータセットCIFAR10-Cにおいて,本手法の有効性を示す。
論文 参考訳(メタデータ) (2022-05-18T05:43:06Z) - Efficient Test-Time Model Adaptation without Forgetting [60.36499845014649]
テストタイム適応は、トレーニングとテストデータの間の潜在的な分散シフトに取り組むことを目指している。
信頼性および非冗長なサンプルを同定するためのアクティブなサンプル選択基準を提案する。
また、重要なモデルパラメータを劇的な変化から制約するFisher regularizerを導入します。
論文 参考訳(メタデータ) (2022-04-06T06:39:40Z) - MEMO: Test Time Robustness via Adaptation and Augmentation [131.28104376280197]
テスト時間ロバスト化の問題、すなわちモデルロバスト性を改善するためにテストインプットを用いて検討する。
最近の先行研究ではテスト時間適応法が提案されているが、それぞれ追加の仮定を導入している。
モデルが確率的で適応可能な任意のテスト環境で使用できるシンプルなアプローチを提案する。
論文 参考訳(メタデータ) (2021-10-18T17:55:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。