論文の概要: Beyond Model Adaptation at Test Time: A Survey

• arxiv url: http://arxiv.org/abs/2411.03687v1
• Date: Wed, 06 Nov 2024 06:13:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-07 19:24:18.507993
• Title: Beyond Model Adaptation at Test Time: A Survey
• Title（参考訳）: テスト時のモデル適応を超えて: 調査
• Authors: Zehao Xiao, Cees G. M. Snoek,
• Abstract要約: 機械学習アルゴリズムは、テストディストリビューションのサンプルがトレーニング中に観察されるものから逸脱し始めたときに苦労する。 テスト時間適応は、ソースデータのみに基づくトレーニングモデルによるドメイン適応とドメイン一般化の利点を組み合わせる。 テスト時間適応に関する総合的かつ体系的なレビューを行い、400以上の最近の論文を取り上げている。
• 参考スコア（独自算出の注目度）: 43.03129492126422
• License:
• Abstract: Machine learning algorithms have achieved remarkable success across various disciplines, use cases and applications, under the prevailing assumption that training and test samples are drawn from the same distribution. Consequently, these algorithms struggle and become brittle even when samples in the test distribution start to deviate from the ones observed during training. Domain adaptation and domain generalization have been studied extensively as approaches to address distribution shifts across test and train domains, but each has its limitations. Test-time adaptation, a recently emerging learning paradigm, combines the benefits of domain adaptation and domain generalization by training models only on source data and adapting them to target data during test-time inference. In this survey, we provide a comprehensive and systematic review on test-time adaptation, covering more than 400 recent papers. We structure our review by categorizing existing methods into five distinct categories based on what component of the method is adjusted for test-time adaptation: the model, the inference, the normalization, the sample, or the prompt, providing detailed analysis of each. We further discuss the various preparation and adaptation settings for methods within these categories, offering deeper insights into the effective deployment for the evaluation of distribution shifts and their real-world application in understanding images, video and 3D, as well as modalities beyond vision. We close the survey with an outlook on emerging research opportunities for test-time adaptation.
• Abstract（参考訳）: 機械学習アルゴリズムは、トレーニングとテストサンプルが同じ分布から引き出されるという一般的な仮定の下で、様々な分野、ユースケース、アプリケーションで顕著に成功している。 その結果、テスト分布のサンプルがトレーニング中に観察されたサンプルから逸脱し始めると、これらのアルゴリズムは苦労して脆くなる。 ドメイン適応とドメイン一般化は、テストおよびトレインドメイン間の分散シフトに対処するアプローチとして広く研究されてきたが、それぞれに制限がある。 最近登場した学習パラダイムであるテスト時適応は、ソースデータのみをトレーニングし、テスト時推論中にターゲットデータに適応することで、ドメイン適応とドメイン一般化の利点を組み合わせる。 本調査では,400以上の最近の論文を対象とした,テスト時間適応に関する総合的かつ体系的なレビューを行う。 既存の手法を,モデル,推論,正規化,サンプル,プロンプトの5つの異なるカテゴリに分類し,それぞれについて詳細な分析を行った。 さらに,これらのカテゴリ内の手法の様々な準備・適応設定について考察し,映像,映像,3Dの理解における分散シフト評価の効果的な展開と実世界の応用,および視覚以外のモダリティについてより深い知見を提供する。 テストタイム適応の新たな研究機会を展望し、調査を締めくくった。

関連論文リスト

• A Lost Opportunity for Vision-Language Models: A Comparative Study of Online Test-Time Adaptation for Vision-Language Models [3.0495235326282186]
  ディープラーニングでは、分散シフトに対する堅牢性を維持することが重要です。 この研究は、視覚言語基礎モデルをテスト時に適用するための幅広い可能性を探究する。
  論文  参考訳（メタデータ） (2024-05-23T18:27:07Z)
• Consistency Regularization for Generalizable Source-free Domain Adaptation [62.654883736925456]
  ソースフリードメイン適応(source-free domain adapt, SFDA)は、ソースデータセットにアクセスすることなく、十分にトレーニングされたソースモデルを未学習のターゲットドメインに適応することを目的としている。 既存のSFDAメソッドは、ターゲットのトレーニングセット上で適用されたモデルを評価し、目に見えないが同一の分散テストセットからデータを無視する。 より一般化可能なSFDA法を開発するための整合正則化フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-03T07:45:53Z)
• A Comprehensive Survey on Test-Time Adaptation under Distribution Shifts [143.14128737978342]
  新たなパラダイムであるテスト時適応は、事前トレーニングされたモデルをテスト中にラベルのないデータに適用し、予測を行う可能性がある。 このパラダイムの最近の進歩は、推論に先立って自己適応モデルのトレーニングにラベルのないデータを活用するという大きな利点を浮き彫りにしている。
  論文  参考訳（メタデータ） (2023-03-27T16:32:21Z)
• DELTA: degradation-free fully test-time adaptation [59.74287982885375]
  テスト時間バッチ正規化(BN)や自己学習といった,一般的な適応手法では,2つの好ましくない欠陥が隠されていることがわかった。 まず、テスト時間BNにおける正規化統計は、現在受信されているテストサンプルに完全に影響され、その結果、不正確な推定結果が得られることを明らかにする。 第二に、テスト時間適応中にパラメータ更新が支配的なクラスに偏っていることを示す。
  論文  参考訳（メタデータ） (2023-01-30T15:54:00Z)
• Test-Time Adaptation with Shape Moments for Image Segmentation [16.794050614196916]
  セグメント化のためのテスト時間単オブジェクト適応について検討する。 本稿では,この課題に対処するための形状誘導エントロピー最小化手法を提案する。 我々は, 様々な形状を事前に組み込んで, 可算解への適応を導出する可能性を示す。
  論文  参考訳（メタデータ） (2022-05-16T20:47:13Z)
• Learning to Generalize across Domains on Single Test Samples [126.9447368941314]
  単体テストサンプルでドメインをまたいで一般化することを学ぶ。 変分ベイズ推論問題として単検体への適応を定式化する。 我々のモデルは、ドメインの一般化のための複数のベンチマークにおいて、最先端のメソッドよりも少なくとも同等で、より優れたパフォーマンスを達成します。
  論文  参考訳（メタデータ） (2022-02-16T13:21:04Z)
• Unified Regularity Measures for Sample-wise Learning and Generalization [18.10522585996242]
  本稿では,定式化整合表現を用いた2つのプロセスのサンプル正則度尺度を提案する。 ミニバッチSGD最適化のための提案手法の有効性とロバスト性を検証する実験を行った。
  論文  参考訳（メタデータ） (2021-08-09T10:11:14Z)
• Adaptive Risk Minimization: Learning to Adapt to Domain Shift [109.87561509436016]
  ほとんどの機械学習アルゴリズムの基本的な前提は、トレーニングとテストデータは、同じ基礎となる分布から引き出されることである。 本研究では,学習データをドメインに構造化し,複数のテスト時間シフトが存在する場合の領域一般化の問題点について考察する。 本稿では、適応リスク最小化(ARM)の枠組みを紹介し、モデルがトレーニング領域に適応することを学ぶことで、効果的な適応のために直接最適化される。
  論文  参考訳（メタデータ） (2020-07-06T17:59:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。