論文の概要: Learning to Generalize across Domains on Single Test Samples

• arxiv url: http://arxiv.org/abs/2202.08045v1
• Date: Wed, 16 Feb 2022 13:21:04 GMT
• ステータス: 処理完了
• システム内更新日: 2022-02-17 20:58:34.622612
• Title: Learning to Generalize across Domains on Single Test Samples
• Title（参考訳）: 単体テストサンプルによるドメイン間の一般化の学習
• Authors: Zehao Xiao, Xiantong Zhen, Ling Shao, Cees G. M. Snoek
• Abstract要約: 単体テストサンプルでドメインをまたいで一般化することを学ぶ。 変分ベイズ推論問題として単検体への適応を定式化する。 我々のモデルは、ドメインの一般化のための複数のベンチマークにおいて、最先端のメソッドよりも少なくとも同等で、より優れたパフォーマンスを達成します。
• 参考スコア（独自算出の注目度）: 126.9447368941314
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We strive to learn a model from a set of source domains that generalizes well to unseen target domains. The main challenge in such a domain generalization scenario is the unavailability of any target domain data during training, resulting in the learned model not being explicitly adapted to the unseen target domains. We propose learning to generalize across domains on single test samples. We leverage a meta-learning paradigm to learn our model to acquire the ability of adaptation with single samples at training time so as to further adapt itself to each single test sample at test time. We formulate the adaptation to the single test sample as a variational Bayesian inference problem, which incorporates the test sample as a conditional into the generation of model parameters. The adaptation to each test sample requires only one feed-forward computation at test time without any fine-tuning or self-supervised training on additional data from the unseen domains. Extensive ablation studies demonstrate that our model learns the ability to adapt models to each single sample by mimicking domain shifts during training. Further, our model achieves at least comparable -- and often better -- performance than state-of-the-art methods on multiple benchmarks for domain generalization.
• Abstract（参考訳）: 我々は、未知のターゲットドメインによく一般化するソースドメインの集合からモデルを学習しようと努力する。 このようなドメインの一般化シナリオの主な課題は、トレーニング中に対象のドメインデータが利用できないことであり、学習されたモデルは目に見えないターゲットのドメインに明示的に適応しない。 単体テストサンプルを用いてドメイン間を一般化する学習を提案する。 メタラーニングパラダイムを利用してモデルを学び、トレーニング時に1つのサンプルで適応する能力を取得し、テスト時に1つのテストサンプルにさらに適応できるようにします。 モデルパラメータの生成に条件としてテストサンプルを組み込んだ変分ベイズ推論問題として,単一試験サンプルへの適応を定式化する。 各テストサンプルへの適応には、未検出領域からの追加データに対する微調整や自己教師付きトレーニングなしで、テスト時にフィードフォワード計算を1つだけ必要とします。 広範なアブレーション研究により,トレーニング中の領域シフトを模倣することで,各サンプルにモデルを適用する能力が得られた。 さらに、このモデルは、ドメインの一般化のために複数のベンチマークで最先端のメソッドよりも、少なくとも同等の(しばしば優れた)パフォーマンスを達成します。

関連論文リスト

• Beyond Model Adaptation at Test Time: A Survey [43.03129492126422]
  機械学習アルゴリズムは、テストディストリビューションのサンプルがトレーニング中に観察されるものから逸脱し始めたときに苦労する。 テスト時間適応は、ソースデータのみに基づくトレーニングモデルによるドメイン適応とドメイン一般化の利点を組み合わせる。 テスト時間適応に関する総合的かつ体系的なレビューを行い、400以上の最近の論文を取り上げている。
  論文  参考訳（メタデータ） (2024-11-06T06:13:57Z)
• Point-TTA: Test-Time Adaptation for Point Cloud Registration Using Multitask Meta-Auxiliary Learning [17.980649681325406]
  我々は、ポイントクラウド登録(PCR)のための新しいテスト時間適応フレームワークであるPoint-TTAを提案する。 我々のモデルは、テストデータの事前の知識を必要とせずに、テスト時に目に見えない分布に適応することができる。 訓練中は, 補助タスクによる適応モデルにより主タスクの精度が向上するように, メタ補助学習アプローチを用いて訓練を行う。
  論文  参考訳（メタデータ） (2023-08-31T06:32:11Z)
• Consistency Regularization for Generalizable Source-free Domain Adaptation [62.654883736925456]
  ソースフリードメイン適応(source-free domain adapt, SFDA)は、ソースデータセットにアクセスすることなく、十分にトレーニングされたソースモデルを未学習のターゲットドメインに適応することを目的としている。 既存のSFDAメソッドは、ターゲットのトレーニングセット上で適用されたモデルを評価し、目に見えないが同一の分散テストセットからデータを無視する。 より一般化可能なSFDA法を開発するための整合正則化フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-03T07:45:53Z)
• Universal Semi-supervised Model Adaptation via Collaborative Consistency Training [92.52892510093037]
  我々は、Universal Semi-supervised Model Adaptation (USMA)と呼ばれる現実的で挑戦的なドメイン適応問題を導入する。 本稿では,2つのモデル間の予測整合性を規則化する協調的整合性トレーニングフレームワークを提案する。 実験により,いくつかのベンチマークデータセットにおける本手法の有効性が示された。
  論文  参考訳（メタデータ） (2023-07-07T08:19:40Z)
• A Comprehensive Survey on Test-Time Adaptation under Distribution Shifts [143.14128737978342]
  新たなパラダイムであるテスト時適応は、事前トレーニングされたモデルをテスト中にラベルのないデータに適用し、予測を行う可能性がある。 このパラダイムの最近の進歩は、推論に先立って自己適応モデルのトレーニングにラベルのないデータを活用するという大きな利点を浮き彫りにしている。
  論文  参考訳（メタデータ） (2023-03-27T16:32:21Z)
• IDANI: Inference-time Domain Adaptation via Neuron-level Interventions [24.60778570114818]
  本稿では,ニューロンレベルの介入を用いたドメイン適応(DA)の新しいアプローチを提案する。 特定のニューロンにおける各テスト例の表現を変更した結果、ソースドメインからの逆実例が得られます。 実験の結果,本手法は未確認領域の性能向上を図っている。
  論文  参考訳（メタデータ） (2022-06-01T06:39:28Z)
• Adaptive Methods for Real-World Domain Generalization [32.030688845421594]
  本研究では、未確認の試験サンプルからドメイン情報を活用できるかどうかを検討する。 a) 教師なしのトレーニング例から識別的ドメイン埋め込みを最初に学び、b) このドメイン埋め込みを補足的な情報として使ってドメイン適応モデルを構築する。 提案手法は,各種領域一般化ベンチマークにおける最先端性能を実現する。
  論文  参考訳（メタデータ） (2021-03-29T17:44:35Z)
• One for More: Selecting Generalizable Samples for Generalizable ReID Model [92.40951770273972]
  本稿では,選択したサンプルを損失関数として一般化する1対3の学習目標を提案する。 提案した1対3のサンプルは,ReIDトレーニングフレームワークにシームレスに統合できる。
  論文  参考訳（メタデータ） (2020-12-10T06:37:09Z)
• Adaptive Risk Minimization: Learning to Adapt to Domain Shift [109.87561509436016]
  ほとんどの機械学習アルゴリズムの基本的な前提は、トレーニングとテストデータは、同じ基礎となる分布から引き出されることである。 本研究では,学習データをドメインに構造化し,複数のテスト時間シフトが存在する場合の領域一般化の問題点について考察する。 本稿では、適応リスク最小化(ARM)の枠組みを紹介し、モデルがトレーニング領域に適応することを学ぶことで、効果的な適応のために直接最適化される。
  論文  参考訳（メタデータ） (2020-07-06T17:59:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。