論文の概要: Adaptive Risk Minimization: Learning to Adapt to Domain Shift

• arxiv url: http://arxiv.org/abs/2007.02931v4
• Date: Wed, 1 Dec 2021 18:54:12 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-13 01:42:00.212219
• Title: Adaptive Risk Minimization: Learning to Adapt to Domain Shift
• Title（参考訳）: 適応リスク最小化: ドメインシフトに対応するための学習
• Authors: Marvin Zhang, Henrik Marklund, Nikita Dhawan, Abhishek Gupta, Sergey Levine, Chelsea Finn
• Abstract要約: ほとんどの機械学習アルゴリズムの基本的な前提は、トレーニングとテストデータは、同じ基礎となる分布から引き出されることである。 本研究では,学習データをドメインに構造化し,複数のテスト時間シフトが存在する場合の領域一般化の問題点について考察する。 本稿では、適応リスク最小化(ARM)の枠組みを紹介し、モデルがトレーニング領域に適応することを学ぶことで、効果的な適応のために直接最適化される。
• 参考スコア（独自算出の注目度）: 109.87561509436016
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A fundamental assumption of most machine learning algorithms is that the training and test data are drawn from the same underlying distribution. However, this assumption is violated in almost all practical applications: machine learning systems are regularly tested under distribution shift, due to changing temporal correlations, atypical end users, or other factors. In this work, we consider the problem setting of domain generalization, where the training data are structured into domains and there may be multiple test time shifts, corresponding to new domains or domain distributions. Most prior methods aim to learn a single robust model or invariant feature space that performs well on all domains. In contrast, we aim to learn models that adapt at test time to domain shift using unlabeled test points. Our primary contribution is to introduce the framework of adaptive risk minimization (ARM), in which models are directly optimized for effective adaptation to shift by learning to adapt on the training domains. Compared to prior methods for robustness, invariance, and adaptation, ARM methods provide performance gains of 1-4% test accuracy on a number of image classification problems exhibiting domain shift.
• Abstract（参考訳）: ほとんどの機械学習アルゴリズムの基本的な前提は、トレーニングとテストデータが同じ基礎となる分布から引き出されることである。 機械学習システムは、時間的相関の変化、非典型的エンドユーザー、その他の要因により、分散シフトの下で定期的にテストされる。 本研究では、トレーニングデータをドメインに構造化し、新しいドメインやドメイン分布に対応する複数のテストタイムシフトが存在する場合のドメイン一般化の問題点について考察する。 ほとんどの以前の手法は、すべての領域でうまく機能する単一のロバストモデルや不変特徴空間を学習することを目的としている。 対照的に、未ラベルのテストポイントを使用して、テスト時にドメインシフトに適応するモデルを学習することを目指している。 我々の主な貢献は適応的リスク最小化(ARM)の枠組みを導入することであり、モデルがトレーニング領域に適応することを学ぶことで、効果的な適応のために直接最適化される。 従来のロバスト性、不変性、適応性の手法と比較して、ARM法はドメインシフトを示す多くの画像分類問題に対して1-4%の性能向上を提供する。

関連論文リスト

• Robustness, Evaluation and Adaptation of Machine Learning Models in the Wild [4.304803366354879]
  本研究では、ドメインシフトに対するロバスト性の障害の原因と、ドメインロバストモデルをトレーニングするためのアルゴリズムを提案する。 モデル脆性の鍵となる原因はドメイン過度な適合であり、新しいトレーニングアルゴリズムはドメイン一般仮説を抑え、奨励する。
  論文  参考訳（メタデータ） (2023-03-05T21:41:16Z)
• Improving Domain Generalization with Domain Relations [77.63345406973097]
  本稿では、モデルがトレーニングされたドメインと異なる新しいドメインに適用されたときに発生するドメインシフトに焦点を当てる。 ドメイン固有モデルを学習するためのD$3$Gという新しい手法を提案する。 以上の結果から,D$3$Gは最先端の手法より一貫して優れていた。
  論文  参考訳（メタデータ） (2023-02-06T08:11:16Z)
• Domain Adaptation Principal Component Analysis: base linear method for learning with out-of-distribution data [55.41644538483948]
  ドメイン適応は現代の機械学習において一般的なパラダイムである。 ドメイン適応主成分分析(DAPCA)という手法を提案する。 DAPCAは、領域適応タスクの解決に有用な線形化データ表現を見つける。
  論文  参考訳（メタデータ） (2022-08-28T21:10:56Z)
• Learning Instance-Specific Adaptation for Cross-Domain Segmentation [79.61787982393238]
  クロスドメイン画像セグメンテーションのためのテスト時間適応法を提案する。 テスト時に新しい目に見えないインスタンスが与えられると、インスタンス固有のBatchNormキャリブレーションを実行することで、事前トレーニングされたモデルを適用します。
  論文  参考訳（メタデータ） (2022-03-30T17:59:45Z)
• On Universal Black-Box Domain Adaptation [53.7611757926922]
  実践的な展開という観点から,ドメイン適応の最小限の制約条件について検討する。 ソースモデルのインターフェースのみがターゲットドメインで利用可能であり、2つのドメイン間のラベル空間関係が異なることや未知であることが許されている。 対象試料の局所近傍における予測の整合性によって正規化された自己訓練フレームワークに統一することを提案する。
  論文  参考訳（メタデータ） (2021-04-10T02:21:09Z)
• Learning Invariant Representations and Risks for Semi-supervised Domain Adaptation [109.73983088432364]
  半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。 共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
  論文  参考訳（メタデータ） (2020-10-09T15:42:35Z)
• A Brief Review of Domain Adaptation [1.2043574473965317]
  本稿では、ラベルがソースドメインでのみ利用可能となる、教師なしドメイン適応に焦点を当てる。 ドメイン適応問題に対処することを目的とした、浅層および深層ドメイン適応アプローチが成功している。
  論文  参考訳（メタデータ） (2020-10-07T07:05:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。