論文の概要: Domain Adaptation with Cauchy-Schwarz Divergence

• arxiv url: http://arxiv.org/abs/2405.19978v1
• Date: Thu, 30 May 2024 12:01:12 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-31 14:38:07.751079
• Title: Domain Adaptation with Cauchy-Schwarz Divergence
• Title（参考訳）: Cauchy-Schwarz分枝による領域適応
• Authors: Wenzhe Yin, Shujian Yu, Yicong Lin, Jie Liu, Jan-Jakob Sonke, Efstratios Gavves,
• Abstract要約: 教師なし領域適応(UDA)問題にコーシー=シュワルツの発散を導入する。 CS発散は、Kulback-Leibler発散よりも理論上より厳密な一般化誤差を提供する。 距離距離測定および対角訓練に基づくUDAフレームワークにおいて,CSのばらつきが有用であることを示す。
• 参考スコア（独自算出の注目度）: 39.36943882475589
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Domain adaptation aims to use training data from one or multiple source domains to learn a hypothesis that can be generalized to a different, but related, target domain. As such, having a reliable measure for evaluating the discrepancy of both marginal and conditional distributions is crucial. We introduce Cauchy-Schwarz (CS) divergence to the problem of unsupervised domain adaptation (UDA). The CS divergence offers a theoretically tighter generalization error bound than the popular Kullback-Leibler divergence. This holds for the general case of supervised learning, including multi-class classification and regression. Furthermore, we illustrate that the CS divergence enables a simple estimator on the discrepancy of both marginal and conditional distributions between source and target domains in the representation space, without requiring any distributional assumptions. We provide multiple examples to illustrate how the CS divergence can be conveniently used in both distance metric- or adversarial training-based UDA frameworks, resulting in compelling performance.
• Abstract（参考訳）: ドメイン適応は、1つまたは複数のソースドメインからのトレーニングデータを使用して、異なるが関連するターゲットドメインに一般化できる仮説を学ぶことを目的としています。 このように、限界分布と条件分布の相違を評価するための信頼性の高い尺度を持つことが重要である。 本稿では、教師なし領域適応(UDA)問題にCauchy-Schwarz(CS)の発散を導入する。 CS発散は、Kulback-Leibler発散よりも理論上より厳密な一般化誤差を提供する。 これは、多クラス分類や回帰を含む教師あり学習の一般的なケースに当てはまる。 さらに,CSの発散により,表現空間におけるソース領域とターゲット領域の差分分布と条件分布の差分分布を,分布仮定を必要とせず簡単に推定できることを示す。 距離距離と対角距離のトレーニングベース UDA フレームワークにおいて,CS のばらつきが有用であることを示す複数の例を提示する。

関連論文リスト

• Generalizing to any diverse distribution: uniformity, gentle finetuning and rebalancing [55.791818510796645]
  我々は,訓練データから大きく逸脱した場合でも,様々なテスト分布によく適応するモデルを開発することを目的としている。 ドメイン適応、ドメイン一般化、ロバスト最適化といった様々なアプローチは、アウト・オブ・ディストリビューションの課題に対処しようと試みている。 我々は、既知のドメイン内の十分に多様なテスト分布にまたがる最悪のケースエラーを考慮することで、より保守的な視点を採用する。
  論文  参考訳（メタデータ） (2024-10-08T12:26:48Z)
• Domain Agnostic Conditional Invariant Predictions for Domain Generalization [20.964740750976667]
  本稿では,識別リスク最小化(DRM)理論とそれに対応するアルゴリズムを提案する。 DRM理論では、ソース領域全体とそのサブセット間の予測分布の相違が、不変な特徴の獲得に寄与することを証明する。 我々は,複数の実世界のデータセット上での領域一般化手法に対するアルゴリズムの評価を行った。
  論文  参考訳（メタデータ） (2024-06-09T02:38:52Z)
• Proxy Methods for Domain Adaptation [78.03254010884783]
  プロキシ変数は、遅延変数を明示的にリカバリしたりモデル化したりすることなく、分散シフトへの適応を可能にする。 両設定の複雑な分散シフトに適応する2段階のカーネル推定手法を開発した。
  論文  参考訳（メタデータ） (2024-03-12T09:32:41Z)
• Domain-Specific Risk Minimization for Out-of-Distribution Generalization [104.17683265084757]
  まず、適応性ギャップを明示的に考慮した一般化境界を確立する。 本稿では,目標に対するより良い仮説の選択を導くための効果的なギャップ推定法を提案する。 もう1つの方法は、オンラインターゲットサンプルを用いてモデルパラメータを適応させることにより、ギャップを最小化することである。
  論文  参考訳（メタデータ） (2022-08-18T06:42:49Z)
• Mapping conditional distributions for domain adaptation under generalized target shift [0.0]
  我々は、条件シフトとラベルシフト(GeTarS)の下でのソースとターゲットドメイン間の教師なしドメイン適応(UDA)の問題を考える。 最近のアプローチでは、ドメイン不変表現を学習するが、実際的な制限があり、実際には成り立たない強い仮定に依存している。 本稿では,既存の欠点を回避した,事前訓練された表現の整合化のための,新規で汎用的なアプローチについて検討する。
  論文  参考訳（メタデータ） (2021-10-26T14:25:07Z)
• Conditional Bures Metric for Domain Adaptation [14.528711361447712]
  教師なしドメイン適応(UDA)は近年広く注目を集めている。 従来のUDA法では、ラベル分布の識別情報を無視しながら、異なるドメインの限界分布がシフトしていると仮定していた。 本研究では,現在の条件不変モデルに大きな関心を持つ条件分布シフト問題に焦点をあてる。
  論文  参考訳（メタデータ） (2021-07-31T18:06:31Z)
• Contrastive ACE: Domain Generalization Through Alignment of Causal Mechanisms [34.99779761100095]
  ドメインの一般化は、異なる分布にまたがる知識不変性を学ぶことを目的としている。 ラベルに対する特徴の因果効果の平均的因果効果の因果不変性を考察する。
  論文  参考訳（メタデータ） (2021-06-02T04:01:22Z)
• Learning Invariant Representations and Risks for Semi-supervised Domain Adaptation [109.73983088432364]
  半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。 共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
  論文  参考訳（メタデータ） (2020-10-09T15:42:35Z)
• Few-shot Domain Adaptation by Causal Mechanism Transfer [107.08605582020866]
  我々は,少数のラベル付き対象ドメインデータと多数のラベル付きソースドメインデータしか利用できないレグレッション問題に対して,数ショットの教師付きドメイン適応(DA)について検討する。 現在のDA法の多くは、パラメータ化された分布シフトまたは明らかな分布類似性に基づく転送仮定に基づいている。 本稿では,データ生成機構がドメイン間で不変であるメタ分散シナリオであるメカニズム転送を提案する。
  論文  参考訳（メタデータ） (2020-02-10T02:16:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。