論文の概要: Information-Theoretic Analysis of Unsupervised Domain Adaptation

• arxiv url: http://arxiv.org/abs/2210.00706v1
• Date: Mon, 3 Oct 2022 04:16:54 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-04 16:26:36.111586
• Title: Information-Theoretic Analysis of Unsupervised Domain Adaptation
• Title（参考訳）: 教師なし領域適応の情報理論解析
• Authors: Ziqiao Wang and Yongyi Mao
• Abstract要約: 本稿では、情報理論ツールを用いて、教師なし領域適応(UDA)における一般化誤差を解析する。 本稿では,2つの一般化誤差の新たな上限について述べる。第1の概念は,対象領域における人口リスクとソース領域における人口リスクのギャップを計測し,第2の概念は,対象領域における人口リスクとソース領域における経験的リスクのギャップを計測する。
• 参考スコア（独自算出の注目度）: 27.14107452619853
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper uses information-theoretic tools to analyze the generalization error in unsupervised domain adaptation (UDA). We present novel upper bounds for two notions of generalization errors. The first notion measures the gap between the population risk in the target domain and that in the source domain, and the second measures the gap between the population risk in the target domain and the empirical risk in the source domain. While our bounds for the first kind of error are in line with the traditional analysis and give similar insights, our bounds on the second kind of error are algorithm-dependent, which also provide insights into algorithm designs. Specifically, we present two simple techniques for improving generalization in UDA and validate them experimentally.
• Abstract（参考訳）: 本稿では,教師なし領域適応(UDA)における一般化誤差の解析に情報理論ツールを用いる。 一般化誤差の2つの概念に対する新しい上限を示す。 第1の概念は、ターゲットドメインにおける人口リスクとソースドメインにおける人口リスクのギャップを測定し、第2の概念は、ターゲットドメインにおける人口リスクとソースドメインにおける経験的リスクのギャップを測定する。 第1のエラーのバウンダリは従来の分析と類似の洞察を与えるが、第2のエラーのバウンダリはアルゴリズムに依存しており、アルゴリズム設計に関する洞察も提供する。 具体的には,udaの一般化を改良し,実験的に検証するための2つの簡単な手法を提案する。

関連論文リスト

• Improving Generalization with Domain Convex Game [32.07275105040802]
  ドメインの一般化は、複数のソースドメインを持つモデルを学習することで、ディープニューラルネットワークの貧弱な一般化能力を緩和する傾向がある。 DG の古典的な解は領域拡大であり、その一般的な信念は、ソース領域の多様化は分布外一般化に導かれるということである。 モデル一般化と領域の多様性の相関は厳密には正ではなく,ドメイン拡張の有効性を制限している。
  論文  参考訳（メタデータ） (2023-03-23T14:27:49Z)
• Domain-Specific Risk Minimization for Out-of-Distribution Generalization [104.17683265084757]
  まず、適応性ギャップを明示的に考慮した一般化境界を確立する。 本稿では,目標に対するより良い仮説の選択を導くための効果的なギャップ推定法を提案する。 もう1つの方法は、オンラインターゲットサンプルを用いてモデルパラメータを適応させることにより、ギャップを最小化することである。
  論文  参考訳（メタデータ） (2022-08-18T06:42:49Z)
• Single-domain Generalization in Medical Image Segmentation via Test-time Adaptation from Shape Dictionary [64.5632303184502]
  ドメインの一般化は通常、モデル学習のために複数のソースドメインからのデータを必要とする。 本稿では,1つのソースドメインのみで最悪のシナリオ下でモデルを学習し,異なる未確認対象ドメインに直接一般化する,重要な単一ドメインの一般化問題について考察する。 本稿では,領域間で不変なセグメンテーションのセグメンテーション先情報を抽出し,統合する医用画像セグメンテーションにおいて,この問題に対処する新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2022-06-29T08:46:27Z)
• Localized Adversarial Domain Generalization [83.4195658745378]
  対数領域の一般化は、領域の一般化に対する一般的なアプローチである。 空間コンパクト性維持(LADG)を用いた局所対向領域の一般化を提案する。 我々はWilds DGベンチマークで包括的な実験を行い、我々のアプローチを検証する。
  論文  参考訳（メタデータ） (2022-05-09T08:30:31Z)
• Compound Domain Generalization via Meta-Knowledge Encoding [55.22920476224671]
  マルチモーダル分布を再正規化するために,スタイル駆動型ドメイン固有正規化(SDNorm)を導入する。 組込み空間における関係モデリングを行うために,プロトタイプ表現,クラスセントロイドを利用する。 4つの標準ドメイン一般化ベンチマークの実験により、COMENはドメインの監督なしに最先端のパフォーマンスを上回ることが判明した。
  論文  参考訳（メタデータ） (2022-03-24T11:54:59Z)
• Model-Based Domain Generalization [96.84818110323518]
  本稿では,モデルベースドメイン一般化問題に対する新しいアプローチを提案する。 我々のアルゴリズムは、最新のwildsベンチマークの最先端手法を最大20ポイント上回った。
  論文  参考訳（メタデータ） (2021-02-23T00:59:02Z)
• Learning Invariant Representations and Risks for Semi-supervised Domain Adaptation [109.73983088432364]
  半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。 共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
  論文  参考訳（メタデータ） (2020-10-09T15:42:35Z)
• Discrepancy Minimization in Domain Generalization with Generative Nearest Neighbors [13.047289562445242]
  ドメイン一般化(Domain Generalization, DG)は、複数のソースドメインでトレーニングされた機械学習モデルが、統計の異なるターゲットドメインでうまく一般化できないという、ドメインシフトの問題を扱う。 シフト対象領域の一般化を保証するのに失敗するソースドメイン全体にわたるドメイン不変表現を学習することにより、ドメイン一般化の問題を解決するために、複数のアプローチが提案されている。 本稿では,GNNDM(Generative Nearest Neighbor Based Discrepancy Minimization)法を提案する。
  論文  参考訳（メタデータ） (2020-07-28T14:54:25Z)
• Representation via Representations: Domain Generalization via Adversarially Learned Invariant Representations [14.751829773340537]
  複数の「研究」(または領域)から不変表現を学習するための敵対的検閲手法について検討する。 医学的な予測のような多くの文脈において、人口の多い地域での研究からの領域の一般化は、アルゴリズム的公正性に関する以前の研究では予想されていなかった、異なる風味の公平性を提供する。
  論文  参考訳（メタデータ） (2020-06-20T02:35:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。