論文の概要: On Localized Discrepancy for Domain Adaptation
- arxiv url: http://arxiv.org/abs/2008.06242v1
- Date: Fri, 14 Aug 2020 08:30:02 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-30 16:43:37.326383
- Title: On Localized Discrepancy for Domain Adaptation
- Title(参考訳): 領域適応のための局所離散性について
- Authors: Yuchen Zhang, Mingsheng Long, Jianmin Wang, Michael I. Jordan
- Abstract要約: 本稿では,局所化後の仮説空間上で定義される局所的不一致について検討する。
2つの領域を交換すると、それらの値が異なるため、非対称な移動困難が明らかになる。
- 参考スコア(独自算出の注目度): 146.4580736832752
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose the discrepancy-based generalization theories for unsupervised
domain adaptation. Previous theories introduced distribution discrepancies
defined as the supremum over complete hypothesis space. The hypothesis space
may contain hypotheses that lead to unnecessary overestimation of the risk
bound. This paper studies the localized discrepancies defined on the hypothesis
space after localization. First, we show that these discrepancies have
desirable properties. They could be significantly smaller than the pervious
discrepancies. Their values will be different if we exchange the two domains,
thus can reveal asymmetric transfer difficulties. Next, we derive improved
generalization bounds with these discrepancies. We show that the discrepancies
could influence the rate of the sample complexity. Finally, we further extend
the localized discrepancies for achieving super transfer and derive
generalization bounds that could be even more sample-efficient on source
domain.
- Abstract(参考訳): 教師なし領域適応のための不一致に基づく一般化理論を提案する。
以前の理論は、完備仮説空間上の超越として定義される分布の不一致を導入した。
仮説空間は、リスクバウンドの不要な過大評価につながる仮説を含むかもしれない。
本稿では,局所化後の仮説空間上で定義される局所的不一致について検討する。
まず,これらの差異が望ましい特性を持つことを示す。
過度の不一致よりもはるかに小さい可能性がある。
2つの領域を交換するとそれらの値が異なるため、非対称な移動困難が明らかになる。
次に、これらの相違による一般化境界の改善を導出する。
以上の結果から,試料の複雑度に差が及ぼす可能性が示唆された。
最後に、スーパートランスファーを達成するための局所的な不一致をさらに拡張し、ソースドメインでさらにサンプル効率のよい一般化境界を導出します。
関連論文リスト
- A New Theoretical Perspective on Data Heterogeneity in Federated Optimization [39.75009345804017]
連邦学習(FL)において、データ不均一性は、既存の理論解析が収束率について悲観的である主な理由である。
特に多くのFLアルゴリズムでは、局所的な更新数が大きくなると収束率が劇的に増加する。
本稿では,理論的理解と実践的パフォーマンスのギャップを,新たな視点からの理論的分析を提供することによって埋めることを目的とする。
論文 参考訳(メタデータ) (2024-07-22T11:52:58Z) - Domain Adaptation with Cauchy-Schwarz Divergence [39.36943882475589]
教師なし領域適応(UDA)問題にコーシー=シュワルツの発散を導入する。
CS発散は、Kulback-Leibler発散よりも理論上より厳密な一般化誤差を提供する。
距離距離測定および対角訓練に基づくUDAフレームワークにおいて,CSのばらつきが有用であることを示す。
論文 参考訳(メタデータ) (2024-05-30T12:01:12Z) - Proxy Methods for Domain Adaptation [78.03254010884783]
プロキシ変数は、遅延変数を明示的にリカバリしたりモデル化したりすることなく、分散シフトへの適応を可能にする。
両設定の複雑な分散シフトに適応する2段階のカーネル推定手法を開発した。
論文 参考訳(メタデータ) (2024-03-12T09:32:41Z) - Towards Identifiable Unsupervised Domain Translation: A Diversified
Distribution Matching Approach [14.025593338693698]
教師なしドメイン翻訳(UDT)は、高レベルの意味論を変えることなく、あるドメインから別のドメインへサンプルを変換する関数を見つけることを目的としている。
本研究は、中核的識別可能性調査を掘り下げ、MPA除去理論を導入する。
この理論は, 補助変数誘導サブセット上の分布マッチングを用いたUDT学習者へ導かれる。
論文 参考訳(メタデータ) (2024-01-18T01:07:00Z) - Auditing for Spatial Fairness [5.048742886625779]
保護属性が位置にあるときのアルゴリズム的公正性について検討する。
アルゴリズムフェアネスの確立された概念と同様に、空間フェアネスは位置から結果が統計的に独立していると定義する。
論文 参考訳(メタデータ) (2023-02-23T20:56:18Z) - Constrained Maximum Cross-Domain Likelihood for Domain Generalization [14.91361835243516]
ドメインの一般化は、複数のソースドメイン上で一般化可能なモデルを学ぶことを目的としている。
本稿では,異なる領域の後方分布間のKL偏差を最小限に抑える新しい領域一般化法を提案する。
Digits-DG、PACS、Office-Home、MiniDomainNetの4つの標準ベンチマークデータセットの実験は、我々のメソッドの優れたパフォーマンスを強調している。
論文 参考訳(メタデータ) (2022-10-09T03:41:02Z) - Domain-Specific Risk Minimization for Out-of-Distribution Generalization [104.17683265084757]
まず、適応性ギャップを明示的に考慮した一般化境界を確立する。
本稿では,目標に対するより良い仮説の選択を導くための効果的なギャップ推定法を提案する。
もう1つの方法は、オンラインターゲットサンプルを用いてモデルパラメータを適応させることにより、ギャップを最小化することである。
論文 参考訳(メタデータ) (2022-08-18T06:42:49Z) - Fundamental Limits and Tradeoffs in Invariant Representation Learning [99.2368462915979]
多くの機械学習アプリケーションは、2つの競合する目標を達成する表現を学習する。
ミニマックスゲーム理論の定式化は、精度と不変性の基本的なトレードオフを表す。
分類と回帰の双方において,この一般的かつ重要な問題を情報論的に解析する。
論文 参考訳(メタデータ) (2020-12-19T15:24:04Z) - Learning Invariant Representations and Risks for Semi-supervised Domain
Adaptation [109.73983088432364]
半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。
共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
論文 参考訳(メタデータ) (2020-10-09T15:42:35Z) - Few-shot Domain Adaptation by Causal Mechanism Transfer [107.08605582020866]
我々は,少数のラベル付き対象ドメインデータと多数のラベル付きソースドメインデータしか利用できないレグレッション問題に対して,数ショットの教師付きドメイン適応(DA)について検討する。
現在のDA法の多くは、パラメータ化された分布シフトまたは明らかな分布類似性に基づく転送仮定に基づいている。
本稿では,データ生成機構がドメイン間で不変であるメタ分散シナリオであるメカニズム転送を提案する。
論文 参考訳(メタデータ) (2020-02-10T02:16:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。