論文の概要: Deep into The Domain Shift: Transfer Learning through Dependence
Regularization
- arxiv url: http://arxiv.org/abs/2305.19499v1
- Date: Wed, 31 May 2023 02:16:53 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-01 18:59:18.573427
- Title: Deep into The Domain Shift: Transfer Learning through Dependence
Regularization
- Title(参考訳): ドメインシフトの奥深く:依存性規則化による移行学習
- Authors: Shumin Ma, Zhiri Yuan, Qi Wu, Yiyan Huang, Xixu Hu, Cheuk Hang Leung,
Dongdong Wang, Zhixiang Huang
- Abstract要約: 本稿では,内部依存構造の違いを辺縁部と別々に測定できる新しい領域適応手法を提案する。
3つの実世界のデータセットに対する実験は、様々なベンチマークドメイン適応モデルと比較して、改善が目覚ましい、堅牢であることを示している。
- 参考スコア(独自算出の注目度): 12.61820284282736
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: Classical Domain Adaptation methods acquire transferability by regularizing
the overall distributional discrepancies between features in the source domain
(labeled) and features in the target domain (unlabeled). They often do not
differentiate whether the domain differences come from the marginals or the
dependence structures. In many business and financial applications, the
labeling function usually has different sensitivities to the changes in the
marginals versus changes in the dependence structures. Measuring the overall
distributional differences will not be discriminative enough in acquiring
transferability. Without the needed structural resolution, the learned transfer
is less optimal. This paper proposes a new domain adaptation approach in which
one can measure the differences in the internal dependence structure separately
from those in the marginals. By optimizing the relative weights among them, the
new regularization strategy greatly relaxes the rigidness of the existing
approaches. It allows a learning machine to pay special attention to places
where the differences matter the most. Experiments on three real-world datasets
show that the improvements are quite notable and robust compared to various
benchmark domain adaptation models.
- Abstract(参考訳): 古典的ドメイン適応法は、ソースドメインの特徴(ラベル付き)とターゲットドメインの特徴(ラベルなし)の全体分布の相違を規則化し、転送可能性を取得する。
ドメインの違いが境界や依存構造に由来するかどうかを区別しないことが多い。
多くのビジネス・ファイナンシャル・アプリケーションにおいて、ラベリング関数は通常、限界の変化と依存構造の変化に対して異なる感度を持つ。
全体の分布差を測定することは、転送可能性を取得するのに十分差別的ではない。
必要な構造解決がなければ、学習された転送は最適ではない。
本稿では,内部依存構造と辺縁構造の違いを分離して測定できる新しい領域適応手法を提案する。
相対重みを最適化することにより、新しい正規化戦略は既存のアプローチの剛性を大幅に緩和する。
学習機械は、違いが最も重要となる場所に特別な注意を払うことができる。
3つの実世界のデータセットの実験では、様々なベンチマークドメイン適応モデルと比較して、改善は目立って堅牢である。
関連論文リスト
- FEED: Fairness-Enhanced Meta-Learning for Domain Generalization [13.757379847454372]
モデルフェアネスを認識しながら配布外データに一般化することは、メタラーニングにおいて重要かつ困難な問題である。
本稿では,ドメインの一般化能力を大幅に向上させるフェアネスを考慮したメタラーニング手法を提案する。
論文 参考訳(メタデータ) (2024-11-02T17:34:33Z) - Algorithmic Fairness Generalization under Covariate and Dependence Shifts Simultaneously [28.24666589680547]
公平かつ不変な分類器の学習を目的とした,単純かつ効果的な手法を提案する。
モデルを用いて様々な合成データドメインを拡張することにより、ソースドメインの公平かつ不変な分類器を学習する。
この分類器は未知の対象領域に一般化することができ、モデル予測と公平性の懸念の両方を維持できる。
論文 参考訳(メタデータ) (2023-11-23T05:52:00Z) - Discriminative Radial Domain Adaptation [62.22362756424971]
本稿では、ソースとターゲットドメインを共有ラジアル構造を介してブリッジする差別的ラジアルドメイン適応(DRDR)を提案する。
このような固有識別構造を移行することで,特徴伝達性と識別可能性の同時向上が期待できることを示す。
提案手法は,様々なタスクに対する最先端のアプローチを一貫して上回ることを示す。
論文 参考訳(メタデータ) (2023-01-01T10:56:31Z) - Identifiable Latent Causal Content for Domain Adaptation under Latent Covariate Shift [82.14087963690561]
マルチソースドメイン適応(MSDA)は、ラベル付き対象ドメインのラベル予測関数を学習する際の課題に対処する。
本稿では,潜在コンテンツ変数と潜時スタイル変数とともに,ドメイン間の潜時雑音を導入し,複雑な因果生成モデルを提案する。
提案手法は、シミュレーションと実世界の両方のデータセットに対して、例外的な性能と有効性を示す。
論文 参考訳(メタデータ) (2022-08-30T11:25:15Z) - Domain Generalization via Selective Consistency Regularization for Time
Series Classification [16.338176636365752]
ドメイン一般化手法は、限られた数のソースドメインからのデータで、ドメインシフトに頑健なモデルを学習することを目的としている。
本稿では,ソースドメイン間の予測一貫性を選択的に適用する表現学習手法を提案する。
論文 参考訳(メタデータ) (2022-06-16T01:57:35Z) - A Style and Semantic Memory Mechanism for Domain Generalization [108.98041306507372]
ドメイン内スタイルの不変性は、ドメインの一般化の効率を改善する上で重要な要素である。
本稿では,ドメイン間の意味的特徴の共通性を学習する上で特に有効な,新しい「判断」機構を提案する。
提案手法は最先端の手法をクリアマージンで超越している。
論文 参考訳(メタデータ) (2021-12-14T16:23:24Z) - Fishr: Invariant Gradient Variances for Out-of-distribution
Generalization [98.40583494166314]
フィッシャーは、損失関数の勾配の空間における領域不変性を強制する学習スキームである。
フィッシャーはこの損失についてフィッシャー・インフォメーションやヘッセンと密接な関係を示している。
特に、FishrはDomainBedベンチマークのテクニックの状態を改善し、経験的リスク最小化よりも大幅にパフォーマンスが向上する。
論文 参考訳(メタデータ) (2021-09-07T08:36:09Z) - Contrastive ACE: Domain Generalization Through Alignment of Causal
Mechanisms [34.99779761100095]
ドメインの一般化は、異なる分布にまたがる知識不変性を学ぶことを目的としている。
ラベルに対する特徴の因果効果の平均的因果効果の因果不変性を考察する。
論文 参考訳(メタデータ) (2021-06-02T04:01:22Z) - Interventional Domain Adaptation [81.0692660794765]
ドメイン適応(DA)は、ソースドメインからターゲットドメインに学習した差別的特徴を転送することを目的としている。
標準的なドメイン不変学習は、素早い相関に悩まされ、ソース固有性を誤って転送する。
ドメイン固有部分とドメイン共有部分とを区別する反ファクト機能を作成します。
論文 参考訳(メタデータ) (2020-11-07T09:53:13Z) - Adaptively-Accumulated Knowledge Transfer for Partial Domain Adaptation [66.74638960925854]
部分ドメイン適応(PDA)は、ソースドメインラベル空間がターゲットドメインを置き換えるとき、現実的で困難な問題を扱う。
本稿では,2つの領域にまたがる関連カテゴリを整合させる適応的知識伝達フレームワーク(A$2KT)を提案する。
論文 参考訳(メタデータ) (2020-08-27T00:53:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。