論文の概要: Failure Modes of Domain Generalization Algorithms
- arxiv url: http://arxiv.org/abs/2111.13733v1
- Date: Fri, 26 Nov 2021 20:04:19 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-30 17:31:06.795480
- Title: Failure Modes of Domain Generalization Algorithms
- Title(参考訳): ドメイン一般化アルゴリズムの故障モード
- Authors: Tigran Galstyan, Hrayr Harutyunyan, Hrant Khachatrian, Greg Ver Steeg,
Aram Galstyan
- Abstract要約: 本稿では,ドメイン一般化アルゴリズムの評価フレームワークを提案する。
一般化誤差の最大の寄与要因は,手法,データセット,正規化強度,トレーニング長など多岐にわたる。
- 参考スコア(独自算出の注目度): 29.772370301145543
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Domain generalization algorithms use training data from multiple domains to
learn models that generalize well to unseen domains. While recently proposed
benchmarks demonstrate that most of the existing algorithms do not outperform
simple baselines, the established evaluation methods fail to expose the impact
of various factors that contribute to the poor performance. In this paper we
propose an evaluation framework for domain generalization algorithms that
allows decomposition of the error into components capturing distinct aspects of
generalization. Inspired by the prevalence of algorithms based on the idea of
domain-invariant representation learning, we extend the evaluation framework to
capture various types of failures in achieving invariance. We show that the
largest contributor to the generalization error varies across methods,
datasets, regularization strengths and even training lengths. We observe two
problems associated with the strategy of learning domain-invariant
representations. On Colored MNIST, most domain generalization algorithms fail
because they reach domain-invariance only on the training domains. On
Camelyon-17, domain-invariance degrades the quality of representations on
unseen domains. We hypothesize that focusing instead on tuning the classifier
on top of a rich representation can be a promising direction.
- Abstract(参考訳): ドメイン一般化アルゴリズムは、複数のドメインからのトレーニングデータを使用して、見えないドメインによく一般化するモデルを学ぶ。
最近提案されたベンチマークでは、既存のアルゴリズムのほとんどは単純なベースラインを上回りませんが、確立された評価手法は、パフォーマンスの低下に寄与する様々な要因の影響を明らかにすることができません。
本稿では,誤りを一般化の異なる側面を捉えたコンポーネントに分解することを可能にする,ドメイン一般化アルゴリズムの評価フレームワークを提案する。
ドメイン不変表現学習の考え方に基づくアルゴリズムの普及に触発されて、評価フレームワークを拡張し、不変性を達成するための様々なタイプの障害を捕捉する。
一般化誤差の最大の寄与要因は,手法,データセット,正規化強度,トレーニング長など多岐にわたる。
ドメイン不変表現の学習戦略に関連する2つの問題を考察する。
色付きMNISTでは、ほとんどのドメイン一般化アルゴリズムは、トレーニングドメインにのみドメイン不変性に達するため失敗する。
camelyon-17 では、ドメイン不変性は見当たらないドメインの表現の品質を劣化させる。
我々は、リッチな表現の上に分類器をチューニングすることに集中することが有望な方向であると仮定する。
関連論文リスト
- Domain Adversarial Active Learning for Domain Generalization
Classification [8.003401798449337]
ドメイン一般化モデルは、ソースドメインデータからクロスドメイン知識を学び、未知のターゲットドメインの性能を改善することを目的としている。
近年の研究では、多種多様なソース・ドメイン・サンプルがドメインの一般化能力を高めることが示されている。
そこで本研究では,ドメイン一般化における分類タスクに対するDAAL(Domain-adversarial Active Learning)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-03-10T10:59:22Z) - Domain Generalization via Causal Adjustment for Cross-Domain Sentiment
Analysis [59.73582306457387]
クロスドメイン感情分析における領域一般化の問題に焦点をあてる。
本稿では,ドメイン固有表現とドメイン不変表現をアンタングル化するバックドア調整に基づく因果モデルを提案する。
一連の実験は、我々のモデルの優れたパフォーマンスと堅牢性を示しています。
論文 参考訳(メタデータ) (2024-02-22T13:26:56Z) - Randomized Adversarial Style Perturbations for Domain Generalization [49.888364462991234]
本稿では,RASP(Randomized Adversarial Style Perturbation)と呼ばれる新しい領域一般化手法を提案する。
提案アルゴリズムは, ランダムに選択されたクラスに対して, 対角方向の特徴のスタイルを乱し, 予期せぬ対象領域で観測される予期せぬスタイルに誤解されないよう, モデルを学習させる。
提案アルゴリズムは,様々なベンチマークによる広範な実験により評価され,特に大規模ベンチマークにおいて,領域一般化性能が向上することを示す。
論文 参考訳(メタデータ) (2023-04-04T17:07:06Z) - Domain-aware Triplet loss in Domain Generalization [0.0]
ドメインシフトは、テストとトレーニングデータの分布の相違によって引き起こされる。
ドメイン一般化のためのドメイン認識三重項損失を設計し、モデルが類似のセマンティックな特徴をクラスタリングするのを助ける。
本アルゴリズムは,埋め込み空間におけるドメイン情報を分散するように設計されている。
論文 参考訳(メタデータ) (2023-03-01T14:02:01Z) - Multi-Domain Long-Tailed Learning by Augmenting Disentangled
Representations [80.76164484820818]
多くの現実世界の分類問題には、避けられない長い尾のクラスバランスの問題がある。
本稿では,この多領域長鎖学習問題について検討し,すべてのクラスとドメインにまたがってよく一般化されたモデルを作成することを目的とする。
TALLYは、選択的均衡サンプリング戦略に基づいて、ある例のセマンティック表現と別の例のドメイン関連ニュアンスを混合することでこれを達成している。
論文 参考訳(メタデータ) (2022-10-25T21:54:26Z) - Discriminative Domain-Invariant Adversarial Network for Deep Domain
Generalization [33.84004077585957]
本稿では,ドメイン一般化のための識別型ドメイン不変逆数ネットワーク(DDIAN)を提案する。
DDIANは、最先端のドメイン一般化アプローチと比較して、トレーニング中の未確認対象データに対するより良い予測を実現している。
論文 参考訳(メタデータ) (2021-08-20T04:24:12Z) - Model-Based Domain Generalization [96.84818110323518]
本稿では,モデルベースドメイン一般化問題に対する新しいアプローチを提案する。
我々のアルゴリズムは、最新のwildsベンチマークの最先端手法を最大20ポイント上回った。
論文 参考訳(メタデータ) (2021-02-23T00:59:02Z) - Learning Invariant Representations and Risks for Semi-supervised Domain
Adaptation [109.73983088432364]
半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。
共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
論文 参考訳(メタデータ) (2020-10-09T15:42:35Z) - Learning to Learn with Variational Information Bottleneck for Domain
Generalization [128.90691697063616]
ドメイン一般化モデルは、これまで見つからなかった領域に一般化することを学ぶが、予測の不確実性とドメインシフトに悩まされる。
ドメイン一般化のための確率論的メタラーニングモデルを導入し、ドメイン間で共有されるパラメータを分布としてモデル化する。
ドメインシフトに対処するため、メタ変動情報ボトルネックという提案原則を用いてドメイン不変表現を学習し、メタVIBと呼ぶ。
論文 参考訳(メタデータ) (2020-07-15T12:05:52Z) - Representation via Representations: Domain Generalization via
Adversarially Learned Invariant Representations [14.751829773340537]
複数の「研究」(または領域)から不変表現を学習するための敵対的検閲手法について検討する。
医学的な予測のような多くの文脈において、人口の多い地域での研究からの領域の一般化は、アルゴリズム的公正性に関する以前の研究では予想されていなかった、異なる風味の公平性を提供する。
論文 参考訳(メタデータ) (2020-06-20T02:35:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。