論文の概要: A principled approach to model validation in domain generalization
- arxiv url: http://arxiv.org/abs/2304.00629v1
- Date: Sun, 2 Apr 2023 21:12:13 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-04 17:01:43.176817
- Title: A principled approach to model validation in domain generalization
- Title(参考訳): ドメイン一般化におけるモデル検証の原理的アプローチ
- Authors: Boyang Lyu, Thuan Nguyen, Matthias Scheutz, Prakash Ishwar, Shuchin
Aeron
- Abstract要約: 本稿では,検証プロセスが分類リスクとドメインの不一致の両方を考慮すべきであることを示唆する新しいモデル選択法を提案する。
提案手法の有効性を,いくつかの領域一般化データセットの数値計算により検証した。
- 参考スコア(独自算出の注目度): 30.459247038765568
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Domain generalization aims to learn a model with good generalization ability,
that is, the learned model should not only perform well on several seen domains
but also on unseen domains with different data distributions. State-of-the-art
domain generalization methods typically train a representation function
followed by a classifier jointly to minimize both the classification risk and
the domain discrepancy. However, when it comes to model selection, most of
these methods rely on traditional validation routines that select models solely
based on the lowest classification risk on the validation set. In this paper,
we theoretically demonstrate a trade-off between minimizing classification risk
and mitigating domain discrepancy, i.e., it is impossible to achieve the
minimum of these two objectives simultaneously. Motivated by this theoretical
result, we propose a novel model selection method suggesting that the
validation process should account for both the classification risk and the
domain discrepancy. We validate the effectiveness of the proposed method by
numerical results on several domain generalization datasets.
- Abstract(参考訳): ドメイン一般化は、優れた一般化能力を持つモデルを学ぶことを目的としており、学習されたモデルは、いくつかの目に見えないドメインだけでなく、異なるデータ分布を持つ未知のドメインでもうまく機能すべきである。
state-of-the-art domain generalization methodは通常、表現関数と分類器を共同で訓練し、分類リスクとドメインの不一致の両方を最小化する。
しかし、モデル選択に関しては、ほとんどの手法は、検証セットの最も低い分類リスクに基づいてのみモデルを選択する従来の検証ルーチンに依存している。
本稿では,分類リスクの最小化とドメインの不一致の軽減,すなわち,これら2つの目的の最小化を同時に達成することができないことのトレードオフを理論的に示す。
この理論的な結果から,検証プロセスが分類リスクとドメインの相違の両方を考慮すべきであることを示す新しいモデル選択法を提案する。
提案手法の有効性を,いくつかの領域一般化データセットの数値計算により検証した。
関連論文リスト
- Non-stationary Domain Generalization: Theory and Algorithm [11.781050299571692]
本稿では,非定常環境における領域一般化について検討する。
まず,環境非定常性がモデル性能に及ぼす影響について検討する。
そこで我々は適応不変表現学習に基づく新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-05-10T21:32:43Z) - Domain-Specific Risk Minimization for Out-of-Distribution Generalization [104.17683265084757]
まず、適応性ギャップを明示的に考慮した一般化境界を確立する。
本稿では,目標に対するより良い仮説の選択を導くための効果的なギャップ推定法を提案する。
もう1つの方法は、オンラインターゲットサンプルを用いてモデルパラメータを適応させることにより、ギャップを最小化することである。
論文 参考訳(メタデータ) (2022-08-18T06:42:49Z) - Domain Generalization via Selective Consistency Regularization for Time
Series Classification [16.338176636365752]
ドメイン一般化手法は、限られた数のソースドメインからのデータで、ドメインシフトに頑健なモデルを学習することを目的としている。
本稿では,ソースドメイン間の予測一貫性を選択的に適用する表現学習手法を提案する。
論文 参考訳(メタデータ) (2022-06-16T01:57:35Z) - A Prototype-Oriented Framework for Unsupervised Domain Adaptation [52.25537670028037]
メモリと計算効率のよい確率的フレームワークを提供し、クラスプロトタイプを抽出し、ターゲットとなる特徴をそれらと整合させる。
本稿では,単一ソース,マルチソース,クラス不均衡,ソースプライベートドメイン適応など,幅広いシナリオにおいて,本手法の汎用性を実証する。
論文 参考訳(メタデータ) (2021-10-22T19:23:22Z) - Model-Based Domain Generalization [96.84818110323518]
本稿では,モデルベースドメイン一般化問題に対する新しいアプローチを提案する。
我々のアルゴリズムは、最新のwildsベンチマークの最先端手法を最大20ポイント上回った。
論文 参考訳(メタデータ) (2021-02-23T00:59:02Z) - Selecting Treatment Effects Models for Domain Adaptation Using Causal
Knowledge [82.5462771088607]
監視されていないドメイン適応設定下でITE法用に特別に設計された新しいモデル選択メトリックを提案する。
特に,介入効果の予測が対象領域の既知の因果構造を満たすモデルを選択することを提案する。
論文 参考訳(メタデータ) (2021-02-11T21:03:14Z) - Learning Invariant Representations and Risks for Semi-supervised Domain
Adaptation [109.73983088432364]
半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。
共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
論文 参考訳(メタデータ) (2020-10-09T15:42:35Z) - Estimating Generalization under Distribution Shifts via Domain-Invariant
Representations [75.74928159249225]
未知の真のターゲットラベルのプロキシとして、ドメイン不変の予測器のセットを使用します。
結果として生じるリスク見積の誤差は、プロキシモデルのターゲットリスクに依存する。
論文 参考訳(メタデータ) (2020-07-06T17:21:24Z) - Domain segmentation and adjustment for generalized zero-shot learning [22.933463036413624]
ゼロショット学習では、見えないデータを生成モデルで合成することは、見えないクラスと見えないクラスのトレーニングデータの不均衡に対処する最も一般的な方法である。
未確認データの合成は、トレーニングデータの不均衡に起因する領域シフトに対処するための理想的なアプローチではないと我々は主張する。
本稿では,異なる領域における一般化されたゼロショット認識を実現することを提案する。
論文 参考訳(メタデータ) (2020-02-01T15:00:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。