論文の概要: Efficient Domain Generalization via Common-Specific Low-Rank
Decomposition
- arxiv url: http://arxiv.org/abs/2003.12815v2
- Date: Tue, 7 Apr 2020 04:28:06 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-18 23:28:25.432638
- Title: Efficient Domain Generalization via Common-Specific Low-Rank
Decomposition
- Title(参考訳): 共通特異低ランク分解による効率的領域一般化
- Authors: Vihari Piratla, Praneeth Netrapalli, Sunita Sarawagi
- Abstract要約: ドメイン一般化とは、トレーニング中に見えない新しいドメインに一般化するモデルを訓練するタスクである。
我々は、共通コンポーネント(新しいドメインに一般化する)とドメイン固有コンポーネント(トレーニングドメインに過度に適合する)を共同で学習するCSD(Common Specific Decomposition)を提案する。
このアルゴリズムは非常に単純で、任意のニューラルネットワークアーキテクチャの最終線形分類層を変更するだけでよい。
- 参考スコア(独自算出の注目度): 40.98883072715791
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Domain generalization refers to the task of training a model which
generalizes to new domains that are not seen during training. We present CSD
(Common Specific Decomposition), for this setting,which jointly learns a common
component (which generalizes to new domains) and a domain specific component
(which overfits on training domains). The domain specific components are
discarded after training and only the common component is retained. The
algorithm is extremely simple and involves only modifying the final linear
classification layer of any given neural network architecture. We present a
principled analysis to understand existing approaches, provide identifiability
results of CSD,and study effect of low-rank on domain generalization. We show
that CSD either matches or beats state of the art approaches for domain
generalization based on domain erasure, domain perturbed data augmentation, and
meta-learning. Further diagnostics on rotated MNIST, where domains are
interpretable, confirm the hypothesis that CSD successfully disentangles common
and domain specific components and hence leads to better domain generalization.
- Abstract(参考訳): ドメイン一般化とは、トレーニング中に見えない新しいドメインに一般化するモデルを訓練するタスクである。
我々は、この設定のためにcsd(common specific decomposition)を提示し、共通コンポーネント(新しいドメインに一般化する)とドメイン固有コンポーネント(トレーニングドメインに過剰に適合する)を共同で学習する。
ドメイン固有のコンポーネントはトレーニング後に破棄され、共通コンポーネントのみが保持される。
このアルゴリズムは非常に単純で、任意のニューラルネットワークアーキテクチャの最終線形分類層を変更するだけでよい。
我々は,既存の手法を理解し,csdの識別可能性結果を提供し,低ランクがドメイン一般化に与える影響を研究するために,原理的な分析を行う。
CSDはドメイン消去、ドメイン摂動データ拡張、メタラーニングに基づくドメイン一般化の手法に適合するか、あるいは勝っていることを示す。
ドメインが解釈可能な回転mnistのさらなる診断は、csdが共通成分とドメイン固有成分をうまく分離し、ドメインの一般化に繋がるという仮説を裏付ける。
関連論文リスト
- Domain Generalization via Causal Adjustment for Cross-Domain Sentiment
Analysis [59.73582306457387]
クロスドメイン感情分析における領域一般化の問題に焦点をあてる。
本稿では,ドメイン固有表現とドメイン不変表現をアンタングル化するバックドア調整に基づく因果モデルを提案する。
一連の実験は、我々のモデルの優れたパフォーマンスと堅牢性を示しています。
論文 参考訳(メタデータ) (2024-02-22T13:26:56Z) - Domain-aware Triplet loss in Domain Generalization [0.0]
ドメインシフトは、テストとトレーニングデータの分布の相違によって引き起こされる。
ドメイン一般化のためのドメイン認識三重項損失を設計し、モデルが類似のセマンティックな特徴をクラスタリングするのを助ける。
本アルゴリズムは,埋め込み空間におけるドメイン情報を分散するように設計されている。
論文 参考訳(メタデータ) (2023-03-01T14:02:01Z) - Domain-General Crowd Counting in Unseen Scenarios [25.171343652312974]
群集データ間のドメインシフトは、群集数モデルが目に見えないシナリオに一般化するのを著しく妨げます。
ソースドメインを複数のサブドメインに分割する動的サブドメイン分割方式を提案する。
画像特徴におけるドメイン固有情報からドメイン不変情報を切り離すために、ドメイン不変および-特定のクラウドメモリモジュールを設計する。
論文 参考訳(メタデータ) (2022-12-05T19:52:28Z) - Single-domain Generalization in Medical Image Segmentation via Test-time
Adaptation from Shape Dictionary [64.5632303184502]
ドメインの一般化は通常、モデル学習のために複数のソースドメインからのデータを必要とする。
本稿では,1つのソースドメインのみで最悪のシナリオ下でモデルを学習し,異なる未確認対象ドメインに直接一般化する,重要な単一ドメインの一般化問題について考察する。
本稿では,領域間で不変なセグメンテーションのセグメンテーション先情報を抽出し,統合する医用画像セグメンテーションにおいて,この問題に対処する新しいアプローチを提案する。
論文 参考訳(メタデータ) (2022-06-29T08:46:27Z) - Domain Generalization via Selective Consistency Regularization for Time
Series Classification [16.338176636365752]
ドメイン一般化手法は、限られた数のソースドメインからのデータで、ドメインシフトに頑健なモデルを学習することを目的としている。
本稿では,ソースドメイン間の予測一貫性を選択的に適用する表現学習手法を提案する。
論文 参考訳(メタデータ) (2022-06-16T01:57:35Z) - Localized Adversarial Domain Generalization [83.4195658745378]
対数領域の一般化は、領域の一般化に対する一般的なアプローチである。
空間コンパクト性維持(LADG)を用いた局所対向領域の一般化を提案する。
我々はWilds DGベンチマークで包括的な実験を行い、我々のアプローチを検証する。
論文 参考訳(メタデータ) (2022-05-09T08:30:31Z) - Compound Domain Generalization via Meta-Knowledge Encoding [55.22920476224671]
マルチモーダル分布を再正規化するために,スタイル駆動型ドメイン固有正規化(SDNorm)を導入する。
組込み空間における関係モデリングを行うために,プロトタイプ表現,クラスセントロイドを利用する。
4つの標準ドメイン一般化ベンチマークの実験により、COMENはドメインの監督なしに最先端のパフォーマンスを上回ることが判明した。
論文 参考訳(メタデータ) (2022-03-24T11:54:59Z) - Structured Latent Embeddings for Recognizing Unseen Classes in Unseen
Domains [108.11746235308046]
本稿では,異なる領域からの画像を投影することで,ドメインに依存しない遅延埋め込みを学習する手法を提案する。
挑戦的なDomainNetとDomainNet-LSベンチマークの実験は、既存のメソッドよりもアプローチの方が優れていることを示している。
論文 参考訳(メタデータ) (2021-07-12T17:57:46Z) - Domain Generalization in Biosignal Classification [37.70077538403524]
本研究は,生体信号データの領域一般化を初めて研究したものである。
提案手法は4つの未確認領域に対して最大16%の精度向上を実現する。
論文 参考訳(メタデータ) (2020-11-12T05:15:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。