論文の概要: Gated Domain Units for Multi-source Domain Generalization
- arxiv url: http://arxiv.org/abs/2206.12444v1
- Date: Fri, 24 Jun 2022 18:12:38 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-28 15:33:06.712901
- Title: Gated Domain Units for Multi-source Domain Generalization
- Title(参考訳): マルチソースドメイン一般化のためのゲーテッドドメインユニット
- Authors: Simon F\"oll, Alina Dubatovka, Eugen Ernst, Martin Maritsch, Patrik
Okanovic, Gudrun Th\"ater, Joachim M. Buhmann, Felix Wortmann, Krikamol
Muandet
- Abstract要約: 我々はGDU(Gated Domain Units)で構成されるニューラルネットワーク層を開発する。
推測中、GDUは観測と対応する基本分布のそれぞれとの類似性を計算する。
Digits5,ECG,Camelyon17,iWildCam,FMoWに対する評価では,トレーニング対象ドメインの性能が大幅に向上した。
- 参考スコア(独自算出の注目度): 15.130726408598642
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Distribution shift (DS) is a common problem that deteriorates the performance
of learning machines. To overcome this problem, we postulate that real-world
distributions are composed of elementary distributions that remain invariant
across different domains. We call this an invariant elementary distribution
(I.E.D.) assumption. This invariance thus enables knowledge transfer to unseen
domains. To exploit this assumption in domain generalization (DG), we developed
a modular neural network layer that consists of Gated Domain Units (GDUs). Each
GDU learns an embedding of an individual elementary domain that allows us to
encode the domain similarities during the training. During inference, the GDUs
compute similarities between an observation and each of the corresponding
elementary distributions which are then used to form a weighted ensemble of
learning machines. Because our layer is trained with backpropagation, it can be
easily integrated into existing deep learning frameworks. Our evaluation on
Digits5, ECG, Camelyon17, iWildCam, and FMoW shows a significant improvement in
the performance on out-of-training target domains without any access to data
from the target domains. This finding supports the validity of the I.E.D.
assumption in real-world data distributions.
- Abstract(参考訳): 分散シフト(DS)は、学習機械の性能を低下させる一般的な問題である。
この問題を解決するために、実世界の分布は、異なる領域で不変な基本分布からなると仮定する。
これを不変基本分布(I.E.D.)という。
この不変性は、未知の領域への知識伝達を可能にする。
ドメイン一般化(DG)におけるこの仮定を活用するために,GDU(Gated Domain Units)で構成されるモジュール型ニューラルネットワーク層を開発した。
各GDUは個別の初等ドメインの埋め込みを学び、トレーニング中にドメインの類似性をエンコードします。
推論中、GDUは観測と対応する基本分布のそれぞれとの類似性を計算し、学習機械の重み付けアンサンブルを形成する。
私たちのレイヤはバックプロパゲーションでトレーニングされているので、既存のディープラーニングフレームワークに簡単に統合することができます。
Digits5,ECG,Camelyon17,iWildCam,FMoWに対する評価では,対象ドメインからのデータにアクセスすることなく,トレーニング対象ドメイン上での性能が大幅に向上した。
この発見は、実世界のデータ分布におけるI.E.D.仮定の妥当性を支持する。
関連論文リスト
- Non-stationary Domain Generalization: Theory and Algorithm [11.781050299571692]
本稿では,非定常環境における領域一般化について検討する。
まず,環境非定常性がモデル性能に及ぼす影響について検討する。
そこで我々は適応不変表現学習に基づく新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-05-10T21:32:43Z) - DIGIC: Domain Generalizable Imitation Learning by Causal Discovery [69.13526582209165]
因果性は機械学習と組み合わせて、ドメインの一般化のための堅牢な表現を生成する。
我々は、実証データ分布を活用して、ドメインの一般化可能なポリシーの因果的特徴を発見するために、異なる試みを行っている。
DIGICと呼ばれる新しいフレームワークを設計し、実演データ分布から専門家行動の直接的な原因を見出すことにより因果的特徴を識別する。
論文 参考訳(メタデータ) (2024-02-29T07:09:01Z) - Multi-Domain Causal Representation Learning via Weak Distributional
Invariances [27.72497122405241]
因果表現学習は因果機械学習研究における行動の中心として現れてきた。
このような不変性を組み込んだオートエンコーダは、他の部分から異なる設定で安定なラテントの集合を確実に特定できることを示す。
論文 参考訳(メタデータ) (2023-10-04T14:41:41Z) - Improving Domain Generalization with Domain Relations [77.63345406973097]
本稿では、モデルがトレーニングされたドメインと異なる新しいドメインに適用されたときに発生するドメインシフトに焦点を当てる。
ドメイン固有モデルを学習するためのD$3$Gという新しい手法を提案する。
以上の結果から,D$3$Gは最先端の手法より一貫して優れていた。
論文 参考訳(メタデータ) (2023-02-06T08:11:16Z) - Towards Generalization on Real Domain for Single Image Dehazing via
Meta-Learning [41.99615673136883]
合成画像から得られた内部情報は、通常、実際の領域では準最適である。
本稿では,メタラーニングに基づくドメイン一般化フレームワークを提案する。
提案手法は,最先端の競争相手よりも優れた一般化能力を有する。
論文 参考訳(メタデータ) (2022-11-14T07:04:00Z) - AFAN: Augmented Feature Alignment Network for Cross-Domain Object
Detection [90.18752912204778]
オブジェクト検出のための教師なしドメイン適応は、多くの現実世界のアプリケーションにおいて難しい問題である。
本稿では、中間領域画像生成とドメイン・アドバイザリー・トレーニングを統合した新しい機能アライメント・ネットワーク(AFAN)を提案する。
提案手法は、類似および異種ドメイン適応の双方において、標準ベンチマークにおける最先端の手法よりも大幅に優れている。
論文 参考訳(メタデータ) (2021-06-10T05:01:20Z) - Inferring Latent Domains for Unsupervised Deep Domain Adaptation [54.963823285456925]
Unsupervised Domain Adaptation (UDA)は、ラベル付きデータが利用できないターゲットドメインでモデルを学習する問題を指す。
本稿では,視覚データセット中の潜在ドメインを自動的に発見することにより,udaの問題に対処する新しい深層アーキテクチャを提案する。
提案手法を公開ベンチマークで評価し,最先端のドメイン適応手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2021-03-25T14:33:33Z) - Robust Domain-Free Domain Generalization with Class-aware Alignment [4.442096198968069]
ドメインフリードメイン一般化(DFDG)は、目に見えないテストドメインでより良い一般化性能を実現するモデル非依存の方法である。
DFDGは新しい戦略を用いてドメイン不変なクラス差別的特徴を学習する。
時系列センサと画像分類公開データセットの両方で競合性能を得る。
論文 参考訳(メタデータ) (2021-02-17T17:46:06Z) - Learning Invariant Representations and Risks for Semi-supervised Domain
Adaptation [109.73983088432364]
半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。
共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
論文 参考訳(メタデータ) (2020-10-09T15:42:35Z) - Dual Distribution Alignment Network for Generalizable Person
Re-Identification [174.36157174951603]
ドメイン一般化(DG)は、人物再識別(Re-ID)を扱うための有望なソリューションとして機能する
本稿では、複数のソースドメインの分布を選択的に整列させることにより、この問題に対処するDual Distribution Alignment Network(DDAN)を提案する。
大規模なDomain Generalization Re-ID(DG Re-ID)ベンチマークでDDANを評価した。
論文 参考訳(メタデータ) (2020-07-27T00:08:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。