論文の概要: DecAug: Out-of-Distribution Generalization via Decomposed Feature
Representation and Semantic Augmentation
- arxiv url: http://arxiv.org/abs/2012.09382v1
- Date: Thu, 17 Dec 2020 03:46:09 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-02 07:21:15.619872
- Title: DecAug: Out-of-Distribution Generalization via Decomposed Feature
Representation and Semantic Augmentation
- Title（参考訳）: DecAug: Decomposed Feature Representation と Semantic Augmentation によるアウト・オブ・ディストリビューションの一般化
- Authors: Haoyue Bai, Rui Sun, Lanqing Hong, Fengwei Zhou, Nanyang Ye, Han-Jia
Ye, S.-H. Gary Chan, Zhenguo Li
- Abstract要約: 深層学習は、しばしば分布外(OoD)一般化に苦しむ。
OoD一般化のための新しい分解特徴表現および意味的拡張アプローチであるDecAugを提案する。
DecAugは、さまざまなOoDデータセットの他の最先端のメソッドよりも優れています。
- 参考スコア（独自算出の注目度）: 29.18840132995509
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: While deep learning demonstrates its strong ability to handle independent and
identically distributed (IID) data, it often suffers from out-of-distribution
(OoD) generalization, where the test data come from another distribution
(w.r.t. the training one). Designing a general OoD generalization framework to
a wide range of applications is challenging, mainly due to possible correlation
shift and diversity shift in the real world. Most of the previous approaches
can only solve one specific distribution shift, such as shift across domains or
the extrapolation of correlation. To address that, we propose DecAug, a novel
decomposed feature representation and semantic augmentation approach for OoD
generalization. DecAug disentangles the category-related and context-related
features. Category-related features contain causal information of the target
object, while context-related features describe the attributes, styles,
backgrounds, or scenes, causing distribution shifts between training and test
data. The decomposition is achieved by orthogonalizing the two gradients
(w.r.t. intermediate features) of losses for predicting category and context
labels. Furthermore, we perform gradient-based augmentation on context-related
features to improve the robustness of the learned representations. Experimental
results show that DecAug outperforms other state-of-the-art methods on various
OoD datasets, which is among the very few methods that can deal with different
types of OoD generalization challenges.
- Abstract（参考訳）: ディープラーニングは、独立で同一に分散した(IID)データを扱う強力な能力を示しているが、テストデータが別の分布(w.r.t)から来るようなOoD(out-of-distriion)の一般化に悩まされることが多い。
訓練1号)
一般のOoD一般化フレームワークを広範囲のアプリケーションに設計することは、主に現実世界における相関シフトと多様性シフトによって困難である。
以前のアプローチのほとんどは、ドメイン間のシフトや相関の補間など、ひとつの特定の分散シフトのみを解決できる。
そこで本研究では,OoD一般化のための特徴表現と意味拡張手法であるDecAugを提案する。
DecAugはカテゴリ関連の機能とコンテキスト関連の機能を分離する。
カテゴリ関連機能は対象オブジェクトの因果情報を含み、コンテキスト関連機能は属性、スタイル、背景、シーンを記述し、トレーニングデータとテストデータの間の分散シフトを引き起こす。
この分解は2つの勾配(w.r.t)の直交化によって達成される。
中間特徴) カテゴリーとコンテキストラベルの予測のための損失。
さらに,学習表現のロバスト性を改善するために,文脈関連特徴の勾配に基づく拡張を行う。
実験結果から、DecAugは様々なOoDデータセット上で、様々なタイプのOoD一般化課題に対処できる手法の中で、他の最先端手法よりも優れていることが示された。
関連論文リスト
- Studying Generalization Through Data Averaging [0.0]
本研究では,異なるデータセットのサンプルに対する差の平均から得られる一般化ギャップと,列車および試験性能について検討する。
我々はSGDノイズの関数として一般化ギャップとモデルトレインとテスト性能の相違についていくつかの側面を予測した。
論文 参考訳（メタデータ） (2022-06-28T00:03:40Z) - Causal Transportability for Visual Recognition [70.13627281087325]
画像とラベルの関連性は、設定間では転送できないため、標準分類器がフェールすることを示す。
次に、すべての共起源を摂食する因果効果が、ドメイン間で不変であることを示す。
これにより、画像分類における因果効果を推定するアルゴリズムを開発する動機付けとなる。
論文 参考訳（メタデータ） (2022-04-26T15:02:11Z) - Handling Distribution Shifts on Graphs: An Invariance Perspective [77.14319095965058]
グラフ上のノードレベルの予測にOOD問題を定式化する。
そこで我々は,探索から抽出までのリスク最小化という新たなドメイン不変学習手法を開発した。
理論的に有効なOOD解の保証を示すことによって,本手法の有効性を実証する。
論文 参考訳（メタデータ） (2022-02-05T02:31:01Z) - Imagine by Reasoning: A Reasoning-Based Implicit Semantic Data
Augmentation for Long-Tailed Classification [17.08583412899347]
実世界のデータは、しばしば長い尾の分布に従うため、既存の分類アルゴリズムの性能は大幅に低下する。
本稿では,他のクラスから変換方向を借用する,推論に基づく暗黙的意味データ拡張手法を提案する。
CIFAR-100-LT, ImageNet-LT, iNaturalist 2018の実験結果から, 提案手法の有効性が示された。
論文 参考訳（メタデータ） (2021-12-15T07:14:39Z) - Semantic Concentration for Domain Adaptation [23.706231329913113]
ドメイン適応(DA)は、ラベル豊富なソースドメインから関連するがラベルのないターゲットドメインへの知識転送によるラベルアノテーションとデータセットバイアスの問題に対する道を開く。
DA手法の主流は、2つのドメインの特徴分布を整列させることである。
本稿では,ドメイン適応のためのセマンティック集中モデルを提案する。
論文 参考訳（メタデータ） (2021-08-12T13:04:36Z) - Accuracy on the Line: On the Strong Correlation Between
Out-of-Distribution and In-Distribution Generalization [89.73665256847858]
分布外性能は,広範囲なモデルと分布シフトに対する分布内性能と強く相関していることを示す。
具体的には,CIFAR-10 と ImageNet の変種に対する分布内分布と分布外分布性能の強い相関関係を示す。
また,CIFAR-10-Cと組織分類データセットCamelyon17-WILDSの合成分布の変化など,相関が弱いケースについても検討した。
論文 参考訳（メタデータ） (2021-07-09T19:48:23Z) - Mitigating Generation Shifts for Generalized Zero-Shot Learning [52.98182124310114]
一般化ゼロショット学習(英: Generalized Zero-Shot Learning、GZSL)は、学習中に見知らぬクラスが観察できない、見つからないサンプルを認識するために意味情報(属性など)を活用するタスクである。
本稿では,未知のデータ合成を効率よく,効率的に学習するための新しい生成シフト緩和フローフレームワークを提案する。
実験結果から,GSMFlowは従来のゼロショット設定と一般化されたゼロショット設定の両方において,最先端の認識性能を実現することが示された。
論文 参考訳（メタデータ） (2021-07-07T11:43:59Z) - Learning Domain Invariant Representations for Generalizable Person
Re-Identification [71.35292121563491]
ReID(Generalizable person Re-Identification)は、最近のコンピュータビジョンコミュニティで注目を集めている。
DIR-ReID(Domain Invariant Representations for Generalizable Person Re-Identification)という新しい一般化フレームワークを提案する。
論文 参考訳（メタデータ） (2021-03-29T18:59:48Z) - Adversarial Feature Augmentation and Normalization for Visual
Recognition [109.6834687220478]
最近のコンピュータビジョンの進歩は、分類モデルの一般化能力を改善するために、逆データ拡張を利用する。
本稿では,中間的特徴埋め込みにおける敵対的拡張を提唱する効率的かつ効率的な代替手法を提案する。
代表的なバックボーンネットワークを用いて,多様な視覚認識タスクにまたがる提案手法を検証する。
論文 参考訳（メタデータ） (2021-03-22T20:36:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。