論文の概要: Out-of-distribution Generalization via Partial Feature Decorrelation
- arxiv url: http://arxiv.org/abs/2007.15241v4
- Date: Wed, 23 Feb 2022 10:01:23 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-05 13:23:22.799542
- Title: Out-of-distribution Generalization via Partial Feature Decorrelation
- Title(参考訳): 部分的特徴の相関による分布外一般化
- Authors: Xin Guo, Zhengxu Yu, Chao Xiang, Zhongming Jin, Jianqiang Huang, Deng
Cai, Xiaofei He, Xian-Sheng Hua
- Abstract要約: 本稿では,特徴分解ネットワークと対象画像分類モデルとを協調的に最適化する,PFDL(Partial Feature Deorrelation Learning)アルゴリズムを提案する。
実世界のデータセットを用いた実験により,OOD画像分類データセットにおけるバックボーンモデルの精度が向上することを示した。
- 参考スコア(独自算出の注目度): 72.96261704851683
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Most deep-learning-based image classification methods assume that all samples
are generated under an independent and identically distributed (IID) setting.
However, out-of-distribution (OOD) generalization is more common in practice,
which means an agnostic context distribution shift between training and testing
environments. To address this problem, we present a novel Partial Feature
Decorrelation Learning (PFDL) algorithm, which jointly optimizes a feature
decomposition network and the target image classification model. The feature
decomposition network decomposes feature embeddings into the independent and
the correlated parts such that the correlations between features will be
highlighted. Then, the correlated features help learn a stable feature
representation by decorrelating the highlighted correlations while optimizing
the image classification model. We verify the correlation modeling ability of
the feature decomposition network on a synthetic dataset. The experiments on
real-world datasets demonstrate that our method can improve the backbone
model's accuracy on OOD image classification datasets.
- Abstract(参考訳): ほとんどのディープラーニングベースの画像分類手法は、すべてのサンプルが独立かつ同一分散(iid)設定下で生成されると仮定している。
しかし、アウト・オブ・ディストリビューション(ood)の一般化は実際には一般的であり、トレーニング環境とテスト環境の間の非依存なコンテキストの分散シフトを意味する。
この問題に対処するために,特徴分解ネットワークと対象画像分類モデルとを協調的に最適化する,PFDL(Partial Feature Deorrelation Learning)アルゴリズムを提案する。
特徴分解ネットワークは、特徴間の相関が強調されるように、独立部分と相関部分に特徴埋め込みを分解する。
そして、画像分類モデルを最適化しながら、強調された相関関係をデコレーションすることで、関連性のある特徴表現を学習する。
合成データセット上の特徴分解ネットワークの相関モデリング能力を検証する。
実世界のデータセットを用いた実験により,OOD画像分類データセットにおけるバックボーンモデルの精度が向上することを示した。
関連論文リスト
- DIVE: Subgraph Disagreement for Graph Out-of-Distribution Generalization [44.291382840373]
本稿では,グラフ機械学習におけるアウト・オブ・ディストリビューションの一般化の課題に対処する。
従来のグラフ学習アルゴリズムは、この仮定が失敗する現実世界のシナリオで失敗する。
この準最適性能に寄与する主な要因は、ニューラルネットワークの本質的な単純さバイアスである。
論文 参考訳(メタデータ) (2024-08-08T12:08:55Z) - Integrated feature analysis for deep learning interpretation and class activation maps [1.5943223374606597]
深層学習モデルから抽出した中間的特徴を深く調べる統合的特徴分析法を提案する。
この統合された機能分析は、データセットのオーバーフィット、共同創設者、アウトリーチに関する情報を提供する可能性がある。
CAMの平均クラスアクティベーションレベルとモデルのロジットとの整合性を計算することにより,本手法の評価を行った。
論文 参考訳(メタデータ) (2024-07-01T10:10:57Z) - Common-Sense Bias Discovery and Mitigation for Classification Tasks [16.8259488742528]
画像記述に基づいてデータセットの特徴クラスタを抽出するフレームワークを提案する。
解析された特徴と相関は人間に解釈可能であるので、我々はCommon-Sense Bias Discovery (CSBD) という手法を名づける。
実験の結果,2つのベンチマーク画像データセットに対して,複数の分類タスクに新たなバイアスが生じることがわかった。
論文 参考訳(メタデータ) (2024-01-24T03:56:07Z) - Decom--CAM: Tell Me What You See, In Details! Feature-Level Interpretation via Decomposition Class Activation Map [23.71680014689873]
クラスアクティベーションマップ(CAM)は、オブジェクトの位置をハイライトすることで深層モデルの予測を解釈するために広く使われている。
本稿では,分解クラス活性化マップ(Decom-CAM)と呼ばれる2段階の解釈可能性を提案する。
実験の結果,提案したDecom-CAMは最先端の手法よりも優れていた。
論文 参考訳(メタデータ) (2023-05-27T14:33:01Z) - Adaptive Local-Component-aware Graph Convolutional Network for One-shot
Skeleton-based Action Recognition [54.23513799338309]
骨格に基づく行動認識のための適応的局所成分認識グラフ畳み込みネットワークを提案する。
我々の手法はグローバルな埋め込みよりも強力な表現を提供し、我々のモデルが最先端に到達するのに役立ちます。
論文 参考訳(メタデータ) (2022-09-21T02:33:07Z) - Deep Relational Metric Learning [84.95793654872399]
本稿では,画像クラスタリングと検索のためのディープリレーショナルメトリック学習フレームワークを提案する。
我々は、クラス間分布とクラス内分布の両方をモデル化するために、異なる側面から画像を特徴付ける特徴のアンサンブルを学ぶ。
広く使われているCUB-200-2011、Cars196、Stanford Online Productsデータセットの実験は、我々のフレームワークが既存の深層学習方法を改善し、非常に競争力のある結果をもたらすことを示した。
論文 参考訳(メタデータ) (2021-08-23T09:31:18Z) - Accuracy on the Line: On the Strong Correlation Between
Out-of-Distribution and In-Distribution Generalization [89.73665256847858]
分布外性能は,広範囲なモデルと分布シフトに対する分布内性能と強く相関していることを示す。
具体的には,CIFAR-10 と ImageNet の変種に対する分布内分布と分布外分布性能の強い相関関係を示す。
また,CIFAR-10-Cと組織分類データセットCamelyon17-WILDSの合成分布の変化など,相関が弱いケースについても検討した。
論文 参考訳(メタデータ) (2021-07-09T19:48:23Z) - Model Fusion with Kullback--Leibler Divergence [58.20269014662046]
異種データセットから学習した後続分布を融合する手法を提案する。
我々のアルゴリズムは、融合モデルと個々のデータセット後部の両方に対する平均場仮定に依存している。
論文 参考訳(メタデータ) (2020-07-13T03:27:45Z) - Hierarchical regularization networks for sparsification based learning
on noisy datasets [0.0]
階層は、連続的により微細なスケールで特定される近似空間から従う。
各スケールでのモデル一般化を促進するため,複数次元にわたる新規な射影型ペナルティ演算子も導入する。
その結果、合成データセットと実データセットの両方において、データ削減およびモデリング戦略としてのアプローチの性能が示された。
論文 参考訳(メタデータ) (2020-06-09T18:32:24Z) - Dynamic Federated Learning [57.14673504239551]
フェデレートラーニング(Federated Learning)は、マルチエージェント環境における集中的なコーディネーション戦略の包括的用語として登場した。
我々は、各イテレーションにおいて、利用可能なエージェントのランダムなサブセットがそのデータに基づいてローカル更新を実行する、フェデレートされた学習モデルを考える。
集約最適化問題に対する真の最小化器上の非定常ランダムウォークモデルの下で、アーキテクチャの性能は、各エージェントにおけるデータ変動率、各エージェントにおけるモデル変動率、アルゴリズムの学習率に逆比例する追跡項の3つの要因によって決定されることを示す。
論文 参考訳(メタデータ) (2020-02-20T15:00:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。