論文の概要: Adversarial Canonical Correlation Analysis
- arxiv url: http://arxiv.org/abs/2005.10349v2
- Date: Tue, 9 Jun 2020 21:31:21 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-01 04:31:39.211908
- Title: Adversarial Canonical Correlation Analysis
- Title(参考訳): 逆正準相関解析
- Authors: Benjamin Dutton
- Abstract要約: 標準相関解析(CCA)は、複数のデータソースやビューから共通情報を抽出する手法である。
最近の研究は、深層学習におけるCCA確率的足場を与えている。
あるいは、逆法はオートエンコーダにおける変分ベイズ法に代わる強力な代替手段として生まれてきた。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Canonical Correlation Analysis (CCA) is a statistical technique used to
extract common information from multiple data sources or views. It has been
used in various representation learning problems, such as dimensionality
reduction, word embedding, and clustering. Recent work has given CCA
probabilistic footing in a deep learning context and uses a variational lower
bound for the data log likelihood to estimate model parameters. Alternatively,
adversarial techniques have arisen in recent years as a powerful alternative to
variational Bayesian methods in autoencoders. In this work, we explore
straightforward adversarial alternatives to recent work in Deep Variational CCA
(VCCA and VCCA-Private) we call ACCA and ACCA-Private and show how these
approaches offer a stronger and more flexible way to match the approximate
posteriors coming from encoders to much larger classes of priors than the VCCA
and VCCA-Private models. This allows new priors for what constitutes a good
representation, such as disentangling underlying factors of variation, to be
more directly pursued. We offer further analysis on the multi-level
disentangling properties of VCCA-Private and ACCA-Private through the use of a
newly designed dataset we call Tangled MNIST. We also design a validation
criteria for these models that is theoretically grounded, task-agnostic, and
works well in practice. Lastly, we fill a minor research gap by deriving an
additional variational lower bound for VCCA that allows the representation to
use view-specific information from both input views.
- Abstract(参考訳): 標準相関解析(CCA)は、複数のデータソースやビューから共通情報を抽出する統計手法である。
次元の減少、単語の埋め込み、クラスタリングなど、様々な表現学習問題で使われている。
最近の研究は、深層学習の文脈でCCA確率的な足場を与え、モデルパラメータを推定するためにデータログの確率を変動的に下限とする。
あるいは、自動エンコーダにおける変分ベイズ法に代わる強力な代替手段として、近年、敵対的手法が出現している。
本稿では,近年のVCCAとVCCA-Private(Deep Variational CCA)において,ACCAとACCA-Private(ACCA-Private)を併用することで,エンコーダから派生した近似の近似を,VCCAやVCCA-Privateモデルよりもはるかに大きな先行クラスに適合させる,より強力で柔軟な方法を示す。
これにより、変化の根底にある要因をより直接的に追従するなど、優れた表現を構成するものに対する新たな事前処理が可能になる。
我々は、Tangled MNISTと呼ばれる新しい設計データセットを用いて、VCCA-PrivateとACCA-Privateのマルチレベル・ディエンタングリング特性をさらに分析する。
また、理論的に基礎があり、タスクに依存しない、実際にうまく機能するモデルの検証基準を設計する。
最後に、両方の入力ビューからビュー特化情報を使用することができるVCCAの変分下界を導出することで、小さな研究ギャップを埋める。
関連論文リスト
- Preventing Model Collapse in Deep Canonical Correlation Analysis by Noise Regularization [10.216526425377149]
MVRL(Multi-View Representation Learning)は、オブジェクトの統一表現を多視点データから学習することを目的としている。
ディープ・カノニカル相関解析(DCCA)とその変種は単純な定式化を共有し、最先端の性能を示す。
モデル崩壊の問題,すなわちDCCAに基づく手法の性能が,トレーニングが進むと劇的に低下するのを観察する。
モデル崩壊防止のための新しいノイズ正規化手法を備えたNR-DCCAを開発した。
論文 参考訳(メタデータ) (2024-11-01T06:02:30Z) - Learning Feature Inversion for Multi-class Anomaly Detection under General-purpose COCO-AD Benchmark [101.23684938489413]
異常検出(AD)は、しばしば産業品質検査や医学的病変検査のための異常の検出に焦点が当てられている。
この研究はまず、COCOをADフィールドに拡張することにより、大規模で汎用的なCOCO-ADデータセットを構築する。
セグメンテーション分野のメトリクスにインスパイアされた我々は、より実用的なしきい値に依存したAD固有のメトリクスをいくつか提案する。
論文 参考訳(メタデータ) (2024-04-16T17:38:26Z) - Explaining Cross-Domain Recognition with Interpretable Deep Classifier [100.63114424262234]
解釈可能なDeep(IDC)は、ターゲットサンプルの最も近いソースサンプルを、分類器が決定を下す証拠として学習する。
我々のIDCは、精度の劣化がほとんどなく、最適なリジェクションオプションの分類を効果的に調整する、より説明可能なモデルに導かれる。
論文 参考訳(メタデータ) (2022-11-15T15:58:56Z) - Dynamically-Scaled Deep Canonical Correlation Analysis [77.34726150561087]
カノニカル相関解析 (CCA) は, 2つのビューの特徴抽出手法である。
本稿では,入力依存の正準相関モデルをトレーニングするための新しい動的スケーリング手法を提案する。
論文 参考訳(メタデータ) (2022-03-23T12:52:49Z) - Variational Interpretable Learning from Multi-view Data [2.687817337319978]
DICCAは、多視点データの共有とビュー固有のバリエーションの両方を分離するように設計されている。
実世界のデータセットにおける実証的な結果は、我々の手法がドメイン間で競合していることを示している。
論文 参考訳(メタデータ) (2022-02-28T01:56:44Z) - Regularizing Variational Autoencoder with Diversity and Uncertainty
Awareness [61.827054365139645]
変分オートエンコーダ(VAE)は、償却変分推論に基づいて潜伏変数の後部を近似する。
よりディバースで不確実な潜在空間を学習するための代替モデルDU-VAEを提案する。
論文 参考訳(メタデータ) (2021-10-24T07:58:13Z) - Revisiting Contrastive Methods for Unsupervised Learning of Visual
Representations [78.12377360145078]
対照的な自己教師型学習は、セグメンテーションやオブジェクト検出といった多くの下流タスクにおいて教師付き事前訓練よりも優れています。
本稿では,データセットのバイアスが既存手法にどのように影響するかを最初に検討する。
現在のコントラストアプローチは、(i)オブジェクト中心対シーン中心、(ii)一様対ロングテール、(iii)一般対ドメイン固有データセットなど、驚くほどうまく機能することを示す。
論文 参考訳(メタデータ) (2021-06-10T17:59:13Z) - Context Decoupling Augmentation for Weakly Supervised Semantic
Segmentation [53.49821324597837]
微調整されたセマンティックセグメンテーションは、近年深く研究されている困難な問題です。
本稿では、オブジェクトが現れる固有のコンテキストを変更する Context Decoupling Augmentation (CDA) メソッドを紹介します。
提案手法の有効性を検証するため, PASCAL VOC 2012データセットにいくつかの代替ネットワークアーキテクチャを用いた広範な実験を行い, CDAが様々なWSSS手法を新たな最先端技術に拡張できることを実証した。
論文 参考訳(メタデータ) (2021-03-02T15:05:09Z) - $\ell_0$-based Sparse Canonical Correlation Analysis [7.073210405344709]
正準相関解析(CCA)モデルは、2つの変数の集合間の関連を研究する上で強力である。
その成功にもかかわらず、CCAモデルは、いずれかのモダリティにおける変数数がサンプル数を超えた場合、壊れる可能性がある。
本稿では,2つのモードのスパース部分集合に基づく相関表現の学習法である $ell_0$-CCA を提案する。
論文 参考訳(メタデータ) (2020-10-12T11:44:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。