論文の概要: Contrastive Factor Analysis

• arxiv url: http://arxiv.org/abs/2407.21740v2
• Date: Thu, 1 Aug 2024 03:16:43 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-02 13:25:30.653090
• Title: Contrastive Factor Analysis
• Title（参考訳）: コントラスト要因分析
• Authors: Zhibin Duan, Tiansheng Wen, Yifei Wang, Chen Zhu, Bo Chen, Mingyuan Zhou,
• Abstract要約: 本稿では,新しいコントラスト要因分析フレームワークを提案する。 コントラスト学習の領域において、因子分析の有利な特性を活用することを目的としている。 非負因子分析の解釈可能性特性をさらに活用するために、非負バージョンに拡張される。
• 参考スコア（独自算出の注目度）: 70.02770079785559
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Factor analysis, often regarded as a Bayesian variant of matrix factorization, offers superior capabilities in capturing uncertainty, modeling complex dependencies, and ensuring robustness. As the deep learning era arrives, factor analysis is receiving less and less attention due to their limited expressive ability. On the contrary, contrastive learning has emerged as a potent technique with demonstrated efficacy in unsupervised representational learning. While the two methods are different paradigms, recent theoretical analysis has revealed the mathematical equivalence between contrastive learning and matrix factorization, providing a potential possibility for factor analysis combined with contrastive learning. Motivated by the interconnectedness of contrastive learning, matrix factorization, and factor analysis, this paper introduces a novel Contrastive Factor Analysis framework, aiming to leverage factor analysis's advantageous properties within the realm of contrastive learning. To further leverage the interpretability properties of non-negative factor analysis, which can learn disentangled representations, contrastive factor analysis is extended to a non-negative version. Finally, extensive experimental validation showcases the efficacy of the proposed contrastive (non-negative) factor analysis methodology across multiple key properties, including expressiveness, robustness, interpretability, and accurate uncertainty estimation.
• Abstract（参考訳）: 因子分析は、しばしば行列分解のベイズ変種と見なされるが、不確実性を捉え、複雑な依存関係をモデル化し、堅牢性を確保するのに優れた能力を提供する。 深層学習の時代が到来するにつれ、因子分析は表現力の限界により、徐々に注目されるようになってきている。 対照的に、対照的な学習は、教師なし表現学習における効果を示す強力な手法として現れてきた。 2つの手法は異なるパラダイムであるが、最近の理論的解析により、対照的学習と行列分解の数学的等価性が明らかとなり、因子分析と対照的学習が組み合わさる可能性が高まっている。 本稿では, コントラスト学習の相互接続性, 行列分解, 因子分析の動機付けにより, コントラスト学習の領域における因子分析の有利性を活用することを目的とした, 新たなコントラスト要因分析フレームワークを提案する。 不整合表現を学習できる非負因子分析の解釈可能性特性をさらに活用するために、コントラスト係数解析を非負バージョンに拡張する。 最後に, 提案手法の有効性を, 表現性, 頑健性, 解釈可能性, 正確な不確実性評価など, 複数の重要な特性にわたって検証した。

関連論文リスト

• Revealing Multimodal Contrastive Representation Learning through Latent Partial Causal Models [85.67870425656368]
  マルチモーダルデータに特化して設計された統一因果モデルを提案する。 マルチモーダル・コントラスト表現学習は潜在結合変数の同定に優れていることを示す。 実験では、仮定が破られたとしても、我々の発見の堅牢性を示す。
  論文  参考訳（メタデータ） (2024-02-09T07:18:06Z)
• Sensitivity Analysis of High-Dimensional Models with Correlated Inputs [0.0]
  相関パラメータの感度は大きさだけでなく、微分に基づく指数の符号も逆転することができる。 相関パラメータの感度が大まかに異なるだけでなく、微分に基づく指数の符号も逆転できることを示した。
  論文  参考訳（メタデータ） (2023-05-31T14:48:54Z)
• Neuro-Causal Factor Analysis [18.176375611711396]
  神経因果因子分析(NCFA)の枠組みについて紹介する。 NCFAは潜伏因果発見法により因子を同定し、可変オートエンコーダ(VAE)を用いる NCFAを実データおよび合成データセット上で評価し、データ再構成タスクにおける標準VAEと同等に動作することを示す。
  論文  参考訳（メタデータ） (2023-05-31T12:41:20Z)
• Fairness Increases Adversarial Vulnerability [50.90773979394264]
  フェアネスとロバストネスの間に二分法が存在することを示し、フェアネスを達成するとモデルロバストネスを減少させる。 非線形モデルと異なるアーキテクチャの実験は、複数の視覚領域における理論的発見を検証する。 フェアネスとロバストネスの良好なトレードオフを達成するためのモデルを構築するための,シンプルで効果的なソリューションを提案する。
  論文  参考訳（メタデータ） (2022-11-21T19:55:35Z)
• Counterfactual Reasoning for Out-of-distribution Multimodal Sentiment Analysis [56.84237932819403]
  本稿では,OODの高次一般化に対するテキストモダリティの悪影響を推定・緩和することを目的とする。 そこで本研究では,マルチモーダル感情分析のためのモデルに依存しない反現実的フレームワークを考案した。
  論文  参考訳（メタデータ） (2022-07-24T03:57:40Z)
• On Finite-Sample Identifiability of Contrastive Learning-Based Nonlinear Independent Component Analysis [11.012445089716016]
  この研究は GCL ベースの nICA の有限サンプル識別可能性解析を行う。 本フレームワークは, GCL損失関数の特性, 統計解析, 数値微分を加味したものである。
  論文  参考訳（メタデータ） (2022-06-14T04:59:08Z)
• Understanding Contrastive Learning Requires Incorporating Inductive Biases [64.56006519908213]
  下流タスクにおけるコントラスト学習の成功を理論的に説明しようとする最近の試みは、エム強化の特性とエムコントラスト学習の損失の値によって保証が証明されている。 このような分析は,関数クラスやトレーニングアルゴリズムの帰納的バイアスを無視し,いくつかの設定において不確実な保証につながることを実証する。
  論文  参考訳（メタデータ） (2022-02-28T18:59:20Z)
• Evaluations and Methods for Explanation through Robustness Analysis [117.7235152610957]
  分析による特徴に基づく説明の新たな評価基準を確立する。 我々は、緩やかに必要であり、予測に十分である新しい説明を得る。 我々は、現在の予測をターゲットクラスに移動させる一連の特徴を抽出するために、説明を拡張します。
  論文  参考訳（メタデータ） (2020-05-31T05:52:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。