論文の概要: Yet Another Algorithm for Supervised Principal Component Analysis: Supervised Linear Centroid-Encoder

• arxiv url: http://arxiv.org/abs/2306.04622v1
• Date: Wed, 7 Jun 2023 17:52:29 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-08 13:02:19.177670
• Title: Yet Another Algorithm for Supervised Principal Component Analysis: Supervised Linear Centroid-Encoder
• Title（参考訳）: 主成分分析を監督する別のアルゴリズム:線形セントロイドエンコーダ
• Authors: Tomojit Ghosh, Michael Kirby
• Abstract要約: SLCE(Supervised Linear Centroid-Encoder)と呼ばれる新しい教師付き次元減少手法を提案する。 SLCEは、線形変換を用いて、クラスのサンプルをそのクラスセントロイドにマッピングすることで機能する。
• 参考スコア（独自算出の注目度）: 1.2487990897680423
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We propose a new supervised dimensionality reduction technique called Supervised Linear Centroid-Encoder (SLCE), a linear counterpart of the nonlinear Centroid-Encoder (CE) \citep{ghosh2022supervised}. SLCE works by mapping the samples of a class to its class centroid using a linear transformation. The transformation is a projection that reconstructs a point such that its distance from the corresponding class centroid, i.e., centroid-reconstruction loss, is minimized in the ambient space. We derive a closed-form solution using an eigendecomposition of a symmetric matrix. We did a detailed analysis and presented some crucial mathematical properties of the proposed approach. %We also provide an iterative solution approach based solving the optimization problem using a descent method. We establish a connection between the eigenvalues and the centroid-reconstruction loss. In contrast to Principal Component Analysis (PCA) which reconstructs a sample in the ambient space, the transformation of SLCE uses the instances of a class to rebuild the corresponding class centroid. Therefore the proposed method can be considered a form of supervised PCA. Experimental results show the performance advantage of SLCE over other supervised methods.
• Abstract（参考訳）: 非線形センタロイドエンコーダ (ce) \citep{ghosh2022 supervised} の線形対応であるsupervised linear centroid-encoder (slce) と呼ばれる新しい教師付き次元減少手法を提案する。 SLCEは、線形変換を用いて、クラスのサンプルをそのクラスセントロイドにマッピングすることで機能する。 変換は、対応するクラスセントロイドからの距離、すなわち、周辺空間においてセントロイド再構成損失が最小となるような点を再構築する射影である。 対称行列の固有分解を用いた閉形式解を導出する。 我々は詳細な解析を行い、提案手法の重要な数学的特性を示した。 また,下降法を用いて最適化問題を解く反復解法を提案する。 固有値と遠心再構成損失との関係を確立する。 周辺空間のサンプルを再構成する主成分分析(PCA)とは対照的に、SLCEの変換はクラスのインスタンスを使用して対応するクラスセントロイドを再構築する。 そのため,提案手法は教師付きPCAの一種とみなすことができる。 実験の結果,他の教師付き手法に比べてSLCEの性能上の利点が示された。

関連論文リスト

• Self-Supervised Graph Embedding Clustering [70.36328717683297]
  K-means 1-step dimensionality reduction clustering method は,クラスタリングタスクにおける次元性の呪いに対処する上で,いくつかの進歩をもたらした。 本稿では,K-meansに多様体学習を統合する統一フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-09-24T08:59:51Z)
• Synergistic eigenanalysis of covariance and Hessian matrices for enhanced binary classification [72.77513633290056]
  本稿では, 学習モデルを用いて評価したヘッセン行列をトレーニングセットで評価した共分散行列の固有解析と, 深層学習モデルで評価したヘッセン行列を組み合わせた新しい手法を提案する。 本手法は複雑なパターンと関係を抽出し,分類性能を向上する。
  論文  参考訳（メタデータ） (2024-02-14T16:10:42Z)
• Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
  本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。 最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
  論文  参考訳（メタデータ） (2023-10-20T12:45:12Z)
• Deep Unrolling for Nonconvex Robust Principal Component Analysis [75.32013242448151]
  我々はロバスト成分分析のためのアルゴリズムを設計する(A) 行列を低主行列とスパース主行列の和に分解する。
  論文  参考訳（メタデータ） (2023-07-12T03:48:26Z)
• An Optimization-based Deep Equilibrium Model for Hyperspectral Image Deconvolution with Convergence Guarantees [71.57324258813675]
  本稿では,ハイパースペクトル画像のデコンボリューション問題に対処する新しい手法を提案する。 新しい最適化問題を定式化し、学習可能な正規化器をニューラルネットワークの形で活用する。 導出した反復解法は、Deep Equilibriumフレームワーク内の不動点計算問題として表現される。
  論文  参考訳（メタデータ） (2023-06-10T08:25:16Z)
• Sparse Linear Centroid-Encoder: A Convex Method for Feature Selection [1.057079240576682]
  本稿では,Sparse Centroid-Encoder (SLCE) を提案する。 このアルゴリズムは線形ネットワークを使用して、ニューラルネットワークを同時に再構築する。
  論文  参考訳（メタデータ） (2023-06-07T23:07:55Z)
• Learning in Inverse Optimization: Incenter Cost, Augmented Suboptimality Loss, and Algorithms [4.0295993947651025]
  我々は、最近Besbesらによって提案された「内心」の概念を、周辺に類似した新しい概念として紹介する。 本稿では,不整合データ問題に対する内心的概念の緩和であるASL (Augmented Suboptimality Loss) という新たな損失関数を提案する。 このアルゴリズムは、近似的な下位段階の評価とミラー降下更新ステップを組み合わせることで、高濃度の離散可能な集合を持つIO問題に対して、確実に効率的である。
  論文  参考訳（メタデータ） (2023-05-12T18:58:08Z)
• Entropic Wasserstein Component Analysis [8.744017403796406]
  次元減少(DR)の鍵となる要件は、元のサンプルと組込みサンプルの間にグローバルな依存関係を組み込むことである。 最適輸送(OT)と主成分分析(PCA)の原理を組み合わせる。 提案手法は, サンプルの近傍情報を自然に符号化するエントロピーOTを用いて, 復元誤差を最小化する最適線形部分空間を求める。
  論文  参考訳（メタデータ） (2023-03-09T08:59:33Z)
• Linearization Algorithms for Fully Composite Optimization [61.20539085730636]
  本稿では,完全合成最適化問題を凸コンパクト集合で解くための一階アルゴリズムについて検討する。 微分可能および非微分可能を別々に扱い、滑らかな部分のみを線形化することで目的の構造を利用する。
  論文  参考訳（メタデータ） (2023-02-24T18:41:48Z)
• Fair Recommendation by Geometric Interpretation and Analysis of Matrix Factorization [4.658166900129066]
  行列分解に基づくレコメンデータシステムは、事実上次元減少技術を保存する角度を保存するものである。 我々は、次元減少問題を保存する元の角度を、次元減少問題を保存する距離に再構成する。 従来の高次元のレコメンダシステムの入力データの幾何学的形状は、興味深い性質を持つ同心円上に分布していることを示す。
  論文  参考訳（メタデータ） (2023-01-10T05:30:46Z)
• A Manifold Proximal Linear Method for Sparse Spectral Clustering with Application to Single-Cell RNA Sequencing Data Analysis [9.643152256249884]
  本稿では,SSCモデルを非滑らかかつ非客観的な最適化モデルとして広く採用している。 本研究では,従来のSSC問題を解く新しい手法(ManPL)を提案する。 提案手法の結果が得られた。
  論文  参考訳（メタデータ） (2020-07-18T22:05:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。