論文の概要: Revisiting Classical Multiclass Linear Discriminant Analysis with a Novel Prototype-based Interpretable Solution

• arxiv url: http://arxiv.org/abs/2205.00668v1
• Date: Mon, 2 May 2022 06:12:42 GMT
• ステータス: 処理完了
• システム内更新日: 2022-05-03 15:15:43.171271
• Title: Revisiting Classical Multiclass Linear Discriminant Analysis with a Novel Prototype-based Interpretable Solution
• Title（参考訳）: 新しいプロトタイプベース解釈解を用いた古典的多クラス線形判別法の再検討
• Authors: Sayed Kamaledin Ghiasi-Shirazi
• Abstract要約: LDA++と呼ばれる古典的なLDAに新しいソリューションを導入し、1つのクラスタと類似度を測定するものとして解釈可能な$C$の機能を提供する。 この新しい解法は次元還元と多クラス分類の間に橋渡しされる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Linear discriminant analysis (LDA) is a fundamental method for feature extraction and dimensionality reduction. Despite having many variants, classical LDA has its importance, as it is a keystone in human knowledge about pattern recognition. For a dataset containing $C$ clusters, the classical solution to LDA extracts at most $C-1$ features. In this paper, we introduce a novel solution to classical LDA, called LDA++, that yields $C$ features, each one interpretable as measuring similarity to one cluster. This novel solution bridges between dimensionality reduction and multiclass classification. Specifically, we prove that, under some mild conditions, the optimal weights of a linear multiclass classifier for homoscedastic Gaussian data also make an optimal solution to LDA. In addition, this novel interpretable solution reveals some new facts about LDA and its relation with PCA. We provide a complete numerical solution for our novel method, covering the cases 1) when the scatter matrices can be constructed explicitly, 2) when constructing the scatter matrices is infeasible, and 3) the kernel extension. The code is available at https://github.com/k-ghiasi/LDA-plus-plus.
• Abstract（参考訳）: 線形判別分析(LDA)は特徴抽出と次元減少の基本的な方法である。 多くの変種があるにもかかわらず、古典的なLDAは、パターン認識に関する人間の知識のキーストーンであるため、その重要性がある。 C$クラスタを含むデータセットの場合、LDAの古典的なソリューションは、最大$C-1$の機能を抽出する。 本稿では,LDA++と呼ばれる古典的LDAに対して,それぞれが1つのクラスタとの類似度を測定するものとして解釈可能な,$C$の機能を実現する新しいソリューションを提案する。 この新しい解は、次元の縮小と多クラス分類を橋渡しする。 具体的には、いくつかの穏やかな条件下では、ホモシダスティックガウスデータに対する線形多クラス分類器の最適重みがLDAの最適解であることを示す。 さらに、この新しい解釈可能な解法は、LDAとそのPCAとの関係に関するいくつかの新しい事実を明らかにする。 ケースを網羅する新しい手法の完全な数値解を提供する。 1)散乱行列を明示的に構築することができる場合 2)散布行列の構築は不可能であり、 3) カーネル拡張。 コードはhttps://github.com/k-ghiasi/lda-plus-plusで入手できる。

関連論文リスト

• Synergistic eigenanalysis of covariance and Hessian matrices for enhanced binary classification [72.77513633290056]
  本稿では, 学習モデルを用いて評価したヘッセン行列をトレーニングセットで評価した共分散行列の固有解析と, 深層学習モデルで評価したヘッセン行列を組み合わせた新しい手法を提案する。 本手法は複雑なパターンと関係を抽出し,分類性能を向上する。
  論文  参考訳（メタデータ） (2024-02-14T16:10:42Z)
• Minimally Informed Linear Discriminant Analysis: training an LDA model with unlabelled data [51.673443581397954]
  本研究では,LDAモデルからの正確な射影ベクトルを,ラベルのないデータに基づいて計算可能であることを示す。 MILDA投影ベクトルはLDAに匹敵する計算コストで閉じた形で計算可能であることを示す。
  論文  参考訳（メタデータ） (2023-10-17T09:50:31Z)
• Sparse Linear Centroid-Encoder: A Convex Method for Feature Selection [1.057079240576682]
  本稿では,Sparse Centroid-Encoder (SLCE) を提案する。 このアルゴリズムは線形ネットワークを使用して、ニューラルネットワークを同時に再構築する。
  論文  参考訳（メタデータ） (2023-06-07T23:07:55Z)
• GO-LDA: Generalised Optimal Linear Discriminant Analysis [6.644357197885522]
  線形判別分析はパターン認識やデータ解析の研究、実践において有用なツールである。 多クラスLDAに対する一般化固有解析解は、直交判別方向を導出したり、それに沿った投影データの識別を最大化したりしないことを示す。
  論文  参考訳（メタデータ） (2023-05-23T23:11:05Z)
• Divide-and-Conquer Hard-thresholding Rules in High-dimensional Imbalanced Classification [1.0312968200748118]
  高次元の線形判別分析(LDA)における不均衡クラスサイズの影響について検討した。 マイノリティ・クラスと呼ばれる1つのクラスのデータの不足により、LDAはマイノリティ・クラスを無視し、最大誤分類率を得ることを示す。 そこで本研究では,不等式化率の大きな差を低減させる分割・対数法に基づくハードコンカレンスルールの新たな構成法を提案する。
  論文  参考訳（メタデータ） (2021-11-05T07:44:28Z)
• Linear-Sample Learning of Low-Rank Distributions [56.59844655107251]
  ktimes k$, rank-r$, matrices to normalized $L_1$ distance requires $Omega(frackrepsilon2)$ sample。 我々は、$cal O(frackrepsilon2log2fracepsilon)$ sample, a number linear in the high dimension, and almost linear in the matrices, usually low, rank proofs.というアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-09-30T19:10:32Z)
• Self-Weighted Robust LDA for Multiclass Classification with Edge Classes [111.5515086563592]
  SWRLDAと呼ばれる,l21ノルムを基準とした新しい自己重み付き頑健なLDAを提案する。 提案するSWRLDAは実装が容易で,実際に高速に収束する。
  論文  参考訳（メタデータ） (2020-09-24T12:32:55Z)
• High-Dimensional Quadratic Discriminant Analysis under Spiked Covariance Model [101.74172837046382]
  そこで本研究では,魚の識別比を最大化する2次分類手法を提案する。 数値シミュレーションにより,提案した分類器は,合成データと実データの両方において古典的R-QDAよりも優れるだけでなく,計算量の削減も要求されることがわかった。
  論文  参考訳（メタデータ） (2020-06-25T12:00:26Z)
• Saliency-based Weighted Multi-label Linear Discriminant Analysis [101.12909759844946]
  複数ラベルの分類課題を解決するために,LDA(Linear Discriminant Analysis)の新たな変種を提案する。 提案手法は,個々の試料の重量を定義する確率モデルに基づく。 サリエンシに基づく重み付きマルチラベル LDA アプローチは,様々なマルチラベル分類問題の性能改善につながることが示されている。
  論文  参考訳（メタデータ） (2020-04-08T19:40:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。