論文の概要: Coupled regularized sample covariance matrix estimator for multiple
classes
- arxiv url: http://arxiv.org/abs/2011.04315v2
- Date: Tue, 9 Nov 2021 08:55:59 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-28 00:44:12.527607
- Title: Coupled regularized sample covariance matrix estimator for multiple
classes
- Title（参考訳）: 複数のクラスに対する結合正則化サンプル共分散行列推定器
- Authors: Elias Raninen and Esa Ollila
- Abstract要約: 正規化のための2つの異なるターゲット行列を結合した多クラス問題に対する正規化SCM (RSCM) 推定器を検討する。
推定器のMSE最適チューニングパラメータを導出し,その推定法を提案する。
提案した結合RSCMのMSE性能をシミュレーションおよび実データに基づく正規化判別分析(RDA)分類で評価する。
- 参考スコア（独自算出の注目度）: 14.41703014203756
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The estimation of covariance matrices of multiple classes with limited
training data is a difficult problem. The sample covariance matrix (SCM) is
known to perform poorly when the number of variables is large compared to the
available number of samples. In order to reduce the mean squared error (MSE) of
the SCM, regularized (shrinkage) SCM estimators are often used. In this work,
we consider regularized SCM (RSCM) estimators for multiclass problems that
couple together two different target matrices for regularization: the pooled
(average) SCM of the classes and the scaled identity matrix. Regularization
toward the pooled SCM is beneficial when the population covariances are
similar, whereas regularization toward the identity matrix guarantees that the
estimators are positive definite. We derive the MSE optimal tuning parameters
for the estimators as well as propose a method for their estimation under the
assumption that the class populations follow (unspecified) elliptical
distributions with finite fourth-order moments. The MSE performance of the
proposed coupled RSCMs are evaluated with simulations and in a regularized
discriminant analysis (RDA) classification set-up on real data. The results
based on three different real data sets indicate comparable performance to
cross-validation but with a significant speed-up in computation time.
- Abstract（参考訳）: 学習データに制限のある複数クラスの共分散行列の推定は難しい問題である。
サンプル共分散行列(SCM)は、利用可能なサンプルの数に比べて変数の数が大きい場合、性能が低いことが知られている。
SCMの平均二乗誤差(MSE)を低減するために、正規化された(収縮)SCM推定器がよく用いられる。
本研究では、正規化のための2つの異なるターゲット行列を結合した多重クラス問題に対する正規化 SCM (RSCM) 推定器について検討する。
プール化SCMに対する正則化は、人口共分散が類似しているときに有用であるが、恒常化は、恒常化が正定値であることを保証する。
推定器のmse最適調整パラメータを導出し、クラス集団が有限四次モーメントを持つ楕円分布に従う(特定されていない)ことを仮定して推定する手法を提案する。
提案した結合RSCMのMSE性能をシミュレーションおよび実データに基づく正規化判別分析(RDA)分類で評価する。
3つの異なる実データ集合に基づく結果は、クロスバリデーションに匹敵する性能を示すが、計算時間は大幅に向上する。
関連論文リスト
- Selecting the Number of Communities for Weighted Degree-Corrected Stochastic Block Models [5.117940794592611]
本研究では,重み付きネットワークのコミュニティ数を選択する方法を検討する。
本稿では, 平均隣接行列を標準DCSBMと同一にモデル化した新しい重み付き次数補正ブロックモデル(DCSBM)を提案する。
コミュニティ数を選択する方法は連続的なテストフレームワークに基づいており、各ステップで重み付けされたDCSBMをスペクトルクラスタリング法により取り付ける。
論文 参考訳（メタデータ） (2024-06-08T03:47:38Z) - Regularized Linear Discriminant Analysis Using a Nonlinear Covariance
Matrix Estimator [11.887333567383239]
線形判別分析(LDA)はデータ分類において広く用いられている手法である。
LDAは、データ共分散行列が不条件であるときに非効率になる。
このような状況に対応するために正規化LDA法が提案されている。
論文 参考訳（メタデータ） (2024-01-31T11:37:14Z) - DCID: Deep Canonical Information Decomposition [84.59396326810085]
本稿では,2つの1次元目標変数間で共有される信号の同定について考察する。
そこで本研究では,地中トラスラベルの存在下で使用可能な評価指標であるICMを提案する。
また、共有変数を学習するための単純かつ効果的なアプローチとして、Deep Canonical Information Decomposition (DCID)を提案する。
論文 参考訳（メタデータ） (2023-06-27T16:59:06Z) - Regularized EM algorithm [9.367612782346205]
本稿では,従来の知識を効率的に活用し,LSSの状況に対処できる,GMM-sの正規化EMアルゴリズムを提案する。
コンバージェンスホールドの理論的保証は、構造化共分散行列モデルや低サンプル設定のEMアルゴリズムの性能向上につながることを示す。
論文 参考訳（メタデータ） (2023-03-27T08:32:20Z) - Compound Batch Normalization for Long-tailed Image Classification [77.42829178064807]
本稿では,ガウス混合に基づく複合バッチ正規化法を提案する。
機能空間をより包括的にモデル化し、ヘッドクラスの優位性を減らすことができる。
提案手法は,画像分類における既存の手法よりも優れている。
論文 参考訳（メタデータ） (2022-12-02T07:31:39Z) - CARMS: Categorical-Antithetic-REINFORCE Multi-Sample Gradient Estimator [60.799183326613395]
本稿では, 相互に負に相関した複数のサンプルに基づく分類的確率変数の非バイアス推定器を提案する。
CARMSは、ReINFORCEとコプラベースのサンプリングを組み合わせることで、重複サンプルを回避し、その分散を低減し、重要サンプリングを使用して推定器を偏りなく維持する。
我々は、生成的モデリングタスクと構造化された出力予測タスクに基づいて、いくつかのベンチマークデータセット上でCARMSを評価し、強力な自己制御ベースラインを含む競合する手法より優れていることを示す。
論文 参考訳（メタデータ） (2021-10-26T20:14:30Z) - Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
帰納バイアスは 経験的に過剰フィットを防げる中心的存在です
この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。
我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
論文 参考訳（メタデータ） (2021-03-23T17:15:53Z) - Benchmarking Multivariate Time Series Classification Algorithms [69.12151492736524]
時系列分類(TSC)は、順序付き、実値付き、属性から離散的なターゲット変数の予測モデルを構築することを含む。
近年,従来の技術よりも大幅に改良された新しいTSCアルゴリズムが開発されている。
本稿では, 深層学習, シェープレット, 単語の袋を用いた MTSC アルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-07-26T15:56:40Z) - High-Dimensional Quadratic Discriminant Analysis under Spiked Covariance
Model [101.74172837046382]
そこで本研究では,魚の識別比を最大化する2次分類手法を提案する。
数値シミュレーションにより,提案した分類器は,合成データと実データの両方において古典的R-QDAよりも優れるだけでなく,計算量の削減も要求されることがわかった。
論文 参考訳（メタデータ） (2020-06-25T12:00:26Z) - Covariance Estimation for Matrix-valued Data [9.739753590548796]
本研究では,高次元行列データに対する分布自由正規化共分散推定法を提案する。
我々は、バンド可能な共分散を推定するための統一的な枠組みを定式化し、ランク1の制約のないクロネッカー積近似に基づく効率的なアルゴリズムを導入する。
格子状温度異常データセットとS&P 500ストックデータ解析によるシミュレーションと実応用を用いて,本手法の優れた有限サンプル性能を実証した。
論文 参考訳（メタデータ） (2020-04-11T02:15:26Z) - Sparse Covariance Estimation in Logit Mixture Models [0.0]
本稿では,ロジット混合モデルにおけるランダム係数のスパース共分散行列を推定するための新しいデータ駆動手法を提案する。
我々の目的は、共分散を推定する相関係数の最適部分集合を見つけることである。
論文 参考訳（メタデータ） (2020-01-14T20:19:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。