論文の概要: M-estimators of scatter with eigenvalue shrinkage
- arxiv url: http://arxiv.org/abs/2002.04996v1
- Date: Wed, 12 Feb 2020 13:47:58 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-01 20:33:12.361897
- Title: M-estimators of scatter with eigenvalue shrinkage
- Title(参考訳): 固有値収縮を伴う散乱のM推定器
- Authors: Esa Ollila, Daniel P. Palomar and Frederic Pascal
- Abstract要約: 本稿では,より一般的な手法として,SCMを散乱行列のM推定器に置き換える方法を考える。
我々のアプローチでは、ガウス関数、フーバー関数、または$t$重み関数など、任意の重み関数の使用が可能である。
シミュレーション例では,提案した最適チューニングと頑健な重み関数を併用した縮小M推定器は,ガウス的データの場合の縮小SCM推定器の性能が低下しないことを示した。
- 参考スコア(独自算出の注目度): 19.82023576081279
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A popular regularized (shrinkage) covariance estimator is the shrinkage
sample covariance matrix (SCM) which shares the same set of eigenvectors as the
SCM but shrinks its eigenvalues toward its grand mean. In this paper, a more
general approach is considered in which the SCM is replaced by an M-estimator
of scatter matrix and a fully automatic data adaptive method to compute the
optimal shrinkage parameter with minimum mean squared error is proposed. Our
approach permits the use of any weight function such as Gaussian, Huber's, or
$t$ weight functions, all of which are commonly used in M-estimation framework.
Our simulation examples illustrate that shrinkage M-estimators based on the
proposed optimal tuning combined with robust weight function do not loose in
performance to shrinkage SCM estimator when the data is Gaussian, but provide
significantly improved performance when the data is sampled from a heavy-tailed
distribution.
- Abstract(参考訳): 一般的な正規化(shrinkage)共分散推定器は、scmと同じ固有ベクトルのセットを共有するが、その固有値を大平均に向かって縮小する縮小サンプル共分散行列(scm)である。
本稿では,scmを散乱行列のm推定器に置き換えるより一般的な手法と,最小平均二乗誤差の最適収縮パラメータを計算するための完全自動データ適応法を提案する。
我々のアプローチでは、ガウス関数、フーバー関数、または$t$重み関数といった任意の重み関数の使用が可能である。
シミュレーション例では, 提案した最適チューニングと頑健な重み関数を組み合わせた縮小M推定器は, データがガウス分布である場合の縮小SCM推定器の性能を低下させることなく, 重み付き分布からデータをサンプリングする場合の大幅な性能向上を図っている。
関連論文リスト
- A Geometric Unification of Distributionally Robust Covariance Estimators: Shrinking the Spectrum by Inflating the Ambiguity Set [20.166217494056916]
制約的な仮定を課さずに共分散推定器を構築するための原理的手法を提案する。
頑健な推定器は効率的に計算可能で一貫したものであることを示す。
合成および実データに基づく数値実験により、我々の頑健な推定器は最先端の推定器と競合していることが示された。
論文 参考訳(メタデータ) (2024-05-30T15:01:18Z) - Convex Parameter Estimation of Perturbed Multivariate Generalized
Gaussian Distributions [18.95928707619676]
本稿では,MGGDパラメータの確立された特性を持つ凸定式化を提案する。
提案するフレームワークは, 精度行列, 平均, 摂動の様々な正規化を組み合わせ, 柔軟である。
実験により, 平均ベクトルパラメータに対して, 同様の性能でより正確な精度と共分散行列推定を行うことができた。
論文 参考訳(メタデータ) (2023-12-12T18:08:04Z) - Algorithme EM r\'egularis\'e [0.0]
本稿では,より少ないサンプルサイズに対応するために,事前知識を効率的に活用するEMアルゴリズムの正規化バージョンを提案する。
実データを用いた実験では,クラスタリングのための提案アルゴリズムの性能が向上した。
論文 参考訳(メタデータ) (2023-07-04T23:19:25Z) - Optimization of Annealed Importance Sampling Hyperparameters [77.34726150561087]
Annealed Importance Smpling (AIS) は、深層生成モデルの難易度を推定するために使われる一般的なアルゴリズムである。
本稿では、フレキシブルな中間分布を持つパラメータAISプロセスを提案し、サンプリングに少ないステップを使用するようにブリッジング分布を最適化する。
我々は, 最適化AISの性能評価を行い, 深部生成モデルの限界推定を行い, 他の推定値と比較した。
論文 参考訳(メタデータ) (2022-09-27T07:58:25Z) - Entropy Minimizing Matrix Factorization [102.26446204624885]
NMF(Nonnegative Matrix Factorization)は、広く使用されているデータ分析技術であり、多くの実際のタスクで印象的な結果をもたらしました。
本研究では,上述の問題に対処するために,EMMF (Entropy Minimizing Matrix Factorization framework) を開発した。
通常、外れ値が通常のサンプルよりもはるかに小さいことを考えると、行列分解のために新しいエントロピー損失関数が確立される。
論文 参考訳(メタデータ) (2021-03-24T21:08:43Z) - Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
帰納バイアスは 経験的に過剰フィットを防げる中心的存在です
この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。
我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
論文 参考訳(メタデータ) (2021-03-23T17:15:53Z) - Effective Data-aware Covariance Estimator from Compressed Data [63.16042585506435]
本研究では,データ対応重み付きサンプリングベース共分散行列推定器,すなわち DACE を提案し,非バイアス共分散行列推定を行う。
我々は、DACEの優れた性能を示すために、合成データセットと実世界のデータセットの両方で広範な実験を行う。
論文 参考訳(メタデータ) (2020-10-10T10:10:28Z) - Understanding Implicit Regularization in Over-Parameterized Single Index
Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。
暗黙正則化現象の理論的保証を提供する。
論文 参考訳(メタデータ) (2020-07-16T13:27:47Z) - Robust Compressed Sensing using Generative Models [98.64228459705859]
本稿では,Median-of-Means (MOM) にヒントを得たアルゴリズムを提案する。
我々のアルゴリズムは、外れ値が存在する場合でも、重み付きデータの回復を保証する。
論文 参考訳(メタデータ) (2020-06-16T19:07:41Z) - Fitting Laplacian Regularized Stratified Gaussian Models [0.0]
データから複数の関連するゼロ平均ガウス分布を共同推定する問題を考察する。
本稿では,大規模な問題にスケールする分散手法を提案するとともに,金融,レーダ信号処理,天気予報などの手法の有効性について述べる。
論文 参考訳(メタデータ) (2020-05-04T18:00:59Z) - Covariance Estimation for Matrix-valued Data [9.739753590548796]
本研究では,高次元行列データに対する分布自由正規化共分散推定法を提案する。
我々は、バンド可能な共分散を推定するための統一的な枠組みを定式化し、ランク1の制約のないクロネッカー積近似に基づく効率的なアルゴリズムを導入する。
格子状温度異常データセットとS&P 500ストックデータ解析によるシミュレーションと実応用を用いて,本手法の優れた有限サンプル性能を実証した。
論文 参考訳(メタデータ) (2020-04-11T02:15:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。