論文の概要: Consistent model selection in the spiked Wigner model via AIC-type
criteria
- arxiv url: http://arxiv.org/abs/2307.12982v1
- Date: Mon, 24 Jul 2023 17:59:15 GMT
- ステータス: 処理完了
- システム内更新日: 2023-07-25 13:14:18.458171
- Title: Consistent model selection in the spiked Wigner model via AIC-type
criteria
- Title(参考訳): AIC型基準によるスパイクウィグナーモデルの一貫性モデル選択
- Authors: Soumendu Sundar Mukherjee
- Abstract要約: 我々は[-2, (textmaximized log-likelihood) + gamma, (text number of parameters)]という形のAIC型モデル選択基準を検討し, スパイク数$k$を推定する。
AICは強い一貫性はないが、$gamma = 2 + delta_N$と$delta_N gg N-2/3$とすると、$kの弱い一貫した推定値が得られる。
- 参考スコア(独自算出の注目度): 3.04585143845864
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Consider the spiked Wigner model \[ X = \sum_{i = 1}^k \lambda_i u_i u_i^\top
+ \sigma G, \] where $G$ is an $N \times N$ GOE random matrix, and the
eigenvalues $\lambda_i$ are all spiked, i.e. above the Baik-Ben Arous-P\'ech\'e
(BBP) threshold $\sigma$. We consider AIC-type model selection criteria of the
form \[ -2 \, (\text{maximised log-likelihood}) + \gamma \, (\text{number of
parameters}) \] for estimating the number $k$ of spikes. For $\gamma > 2$, the
above criterion is strongly consistent provided $\lambda_k > \lambda_{\gamma}$,
where $\lambda_{\gamma}$ is a threshold strictly above the BBP threshold,
whereas for $\gamma < 2$, it almost surely overestimates $k$. Although AIC
(which corresponds to $\gamma = 2$) is not strongly consistent, we show that
taking $\gamma = 2 + \delta_N$, where $\delta_N \to 0$ and $\delta_N \gg
N^{-2/3}$, results in a weakly consistent estimator of $k$. We also show that a
certain soft minimiser of AIC is strongly consistent.
- Abstract(参考訳): スパイクウィグナーモデル \[x = \sum_{i = 1}^k \lambda_i u_i u_i^\top + \sigma g, \] ここで$g$ は$n \times n$ goe ランダム行列であり、固有値 $\lambda_i$ はすべてスパイクであり、つまり baik-ben arous-p\'ech\'e (bbp) しきい値 $\sigma$ である。
スパイク数$k$を推定するために、AIC型のモデル選択基準として \[[ -2 \, (\text{maximised log-likelihood}) + \gamma \, (\text{number of parameters}) \] を考える。
$\lambda_k > \lambda_{\gamma}$ の場合、$\lambda_{\gamma}$ は BBP しきい値より厳密に高いしきい値であるが、$\gamma < 2$ の場合、ほぼ確実に$k$ を過大評価する。
AIC ($\gamma = 2$) は強い整合性はないが、$\gamma = 2 + \delta_N$ を取ると、$\delta_N \to 0$ と $\delta_N \gg N^{-2/3}$ とすると、$k$ の弱一貫した推定値が得られる。
また、AICのソフトなミニミザーが強い一貫性を持つことを示す。
関連論文リスト
- The QES sextic and Morse potentials: exact WKB condition and supersymmetry [0.0]
一次元準特殊可解(QES)性ポテンシャル $Vrm(qes)(x) を考える。
WKB補正$gamma=gamma(N,n)$は、第1の最低50状態に対して計算される。
論文 参考訳(メタデータ) (2024-09-26T21:42:32Z) - Optimal Sketching for Residual Error Estimation for Matrix and Vector Norms [50.15964512954274]
線形スケッチを用いた行列とベクトルノルムの残差誤差推定問題について検討する。
これは、前作とほぼ同じスケッチサイズと精度で、経験的にかなり有利であることを示す。
また、スパースリカバリ問題に対して$Omega(k2/pn1-2/p)$低いバウンダリを示し、これは$mathrmpoly(log n)$ factorまで厳密である。
論文 参考訳(メタデータ) (2024-08-16T02:33:07Z) - On the $O(\frac{\sqrt{d}}{T^{1/4}})$ Convergence Rate of RMSProp and Its Momentum Extension Measured by $\ell_1$ Norm [59.65871549878937]
本稿では、RMSPropとその運動量拡張を考察し、$frac1Tsum_k=1Tの収束速度を確立する。
我々の収束率は、次元$d$を除くすべての係数に関して下界と一致する。
収束率は$frac1Tsum_k=1Tと類似していると考えられる。
論文 参考訳(メタデータ) (2024-02-01T07:21:32Z) - $\ell_p$-Regression in the Arbitrary Partition Model of Communication [59.89387020011663]
コーディネータモデルにおける分散$ell_p$-regression問題のランダム化通信複雑性について考察する。
p = 2$、すなわち最小二乗回帰の場合、$tildeTheta(sd2 + sd/epsilon)$ bitsの最初の最適境界を与える。
p in (1,2)$ に対して、$tildeO(sd2/epsilon + sd/mathrmpoly(epsilon)$ upper bound を得る。
論文 参考訳(メタデータ) (2023-07-11T08:51:53Z) - Detection of Dense Subhypergraphs by Low-Degree Polynomials [72.4451045270967]
ランダムグラフにおける植込み高密度部分グラフの検出は、基本的な統計的および計算上の問題である。
我々は、$Gr(n, n-beta)ハイパーグラフにおいて、植えた$Gr(ngamma, n-alpha)$ subhypergraphの存在を検出することを検討する。
平均値の減少に基づく硬さが不明な微妙な対数密度構造を考えると,この結果はグラフの場合$r=2$で既に新しくなっている。
論文 参考訳(メタデータ) (2023-04-17T10:38:08Z) - A spectral least-squares-type method for heavy-tailed corrupted
regression with unknown covariance \& heterogeneous noise [2.019622939313173]
重み付き最小二乗線形回帰は、少なくとも$epsilon n$ arbitrary outliersの$n$のラベル特徴サンプルを破損させたと仮定して再検討する。
本稿では,$(Sigma,Xi) や $Xi$ の演算ノルムに関する知識を前提に,電力法に基づくほぼ最適に計算可能な推定器を提案する。
論文 参考訳(メタデータ) (2022-09-06T23:37:31Z) - Mean Estimation in High-Dimensional Binary Markov Gaussian Mixture
Models [12.746888269949407]
2進隠れマルコフモデルに対する高次元平均推定問題を考える。
ほぼ最小限の誤差率(対数係数まで)を $|theta_*|,delta,d,n$ の関数として確立する。
論文 参考訳(メタデータ) (2022-06-06T09:34:04Z) - Low-Rank Approximation with $1/\epsilon^{1/3}$ Matrix-Vector Products [58.05771390012827]
我々は、任意のSchatten-$p$ノルムの下で、低ランク近似のためのクリロフ部分空間に基づく反復法について研究する。
我々の主な成果は、$tildeO(k/sqrtepsilon)$ matrix-vector productのみを使用するアルゴリズムである。
論文 参考訳(メタデータ) (2022-02-10T16:10:41Z) - On the Self-Penalization Phenomenon in Feature Selection [69.16452769334367]
カーネル群に基づく暗黙の空間性誘導機構について述べる。
アプリケーションとしては、この疎結合誘導機構を使用して、特徴選択に一貫性のあるアルゴリズムを構築します。
論文 参考訳(メタデータ) (2021-10-12T09:36:41Z) - Spiked Covariance Estimation from Modulo-Reduced Measurements [14.569322713960494]
我々は、ほとんどの方向において$bfu$と$nu=mathrmpoly(k)$に対して、$n=mathrmpoly(k)$測定を用いて、高い精度で$bfu$を推定するアルゴリズムを開発し、分析する。
数値実験により,非漸近的条件下でも良好な性能が得られた。
論文 参考訳(メタデータ) (2021-10-04T02:10:47Z) - $\lambda$-Regularized A-Optimal Design and its Approximation by
$\lambda$-Regularized Proportional Volume Sampling [1.256413718364189]
本稿では,$lambda$-regularized $A$-optimal design problemについて検討し,$lambda$-regularized proportional volume sample algorithmを紹介する。
この問題は、リッジ回帰モデルにおける真の係数からリッジ回帰予測器の2乗誤差を最小化しようとする、リッジ回帰の最適設計から動機づけられている。
論文 参考訳(メタデータ) (2020-06-19T15:17:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。