論文の概要: When Random Tensors meet Random Matrices
- arxiv url: http://arxiv.org/abs/2112.12348v1
- Date: Thu, 23 Dec 2021 04:05:01 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-25 01:40:00.944515
- Title: When Random Tensors meet Random Matrices
- Title(参考訳): ランダムテンソルがランダム行列と交わるとき
- Authors: Mohamed El Amine Seddik and Maxime Guillaud and Romain Couillet
- Abstract要約: 本稿では,ガウス雑音を伴う非対称次数-$d$スパイクテンソルモデルについて検討する。
検討したモデルの解析は、等価なスパイクされた対称テクシットブロック-ワイドランダム行列の解析に起因していることを示す。
- 参考スコア(独自算出の注目度): 50.568841545067144
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Relying on random matrix theory (RMT), this paper studies asymmetric
order-$d$ spiked tensor models with Gaussian noise. Using the variational
definition of the singular vectors and values of [Lim, 2005], we show that the
analysis of the considered model boils down to the analysis of an equivalent
spiked symmetric \textit{block-wise} random matrix, that is constructed from
\textit{contractions} of the studied tensor with the singular vectors
associated to its best rank-1 approximation. Our approach allows the exact
characterization of the almost sure asymptotic singular value and alignments of
the corresponding singular vectors with the true spike components, when
$\frac{n_i}{\sum_{j=1}^d n_j}\to c_i\in [0, 1]$ with $n_i$'s the tensor
dimensions. In contrast to other works that rely mostly on tools from
statistical physics to study random tensors, our results rely solely on
classical RMT tools such as Stein's lemma. Finally, classical RMT results
concerning spiked random matrices are recovered as a particular case.
- Abstract(参考訳): ランダム行列理論(RMT)に基づき、ガウス雑音を伴う非対称次数d$スパイクテンソルモデルを研究する。
特異ベクトルの変分的定義と [lim, 2005] の値を用いることで、考察されたモデルの解析は、最良階数-1近似に付随する特異ベクトルを持つテンソルの \textit{contractions} から構築される等価なスパイク対称な \textit{block-wise} 確率行列の解析へとボイルダウンすることを示した。
我々のアプローチは、$n_i$ がテンソル次元を持つ $\frac{n_i}{\sum_{j=1}^d n_j}\to c_i\in [0, 1]$ のとき、対応する特異ベクトルのほぼ確実に漸近特異値と真のスパイク成分とのアライメントを正確に特徴づけることができる。
統計物理学からランダムテンソルを研究するツールに大きく依存する他の研究とは対照的に、我々の結果はスタインの補題のような古典的なRTTツールにのみ依存する。
最後に、スパイクランダム行列に関する古典rmt結果を特定の場合として復元する。
関連論文リスト
- Analysing heavy-tail properties of Stochastic Gradient Descent by means of Stochastic Recurrence Equations [0.0]
近年の研究では、グラディエント蛍光(SGD)の重いテール特性が再帰の確率的枠組みで研究されている。
我々は、引用された論文のいくつかのオープンな質問に答え、既約確率 (i-p) 行列の理論を適用して結果を拡張する。
論文 参考訳(メタデータ) (2024-03-20T13:39:19Z) - On the Accuracy of Hotelling-Type Asymmetric Tensor Deflation: A Random
Tensor Analysis [14.809070996761013]
ホテルリング型テンソルデフレレーションはノイズの存在下で研究されている。
我々は,デフレ手順の各ステップにおいて,推定特異値と推定および真の特異ベクトルのアライメントを解析的に特徴付ける。
論文 参考訳(メタデータ) (2023-10-28T14:40:10Z) - On the Accuracy of Hotelling-Type Tensor Deflation: A Random Tensor
Analysis [16.28927188636617]
階数-$r$ の $sum_i=1r beta_i A_i + W$ の非対称スパイクモデルを考える。
本研究では, ホテルリング型デフレに関する研究を行った。
論文 参考訳(メタデータ) (2022-11-16T16:01:56Z) - Test Set Sizing Via Random Matrix Theory [91.3755431537592]
本稿ではランダム行列理論の手法を用いて、単純な線形回帰に対して理想的なトレーニング-テストデータ分割を求める。
それは「理想」を整合性計量を満たすものとして定義し、すなわち経験的モデル誤差は実際の測定ノイズである。
本論文は,任意のモデルのトレーニングとテストサイズを,真に最適な方法で解決した最初の論文である。
論文 参考訳(メタデータ) (2021-12-11T13:18:33Z) - A Random Matrix Perspective on Random Tensors [40.89521598604993]
与えられたランダムテンソルの収縮から生じるランダム行列のスペクトルについて検討する。
本手法は,ML問題の局所的な最大値の未知な特徴を与える。
我々のアプローチは万能であり、非対称、非ガウス的、高階的など他のモデルにも拡張できる。
論文 参考訳(メタデータ) (2021-08-02T10:42:22Z) - A Precise Performance Analysis of Support Vector Regression [105.94855998235232]
我々は,n$の線形測定に応用したハードおよびソフトサポートベクター回帰法について検討した。
得られた結果は、ハードおよびソフトサポートベクトル回帰アルゴリズムの設計に介入するパラメータを最適に調整するために使用される。
論文 参考訳(メタデータ) (2021-05-21T14:26:28Z) - Stochastic Approximation for Online Tensorial Independent Component
Analysis [98.34292831923335]
独立成分分析(ICA)は統計機械学習や信号処理において一般的な次元削減ツールである。
本稿では,各独立成分を推定する副産物オンライン時系列アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-12-28T18:52:37Z) - Understanding Implicit Regularization in Over-Parameterized Single Index
Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。
暗黙正則化現象の理論的保証を提供する。
論文 参考訳(メタデータ) (2020-07-16T13:27:47Z) - Asymptotic errors for convex penalized linear regression beyond Gaussian
matrices [23.15629681360836]
雑音線形観測から係数ベクトル$x_0$ in$RN$を学習する問題を考察する。
平均二乗誤差に対する明示的な式を厳密に導出する。
我々の予測は、非常に適度なサイズであっても、数値と非常によく一致していることを示す。
論文 参考訳(メタデータ) (2020-02-11T13:43:32Z) - Optimal Iterative Sketching with the Subsampled Randomized Hadamard
Transform [64.90148466525754]
最小二乗問題に対する反復スケッチの性能について検討する。
本研究では、Haar行列とランダム化されたHadamard行列の収束速度が同一であることを示し、ランダムなプロジェクションを経時的に改善することを示した。
これらの手法は、ランダム化次元還元を用いた他のアルゴリズムにも適用することができる。
論文 参考訳(メタデータ) (2020-02-03T16:17:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。