論文の概要: Tensor Principal Component Analysis in High Dimensional CP Models

• arxiv url: http://arxiv.org/abs/2108.04428v1
• Date: Tue, 10 Aug 2021 03:24:32 GMT
• ステータス: 処理完了
• システム内更新日: 2021-08-11 14:27:54.268463
• Title: Tensor Principal Component Analysis in High Dimensional CP Models
• Title（参考訳）: 高次元CPモデルにおけるテンソル主成分分析
• Authors: Yuefeng Han and Cun-Hui Zhang
• Abstract要約: 軽度不整合条件下での理論的保証を考慮したテンソルCP分解のための新しいアルゴリズムを提案する。 複合PCAは、主成分又は特異値分解を2回施し、まずテンソルデータの展開行列に施して特異ベクトルを得る。 提案手法は, 既存の手法に比べて, 提案手法の実用的優位性を示すものである。
• 参考スコア（独自算出の注目度）: 3.553493344868413
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: The CP decomposition for high dimensional non-orthogonal spike tensors is an important problem with broad applications across many disciplines. However, previous works with theoretical guarantee typically assume restrictive incoherence conditions on the basis vectors for the CP components. In this paper, we propose new computationally efficient composite PCA and concurrent orthogonalization algorithms for tensor CP decomposition with theoretical guarantees under mild incoherence conditions. The composite PCA applies the principal component or singular value decompositions twice, first to a matrix unfolding of the tensor data to obtain singular vectors and then to the matrix folding of the singular vectors obtained in the first step. It can be used as an initialization for any iterative optimization schemes for the tensor CP decomposition. The concurrent orthogonalization algorithm iteratively estimates the basis vector in each mode of the tensor by simultaneously applying projections to the orthogonal complements of the spaces generated by others CP components in other modes. It is designed to improve the alternating least squares estimator and other forms of the high order orthogonal iteration for tensors with low or moderately high CP ranks. Our theoretical investigation provides estimation accuracy and statistical convergence rates for the two proposed algorithms. Our implementations on synthetic data demonstrate significant practical superiority of our approach over existing methods.
• Abstract（参考訳）: 高次元非直交スパイクテンソルに対するCP分解は、多くの分野にわたる幅広い応用において重要な問題である。 しかし、理論的な保証を持つ以前の研究は通常、CP成分の基底ベクトルに制限的不整合条件を仮定する。 本稿では,テンソルCP分解のための計算効率の良い合成PCAと並列直交化アルゴリズムを提案する。 複合PCAは、主成分又は特異値分解を2回施し、まずテンソルデータの展開行列に施して特異ベクトルを得る。 これはテンソルcp分解の任意の反復最適化スキームの初期化として使うことができる。 並列直交アルゴリズムは、他のcp成分が生成する空間の直交補空間に投影を同時に適用することにより、テンソルの各モードにおける基底ベクトルを反復的に推定する。 低または中程度のcp階のテンソルに対する交互最小二乗推定器や他の高次直交反復の形式を改善するように設計されている。 この2つのアルゴリズムに対する推定精度と統計的収束率について理論的検討を行った。 我々の合成データの実装は, 既存の手法よりも実用上優れていることを示す。

関連論文リスト

• Quantization of Large Language Models with an Overdetermined Basis [73.79368761182998]
  本稿では,嘉心表現の原理に基づくデータ量子化アルゴリズムを提案する。 以上の結果から, カシ量子化はモデル性能の競争力や優れた品質を達成できることが示唆された。
  論文  参考訳（メタデータ） (2024-04-15T12:38:46Z)
• Fast Learnings of Coupled Nonnegative Tensor Decomposition Using Optimal Gradient and Low-rank Approximation [7.265645216663691]
  交互勾配法(CoNCPD-APG)により最適化された新しい非負のCANDECOMP/PARAFAC分解アルゴリズムを提案する。 提案手法は,低ランク近似をCONCPD-APG法と組み合わせることで,分解品質を損なうことなく計算負担を大幅に削減することができる。
  論文  参考訳（メタデータ） (2023-02-10T08:49:36Z)
• Controlling the Complexity and Lipschitz Constant improves polynomial nets [55.121200972539114]
  多項式ネットの結合CP分解(CCP)モデルとNested Coupled CP分解(NCP)モデルに対する新しい複雑性境界を導出する。 本研究では、6つのデータセットで実験的に評価し、モデルが逆摂動に対して頑健であるとともに精度も向上することを示す。
  論文  参考訳（メタデータ） (2022-02-10T14:54:29Z)
• Modelling matrix time series via a tensor CP-decomposition [7.900118935012717]
  本稿では,テンソルCP分解に基づく行列時系列のモデル化を提案する。 CP分解における全ての成分係数は、時系列の次元とサンプルサイズの間の相対的なサイズによって異なる誤差率で連続的に推定されることを示す。
  論文  参考訳（メタデータ） (2021-12-31T13:02:06Z)
• A Coupled Random Projection Approach to Large-Scale Canonical Polyadic Decomposition [11.325830583924803]
  大規模テンソルの正準多進分解(CPD)計算のための新しいアルゴリズムを提案する。 提案アルゴリズムは乱射影法(RAP)を一般化し,大規模分解の計算によく用いられる。
  論文  参考訳（メタデータ） (2021-05-10T03:00:50Z)
• Joint Network Topology Inference via Structured Fusion Regularization [70.30364652829164]
  結合ネットワークトポロジ推論は、異種グラフ信号から複数のグラフラプラシア行列を学習する標準的な問題を表す。 新規な構造化融合正規化に基づく一般グラフ推定器を提案する。 提案するグラフ推定器は高い計算効率と厳密な理論保証の両方を享受できることを示す。
  論文  参考訳（メタデータ） (2021-03-05T04:42:32Z)
• Robust Tensor Principal Component Analysis: Exact Recovery via Deterministic Model [5.414544833902815]
  本稿では,ロバストテンソル主成分分析法(RTPCA)を提案する。 これは最近開発されたテンソルテンソル積とテンソル特異値分解(t-SVD)に基づいている。
  論文  参考訳（メタデータ） (2020-08-05T16:26:10Z)
• Understanding Implicit Regularization in Over-Parameterized Single Index Model [55.41685740015095]
  我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。 暗黙正則化現象の理論的保証を提供する。
  論文  参考訳（メタデータ） (2020-07-16T13:27:47Z)
• Approximation Algorithms for Sparse Principal Component Analysis [57.5357874512594]
  主成分分析(PCA)は、機械学習と統計学において広く使われている次元削減手法である。 スパース主成分分析(Sparse principal Component Analysis)と呼ばれる,スパース主成分負荷を求める様々な手法が提案されている。 本研究では,SPCA問題に対するしきい値の精度,時間,近似アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-06-23T04:25:36Z)
• Optimal Randomized First-Order Methods for Least-Squares Problems [56.05635751529922]
  このアルゴリズムのクラスは、最小二乗問題に対する最も高速な解法のうち、いくつかのランダム化手法を含んでいる。 我々は2つの古典的埋め込み、すなわちガウス射影とアダマール変換のサブサンプリングに焦点を当てる。 得られたアルゴリズムは条件数に依存しない最小二乗問題の解法として最も複雑である。
  論文  参考訳（メタデータ） (2020-02-21T17:45:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。