論文の概要: sparseGeoHOPCA: A Geometric Solution to Sparse Higher-Order PCA Without Covariance Estimation

• arxiv url: http://arxiv.org/abs/2506.08670v1
• Date: Tue, 10 Jun 2025 10:30:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-11 15:11:42.282489
• Title: sparseGeoHOPCA: A Geometric Solution to Sparse Higher-Order PCA Without Covariance Estimation
• Title（参考訳）: スパースGeoHOPCA:共分散推定のない高次PCAの幾何学的解法
• Authors: Renjie Xu, Chong Wu, Maolin Che, Zhuoheng Ran, Yimin Wei, Hong Yan,
• Abstract要約: 本稿では,高次主成分分析(SHOPCA)のための新しいフレームワークを提案する。 本稿では,SparseGeoHOPが高次元画像設定とImageNet上でサポートされていることを示す。
• 参考スコア（独自算出の注目度）: 8.802387139798808
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We propose sparseGeoHOPCA, a novel framework for sparse higher-order principal component analysis (SHOPCA) that introduces a geometric perspective to high-dimensional tensor decomposition. By unfolding the input tensor along each mode and reformulating the resulting subproblems as structured binary linear optimization problems, our method transforms the original nonconvex sparse objective into a tractable geometric form. This eliminates the need for explicit covariance estimation and iterative deflation, enabling significant gains in both computational efficiency and interpretability, particularly in high-dimensional and unbalanced data scenarios. We theoretically establish the equivalence between the geometric subproblems and the original SHOPCA formulation, and derive worst-case approximation error bounds based on classical PCA residuals, providing data-dependent performance guarantees. The proposed algorithm achieves a total computational complexity of $O\left(\sum_{n=1}^{N} (k_n^3 + J_n k_n^2)\right)$, which scales linearly with tensor size. Extensive experiments demonstrate that sparseGeoHOPCA accurately recovers sparse supports in synthetic settings, preserves classification performance under 10$\times$ compression, and achieves high-quality image reconstruction on ImageNet, highlighting its robustness and versatility.
• Abstract（参考訳）: 我々は,高次元テンソル分解に幾何学的視点を導入する,疎高次主成分分析(SHOPCA)のための新しいフレームワークであるsparseGeoHOPCAを提案する。 入力テンソルを各モードに沿って展開し、その結果のサブプロブレムを構造化線形最適化問題として再構成することにより、元の非凸スパース目的を抽出可能な幾何学形式に変換する。 これにより、明示的な共分散推定と反復デフレの必要性を排除し、特に高次元および不均衡なデータシナリオにおいて、計算効率と解釈可能性の両方に大きな利益をもたらすことができる。 幾何学的サブプロブレムとSHOPCAの定式化の等価性を理論的に確立し、古典的PCA残差に基づく最悪のケース近似誤差境界を導出し、データ依存の性能保証を提供する。 提案アルゴリズムは, テンソルサイズと線形にスケールする$O\left(\sum_{n=1}^{N} (k_n^3 + J_n k_n^2)\right)$の計算複雑性を実現する。 大規模な実験では、スパースGeoHOPCAは合成環境でのスパースサポートを正確に回復し、10$\times$圧縮で分類性能を保ち、ImageNet上で高品質の画像再構成を実現し、その堅牢性と汎用性を強調している。

関連論文リスト

• Outlier-aware Tensor Robust Principal Component Analysis with Self-guided Data Augmentation [21.981038455329013]
  適応重み付けを用いた自己誘導型データ拡張手法を提案する。 本研究では,最先端手法と比較して精度と計算効率の両面での改善を示す。
  論文  参考訳（メタデータ） (2025-04-25T13:03:35Z)
• Solve sparse PCA problem by employing Hamiltonian system and leapfrog method [0.0]
  そこで本研究では,スムーズなL1ペナルティを通したスパースPCAアルゴリズムを提案する。 k-アネレスト近傍とカーネルリッジ回帰の両方を用いた顔認識データセットの実験的評価-提案したスパースPCA法は従来のPCA法よりも高い分類精度を一貫して達成している。
  論文  参考訳（メタデータ） (2025-03-30T06:39:11Z)
• Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
  本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。 最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
  論文  参考訳（メタデータ） (2023-10-20T12:45:12Z)
• Adaptive Zeroth-Order Optimisation of Nonconvex Composite Objectives [1.7640556247739623]
  ゼロ階エントロピー合成目的のためのアルゴリズムを解析し,次元依存性に着目した。 これは、ミラー降下法と推定類似関数を用いて、決定セットの低次元構造を利用して達成される。 勾配を改善するため、Rademacherに基づく古典的なサンプリング法を置き換え、ミニバッチ法が非ユークリ幾何学に対処することを示す。
  論文  参考訳（メタデータ） (2022-08-09T07:36:25Z)
• Unfolding Projection-free SDP Relaxation of Binary Graph Classifier via GDPA Linearization [59.87663954467815]
  アルゴリズムの展開は、モデルベースのアルゴリズムの各イテレーションをニューラルネットワーク層として実装することにより、解釈可能で類似のニューラルネットワークアーキテクチャを生成する。 本稿では、Gershgorin disc perfect alignment (GDPA)と呼ばれる最近の線形代数定理を利用して、二進グラフの半定値プログラミング緩和(SDR)のためのプロジェクションフリーアルゴリズムをアンロールする。 実験結果から,我々の未学習ネットワークは純粋モデルベースグラフ分類器よりも優れ,純粋データ駆動ネットワークに匹敵する性能を示したが,パラメータははるかに少なかった。
  論文  参考訳（メタデータ） (2021-09-10T07:01:15Z)
• Piecewise linear regression and classification [0.20305676256390928]
  本稿では,線形予測器を用いた多変量回帰と分類問題の解法を提案する。 本論文で記述されたアルゴリズムのpython実装は、http://cse.lab.imtlucca.it/bemporad/parcで利用可能である。
  論文  参考訳（メタデータ） (2021-03-10T17:07:57Z)
• Sparse PCA via $l_{2,p}$-Norm Regularization for Unsupervised Feature Selection [138.97647716793333]
  再構成誤差を$l_2,p$ノルム正規化と組み合わせることで,単純かつ効率的な特徴選択手法を提案する。 提案する非教師付きモデルを解くための効率的な最適化アルゴリズムを提案し,アルゴリズムの収束と計算の複雑さを理論的に解析する。
  論文  参考訳（メタデータ） (2020-12-29T04:08:38Z)
• Alternating minimization algorithms for graph regularized tensor completion [8.26185178671935]
  我々は、低ランクテンソル完備化(LRTC)に対するカノニカルポリアディック(CP)分解法を考える。 グラフ正規化の使用にはLRTCの学習精度のメリットが伴うが、同時に結合グラフラプラシア語を誘導する。 基礎となるCP分解モデルにおけるブロック構造を利用して, 効率の良い同期最小化アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-08-28T23:20:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。