論文の概要: Spectral Thresholds in Correlated Spiked Models and Fundamental Limits of Partial Least Squares
- arxiv url: http://arxiv.org/abs/2510.17561v1
- Date: Mon, 20 Oct 2025 14:08:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-25 00:56:39.475602
- Title: Spectral Thresholds in Correlated Spiked Models and Fundamental Limits of Partial Least Squares
- Title(参考訳): 相関スパイクモデルにおけるスペクトル閾値と部分最小方形の基本極限
- Authors: Pierre Mergny, Lenka Zdeborová,
- Abstract要約: 本稿では,PLS(Partial Least Squares)が原理的に検出可能であるにもかかわらず,信号の回復に失敗したことを示す。
これらの結果はPLSの理論的限界を明らかにし、高次元の信頼性マルチモーダル推論手法の設計のためのガイダンスを提供する。
- 参考スコア(独自算出の注目度): 15.163541835643635
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We provide a rigorous random matrix theory analysis of spiked cross-covariance models where the signals across two high-dimensional data channels are partially aligned. These models are motivated by multi-modal learning and form the standard generative setting underlying Partial Least Squares (PLS), a widely used yet theoretically underdeveloped method. We show that the leading singular values of the sample cross-covariance matrix undergo a Baik-Ben Arous-Peche (BBP)-type phase transition, and we characterize the precise thresholds for the emergence of informative components. Our results yield the first sharp asymptotic description of the signal recovery capabilities of PLS in this setting, revealing a fundamental performance gap between PLS and the Bayes-optimal estimator. In particular, we identify the SNR and correlation regimes where PLS fails to recover any signal, despite detectability being possible in principle. These findings clarify the theoretical limits of PLS and provide guidance for the design of reliable multi-modal inference methods in high dimensions.
- Abstract(参考訳): 本研究では,2つの高次元データチャネル間の信号が部分的に整列しているスパイクされた相互共分散モデルの厳密なランダム行列理論解析を行う。
これらのモデルはマルチモーダル学習によって動機付けられ、理論上は未発達の手法であるPartial Least Squares (PLS) の基礎となる標準生成環境を形成する。
本研究では,ベイク・ベン・アラス・ペシュ型相転移(Baik-Ben Arous-Peche-type phase transition,BBP-Ben Arous-Peche-type phase transition,BBP-Ben Arous-Peche-type phase transition,BBP-Ben Arous-Peche-type phase transition,BBP-Ben-Ben Arous-Peche-type phase transition,BBP-Ben Arous-Peche-type phase transition,BBP-Ben Arous-Peche-type phase transition,BBP-Ben Arous-Peche-type phase transition,BBP-Ben-Peche-BBP-BBP-BBP-BBP-BBP-BBP-BBP)
以上の結果から, PLSとベイズ最適推定器の信号回復能力について, PLSとベイズ最適推定器の基本的な性能差が明らかとなった。
特に、原則として検出可能であるにもかかわらず、PSSが信号の回復に失敗するSNRと相関系を同定する。
これらの結果はPLSの理論的限界を明らかにし、高次元の信頼性マルチモーダル推論手法の設計のためのガイダンスを提供する。
関連論文リスト
- Revisit CP Tensor Decomposition: Statistical Optimality and Fast Convergence [6.724750970258851]
統計学的観点からカノニカルポリアディクス(CP)テンソル分解を再検討する。
本稿では,信号+雑音モデルに基づくAlternating Least Squares(ALS)の包括的理論的解析を行う。
論文 参考訳(メタデータ) (2025-05-29T03:42:03Z) - Unveiling the Statistical Foundations of Chain-of-Thought Prompting Methods [59.779795063072655]
CoT(Chain-of-Thought)の促進とその変種は、多段階推論問題を解決する効果的な方法として人気を集めている。
統計的推定の観点からCoTのプロンプトを解析し,その複雑さを包括的に評価する。
論文 参考訳(メタデータ) (2024-08-25T04:07:18Z) - Optimal thresholds and algorithms for a model of multi-modal learning in high dimensions [13.531678315783195]
本論文は、このモデルに対する近似メッセージパッシング(AMP)アルゴリズムを導出し、関連する状態の進化を通じて高次元限界におけるその性能を特徴付ける。
AMPの線形化は、広く使われている部分最小二乗法(PLS)と正準相関解析法(CCA)とを数値的に比較する。
論文 参考訳(メタデータ) (2024-07-03T21:48:23Z) - Ensemble Kalman Filtering Meets Gaussian Process SSM for Non-Mean-Field and Online Inference [47.460898983429374]
我々は,非平均場(NMF)変動推定フレームワークにアンサンブルカルマンフィルタ(EnKF)を導入し,潜在状態の後方分布を近似する。
EnKFとGPSSMのこの新しい結婚は、変分分布の学習における広範なパラメータ化の必要性をなくすだけでなく、エビデンスの下限(ELBO)の解釈可能でクローズドな近似を可能にする。
得られたEnKF支援オンラインアルゴリズムは、データ適合精度を確保しつつ、モデル正規化を組み込んで過度適合を緩和し、目的関数を具現化する。
論文 参考訳(メタデータ) (2023-12-10T15:22:30Z) - GEC: A Unified Framework for Interactive Decision Making in MDP, POMDP,
and Beyond [101.5329678997916]
対話型意思決定の一般的な枠組みの下で, サンプル高能率強化学習(RL)について検討した。
本稿では,探索とエクスプロイトの基本的なトレードオフを特徴付ける,新しい複雑性尺度である一般化エルダー係数(GEC)を提案する。
低 GEC の RL 問題は非常にリッチなクラスであり、これは低ベルマン楕円体次元問題、双線型クラス、低証人ランク問題、PO-双線型クラス、一般化正規PSR を仮定する。
論文 参考訳(メタデータ) (2022-11-03T16:42:40Z) - Contrastive and Non-Contrastive Self-Supervised Learning Recover Global
and Local Spectral Embedding Methods [19.587273175563745]
自己監督学習(SSL)は、入力とペアの正の関係は意味のある表現を学ぶのに十分である。
本稿では,これらの制約に対処するために,スペクトル多様体学習の推進力の下で統一的な枠組みを提案する。
論文 参考訳(メタデータ) (2022-05-23T17:59:32Z) - Understanding Implicit Regularization in Over-Parameterized Single Index
Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。
暗黙正則化現象の理論的保証を提供する。
論文 参考訳(メタデータ) (2020-07-16T13:27:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。