論文の概要: Permutation recovery of spikes in noisy high-dimensional tensor estimation

• arxiv url: http://arxiv.org/abs/2412.14650v2
• Date: Fri, 20 Dec 2024 07:17:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-23 13:01:40.281536
• Title: Permutation recovery of spikes in noisy high-dimensional tensor estimation
• Title（参考訳）: ノイズ高次元テンソル推定におけるスパイクの置換回復
• Authors: Gérard Ben Arous, Cédric Gerbelot, Vanessa Piccolo,
• Abstract要約: マルチスパイクテンソル問題に対する高次元流れのダイナミクスについて検討する。 我々の研究は, 正確な回収に必要なSNRの試料分離条件を決定する論文[Ben A, Gerbelot, Langevin]に基づく。
• 参考スコア（独自算出の注目度）: 8.435118770300999
• License:
• Abstract: We study the dynamics of gradient flow in high dimensions for the multi-spiked tensor problem, where the goal is to estimate $r$ unknown signal vectors (spikes) from noisy Gaussian tensor observations. Specifically, we analyze the maximum likelihood estimation procedure, which involves optimizing a highly nonconvex random function. We determine the sample complexity required for gradient flow to efficiently recover all spikes, without imposing any assumptions on the separation of the signal-to-noise ratios (SNRs). More precisely, our results provide the sample complexity required to guarantee recovery of the spikes up to a permutation. Our work builds on our companion paper [Ben Arous, Gerbelot, Piccolo 2024], which studies Langevin dynamics and determines the sample complexity and separation conditions for the SNRs necessary for ensuring exact recovery of the spikes (where the recovered permutation matches the identity). During the recovery process, the correlations between the estimators and the hidden vectors increase in a sequential manner. The order in which these correlations become significant depends on their initial values and the corresponding SNRs, which ultimately determines the permutation of the recovered spikes.
• Abstract（参考訳）: マルチスパイクテンソル問題に対する高次元勾配流の力学について検討し、ガウステンソル観測から$r$未知信号ベクトル(スパイクス)を推定する。 具体的には,非凸な乱関数を最適化する最大推定法について分析する。 信号-雑音比(SNR)の分離を仮定することなく,すべてのスパイクを効率よく回収するために,勾配流に必要なサンプルの複雑さを決定する。 より正確には、我々の結果は、置換までのスパイクの回復を保証するのに必要なサンプルの複雑さを提供する。 我々の研究は、ランゲヴィン力学を研究し、スパイクの正確な回復を保証するのに必要なSNRのサンプルの複雑さと分離条件を決定する論文[Ben Arous, Gerbelot, Piccolo 2024]に基づいています。 回復過程において, 推定器と隠れベクトルの相関関係は逐次的に増加する。 これらの相関が重要になる順序は、初期値と対応するSNRに依存し、最終的に回収されたスパイクの置換を決定する。

関連論文リスト

• Stochastic gradient descent in high dimensions for multi-spiked tensor PCA [8.435118770300999]
  マルチスパイクテンソルモデルにおけるオンライン勾配勾配の高次元におけるダイナミクスについて検討する。 我々は、スパイクが「逐次除去」と呼ばれるプロセスで順次回収されることを発見した。
  論文  参考訳（メタデータ） (2024-10-23T17:20:41Z)
• High-dimensional robust regression under heavy-tailed data: Asymptotics and Universality [7.416689632227865]
  重み付き雑音の存在下での頑健な回帰推定器の高次元特性について検討する。 整合性にもかかわらず、最適に調整された位置パラメータ$delta$は高次元状態において最適であることを示す。 隆起回帰の余剰リスクに対する崩壊率を導出する。
  論文  参考訳（メタデータ） (2023-09-28T14:39:50Z)
• Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
  Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。 本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
  論文  参考訳（メタデータ） (2023-06-27T08:15:28Z)
• Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector Problems [98.34292831923335]
  オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。 我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
  論文  参考訳（メタデータ） (2021-12-29T18:46:52Z)
• Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
  ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。 そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
  論文  参考訳（メタデータ） (2021-08-25T21:30:27Z)
• Navigating to the Best Policy in Markov Decision Processes [68.8204255655161]
  マルコフ決定過程における純粋探索問題について検討する。 エージェントはアクションを逐次選択し、結果のシステム軌道から可能な限り早くベストを目標とする。
  論文  参考訳（メタデータ） (2021-06-05T09:16:28Z)
• SNIPS: Solving Noisy Inverse Problems Stochastically [25.567566997688044]
  本稿では,線形逆問題の後部分布からサンプルを抽出するSNIPSアルゴリズムを提案する。 我々の解はランゲヴィン力学とニュートン法からのアイデアを取り入れ、事前訓練された最小二乗誤差(MMSE)を利用する。 得られたサンプルは、与えられた測定値と鋭く、詳細で一致しており、それらの多様性は、解決される逆問題に固有の不確実性を明らかにする。
  論文  参考訳（メタデータ） (2021-05-31T13:33:21Z)
• On Signal-to-Noise Ratio Issues in Variational Inference for Deep Gaussian Processes [55.62520135103578]
  重み付き変分推論を用いたDGP(Deep Gaussian Processs)の訓練で用いられる勾配推定は,信号-雑音比(SNR)問題の影響を受けやすいことを示す。 DGPモデルの予測性能が一貫した改善につながることを示す。
  論文  参考訳（メタデータ） (2020-11-01T14:38:02Z)
• The Heavy-Tail Phenomenon in SGD [7.366405857677226]
  最小損失のHessianの構造に依存すると、SGDの反復はエンフェビーテールの定常分布に収束する。 深層学習におけるSGDの行動に関する知見に分析結果を変換する。
  論文  参考訳（メタデータ） (2020-06-08T16:43:56Z)
• Information Directed Sampling for Linear Partial Monitoring [112.05623123909895]
  線形報酬と観測構造を持つ部分的監視のための情報指向サンプリング(IDS)を導入する。 IDSは、ゲームの正確な可観測性条件に依存する適応的な最悪の後悔率を達成する。 結果がコンテキストおよびカーネル化設定にまで拡張され、アプリケーションの範囲が大幅に増加する。
  論文  参考訳（メタデータ） (2020-02-25T21:30:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。