論文の概要: Estimating Rank-One Spikes from Heavy-Tailed Noise via Self-Avoiding Walks

• arxiv url: http://arxiv.org/abs/2008.13735v1
• Date: Mon, 31 Aug 2020 16:57:20 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-23 07:36:02.288690
• Title: Estimating Rank-One Spikes from Heavy-Tailed Noise via Self-Avoiding Walks
• Title（参考訳）: 自己回避歩行による重音からのランクワンスパイクの推定
• Authors: Jingqiu Ding, Samuel B.Hopkins, David Steurer
• Abstract要約: ノイズ分布の一般クラスに関する対称スパイク行列モデルについて検討する。 ガウス雑音に対しても最適なBBPしきい値まで重み付き雑音を推定する推定器を示す。 我々の推定器はカラーコーディング技術を用いて自己回避ウォークを数えることで時間的に評価できる。
• 参考スコア（独自算出の注目度）: 13.879536370173506
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study symmetric spiked matrix models with respect to a general class of noise distributions. Given a rank-1 deformation of a random noise matrix, whose entries are independently distributed with zero mean and unit variance, the goal is to estimate the rank-1 part. For the case of Gaussian noise, the top eigenvector of the given matrix is a widely-studied estimator known to achieve optimal statistical guarantees, e.g., in the sense of the celebrated BBP phase transition. However, this estimator can fail completely for heavy-tailed noise. In this work, we exhibit an estimator that works for heavy-tailed noise up to the BBP threshold that is optimal even for Gaussian noise. We give a non-asymptotic analysis of our estimator which relies only on the variance of each entry remaining constant as the size of the matrix grows: higher moments may grow arbitrarily fast or even fail to exist. Previously, it was only known how to achieve these guarantees if higher-order moments of the noises are bounded by a constant independent of the size of the matrix. Our estimator can be evaluated in polynomial time by counting self-avoiding walks via a color -coding technique. Moreover, we extend our estimator to spiked tensor models and establish analogous results.
• Abstract（参考訳）: 雑音分布の一般クラスに関して対称スパイク行列モデルについて検討した。 ランダムノイズ行列のランク1の変形がゼロ平均と単位分散で独立に分布している場合、そのランク1部を推定することが目的である。 ガウス雑音の場合、与えられた行列の最上位固有ベクトルは、例えば有名なbbp相転移の意味での最適統計的保証を達成するための広く研究された推定子である。 しかし、この推定器は重テールノイズに対して完全に故障する可能性がある。 本研究では,ガウス雑音においても最適であるbbpしきい値まで重み付き雑音に対応する推定器を示す。 我々は、行列の大きさが大きくなるにつれて、各エントリの分散が一定であるだけに依存する推定器の非漸近解析を与える。 これまでは、ノイズの高次モーメントが行列のサイズに依存しない定数で境界付けられた場合にのみ、これらの保証を達成する方法が知られていた。 我々の推定器はカラー符号化技術を用いて自己回避歩行を数えることで多項式時間で評価できる。 さらに、推定器をスパイクテンソルモデルに拡張し、類似の結果を確立する。

関連論文リスト

• Relaxed Quantile Regression: Prediction Intervals for Asymmetric Noise [51.87307904567702]
  量子レグレッション(Quantile regression)は、出力の分布における量子の実験的推定を通じてそのような間隔を得るための主要なアプローチである。 本稿では、この任意の制約を除去する量子回帰に基づく区間構成の直接的な代替として、Relaxed Quantile Regression (RQR)を提案する。 これにより、柔軟性が向上し、望ましい品質が向上することが実証された。
  論文  参考訳（メタデータ） (2024-06-05T13:36:38Z)
• General Gaussian Noise Mechanisms and Their Optimality for Unbiased Mean Estimation [58.03500081540042]
  プライベート平均推定に対する古典的なアプローチは、真の平均を計算し、バイアスのないがおそらく相関のあるガウスノイズを加えることである。 すべての入力データセットに対して、集中的な差分プライバシーを満たす非バイアス平均推定器が、少なくとも多くのエラーをもたらすことを示す。
  論文  参考訳（メタデータ） (2023-01-31T18:47:42Z)
• Optimizing the Noise in Self-Supervised Learning: from Importance Sampling to Noise-Contrastive Estimation [80.07065346699005]
  GAN(Generative Adversarial Networks)のように、最適な雑音分布はデータ分布に等しくなると広く想定されている。 我々は、この自己教師型タスクをエネルギーベースモデルの推定問題として基礎づけるノイズ・コントラスト推定に目を向ける。 本研究は, 最適雑音のサンプリングは困難であり, 効率性の向上は, データに匹敵する雑音分布を選択することに比べ, 緩やかに行うことができると結論付けた。
  論文  参考訳（メタデータ） (2023-01-23T19:57:58Z)
• Detection problems in the spiked matrix models [15.125686694430573]
  まず、ノイズがガウス的でない場合、データ行列を入力順に前変換することで主成分分析を改善することができることを示す。 また,事前知識がない場合の信号のランクを推定するアルゴリズムも導入する。
  論文  参考訳（メタデータ） (2023-01-12T23:46:41Z)
• Robust Inference of Manifold Density and Geometry by Doubly Stochastic Scaling [8.271859911016719]
  我々は高次元雑音下で頑健な推論のためのツールを開発する。 提案手法は, セルタイプにまたがる技術的ノイズレベルの変動に頑健であることを示す。
  論文  参考訳（メタデータ） (2022-09-16T15:39:11Z)
• Robust Matrix Completion with Heavy-tailed Noise [0.5837881923712392]
  本稿では,重み付き潜在的非対称雑音の存在下での低ランク行列の完全性について検討する。 本稿では,大規模かつ非対称な誤りに対して頑健な重み付き雑音に適応するハマー損失を適応的に適用する。 誤差の2番目のモーメント条件下では、ユークリッド誤差は最小値の統計的推定誤差に到達するまで幾何的に早く落ちることが証明される。
  論文  参考訳（メタデータ） (2022-06-09T04:48:48Z)
• The Optimal Noise in Noise-Contrastive Learning Is Not What You Think [80.07065346699005]
  この仮定から逸脱すると、実際により良い統計的推定結果が得られることが示される。 特に、最適な雑音分布は、データと異なり、また、別の家族からさえも異なる。
  論文  参考訳（メタデータ） (2022-03-02T13:59:20Z)
• Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
  カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。 我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。 MRP のサブクラスに対する minimax の下位境界を証明する。
  論文  参考訳（メタデータ） (2021-09-24T14:48:20Z)
• A Random Matrix Perspective on Random Tensors [40.89521598604993]
  与えられたランダムテンソルの収縮から生じるランダム行列のスペクトルについて検討する。 本手法は,ML問題の局所的な最大値の未知な特徴を与える。 我々のアプローチは万能であり、非対称、非ガウス的、高階的など他のモデルにも拡張できる。
  論文  参考訳（メタデータ） (2021-08-02T10:42:22Z)
• On Estimating Rank-One Spiked Tensors in the Presence of Heavy Tailed Errors [10.166435679260015]
  重く尾のノイズが存在する場合のランク1スパイクテンソルの推定について検討した。 この結果から,統計的および計算効率のトレードオフにおける基本的な類似点と相違点が浮き彫りにされた。
  論文  参考訳（メタデータ） (2021-07-20T17:45:55Z)
• Learning Noise Transition Matrix from Only Noisy Labels via Total Variation Regularization [88.91872713134342]
  本稿では,雑音遷移行列を推定し,同時に分類器を学習する理論的基礎付け手法を提案する。 提案手法の有効性を,ベンチマークおよび実世界のデータセットを用いた実験により示す。
  論文  参考訳（メタデータ） (2021-02-04T05:09:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。