論文の概要: A Self-Generated Floor on Adam's $\varepsilon$: Evidence from Power-Law Matrix Sensing

• arxiv url: http://arxiv.org/abs/2611.01868v1
• Date: Sun, 01 Nov 2026 12:59:38 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-03 20:18:10.916298
• Title: A Self-Generated Floor on Adam's $\varepsilon$: Evidence from Power-Law Matrix Sensing
• Title（参考訳）: アダムの$\varepsilon$の自己生成フロア:パワーローマトリックスセンシングによる証拠
• Abstract要約: しきい値に交差する壁パラメータ $varepsilon_mathrmdyn = 4.76times$ は、飽和障害境界を$D ge 4$ across $(V,D)$ scales to RMS $0.098$ で予測する。 我々は、このエッジを自己生成のダイナミックな $varepsilon_mathrmdyn propto $: 高曲率モードが振幅による安定性の適応飽和付近で持続的に振動するところまで辿る。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: In nonconvex Burer--Monteiro low-rank matrix sensing of $U^\ast \in \mathbb{R}^{V \times D}$ under power-law covariance $Σ= \mathrm{diag}(j^{-s})_{j=1}^V$, the precision-wall approximation predicts that Adam stalls when the smallest non-gauge Hessian eigenvalue drops below its denominator floor, giving $s^\ast(V,D) = [\log(1/\varepsilon_{\mathrm{eff}}) - \log V]/\log(VD) + δ_{\mathrm{Adam}}$. If $\varepsilon_{\mathrm{eff}}$ were set by $\varepsilon_0$, lowering $\varepsilon_0$ from $10^{-10}$ to $10^{-12}$ would raise $s^\ast$ by $0.95\text{--}1.33$. Instead, across six values of $\varepsilon_0$ two decades apart, $10^{-2}$ to $10^{-12}$, the boundary follows the $\varepsilon_0$ slope down to $10^{-6}$, bends near $10^{-8}$, and is flat below $10^{-8}$, while warm-started L-BFGS and Gauss--Newton reach machine precision on stalled instances. We trace this saturation to a self-generated dynamical floor $\varepsilon_{\mathrm{dyn}} \propto α$: high-curvature modes oscillate persistently near the adaptive edge of stability with amplitude $\propto α(1-β_1)/(1+β_1)$ and leak gradient fluctuations of scale $κα$ into rare modes via measurement coupling, pinning $\sqrt{\hat{v}_V} \approx κα\gg \varepsilon_0$. Fitting a single threshold-crossing wall parameter $\varepsilon_{\mathrm{dyn}} = 4.76\times 10^{-9}$ (with the detection lag frozen at its companion calibration) predicts the saturated failure boundary for $D \ge 4$ across five $(V,D)$ scales to RMS $0.098$ (breaking down at $D = 2$), while shrinking $\varepsilon_0$ below $10^{-8}$ is ineffective and lowering the step size $α$ reduces the floor directly.
• Abstract（参考訳）: Unconvex Burer--Monteiro low-rank matrix sensor of $U^\ast \mathbb{R}^{V \times D}$ under power-law covariance $Σ= \mathrm{diag}(j^{-s})_{j=1}^V$, the precision-wall approximation predicts that Adam stalls when the least non-gauge Hessian eigen value drops under its denominator floor, given $s^\ast(V,D) = [\log(1/\varepsilon_{\mathrm{eff}}) - \logV]/\log(V) + δmathrm{Adam$$. もし$\varepsilon_{\mathrm{eff}}$を$\varepsilon_0$で設定すれば、$\varepsilon_0$を$10^{-10}$から$10^{-12}$に下げると、$s^\ast$を$0.95\text{--}1.33$に上げる。 代わりに、$\varepsilon_0$ 20 分、$10^{-2}$から$10^{-12}$の6つの値にまたがって、境界は$\varepsilon_0$勾配から$10^{-6}$に続き、$10^{-8}$の近くに曲がり、10^{-8}$よりも低く、一方、温められたL-BFGS と Gauss--Newton は、停止したインスタンス上で機械の精度に達する。 この飽和は自己生成の動的フロア $\varepsilon_{\mathrm{dyn}} \propto α$: 高曲率モードは振幅 $\propto α(1-β_1)/(1+β_1)$ の適応エッジ付近で持続的に振動する。 1つのしきい値交差する壁パラメータを$\varepsilon_{\mathrm{dyn}} = 4.76\times 10^{-9}$(同値校正で凍結された検出ラグを持つ)に設定すると、飽和した障害境界を$D \ge 4$ across five $(V,D)$ scales to RMS $0.098$ (break down at $D = 2$)で予測し、$\varepsilon_0$ below 10^{-8}$を縮小すると、ステップサイズ$α$は非効率で、直接フロアを縮小する。

関連論文リスト

• The Precision Wall: An Optimizer-Dependent Boundary for Optimization under Power-Law Measurement Spectra [0.0]
  低ランク行列による階数-D$係数$Uast in mathbbRV times D$のセンシングでは、等方的ガウス設計をパワー-ロー測度共分散$=mathrmdiag(j-s)_j=1V$に置き換える。
  論文  参考訳（メタデータ） (2026-10-29T17:14:36Z)
• Optimal Ground-State Preparation with a Guiding State [0.5727301533135839]
  本稿では, [HMdW03] スタイルの振幅増幅と誤差低減に基づく2つのアルゴリズムと, トランスデューサの構成を用いたアルゴリズムを提案する。 本論文は、最近の地中エネルギー推定論文[JW26,SdW26]と[SdW26]に対する状態準備のフォローアップである。 基底状態作成へのアプローチのひとつとして,振幅増幅のためのトランスデューサと,独立性のあるLCUを構築した。
  論文  参考訳（メタデータ） (2026-09-29T17:41:44Z)
• Optimal Lower Bound for Ground-State Energy Estimation with a Guiding State [0.5947766849585866]
  結合下界$(log(1/varepsilon)/)$を、きつい$varepsilon$-dependenceで証明する。 この下限は、基底状態が一意であることが保証され、$H$はその第1と第2の固有値の間のギャップが$$であることを示す。
  論文  参考訳（メタデータ） (2026-08-25T12:43:54Z)
• The Sample Complexity of Distributionally Robust PAC Learning under Cressie--Read Divergences [4.588028371034407]
  我々は,データ分布の逆摂動が Cressie-Read divergence of order $k>1$ and radius $geq 0$ で制約されるような$0$--1$-lossのPAC学習について検討した。 VC次元が$d$の仮説クラスに対して、実現可能かつ非依存的なサンプル-複雑性は定数および対数的因子に密接な境界を定めている。
  論文  参考訳（メタデータ） (2026-08-05T10:53:13Z)
• Coresets for Multiple $\ell_p$ Regression [47.790126028106734]
  サイズ $tilde O(varepsilon-2d)$ for $p2$ と $tilde O(varepsilon-pdp/2)$ for $p>2$ のコアセットを構築します。 1p2$の場合、すべての行列は$tilde O(varepsilon-1k)$行のサブセットを持ち、$(varepsilon-1k)$-a optimal $k$-dimensional subspace for $ell_p$ subspace approximationである。
  論文  参考訳（メタデータ） (2024-06-04T15:50:42Z)
• Detection of Dense Subhypergraphs by Low-Degree Polynomials [72.4451045270967]
  ランダムグラフにおける植込み高密度部分グラフの検出は、基本的な統計的および計算上の問題である。 我々は、$Gr(n, n-beta)ハイパーグラフにおいて、植えた$Gr(ngamma, n-alpha)$ subhypergraphの存在を検出することを検討する。 平均値の減少に基づく硬さが不明な微妙な対数密度構造を考えると,この結果はグラフの場合$r=2$で既に新しくなっている。
  論文  参考訳（メタデータ） (2023-04-17T10:38:08Z)
• Near-Linear Time and Fixed-Parameter Tractable Algorithms for Tensor Decompositions [51.19236668224547]
  テンソルの低階近似について検討し,テンソルトレインとタッカー分解に着目した。 テンソル列車の分解には、小さなビクリテリアランクを持つビクリテリア$(1 + eps)$-approximationアルゴリズムと、O(q cdot nnz(A))$ランニングタイムを与える。 さらに、任意のグラフを持つテンソルネットワークにアルゴリズムを拡張します。
  論文  参考訳（メタデータ） (2022-07-15T11:55:09Z)
• Low-Rank Approximation with $1/\epsilon^{1/3}$ Matrix-Vector Products [58.05771390012827]
  我々は、任意のSchatten-$p$ノルムの下で、低ランク近似のためのクリロフ部分空間に基づく反復法について研究する。 我々の主な成果は、$tildeO(k/sqrtepsilon)$ matrix-vector productのみを使用するアルゴリズムである。
  論文  参考訳（メタデータ） (2022-02-10T16:10:41Z)
• Self-training Converts Weak Learners to Strong Learners in Mixture Models [86.7137362125503]
  擬似ラベルの $boldsymbolbeta_mathrmpl$ が,最大$C_mathrmerr$ の分類誤差を達成可能であることを示す。 さらに、ロジスティックな損失に対して勾配降下を実行することで、ラベル付き例のみを使用して、分類誤差が$C_mathrmerr$で擬ラベルの $boldsymbolbeta_mathrmpl$ が得られることを示す。
  論文  参考訳（メタデータ） (2021-06-25T17:59:16Z)
• Sparse sketches with small inversion bias [79.77110958547695]
  逆バイアスは、逆の共分散に依存する量の推定を平均化するときに生じる。 本研究では、確率行列に対する$(epsilon,delta)$-unbiased estimatorという概念に基づいて、逆バイアスを解析するためのフレームワークを開発する。 スケッチ行列 $S$ が密度が高く、すなわちサブガウスのエントリを持つとき、$(epsilon,delta)$-unbiased for $(Atop A)-1$ は $m=O(d+sqrt d/ のスケッチを持つ。
  論文  参考訳（メタデータ） (2020-11-21T01:33:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。