Fugu-MT 論文翻訳(概要): Tight Worst-Case Bounds for the Smallest Eigenvalue of ReLU NTK Gram Matrices

論文の概要: Tight Worst-Case Bounds for the Smallest Eigenvalue of ReLU NTK Gram Matrices

arxiv url: http://arxiv.org/abs/2608.03368v1
Date: Tue, 04 Aug 2026 09:19:53 GMT
ステータス: 翻訳完了
システム内更新日: 2026-08-05 15:30:23.1097
Title: Tight Worst-Case Bounds for the Smallest Eigenvalue of ReLU NTK Gram Matrices
Title（参考訳）: ReLU NTKグラム行列の最小固有値に対する最短値境界
Abstract要約: 連続 ReLU 微分グラム行列 $H$ について検討し、その成分は標準ガウス方向のペアゲート内積を平均化することによって得られる。普遍自由下界 $ _min(H) = ( _pm/sqrtlog n ) $ を証明する。我々は、一致する上限である $ _min(H) = O( _pm/sqrtlog n ) $ を満たす最悪のケース族を構築し、この速度が普遍定数に密接であることを示す。
参考スコア（独自算出の注目度）: 10.036945747389058
License: http://creativecommons.org/licenses/by-nc-sa/4.0/
Abstract: For $n$ unit vectors $x_1,\ldots,x_n \in \mathbb{R}^d$, we study the continuous ReLU derivative Gram matrix $H$, whose entries are obtained by averaging pairwise gated inner products over a standard Gaussian direction. Writing $ Δ_\pm := \min_{i \neq j} \min\{ \|x_i-x_j\|_2, \|x_i+x_j\|_2 \} $ for their projective separation, we prove the universal dimension-free lower bound $ λ_{\min}(H) = Ω( Δ_\pm/\sqrt{\log n} ) $. Conversely, we construct worst-case families satisfying the matching upper bound $ λ_{\min}(H) = O( Δ_\pm/\sqrt{\log n} ) $, showing that this rate is tight up to universal constants.
Abstract（参考訳）: n$単位ベクトル $x_1,\ldots,x_n \in \mathbb{R}^d$ に対して、連続ReLU微分グラム行列 $H$ は、標準ガウス方向上でペアゲート内積を平均化することによって得られる。 Δ_\pm := \min_{i \neq j} \min\{ \|x_i-x_j\|_2, \|x_i+x_j\|_2 \} $ と書くと、普遍次元自由下界 $ λ_{\min}(H) = Ω( Δ_\pm/\sqrt{\log n} ) $ が証明される。逆に、マッチングの上界 $ λ_{\min}(H) = O( Δ_\pm/\sqrt{\log n} ) $ を満たす最悪のケース族を構築し、この速度が普遍定数に密接であることを示す。

関連論文リスト

A Nuclear-Norm Lower Bound for Dithered Scalar Quantization of Matrix Products [0.14680035572775532]
量子化行列乗算における誤差を最小化する問題を$C=AB$とする。 C$を変更せずに、ファクタ範囲やグリッドステップを変更する製品保存変換を最適化します。 2ドルの電力の場合、条件付き期待値は決定論的に$O((m+n))$正実演算でアダマール符号を選択する。
論文参考訳（メタデータ） (2026-09-04T18:22:01Z)
CNOT-Distance is NP-complete under all-to-all connectivity [0.69670060449041]
固定ラベリングワイヤ上で全接続で$A$を少なくとも$K$CNOTゲートで実装可能であることを示す。この問題がNP完全であることを証明する。
論文参考訳（メタデータ） (2026-08-04T15:34:26Z)
Approximating the operator norm of local Hamiltonians via few quantum states [53.16156504455106]
複素ヒルベルト空間上で作用するエルミート作用素 $A$ を 2n$ とする。 A$ がパウリ拡大において小さな次数を持つとき、あるいは言い換えれば、$A$ は局所 $n$-量子ハミルトニアンである。 A$ が $d$-local, textiti.e., $deg(A)le d$ であるときは常に、次の離散化型不等式を持つことを示す。
論文参考訳（メタデータ） (2025-09-15T14:26:11Z)
Beyond Worst-Case Dimensionality Reduction for Sparse Vectors [47.927989749887864]
我々は、$s$sparseベクトルの最低ケース次元削減を超越して研究する。任意の集合 $X$ of $s$-sparse vectors in $mathbbRO(s2)$ に対して、$mathbbRO(s2)$ への線型写像が存在し、任意の $ell_p$ ノルムにおいて$X$の99%のベクトルのノルムを正確に保存する。我々は、$f$の非線形性と$の非負性の両方を示す。
論文参考訳（メタデータ） (2025-02-27T08:17:47Z)
The Communication Complexity of Approximating Matrix Rank [50.6867896228563]
この問題は通信複雑性のランダム化を$Omega(frac1kcdot n2log|mathbbF|)$とする。アプリケーションとして、$k$パスを持つ任意のストリーミングアルゴリズムに対して、$Omega(frac1kcdot n2log|mathbbF|)$スペースローバウンドを得る。
論文参考訳（メタデータ） (2024-10-26T06:21:42Z)
Provably learning a multi-head attention layer [55.2904547651831]
マルチヘッドアテンション層は、従来のフィードフォワードモデルとは分離したトランスフォーマーアーキテクチャの重要な構成要素の1つである。本研究では,ランダムな例から多面的注意層を実証的に学習する研究を開始する。最悪の場合、$m$に対する指数的依存は避けられないことを示す。
論文参考訳（メタデータ） (2024-02-06T15:39:09Z)
Spectral Statistics of the Sample Covariance Matrix for High Dimensional Linear Gaussians [12.524855369455421]
高次元安定状態遷移行列の予言のための通常最小二乗法(OLS)の性能 OLS推定器は、遠相遷移を発生させ、遠相遷移となり、推定誤差を悪化させるだけである。
論文参考訳（メタデータ） (2023-12-10T06:55:37Z)
A Unified Framework for Uniform Signal Recovery in Nonlinear Generative Compressed Sensing [68.80803866919123]
非線形測定では、ほとんどの先行結果は一様ではない、すなわち、すべての$mathbfx*$に対してではなく、固定された$mathbfx*$に対して高い確率で保持される。本フレームワークはGCSに1ビット/一様量子化観測と単一インデックスモデルを標準例として適用する。また、指標集合が計量エントロピーが低い製品プロセスに対して、より厳密な境界を生み出す濃度不等式も開発する。
論文参考訳（メタデータ） (2023-09-25T17:54:19Z)
Constant matters: Fine-grained Complexity of Differentially Private Continual Observation [10.624505781812385]
連続的な観測をカウントするための差分プライベートアルゴリズムに対するきめ細かい誤差境界について検討する。我々は連続観察下で様々な問題に対して具体的な誤差境界を初めて与えている。
論文参考訳（メタデータ） (2022-02-23T11:50:20Z)
The Complexity of Dynamic Least-Squares Regression [11.815510373329337]
動的最小二乗回帰の複雑さ。ゴールは、$min_mathbfx(t)| mathbfA(t) mathbfb(t) |$ for all $tin に対する $epsilon-approximate ソリューションを維持することである。
論文参考訳（メタデータ） (2022-01-01T18:36:17Z)
Spectral properties of sample covariance matrices arising from random matrices with independent non identically distributed columns [50.053491972003656]
関数 $texttr(AR(z))$, for $R(z) = (frac1nXXT- zI_p)-1$ and $Ain mathcal M_p$ deterministic, have a standard deviation of order $O(|A|_* / sqrt n)$. ここでは、$|mathbb E[R(z)] - tilde R(z)|_F を示す。
論文参考訳（メタデータ） (2021-09-06T14:21:43Z)
On the Regularization Effect of Stochastic Gradient Descent applied to Least Squares [0.0]
mathbbRn times n$ の可逆 $A に対して $|Ax -b |2 rightarrow min$ に適用される勾配降下の挙動について検討する。ここでは、$A$ に明示的な定数 $c_A$ が存在して、$$ mathbbE left| Ax_k+1-bright|2_2 leq となることを示す。
論文参考訳（メタデータ） (2020-07-27T03:01:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。