論文の概要: Bernstein-Schur Kernels: Random Features by Sketched Modulation and Radial Randomization
- arxiv url: http://arxiv.org/abs/2606.11255v1
- Date: Mon, 08 Jun 2026 21:59:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-11 16:42:38.085961
- Title: Bernstein-Schur Kernels: Random Features by Sketched Modulation and Radial Randomization
- Title(参考訳): Bernstein-Schur Kernels:Sketched ModulationとRadial Randomizationによるランダム特徴
- Authors: Taha Bouhsine,
- Abstract要約: Bernstein--Schur カーネルは有限機能カーネルと単調シフトインカーネル不変量の積である。
両因子を言い換えるクラス全体の1つの特徴的構成を与える。
- 参考スコア(独自算出の注目度): 0.42303492200814446
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Bernstein--Schur kernels are products of a finite-feature kernel (one with an explicit finite-dimensional feature map) and a completely monotone shift-invariant kernel: nonstationary kernels that fall between the shift-invariant and dot-product templates random features usually exploit, so in general neither Bochner sampling nor polynomial sketching applies to the full kernel directly. We give one random-feature construction for the whole class that \emph{randomizes both factors: it sketches the finite modulation and randomizes the completely monotone radial factor, sampling the latter's one-dimensional Bernstein--Widder scale and then applying Gaussian random Fourier features (whose frequency is still $d$-dimensional). The feature dimension is then $Dm$, set by the sketch size $m$ and the radial-draw count $D$, free of the $O(d^2)$ size of the exact modulation feature. Keeping the modulation \emph{exact} is the analyzable limit ($m\to\infty$): there we prove unbiasedness, an exact variance for the recommended flat estimator, an expected matrix-Bernstein operator-norm bound (with a matching high-probability tail) controlled by the top eigenvalues of the kernel and modulation Gram matrices together with an intrinsic dimension rather than the crude $N\max_{ij}$ entrywise route, and a deterministic relative-spectral kernel-ridge stability result. By conditioning on the sketch, the doubly-randomized estimator inherits the same intrinsic-dimension operator-norm guarantee plus a single additive sketch term, tunable by $m$ independently of $D$. The motivating instance is the biased $yat$-kernel $k_{yat,b}(w,x)=(w^\top x+b)^2/(\|w-x\|^2+\varepsilon)$, $b\ge0$, whose family span contains the inverse-multiquadric kernel by finite differences in $b$; for it the radial mixture is the IMQ spectral sampler, and one frequency per scale is variance-optimal at a fixed radial-feature budget.
- Abstract(参考訳): Bernstein--Schur カーネルは有限機能カーネル(明示的な有限次元の特徴写像を持つ)と完全単調シフト不変カーネル(英語版)の積である:シフト不変量とドット生成テンプレートの間にある非定常カーネルは通常ランダムな特徴を悪用する。
有限変調をスケッチし、完全に単調なラジアル因子をランダム化し、後者の1次元ベルンシュタイン-ウィッダースケールをサンプリングし、ガウス的ランダムフーリエ特徴(その周波数がまだ$d$$-dimensional)を適用する。
次に、特徴次元は$Dm$となり、スケッチサイズ$m$と、正確な変調機能の$O(d^2)$サイズを含まないラジアル値$D$によって設定される。
変調 \emph{exact} を解析可能な極限 (m\to\infty$): ここでは、不偏性、推奨平坦な推定器の正確な分散、期待行列-ベルンシュタイン作用素-ノルム境界(対応する高確率の尾を持つ)がカーネルのトップ固有値によって制御され、変調グラム行列は、粗な$N\max_{ij} よりも本質的な次元とともに、エントリーワイドルートと決定論的相対スペクトルカーネル-リッジ安定性の結果であることを示す。
スケッチを条件付けすることで、二重ランダム化された推定子は、D$とは独立して$m$で調整可能な単一の追加のスケッチ項に加えて、本質的なディメンジョン演算子-ノルム保証を継承する。
モチベーションインスタンスは、バイアス付き$yat$-kernel $k_{yat,b}(w,x)=(w^\top x+b)^2/(\|w-x\|^2+\varepsilon)$, $b\ge0$であり、その族は逆多重四乗核を$b$で有限差分で含む。
関連論文リスト
- Near-Optimal Regret in Adversarial Kernel Bandits [50.68324062892194]
本稿では,各ラウンドにおける損失が任意の有界要素によって誘導される逆カーネルバンドイット問題について検討する。
我々の主な結果は、$widetildeObig(sqrtT, d_*(),log|X|big)$, ここでは$d_*()$は有効次元の広く解釈された概念である。
論文 参考訳(メタデータ) (2026-05-26T06:10:24Z) - Anisotropic local law for non-separable sample covariance matrices [10.181748307494608]
サンプル共分散行列の局所法則を$K = N-1sum_i=1N g_ig_ig_i*$ とすると、Rn$ の確率ベクトル $g_1, ldots, g_N は共通共分散$$と独立である。
我々は,条件付き平均ゼロ分布,ランダム特徴モデル$g = (Xw)$,ガウス測度など,我々の仮定を満たす非分離例のクラスについて論じる。
論文 参考訳(メタデータ) (2026-02-20T03:28:51Z) - Universality of Kernel Random Matrices and Kernel Regression in the Quadratic Regime [11.655527064124074]
本研究では、カーネル回帰の研究を2次構造に拡張し、$n asymp d2$とする。
具体的には、元のカーネルランダム行列と二次カーネルランダム行列の差分に限定した作用素ノルム近似を確立する。
我々は、$n/d2$が非ゼロ定数に収束する二次状態におけるKRRの正確なトレーニングとテスト誤差を特徴付ける。
論文 参考訳(メタデータ) (2024-08-02T07:29:49Z) - Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳(メタデータ) (2024-04-29T15:04:07Z) - A Unified Framework for Uniform Signal Recovery in Nonlinear Generative
Compressed Sensing [68.80803866919123]
非線形測定では、ほとんどの先行結果は一様ではない、すなわち、すべての$mathbfx*$に対してではなく、固定された$mathbfx*$に対して高い確率で保持される。
本フレームワークはGCSに1ビット/一様量子化観測と単一インデックスモデルを標準例として適用する。
また、指標集合が計量エントロピーが低い製品プロセスに対して、より厳密な境界を生み出す濃度不等式も開発する。
論文 参考訳(メタデータ) (2023-09-25T17:54:19Z) - Near-optimal fitting of ellipsoids to random points [68.12685213894112]
楕円体をランダムな点に合わせるという基本的な問題は、低ランク行列分解、独立成分分析、主成分分析に関係している。
我々はこの予想を、ある$n = Omega(, d2/mathrmpolylog(d))$ に対する適合楕円体を構成することで対数的因子まで解決する。
我々の証明は、ある非標準確率行列の便利な分解を用いて、サンダーソン等最小二乗構成の実現可能性を示す。
論文 参考訳(メタデータ) (2022-08-19T18:00:34Z) - Random matrices in service of ML footprint: ternary random features with
no performance loss [55.30329197651178]
我々は、$bf K$ の固有スペクトルが$bf w$ の i.d. 成分の分布とは独立であることを示す。
3次ランダム特徴(TRF)と呼ばれる新しいランダム手法を提案する。
提案したランダムな特徴の計算には乗算が不要であり、古典的なランダムな特徴に比べてストレージに$b$のコストがかかる。
論文 参考訳(メタデータ) (2021-10-05T09:33:49Z) - Tight Nonparametric Convergence Rates for Stochastic Gradient Descent
under the Noiseless Linear Model [0.0]
このモデルに基づく最小二乗リスクに対する1パス, 固定段差勾配勾配の収束度を解析した。
特殊な場合として、ランダムなサンプリング点における値のノイズのない観測から単位区間上の実関数を推定するオンラインアルゴリズムを解析する。
論文 参考訳(メタデータ) (2020-06-15T08:25:50Z) - Linear Time Sinkhorn Divergences using Positive Features [51.50788603386766]
エントロピー正則化で最適な輸送を解くには、ベクトルに繰り返し適用される$ntimes n$ kernel matrixを計算する必要がある。
代わりに、$c(x,y)=-logdotpvarphi(x)varphi(y)$ ここで$varphi$は、地上空間から正のorthant $RRr_+$への写像であり、$rll n$である。
論文 参考訳(メタデータ) (2020-06-12T10:21:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。