論文の概要: Gaussian Approximation of Besov Functions for Logistic Classification on Manifolds
- arxiv url: http://arxiv.org/abs/2610.27022v1
- Date: Mon, 19 Oct 2026 14:26:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.432847
- Title: Gaussian Approximation of Besov Functions for Logistic Classification on Manifolds
- Title(参考訳): 多様体の論理的分類のためのベソフ関数のガウス近似
- Abstract要約: 連結コンパクトな滑らかな埋め込み多様体上での近似と正規化ロジスティック分類について検討する。
2つの大きな課題は、有界ベイズ函数を仮定せずに高速不等式を導出することである。
飽和を伴わない固有次元と対象の正則性の両方を利用する近似式を構築した。
- 参考スコア(独自算出の注目度): 4.74753940673406
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study Gaussian kernel approximation and regularized logistic classification on a connected compact smooth embedded manifold $X\subset\mathbb R^d$ without boundary and of intrinsic dimension $\varrho$. Two main challenges are to derive a fast oracle inequality without assuming a bounded Bayes function and to construct Gaussian approximants that exploit both the intrinsic dimension and the target's regularity without saturation. We address the first challenge through a Bernstein-type inequality whose constant depends linearly on the supremum norm of the predictor. Combined with localized complexity estimates, this yields an oracle inequality over separable normed function spaces. To address the second challenge, we establish a uniform Sobolev operator expansion and cancel its lower-order bias terms using a signed combination of Gaussian kernel integral operators at different bandwidths. Real interpolation then gives an $L_2(X)$ approximation error of order $γ^α$ for functions in $B^α_{2,\infty}(X)$, where $γ$ is the bandwidth. By constructing the approximants directly on the manifold without ambient extension, we obtain a squared Gaussian RKHS norm bound of order $γ^{-\varrho}$. This construction thus overcomes second-order saturation while retaining norm control governed by the intrinsic dimension. When the marginal distribution has a density $g\in L_p(X)$, these results yield the logistic excess-risk rate $\bigl((\log n)^{\varrho+1}/n\bigr)^{4α(1-1/p)/(4α(1-1/p)+3\varrho)}$. We further show that clipping predictions yields the faster clipped logistic excess-risk rate $\bigl((\log n)^{\varrho+2}/n\bigr)^{2α(1-1/p)/(2α(1-1/p)+\varrho)}$. For bounded densities, its polynomial exponent matches that of the minimax optimal rate for squared-loss regression, and its corresponding excess misclassification risk also matches the minimax optimal rate.
- Abstract(参考訳): 連結コンパクトな滑らかな埋め込み多様体 $X\subset\mathbb R^d$ の境界と内在次元 $\varrho$ のガウス核近似と正規化ロジスティック分類について検討する。
2つの主な課題は、有界ベイズ函数を仮定せずに高速なオラクルの不等式を導出し、飽和のない内在次元と対象の正則性の両方を利用するガウス近似体を構築することである。
我々は、予測子の上限ノルムに線形に依存するベルンシュタイン型不等式による最初の挑戦に対処する。
局所化複雑性推定と組み合わせると、これは分離可能ノルム函数空間上のオラクルの不等式をもたらす。
2つ目の課題に対処するため、同一のソボレフ作用素拡張を確立し、異なる帯域幅のガウス核積分作用素の符号付き組合せを用いて下位のバイアス項をキャンセルする。
すると、実補間は$L_2(X)$の次数$γ^α$の近似誤差を$B^α_{2,\infty}(X)$の関数に対して与え、$γ$は帯域幅である。
周囲の拡大を伴わない多様体に直接近似体を構築することにより、次数$γ^{-\varrho}$の正方形ガウス RKHSノルム境界を得る。
この構成は、本質的な次元によって支配されるノルム制御を維持しながら、2階飽和を克服する。
辺分布が密度$g\in L_p(X)$を持つとき、これらの結果はロジスティック過剰リスク率$\bigl((\log n)^{\varrho+1}/n\bigr)^{4α(1-1/p)/(4α(1-1/p)+3\varrho)}$となる。
さらに、クリッピング予測により、より高速なクリッピングロジスティック過剰リスク率 $\bigl((\log n)^{\varrho+2}/n\bigr)^{2α(1-1/p)/(2α(1-1/p)+\varrho)}$ が得られることを示す。
有界密度の場合、多項式指数は平方損失回帰のミニマックス最適率と一致し、それに対応する過剰な誤分類リスクもミニマックス最適率と一致する。
関連論文リスト
- Lower Bounds for Stochastic First-Order Algorithms with Variance Reduction in Nonconvex--Concave Minimax Optimization [2.834413535942792]
非畳み込みミニマックス最適化における一階アルゴリズムの下位境界を確立する。
私たちの貢献は、分散還元を許容するゼロ境界クラスに対する下界である。
これらの結果は、凹凸と凹凸構造をまたいだ複雑さの障壁を同定する。
論文 参考訳(メタデータ) (2026-10-01T13:24:15Z) - Tight Stochastic Condition-Number Dependence in Nonconvex-Strongly-Concave Minimax Optimization [1.6921396880325779]
我々は,SAPD+の決定論的複雑性における線形条件数依存性が,非連続性最適化に必要であることを証明した。
論文 参考訳(メタデータ) (2026-09-25T06:34:04Z) - Estimation of the sub-Gaussian parameter [7.4076878426925035]
準ガウス確率変数 $X$ は 2_* = s_upin mathbbR L()$ ここで $L() = frac22 log mathbbE eX$ は重み付き累積生成関数である。
ガウス以下の確率変数が多用されているにもかかわらず、$2_*$の推定はほとんど注目されず、まだよく理解されていない。
論文 参考訳(メタデータ) (2026-06-04T16:48:31Z) - Optimal Dimension-Free Sampling for Regularized Classification [56.72526267755301]
我々は、リプシッツ連続分類損失関数の幅広いクラスに対して、$(1pmvarepsilon)$-relativeエラーを達成する最適サンプリング境界を証明した。
これにはロジスティックやシグモイドの損失、ヒンジの損失、ReLUの損失といった重要な機能が含まれており、顕著で一般的な例である。
論文 参考訳(メタデータ) (2026-05-22T15:05:33Z) - When Does $\ell_2$-Boosting Overfit Benignly? High-Dimensional Risk Asymptotics and the $\ell_1$ Implicit Bias [15.113649527486276]
良性オーバーフィッティングが線形レートで失敗することを示します。
この局所化機構は信号の存在下で持続するべきであるが、正確な信号-雑音分解は未解決の問題である。
論文 参考訳(メタデータ) (2026-05-07T14:14:09Z) - Hardness of High-Dimensional Linear Classification [58.29089693778071]
我々は、最大半空間離散性問題に対する次元下界の新たな指数関数を確立する。
どちらも計算幾何学と機械学習の基本的問題であり、その正確で近似的な形式である。
論文 参考訳(メタデータ) (2026-03-19T15:53:41Z) - Dimension-Independent Convergence of Underdamped Langevin Monte Carlo in KL Divergence [50.719298242863744]
Underdamped Langevin dynamics (ULD) は Gibbs 分布の$propto e-V$ に広く使われているサンプルである。
離散化LDDにおける最初の次元自由なKL分散境界を証明した。
論文 参考訳(メタデータ) (2026-03-02T22:14:38Z) - A Unified Framework for Uniform Signal Recovery in Nonlinear Generative
Compressed Sensing [68.80803866919123]
非線形測定では、ほとんどの先行結果は一様ではない、すなわち、すべての$mathbfx*$に対してではなく、固定された$mathbfx*$に対して高い確率で保持される。
本フレームワークはGCSに1ビット/一様量子化観測と単一インデックスモデルを標準例として適用する。
また、指標集合が計量エントロピーが低い製品プロセスに対して、より厳密な境界を生み出す濃度不等式も開発する。
論文 参考訳(メタデータ) (2023-09-25T17:54:19Z) - Optimal Robust Linear Regression in Nearly Linear Time [97.11565882347772]
学習者が生成モデル$Y = langle X,w* rangle + epsilon$から$n$のサンプルにアクセスできるような高次元頑健な線形回帰問題について検討する。
i) $X$ is L4-L2 hypercontractive, $mathbbE [XXtop]$ has bounded condition number and $epsilon$ has bounded variance, (ii) $X$ is sub-Gaussian with identity second moment and $epsilon$ is
論文 参考訳(メタデータ) (2020-07-16T06:44:44Z) - Curse of Dimensionality on Randomized Smoothing for Certifiable
Robustness [151.67113334248464]
我々は、他の攻撃モデルに対してスムースな手法を拡張することは困難であることを示す。
我々はCIFARに関する実験結果を示し,その理論を検証した。
論文 参考訳(メタデータ) (2020-02-08T22:02:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。