論文の概要: Adaptive and non-adaptive minimax rates for weighted Laplacian-eigenmap
based nonparametric regression
- arxiv url: http://arxiv.org/abs/2311.00140v1
- Date: Tue, 31 Oct 2023 20:25:36 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-02 15:45:58.852162
- Title: Adaptive and non-adaptive minimax rates for weighted Laplacian-eigenmap
based nonparametric regression
- Title(参考訳): 重み付きラプラシア固有写像に基づく非パラメトリック回帰に対する適応的および非適応的ミニマックス速度
- Authors: Zhaoyang Shi, Krishnakumar Balasubramanian, and Wolfgang Polonik
- Abstract要約: 重み付きラプラシアン・固有写像に基づく非パラメトリック回帰法の一群に対する適応的および非適応的収束率を示す。
- 参考スコア(独自算出の注目度): 14.003044924094597
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We show both adaptive and non-adaptive minimax rates of convergence for a
family of weighted Laplacian-Eigenmap based nonparametric regression methods,
when the true regression function belongs to a Sobolev space and the sampling
density is bounded from above and below. The adaptation methodology is based on
extensions of Lepski's method and is over both the smoothness parameter
($s\in\mathbb{N}_{+}$) and the norm parameter ($M>0$) determining the
constraints on the Sobolev space. Our results extend the non-adaptive result in
\cite{green2021minimax}, established for a specific normalized graph Laplacian,
to a wide class of weighted Laplacian matrices used in practice, including the
unnormalized Laplacian and random walk Laplacian.
- Abstract(参考訳): 実回帰関数がソボレフ空間に属し、サンプリング密度が上下から有界である場合、重み付きラプラシアン-固有写像系非パラメトリック回帰法における適応的および非適応的収束率の両方を示す。
適応手法はレプスキー法の拡張に基づいており、ソボレフ空間上の制約を決定する滑らかさパラメータ(s\in\mathbb{n}_{+}$)とノルムパラメータ(m>0$)の両方を上回っている。
我々の結果は、特定の正規化グラフ Laplacian に対して確立された \cite{green2021minimax} において非適応的な結果を拡張し、非正規化 Laplacian やランダムウォーク Laplacian など、実際に用いられるラプラシア行列の幅広いクラスに拡張する。
関連論文リスト
- Methods for Convex $(L_0,L_1)$-Smooth Optimization: Clipping, Acceleration, and Adaptivity [50.25258834153574]
我々は、(強に)凸 $(L0)$-smooth 関数のクラスに焦点を当て、いくつかの既存のメソッドに対する新しい収束保証を導出する。
特に,スムーズなグラディエント・クリッピングを有するグラディエント・ディフレッシュと,ポリアク・ステップサイズを有するグラディエント・ディフレッシュのコンバージェンス・レートの改善を導出した。
論文 参考訳(メタデータ) (2024-09-23T13:11:37Z) - Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。
我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
論文 参考訳(メタデータ) (2024-07-11T13:28:34Z) - Adaptive Zeroth-Order Optimisation of Nonconvex Composite Objectives [1.7640556247739623]
ゼロ階エントロピー合成目的のためのアルゴリズムを解析し,次元依存性に着目した。
これは、ミラー降下法と推定類似関数を用いて、決定セットの低次元構造を利用して達成される。
勾配を改善するため、Rademacherに基づく古典的なサンプリング法を置き換え、ミニバッチ法が非ユークリ幾何学に対処することを示す。
論文 参考訳(メタデータ) (2022-08-09T07:36:25Z) - Benign overfitting and adaptive nonparametric regression [71.70323672531606]
本研究では,データポイントを高い確率で補間する連続関数である推定器を構築する。
我々は未知の滑らかさに適応してH"古いクラスのスケールにおいて平均2乗リスクの下で最小値の最適速度を得る。
論文 参考訳(メタデータ) (2022-06-27T14:50:14Z) - The Power of Adaptivity in SGD: Self-Tuning Step Sizes with Unbounded
Gradients and Affine Variance [46.15915820243487]
AdaGrad-Normは$mathcalOleftのオーダー最適収束を示す。
AdaGrad-Normは$mathcalOleftのオーダー最適収束を示す。
論文 参考訳(メタデータ) (2022-02-11T17:37:54Z) - Understanding Implicit Regularization in Over-Parameterized Single Index
Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。
暗黙正則化現象の理論的保証を提供する。
論文 参考訳(メタデータ) (2020-07-16T13:27:47Z) - Support recovery and sup-norm convergence rates for sparse pivotal
estimation [79.13844065776928]
高次元スパース回帰では、ピボット推定器は最適な正規化パラメータがノイズレベルに依存しない推定器である。
非滑らかで滑らかな単一タスクとマルチタスク正方形ラッソ型推定器に対するミニマックス超ノルム収束率を示す。
論文 参考訳(メタデータ) (2020-01-15T16:11:04Z) - Geometry, Computation, and Optimality in Stochastic Optimization [24.154336772159745]
問題幾何学の計算および統計的結果とオンライン最適化について検討する。
制約集合と勾配幾何学に焦点をあてて、どの次法と適応次法が最適(minimax)であるかという問題族を特徴づける。
論文 参考訳(メタデータ) (2019-09-23T16:14:26Z) - On the Convergence of Adaptive Gradient Methods for Nonconvex Optimization [80.03647903934723]
我々は、勾配収束法を期待する適応勾配法を証明した。
解析では、非理解勾配境界の最適化において、より適応的な勾配法に光を当てた。
論文 参考訳(メタデータ) (2018-08-16T20:25:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。