論文の概要: Minimax Optimal Regression over Sobolev Spaces via Laplacian
Regularization on Neighborhood Graphs
- arxiv url: http://arxiv.org/abs/2106.01529v1
- Date: Thu, 3 Jun 2021 01:20:41 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-05 02:53:18.622342
- Title: Minimax Optimal Regression over Sobolev Spaces via Laplacian
Regularization on Neighborhood Graphs
- Title(参考訳): 近傍グラフ上のラプラシアン正則化によるソボレフ空間上のミニマックス最適回帰
- Authors: Alden Green, Sivaraman Balakrishnan, Ryan J. Tibshirani
- Abstract要約: 非パラメトリック回帰に対するグラフに基づくアプローチであるラプラシア平滑化の統計的性質について検討する。
ラプラシアン滑らか化が多様体適応であることを証明する。
- 参考スコア(独自算出の注目度): 25.597646488273558
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper we study the statistical properties of Laplacian smoothing, a
graph-based approach to nonparametric regression. Under standard regularity
conditions, we establish upper bounds on the error of the Laplacian smoothing
estimator $\widehat{f}$, and a goodness-of-fit test also based on
$\widehat{f}$. These upper bounds match the minimax optimal estimation and
testing rates of convergence over the first-order Sobolev class
$H^1(\mathcal{X})$, for $\mathcal{X}\subseteq \mathbb{R}^d$ and $1 \leq d < 4$;
in the estimation problem, for $d = 4$, they are optimal modulo a $\log n$
factor. Additionally, we prove that Laplacian smoothing is manifold-adaptive:
if $\mathcal{X} \subseteq \mathbb{R}^d$ is an $m$-dimensional manifold with $m
< d$, then the error rate of Laplacian smoothing (in either estimation or
testing) depends only on $m$, in the same way it would if $\mathcal{X}$ were a
full-dimensional set in $\mathbb{R}^d$.
- Abstract(参考訳): 本稿では,非パラメトリック回帰に対するグラフベースアプローチであるラプラシアン平滑化の統計的性質について検討する。
標準的な正則性条件の下では、ラプラシア滑らか化推定器 $\widehat{f}$ の誤差の上界と、$\widehat{f}$ にもとづく適合性テストを確立する。
これらの上限は1次ソボレフ類 $H^1(\mathcal{X})$, for $\mathcal{X}\subseteq \mathbb{R}^d$ and $1 \leq d < 4$; for $d = 4$ の最小値推定と収束の試験率に一致する。
もし$\mathcal{x} \subseteq \mathbb{r}^d$ が $m < d$ の $m$-次元多様体であれば、ラプラシアン平滑化の誤差率は $m$ にのみ依存するが、$\mathcal{x}$ が$\mathbb{r}^d$ のフル次元集合であるのと同様である。
関連論文リスト
- A Unified Framework for Uniform Signal Recovery in Nonlinear Generative
Compressed Sensing [68.80803866919123]
非線形測定では、ほとんどの先行結果は一様ではない、すなわち、すべての$mathbfx*$に対してではなく、固定された$mathbfx*$に対して高い確率で保持される。
本フレームワークはGCSに1ビット/一様量子化観測と単一インデックスモデルを標準例として適用する。
また、指標集合が計量エントロピーが低い製品プロセスに対して、より厳密な境界を生み出す濃度不等式も開発する。
論文 参考訳(メタデータ) (2023-09-25T17:54:19Z) - Accelerated Methods for Riemannian Min-Max Optimization Ensuring Bounded
Geometric Penalties [21.141544548229774]
我々は$min_x max_y f(x, y) という形式で、$mathcalN$ は Hadamard である。
我々は、勾配収束定数を減少させることにより、グローバルな関心が加速されることを示す。
論文 参考訳(メタデータ) (2023-05-25T15:43:07Z) - Penalized Langevin and Hamiltonian Monte Carlo Algorithms for
Constrained Sampling [8.333246626497363]
分布(x)prop ef(x)$と$x$が凸体上で制約されるような制約付きサンプリング問題を考える。
我々は,制限されたサンプリング問題をペナルティ関数制約違反を導入して非拘束なものに変換する,ペナルティ付ハミルトンモンテカルロダイナミクス(PLD)とペナルティ付ハミルトンモンテカルロダイナミクス(PHMC)を提案する。
PHMCでは、Hessianが$であるときに $tildemathcalO(sqrtd/varepsilon7)$に改善します。
論文 参考訳(メタデータ) (2022-11-29T18:43:22Z) - Structure Learning in Graphical Models from Indirect Observations [17.521712510832558]
本稿では、パラメータ法と非パラメトリック法の両方を用いて、Rp$における$p$次元ランダムベクトル$Xのグラフィカル構造を学習する。
温和な条件下では、グラフ構造推定器が正しい構造を得ることができることを示す。
論文 参考訳(メタデータ) (2022-05-06T19:24:44Z) - A first-order primal-dual method with adaptivity to local smoothness [64.62056765216386]
凸凹対象 $min_x max_y f(x) + langle Ax, yrangle - g*(y)$, ここで、$f$ は局所リプシッツ勾配を持つ凸関数であり、$g$ は凸かつ非滑らかである。
主勾配ステップと2段ステップを交互に交互に行うCondat-Vuアルゴリズムの適応バージョンを提案する。
論文 参考訳(メタデータ) (2021-10-28T14:19:30Z) - Fast Graph Sampling for Short Video Summarization using Gershgorin Disc
Alignment [52.577757919003844]
高速グラフサンプリングの最近の進歩を利用して,短い動画を複数の段落に効率よく要約する問題について検討する。
実験結果から,本アルゴリズムは最先端の手法と同等の映像要約を実現し,複雑さを大幅に低減した。
論文 参考訳(メタデータ) (2021-10-21T18:43:00Z) - Non-Parametric Estimation of Manifolds from Noisy Data [1.0152838128195467]
ノイズの多いサンプルの有限集合から$mathbbRD$の$d$次元部分多様体を推定する問題を検討する。
点推定では$n-frack2k + d$、接空間の推定では$n-frack-12k + d$の収束率を推定する。
論文 参考訳(メタデータ) (2021-05-11T02:29:33Z) - From Smooth Wasserstein Distance to Dual Sobolev Norm: Empirical
Approximation and Statistical Applications [18.618590805279187]
我々は$mathsfW_p(sigma)$が$pth次スムーズな双対ソボレフ$mathsfd_p(sigma)$で制御されていることを示す。
我々は、すべての次元において$sqrtnmathsfd_p(sigma)(hatmu_n,mu)$の極限分布を導出する。
論文 参考訳(メタデータ) (2021-01-11T17:23:24Z) - Near-Optimal SQ Lower Bounds for Agnostically Learning Halfspaces and
ReLUs under Gaussian Marginals [49.60752558064027]
ガウス境界の下では、半空間とReLUを不可知的に学習する基本的な問題について検討する。
我々の下限は、これらのタスクの現在の上限が本質的に最良のものであるという強い証拠を与える。
論文 参考訳(メタデータ) (2020-06-29T17:10:10Z) - Agnostic Learning of a Single Neuron with Gradient Descent [92.7662890047311]
期待される正方形損失から、最も適合した単一ニューロンを学習することの問題点を考察する。
ReLUアクティベーションでは、我々の人口リスク保証は$O(mathsfOPT1/2)+epsilon$である。
ReLUアクティベーションでは、我々の人口リスク保証は$O(mathsfOPT1/2)+epsilon$である。
論文 参考訳(メタデータ) (2020-05-29T07:20:35Z) - Curse of Dimensionality on Randomized Smoothing for Certifiable
Robustness [151.67113334248464]
我々は、他の攻撃モデルに対してスムースな手法を拡張することは困難であることを示す。
我々はCIFARに関する実験結果を示し,その理論を検証した。
論文 参考訳(メタデータ) (2020-02-08T22:02:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。