論文の概要: Optimal Confidence Band for Kernel Gradient Flow Estimator
- arxiv url: http://arxiv.org/abs/2605.05768v1
- Date: Thu, 07 May 2026 07:00:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-08 22:27:11.582093
- Title: Optimal Confidence Band for Kernel Gradient Flow Estimator
- Title(参考訳): カーネル勾配流推定器のための最適信頼バンド
- Authors: Yuqian Cheng, Zhuo Chen, Qian Lin,
- Abstract要約: まず、連続および離散的なカーネル勾配流の極大ノルム一般化誤差に対する収束率を確立する。
次に、連続および離散的なカーネル勾配流の両方に対して同時信頼バンドを構築する。
- 参考スコア(独自算出の注目度): 15.574125189708257
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper, we investigate the supremum-norm generalization error and the uniform inference for a specific class of kernel regression methods, namely the kernel gradient flows. Under the widely adopted capacity-source condition framework in the kernel regression literature, we first establish convergence rates for the supremum norm generalization error of both continuous and discrete kernel gradient flows under the source condition $s>α_0$, where $α_0\in(0,1)$ denotes the embedding index of the kernel function. Moreover, we show that these rates match the minimax optimal rates. Building on this result, we then construct simultaneous confidence bands for both continuous and discrete kernel gradient flows. Notably, the widths of the proposed confidence bands are also optimal, in the sense that their shrinkage rates are greater than, while can be arbitrarily close to, the minimax optimal rates.
- Abstract(参考訳): 本稿では,カーネル回帰の特定のクラス,すなわちカーネル勾配流に対する上限ノルム一般化誤差と一様推論について検討する。
カーネル回帰文学において広く採用されているキャパシティソース条件フレームワークの下では、まず、ソース条件$s>α_0$の下で、連続および離散のカーネル勾配流の最大ノルム一般化誤差に対して収束率を確立し、そこで、$α_0\in(0,1)$はカーネル関数の埋め込み指数を表す。
さらに,これらの値は最小値の最適値と一致していることを示す。
この結果に基づいて、連続的および離散的なカーネル勾配流の同時信頼バンドを構築する。
特に、提案された信頼帯域の幅は、その収縮速度がミニマックスの最適速度と任意に近いが、より大きいという意味でも最適である。
関連論文リスト
- Generalization Bound of Gradient Flow through Training Trajectory and Data-dependent Kernel [55.82768375605861]
我々は、カーネル法における古典的ラデマッハ複雑性と整合する勾配流の一般化を確立する。
NTKのような静的カーネルとは異なり、LPKはトレーニング軌跡全体をキャプチャし、データと最適化の両方に適応する。
論文 参考訳(メタデータ) (2025-06-12T23:17:09Z) - Theoretical Guarantees for High Order Trajectory Refinement in Generative Flows [40.884514919698596]
フローマッチングは、生成モデリングの強力なフレームワークとして登場した。
我々は,高次フローマッチングが分布推定器として最悪の場合の最適性を保っていることを証明した。
論文 参考訳(メタデータ) (2025-03-12T05:07:07Z) - Gradient Normalization Provably Benefits Nonconvex SGD under Heavy-Tailed Noise [60.92029979853314]
重み付き雑音下でのグラディエントDescence(SGD)の収束を確実にする上での勾配正規化とクリッピングの役割について検討する。
我々の研究は、重尾雑音下でのSGDの勾配正規化の利点を示す最初の理論的証拠を提供する。
我々は、勾配正規化とクリッピングを取り入れた加速SGD変種を導入し、さらに重み付き雑音下での収束率を高めた。
論文 参考訳(メタデータ) (2024-10-21T22:40:42Z) - A Bound on the Maximal Marginal Degrees of Freedom [0.0]
本稿では,カーネルリッジ回帰に対する低階近似とサロゲートについて述べる。
我々は,最も一般的な低ランク手法であるNystr"om法(英語版)の計算コストが,サンプルサイズにおいてほぼ線形であることを実証した。
この結果は、関連する積分作用素の範囲の要素による基本核関数の近似の徹底的な理論的解析に基づいている。
論文 参考訳(メタデータ) (2024-02-20T10:25:44Z) - Kernel Ridge Regression Inference [5.981623867626376]
有効かつ鋭い信頼セットを構築し、最小値に近い速度で縮小し、非標準回帰器を許容する。
我々は、この手順を用いて、マッチ効果の試験、すなわち、生徒が高いランクの学校からより多くの利益を得るかどうかを立案する。
論文 参考訳(メタデータ) (2023-02-13T18:26:36Z) - Meta-Learning Hypothesis Spaces for Sequential Decision-making [79.73213540203389]
オフラインデータ(Meta-KeL)からカーネルをメタ学習することを提案する。
穏やかな条件下では、推定されたRKHSが有効な信頼セットを得られることを保証します。
また,ベイズ最適化におけるアプローチの有効性を実証的に評価した。
論文 参考訳(メタデータ) (2022-02-01T17:46:51Z) - High-probability Bounds for Non-Convex Stochastic Optimization with
Heavy Tails [55.561406656549686]
我々は、勾配推定が末尾を持つ可能性のある一階アルゴリズムを用いたヒルベルト非最適化を考える。
本研究では, 勾配, 運動量, 正規化勾配勾配の収束を高確率臨界点に収束させることと, 円滑な損失に対する最もよく知られた繰り返しを示す。
論文 参考訳(メタデータ) (2021-06-28T00:17:01Z) - Scalable Variational Gaussian Processes via Harmonic Kernel
Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。
様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。
提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文 参考訳(メタデータ) (2021-06-10T18:17:57Z) - Towards Unbiased Random Features with Lower Variance For Stationary
Indefinite Kernels [26.57122949130266]
本アルゴリズムは,既存のカーネル近似法と比較して,より低い分散と近似誤差を達成する。
もともと選択されたカーネルの近似性が向上し、分類精度と回帰能力が向上する。
論文 参考訳(メタデータ) (2021-04-13T13:56:50Z) - Optimal Rates for Averaged Stochastic Gradient Descent under Neural
Tangent Kernel Regime [50.510421854168065]
平均勾配勾配勾配は極小収束率が得られることを示す。
本稿では、ReLUネットワークのNTKで指定されたターゲット関数を最適収束速度で学習できることを示す。
論文 参考訳(メタデータ) (2020-06-22T14:31:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。