Fugu-MT 論文翻訳(概要): For interpolating kernel machines, minimizing the norm of the ERM solution minimizes stability

論文の概要: For interpolating kernel machines, minimizing the norm of the ERM solution minimizes stability

arxiv url: http://arxiv.org/abs/2006.15522v2
Date: Sun, 11 Oct 2020 22:58:31 GMT
ステータス: 処理完了
システム内更新日: 2022-11-16 02:05:22.536026
Title: For interpolating kernel machines, minimizing the norm of the ERM solution minimizes stability
Title（参考訳）: カーネルマシンの補間において、ERM法則の最小化は安定性を最小化する
Authors: Akshay Rangamani, Lorenzo Rosasco, Tomaso Poggio
Abstract要約: 最小ノルムの補間解が$mboxCV_loo$の安定性の限界を最小化することを示す。ランダムカーネルの仮定では、対応するテストエラーは二重降下曲線に従わなければならない。
参考スコア（独自算出の注目度）: 20.775719987269003
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: We study the average $\mbox{CV}_{loo}$ stability of kernel ridge-less regression and derive corresponding risk bounds. We show that the interpolating solution with minimum norm minimizes a bound on $\mbox{CV}_{loo}$ stability, which in turn is controlled by the condition number of the empirical kernel matrix. The latter can be characterized in the asymptotic regime where both the dimension and cardinality of the data go to infinity. Under the assumption of random kernel matrices, the corresponding test error should be expected to follow a double descent curve.
Abstract（参考訳）: 我々は、カーネルリッジレス回帰の平均$\mbox{CV}_{loo}$安定性を調べ、対応するリスク境界を導出する。最小ノルムの補間解は$\mbox{CV}_{loo}$安定性の制限を最小化し、これは経験的カーネル行列の条件数によって制御されることを示す。後者は、データの次元と濃度が無限大となる漸近的レジームによって特徴づけられる。ランダムなカーネル行列を仮定すると、対応するテスト誤差は二重降下曲線に従うことが期待される。

関連論文リスト

Toward Efficient Kernel-Based Solvers for Nonlinear PDEs [19.975293084297014]
本稿では,非線形偏微分方程式(PDE)を効率的に解くための新しいカーネル学習フレームワークを提案する。カーネルに微分演算子を埋め込む最先端のカーネルソルバとは対照的に,本手法ではこれらの演算子をカーネルから排除する。我々は、標準カーネル形式を用いて解をモデル化し、導関数を計算するために補間剤を区別する。
論文参考訳（メタデータ） (2024-10-15T01:00:43Z)
Trust-Region Sequential Quadratic Programming for Stochastic Optimization with Random Models [57.52124921268249]
本稿では,1次と2次の両方の定常点を見つけるための信頼逐次準計画法を提案する。本手法は, 1次定常点に収束するため, 対象対象の近似を最小化して定義された各イテレーションの勾配ステップを計算する。 2階定常点に収束するため,本手法は負曲率を減少するヘッセン行列を探索する固有ステップも計算する。
論文参考訳（メタデータ） (2024-09-24T04:39:47Z)
Breaking the Heavy-Tailed Noise Barrier in Stochastic Optimization Problems [56.86067111855056]
構造密度の重み付き雑音によるクリップ最適化問題を考察する。勾配が有限の順序モーメントを持つとき、$mathcalO(K-(alpha - 1)/alpha)$よりも高速な収束率が得られることを示す。得られた推定値が無視可能なバイアスと制御可能な分散を持つことを示す。
論文参考訳（メタデータ） (2023-11-07T17:39:17Z)
Fully Stochastic Trust-Region Sequential Quadratic Programming for Equality-Constrained Optimization Problems [62.83783246648714]
目的と決定論的等式制約による非線形最適化問題を解くために,逐次2次プログラミングアルゴリズム(TR-StoSQP)を提案する。アルゴリズムは信頼領域半径を適応的に選択し、既存の直線探索StoSQP方式と比較して不確定なヘッセン行列を利用することができる。
論文参考訳（メタデータ） (2022-11-29T05:52:17Z)
Stability and Generalization for Markov Chain Stochastic Gradient Methods [49.981789906200035]
本稿では,最小化問題と最小化問題の両方に対して,MC-SGMの包括的一般化解析を行う。我々はスムーズかつ非スムーズなケースに対して最適な過剰人口リスク境界を確立する。コンベックス・コンケーブ問題に対する最初期のほぼ最適な収束率を期待と高い確率で開発する。
論文参考訳（メタデータ） (2022-09-16T15:42:51Z)
A Local Convergence Theory for the Stochastic Gradient Descent Method in Non-Convex Optimization With Non-isolated Local Minima [0.0]
非孤立ミニマは、未探索のままのユニークな挑戦を示す。本稿では, 勾配降下法の非溶解大域ミニマへの局所収束について検討する。
論文参考訳（メタデータ） (2022-03-21T13:33:37Z)
Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。 MRP のサブクラスに対する minimax の下位境界を証明する。
論文参考訳（メタデータ） (2021-09-24T14:48:20Z)
Gaussian Process-based Min-norm Stabilizing Controller for Control-Affine Systems with Uncertain Input Effects and Dynamics [90.81186513537777]
本稿では,この問題の制御・アフィン特性を捉えた新しい化合物カーネルを提案する。この結果の最適化問題は凸であることを示し、ガウス過程に基づく制御リャプノフ関数第二次コーンプログラム(GP-CLF-SOCP)と呼ぶ。
論文参考訳（メタデータ） (2020-11-14T01:27:32Z)
Towards a Unified Quadrature Framework for Large-Scale Kernel Machines [35.32894170512829]
数値積分表現を用いて,大規模カーネルマシンのための二次的フレームワークを開発する。完全対称補間規則を利用して、カーネル近似のための二次ノードと関連する重みを効率的に計算する。
論文参考訳（メタデータ） (2020-11-03T12:48:07Z)
Kernel Selection for Modal Linear Regression: Optimal Kernel and IRLS Algorithm [8.571896191090744]
MLRパラメータの平均二乗誤差を最小化するという意味では,Biweightカーネルが最適であることを示す。第2に、アルゴリズムを反復的に再重み付けした最小二乗アルゴリズム(IRLS)が収束することを保証したカーネルクラスを提供する。
論文参考訳（メタデータ） (2020-01-30T03:57:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。