論文の概要: Lipschitz bounds for integral kernels
- arxiv url: http://arxiv.org/abs/2604.02887v1
- Date: Fri, 03 Apr 2026 08:52:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-06 17:20:24.416152
- Title: Lipschitz bounds for integral kernels
- Title(参考訳): 積分核に対するリプシッツ境界
- Authors: Justin Reverdi, Sixin Zhang, Fabrice Gamboa, Serge Gratton,
- Abstract要約: 微分可能性仮定の下で、積分核に付随する特徴写像の正則性について検討する。
関連する核のリプシッツ定数は、2次元積分の上限として表現できることを示す。
また、有限幅ニューラルネットワークにおけるリプシッツ定数の収束の挙動について、オープンな疑問を提起する。
- 参考スコア(独自算出の注目度): 6.116995698762512
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Feature maps associated with positive definite kernels play a central role in kernel methods and learning theory, where regularity properties such as Lipschitz continuity are closely related to robustness and stability guarantees. Despite their importance, explicit characterizations of the Lipschitz constant of kernel feature maps are available only in a limited number of cases. In this paper, we study the Lipschitz regularity of feature maps associated with integral kernels under differentiability assumptions. We first provide sufficient conditions ensuring Lipschitz continuity and derive explicit formulas for the corresponding Lipschitz constants. We then identify a condition under which the feature map fails to be Lipschitz continuous and apply these results to several important classes of kernels. For infinite width two-layer neural network with isotropic Gaussian weight distributions, we show that the Lipschitz constant of the associated kernel can be expressed as the supremum of a two-dimensional integral, leading to an explicit characterization for the Gaussian kernel and the ReLU random neural network kernel. We also study continuous and shift-invariant kernels such as Gaussian, Laplace, and Matérn kernels, which admit an interpretation as neural network with cosine activation function. In this setting, we prove that the feature map is Lipschitz continuous if and only if the weight distribution has a finite second-order moment, and we then derive its Lipschitz constant. Finally, we raise an open question concerning the asymptotic behavior of the convergence of the Lipschitz constant in finite width neural networks. Numerical experiments are provided to support this behavior.
- Abstract(参考訳): 正定値核に付随する特徴写像は、リプシッツ連続性のような正則性は堅牢性と安定性の保証と密接に関連しているカーネル法や学習理論において中心的な役割を果たす。
その重要性にもかかわらず、カーネル特徴写像のリプシッツ定数の明示的な特徴づけは、限られたケースでしか利用できない。
本稿では、微分可能性仮定の下で、積分核に付随する特徴写像のリプシッツ正則性について検討する。
まず、リプシッツの連続性を保証する十分な条件を提供し、対応するリプシッツ定数の明示的な公式を導出する。
次に、特徴写像がリプシッツ連続でない条件を特定し、これらの結果をいくつかの重要なカーネルクラスに適用する。
等方性ガウス重み分布を持つ無限幅の2層ニューラルネットワークでは、関連するカーネルのリプシッツ定数が2次元積分の上限として表現できることが示され、ガウス核とReLUランダムニューラルネットワークカーネルの明示的な特徴付けとなる。
また,コサイン活性化機能を持つニューラルネットワークとして解釈できるガウスカーネル,ラプラスカーネル,マテランカーネルなどの連続およびシフト不変カーネルについても検討した。
この設定では、特徴写像がリプシッツ連続であることと、ウェイト分布が有限二階モーメントを持つときのみ証明し、そのリプシッツ定数を導出する。
最後に,有限幅ニューラルネットワークにおけるリプシッツ定数の収束の漸近的挙動に関するオープンな疑問を提起する。
この動作をサポートするための数値実験が提供されている。
関連論文リスト
- Shuffling the Stochastic Mirror Descent via Dual Lipschitz Continuity and Kernel Conditioning [13.169947576695456]
局所的な相対的カーネル関数を制御するために、デュアルカーネル条件付け(DK)を導入する。
我々は、制約付き非複雑性相対滑らかな問題に対して、最初のランダム境界と、最初のリシャッフルミラー収束を確立する。
論文 参考訳(メタデータ) (2026-03-17T01:00:40Z) - MIQCQP reformulation of the ReLU neural networks Lipschitz constant
estimation problem [0.0]
ニューラルネットワークのリプシッツ推定問題に対する2次拘束型MIP定式化を提案する。
これらの問題の解はリプシッツ定数の下限と上限を与える。
我々は、それらが正確なリプシッツ定数と一致するときの条件を詳述する。
論文 参考訳(メタデータ) (2024-02-02T07:55:42Z) - Some Fundamental Aspects about Lipschitz Continuity of Neural Networks [6.576051895863941]
リプシッツ連続性は任意の予測モデルの重要な機能特性である。
ニューラルネットワークのリプシッツ挙動を調べた。
リプシッツ下界の顕著な忠実さを示し、リプシッツ上界と下界の両方で顕著な二重発振傾向を同定し、ラベルノイズが関数の滑らかさと一般化に与える影響を説明する。
論文 参考訳(メタデータ) (2023-02-21T18:59:40Z) - Chordal Sparsity for Lipschitz Constant Estimation of Deep Neural
Networks [77.82638674792292]
ニューラルネットワークのリプシッツ定数は、画像分類の堅牢性、コントローラ設計の安全性、トレーニングデータを超えた一般化性を保証する。
リプシッツ定数の計算はNPハードであるため、リプシッツ定数を推定する手法はスケーラビリティと精度のトレードオフをナビゲートする必要がある。
本研究では,LipSDPと呼ばれる半定値プログラミング手法のスケーラビリティフロンティアを大幅に推し進め,精度の損失をゼロにする。
論文 参考訳(メタデータ) (2022-04-02T11:57:52Z) - Training Certifiably Robust Neural Networks with Efficient Local
Lipschitz Bounds [99.23098204458336]
認証された堅牢性は、安全クリティカルなアプリケーションにおいて、ディープニューラルネットワークにとって望ましい性質である。
提案手法は,MNISTおよびTinyNetデータセットにおける最先端の手法より一貫して優れていることを示す。
論文 参考訳(メタデータ) (2021-11-02T06:44:10Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳(メタデータ) (2021-09-24T14:48:20Z) - LipBaB: Computing exact Lipschitz constant of ReLU networks [0.0]
LipBaBは、ディープニューラルネットワークのローカルLipschitz定数の認定境界を計算するためのフレームワークです。
このアルゴリズムは任意の p-ノルムに対するリプシッツ定数の正確な計算を提供することができる。
論文 参考訳(メタデータ) (2021-05-12T08:06:11Z) - On Lipschitz Regularization of Convolutional Layers using Toeplitz
Matrix Theory [77.18089185140767]
リプシッツ正則性は現代のディープラーニングの重要な性質として確立されている。
ニューラルネットワークのリプシッツ定数の正確な値を計算することはNPハードであることが知られている。
より厳密で計算が容易な畳み込み層に対する新しい上限を導入する。
論文 参考訳(メタデータ) (2020-06-15T13:23:34Z) - The Lipschitz Constant of Self-Attention [27.61634862685452]
ニューラルネットワークのリプシッツ定数は、ディープラーニングにおいて様々な文脈で研究されている。
配列モデリングに広く用いられている非線形ニューラルネットワークモジュールである自己アテンションのリプシッツ定数について検討する。
論文 参考訳(メタデータ) (2020-06-08T16:08:38Z) - Exactly Computing the Local Lipschitz Constant of ReLU Networks [98.43114280459271]
ニューラルネットワークの局所リプシッツ定数は、堅牢性、一般化、公正性評価に有用な指標である。
ReLUネットワークのリプシッツ定数を推定するために, 強い不適合性を示す。
このアルゴリズムを用いて、競合するリプシッツ推定器の密度と正規化トレーニングがリプシッツ定数に与える影響を評価する。
論文 参考訳(メタデータ) (2020-03-02T22:15:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。