論文の概要: Instance-dependent uniform tail bounds for empirical processes
- arxiv url: http://arxiv.org/abs/2209.10053v6
- Date: Sun, 29 Sep 2024 21:22:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-01 21:59:04.108109
- Title: Instance-dependent uniform tail bounds for empirical processes
- Title(参考訳): 経験過程に対するインスタンス依存的一様尾辺
- Authors: Sohail Bahmani,
- Abstract要約: 関数のクラスによってインデックス付けされた経験過程に対して一様尾を定式化する。
テールバウンド(tail bound)は、タラグランドの$gamma$関数の一般化という観点からのデフレーション函数クラス''の複雑さの和である。
また、より一般的なオルリッツノルムや、適切なモーメント条件下でのそれらの不完全バージョンの観点から、テール境界の近似も提供する。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: We formulate a uniform tail bound for empirical processes indexed by a class of functions, in terms of the individual deviations of the functions rather than the worst-case deviation in the considered class. The tail bound is established by introducing an initial ``deflation'' step to the standard generic chaining argument. The resulting tail bound is the sum of the complexity of the ``deflated function class'' in terms of a generalization of Talagrand's $\gamma$ functional, and the deviation of the function instance, both of which are formulated based on the natural seminorm induced by the corresponding Cram\'{e}r functions. Leveraging another less demanding natural seminorm, we also show similar bounds, though with implicit dependence on the sample size, in the more general case where finite exponential moments cannot be assumed. We also provide approximations of the tail bounds in terms of the more prevalent Orlicz norms or their ``incomplete'' versions under suitable moment conditions.
- Abstract(参考訳): 検討されたクラスにおける最悪のケース偏差ではなく、関数の個々の偏差の観点から、関数のクラスによってインデックス付けされた経験的過程の均一なテールを定式化する。
テールバウンダリは、標準的なジェネリックチェイン引数に最初の `deflation'' ステップを導入することで確立される。
結果として生じる尾境界は、タラグランドの$\gamma$汎函数の一般化と、対応する Cram\'{e}r 関数によって誘導される自然な半ノルムに基づいて定式化される函数のインスタンスの偏差という観点からの 'Deflated function class''' の複雑さの和である。
より一般的な場合、有限指数モーメントを仮定できない場合には、サンプルサイズに暗黙的に依存するが、別の要求の少ない自然半ノルムを利用することで、同様の境界を示す。
また、より一般的なOrliczノルムや、適切なモーメント条件下での ``incomplete'' バージョンの観点から、テール境界の近似も提供する。
関連論文リスト
- Regular Variation in Hilbert Spaces and Principal Component Analysis for
Functional Extremes [1.6734018640023431]
我々はPeaks-Over-Thresholdフレームワークに自分自身を配置し、関数的極限は、相対的に大きい$L2$-norm $|X|$の観測$X$として定義される。
我々の目標は、このような極端な観測のために有限次元の射影をもたらす次元還元フレームワークを提案することである。
論文 参考訳(メタデータ) (2023-08-02T09:12:03Z) - Kernel-based off-policy estimation without overlap: Instance optimality
beyond semiparametric efficiency [53.90687548731265]
本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。
任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
論文 参考訳(メタデータ) (2023-01-16T02:57:37Z) - Instance-Dependent Generalization Bounds via Optimal Transport [51.71650746285469]
既存の一般化境界は、現代のニューラルネットワークの一般化を促進する重要な要因を説明することができない。
データ空間における学習予測関数の局所リプシッツ正則性に依存するインスタンス依存の一般化境界を導出する。
ニューラルネットワークに対する一般化境界を実験的に解析し、有界値が有意義であることを示し、トレーニング中の一般的な正規化方法の効果を捉える。
論文 参考訳(メタデータ) (2022-11-02T16:39:42Z) - Interpolating between R\'enyi entanglement entropies for arbitrary
bipartitions via operator geometric means [0.0]
正規化 R'enyi の発散による部分加法的および部分乗法的モノトンの新規構築を導入する。
重み付き作用素幾何手段を用いて,非自明な方法で組み合わせることができることを示す。
さらに、超加法的かつ超乗法的な新しい汎函数の下位境界を求める。
論文 参考訳(メタデータ) (2022-08-30T17:56:53Z) - Optimal Recovery from Inaccurate Data in Hilbert Spaces: Regularize, but
what of the Parameter? [6.85316573653194]
本稿では、ヒルベルト空間のフレームワークにおける近似性に基づくモデル仮定について考察する。
また、$ell$でバウンドされた追加エラーによる観察上の不正確さも含んでいる。
ローカルシナリオとグローバルシナリオのギャップを埋めます。
論文 参考訳(メタデータ) (2021-11-04T03:02:55Z) - Local versions of sum-of-norms clustering [77.34726150561087]
本手法はボールモデルにおいて任意に閉じた球を分離できることを示す。
我々は、不連結連結集合のクラスタリングで発生する誤差に定量的な有界性を証明した。
論文 参考訳(メタデータ) (2021-09-20T14:45:29Z) - Understanding Implicit Regularization in Over-Parameterized Single Index
Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。
暗黙正則化現象の理論的保証を提供する。
論文 参考訳(メタデータ) (2020-07-16T13:27:47Z) - Generic Error Bounds for the Generalized Lasso with Sub-Exponential Data [4.56877715768796]
この研究は、部分指数データの仮定の下で一般化されたラッソの非漸近解析を行う。
本稿では,ジェネリックチェインに基づく証明戦略から自然に生じる2つの複雑性パラメータを用いて,推定誤差を制御できることを示す。
論文 参考訳(メタデータ) (2020-04-11T10:39:48Z) - Supervised Learning for Non-Sequential Data: A Canonical Polyadic
Decomposition Approach [85.12934750565971]
特徴相互作用の効率的なモデリングは、非順序的タスクに対する教師あり学習の基盤となる。
この問題を緩和するため、モデルパラメータをテンソルとして暗黙的に表現することが提案されている。
表現性を向上するため,任意の高次元特徴ベクトルに特徴写像を適用できるようにフレームワークを一般化する。
論文 参考訳(メタデータ) (2020-01-27T22:38:40Z) - Invariant Feature Coding using Tensor Product Representation [75.62232699377877]
我々は,群不変特徴ベクトルが線形分類器を学習する際に十分な識別情報を含んでいることを証明した。
主成分分析やk平均クラスタリングにおいて,グループアクションを明示的に考慮する新たな特徴モデルを提案する。
論文 参考訳(メタデータ) (2019-06-05T07:15:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。