論文の概要: Sharper Sub-Weibull Concentrations: Non-asymptotic Bai-Yin's Theorem
- arxiv url: http://arxiv.org/abs/2102.02450v1
- Date: Thu, 4 Feb 2021 07:16:27 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-05 17:40:51.078322
- Title: Sharper Sub-Weibull Concentrations: Non-asymptotic Bai-Yin's Theorem
- Title(参考訳): シャーパーサブWeibull濃度 : 非漸近的Bai-Yinの理論
- Authors: Huiming Zhang, Haoyu Wei
- Abstract要約: 非漸近集中不等式は、機械学習と統計学の有限サンプル理論において重要な役割を果たす。
独立部分ワイブル確率変数の和に対する、よりシャープで定数に比例した濃度不等式を得る。
負二項回帰の応用において、スパース構造を持つ$ell$-errorを与え、これは負二項回帰の新しい結果である。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Arising in high-dimensional probability, non-asymptotic concentration
inequalities play an essential role in the finite-sample theory of machine
learning and high-dimensional statistics. In this article, we obtain a sharper
and constants-specified concentration inequality for the summation of
independent sub-Weibull random variables, which leads to a mixture of two
tails: sub-Gaussian for small deviations and sub-Weibull for large deviations
(from mean). These bounds improve existing bounds with sharper constants. In
the application of random matrices, we derive non-asymptotic versions of
Bai-Yin's theorem for sub-Weibull entries and it extends the previous result in
terms of sub-Gaussian entries. In the application of negative binomial
regressions, we gives the $\ell_2$-error of the estimated coefficients when
covariate vector $X$ is sub-Weibull distributed with sparse structures, which
is a new result for negative binomial regressions.
- Abstract(参考訳): 高次元確率から生じる非漸近集中不等式は、機械学習と高次元統計学の有限サンプル理論において重要な役割を果たす。
この記事では、独立したサブWeibullランダム変数の要約のためのよりシャープで定常的な濃度不等式を得る。これは、小さな偏差のためのサブGaussianと大きな偏差のためのサブWeibullの2つの尾の混合物につながる(平均から)。
これらの境界は、より鋭い定数で既存の境界を改善する。
ランダム行列の応用において、ベイ=インの定理の非漸近版をウェイブル代入に対して導き、それ以前の結果をガウス代入の項で拡張する。
負二項回帰の応用において、共変量ベクトル $X$ がスパース構造で分布しているとき、推定係数の $\ell_2$-error を与え、これは負二項回帰の新しい結果である。
関連論文リスト
- Concentration of Measure for Distributions Generated via Diffusion Models [16.868125342684603]
拡散モデルからサンプリングされたデータは、任意のランダムベクトルの1ドルでのプロジェクションが、その平均値から高い確率でそれほど遠くないという測定特性の濃度を満たすことを示す。
次に,多クラス分類タスクに対する拡散生成データに基づいて,勾配降下(SGD)を用いた一般化線形モデルを訓練する。
言い換えれば、テストエラーは線形設定における拡散生成データの1階と2階の統計にのみ依存する。
論文 参考訳(メタデータ) (2025-01-13T23:13:01Z) - Wasserstein F-tests for Fréchet regression on Bures-Wasserstein manifolds [0.9514940899499753]
ビュール・ワッサーシュタイン多様体上のフレシェレグレッションが発展する。
非関連性の零仮説のテストが提案されている。
結果は,提案した試験が所望の有意な程度に有意であることを示している。
論文 参考訳(メタデータ) (2024-04-05T04:01:51Z) - Asymptotic Inference for Infinitely Imbalanced Logistic Regression [4.981260380070016]
制限勾配の分散は、多数群の分布に対するマイノリティクラスの点の平均のzスコアに指数関数的に依存することを示す。
我々はモンテカルロシミュレーションで結果を確認した。
論文 参考訳(メタデータ) (2022-04-27T23:52:42Z) - Distribution of Classification Margins: Are All Data Equal? [61.16681488656473]
我々は理論的に動機付け、トレーニングセット上のマージン分布の曲線の下の領域が実際は一般化のよい尺度であることを実証的に示す。
結果として生じる"高いキャパシティ"機能のサブセットは、異なるトレーニング実行間で一貫性がない。
論文 参考訳(メタデータ) (2021-07-21T16:41:57Z) - Learning Gaussian Mixtures with Generalised Linear Models: Precise
Asymptotics in High-dimensions [79.35722941720734]
多クラス分類問題に対する一般化線形モデルは、現代の機械学習タスクの基本的な構成要素の1つである。
実験的リスク最小化による高次元推定器の精度を実証する。
合成データの範囲を超えて我々の理論をどのように適用できるかを論じる。
論文 参考訳(メタデータ) (2021-06-07T16:53:56Z) - Optimization Variance: Exploring Generalization Properties of DNNs [83.78477167211315]
ディープニューラルネットワーク(DNN)のテストエラーは、しばしば二重降下を示す。
そこで本研究では,モデル更新の多様性を測定するために,新しい測度である最適化分散(OV)を提案する。
論文 参考訳(メタデータ) (2021-06-03T09:34:17Z) - Spectral clustering under degree heterogeneity: a case for the random
walk Laplacian [83.79286663107845]
本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。
次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
論文 参考訳(メタデータ) (2021-05-03T16:36:27Z) - Concentration Inequalities for Statistical Inference [3.236217153362305]
本稿では, 数学統計学の非漸近解析に広く用いられている濃度不等式について概説する。
我々は、既知の定数で濃度不等式を説明し、より鋭い定数で既存の境界を改善することを目的としている。
論文 参考訳(メタデータ) (2020-11-04T12:54:06Z) - On Linear Stochastic Approximation: Fine-grained Polyak-Ruppert and
Non-Asymptotic Concentration [115.1954841020189]
The inequality and non-asymptotic properties of approximation procedure with Polyak-Ruppert averaging。
一定のステップサイズと無限大となる反復数を持つ平均的反復数に対する中心極限定理(CLT)を証明する。
論文 参考訳(メタデータ) (2020-04-09T17:54:18Z) - Sharp Concentration Results for Heavy-Tailed Distributions [17.510560590853576]
重み付き分布を持つ独立分布と同一分布の確率変数の和に対する濃度と大きな偏差を求める。
我々の主定理は、サブワイブル確率変数の和の濃度などの既存の結果のいくつかを復元するだけでなく、重い尾を持つ確率変数の和に対する新しい結果を生成することもできる。
論文 参考訳(メタデータ) (2020-03-30T21:05:29Z) - The Vector Poisson Channel: On the Linearity of the Conditional Mean
Estimator [82.5577471797883]
本研究では,ベクトルポアソン雑音における条件平均推定器の特性について検討する。
最初の結果は、ポアソンノイズの暗電流パラメータがゼロでない場合、条件平均推定器は線形ではないことを示す。
第2の結果は、第1の結果を定量的に精錬する。
論文 参考訳(メタデータ) (2020-03-19T18:21:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。