論文の概要: Sample Complexity Result for Multi-category Classifiers of Bounded
Variation
- arxiv url: http://arxiv.org/abs/2003.09176v2
- Date: Sun, 24 May 2020 11:02:25 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-21 22:06:45.714741
- Title: Sample Complexity Result for Multi-category Classifiers of Bounded
Variation
- Title(参考訳): 境界変動の多カテゴリ分類器のサンプル複雑性結果
- Authors: Khadija Musayeva
- Abstract要約: 経験的L1-ノルム被覆数を用いて,多カテゴリ分類器における経験的および一般化性能の均一な偏差の確率を制御した。
上記の性能が高い確率で近づくのに十分なサンプルサイズ推定を導出する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: We control the probability of the uniform deviation between empirical and
generalization performances of multi-category classifiers by an empirical L1
-norm covering number when these performances are defined on the basis of the
truncated hinge loss function. The only assumption made on the functions
implemented by multi-category classifiers is that they are of bounded variation
(BV). For such classifiers, we derive the sample size estimate sufficient for
the mentioned performances to be close with high probability. Particularly, we
are interested in the dependency of this estimate on the number C of classes.
To this end, first, we upper bound the scale-sensitive version of the
VC-dimension, the fat-shattering dimension of sets of BV functions defined on
R^d which gives a O(1/epsilon^d ) as the scale epsilon goes to zero. Secondly,
we provide a sharper decomposition result for the fat-shattering dimension in
terms of C, which for sets of BV functions gives an improvement from O(C^(d/2
+1)) to O(Cln^2(C)). This improvement then propagates to the sample complexity
estimate.
- Abstract(参考訳): 本研究は,マルチカテゴリ分類器における実験値と一般化値との均一な偏差の確率を,停止したヒンジ損失関数に基づいて定義した経験値L1-ノルム被覆数により制御する。
多重圏分類器によって実装された関数に関する唯一の仮定は、それらが有界変動(BV)であるということである。
このような分類器に対して、上記の性能が高い確率で近づくのに十分なサンプルサイズ推定を導出する。
特に、クラスの数 C に対するこの推定の依存性に関心がある。
この目的のために、まず、r^d 上で定義された bv 関数の集合の集合の脂肪分散次元である vc-dimension のスケール感受性バージョンを上限とし、スケール epsilon が 0 になるとき o(1/epsilon^d ) を与える。
第二に, bv 関数の集合に対して o(c^(d/2 +1)) から o(cln^2(c)) へ改善する, 脂肪散乱次元 c についてより鋭い分解結果を与える。
この改善は、サンプル複雑性の推定に伝播する。
関連論文リスト
- Statistical Inference in Classification of High-dimensional Gaussian Mixture [1.2354076490479515]
高次元極限における正規化凸分類器の一般クラスの挙動について検討する。
我々の焦点は、推定器の一般化誤差と変数選択性である。
論文 参考訳(メタデータ) (2024-10-25T19:58:36Z) - Unveiling the Statistical Foundations of Chain-of-Thought Prompting Methods [59.779795063072655]
CoT(Chain-of-Thought)の促進とその変種は、多段階推論問題を解決する効果的な方法として人気を集めている。
統計的推定の観点からCoTのプロンプトを解析し,その複雑さを包括的に評価する。
論文 参考訳(メタデータ) (2024-08-25T04:07:18Z) - Scaling and renormalization in high-dimensional regression [72.59731158970894]
本稿では,様々な高次元リッジ回帰モデルの訓練および一般化性能の簡潔な導出について述べる。
本稿では,物理と深層学習の背景を持つ読者を対象に,これらのトピックに関する最近の研究成果の紹介とレビューを行う。
論文 参考訳(メタデータ) (2024-05-01T15:59:00Z) - Krylov-Bellman boosting: Super-linear policy evaluation in general state
spaces [35.85474784972229]
我々は、一般的な状態空間における政策評価のためのKrylov-Bellman Boosting (KBB)アルゴリズムを提示、解析する。
非パラメトリック回帰(ブースティングなど)を用いてベルマン残差を固定し、最小二乗時間差法(LSTD)により値関数を推定する。
論文 参考訳(メタデータ) (2022-10-20T16:17:14Z) - Asymptotically Unbiased Instance-wise Regularized Partial AUC
Optimization: Theory and Algorithm [101.44676036551537]
One-way partial AUC (OPAUC) と Two-way partial AUC (TPAUC) はバイナリ分類器の平均性能を測定する。
既存の手法のほとんどはPAUCをほぼ最適化するしかなく、制御不能なバイアスにつながる。
本稿では,分散ロバスト最適化AUCによるPAUC問題の簡易化について述べる。
論文 参考訳(メタデータ) (2022-10-08T08:26:22Z) - Reinforcement Learning from Partial Observation: Linear Function Approximation with Provable Sample Efficiency [111.83670279016599]
部分観察決定過程(POMDP)の無限観測および状態空間を用いた強化学習について検討した。
線形構造をもつPOMDPのクラスに対する部分可観測性と関数近似の最初の試みを行う。
論文 参考訳(メタデータ) (2022-04-20T21:15:38Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - A Class of Conjugate Priors for Multinomial Probit Models which Includes
the Multivariate Normal One [0.3553493344868413]
統一スキュー正規分布(SUN)のクラス全体は、複数の多重項プロビットモデルに共役していることを示す。
後部推論と分類のための最先端の解法を改善する。
論文 参考訳(メタデータ) (2020-07-14T10:08:23Z) - Predictive Value Generalization Bounds [27.434419027831044]
本稿では,二項分類の文脈におけるスコアリング関数の評価のためのビクテリオンフレームワークについて検討する。
本研究では,新しい分布自由な大偏差と一様収束境界を導出することにより,予測値に関するスコアリング関数の特性について検討する。
論文 参考訳(メタデータ) (2020-07-09T21:23:28Z) - Asymptotic Analysis of an Ensemble of Randomly Projected Linear
Discriminants [94.46276668068327]
[1]では、ランダムに投影された線形判別式のアンサンブルを用いてデータセットを分類する。
我々は,計算コストのかかるクロスバリデーション推定器の代替として,誤分類確率の一貫した推定器を開発する。
また、実データと合成データの両方で投影次元を調整するための推定器の使用を実証する。
論文 参考訳(メタデータ) (2020-04-17T12:47:04Z) - Reduced Dilation-Erosion Perceptron for Binary Classification [1.3706331473063877]
ディレーション・エロージョン・パーセプトロン(Dilation-erosion Perceptron, DEP)は、ディレーションとエロージョンの凸結合によって得られるニューラルネットワークである。
本稿では,r-DEP(reduce Dilation-erosion)分類器を提案する。
論文 参考訳(メタデータ) (2020-03-04T19:50:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。