論文の概要: Generalized Resubstitution for Classification Error Estimation
- arxiv url: http://arxiv.org/abs/2110.12285v1
- Date: Sat, 23 Oct 2021 19:42:11 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-26 14:44:04.837484
- Title: Generalized Resubstitution for Classification Error Estimation
- Title（参考訳）: 分類誤差推定のための一般化された置換
- Authors: Parisa Ghane and Ulisses Braga-Neto
- Abstract要約: 経験的尺度に基づく一般化された再置換誤差推定器のファミリーを提案する。
これらの誤差推定器は計算効率が良く、分類器の再学習を必要としない。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose the family of generalized resubstitution classifier error
estimators based on empirical measures. These error estimators are
computationally efficient and do not require re-training of classifiers. The
plain resubstitution error estimator corresponds to choosing the standard
empirical measure. Other choices of empirical measure lead to bolstered,
posterior-probability, Gaussian-process, and Bayesian error estimators; in
addition, we propose bolstered posterior-probability error estimators as a new
family of generalized resubstitution estimators. In the two-class case, we show
that a generalized resubstitution estimator is consistent and asymptotically
unbiased, regardless of the distribution of the features and label, if the
corresponding generalized empirical measure converges uniformly to the standard
empirical measure and the classification rule has a finite VC dimension. A
generalized resubstitution estimator typically has hyperparameters that can be
tuned to control its bias and variance, which adds flexibility. Numerical
experiments with various classification rules trained on synthetic data assess
the thefinite-sample performance of several representative generalized
resubstitution error estimators. In addition, results of an image
classification experiment using the LeNet-5 convolutional neural network and
the MNIST data set demonstrate the potential of this class of error estimators
in deep learning for computer vision.
- Abstract（参考訳）: 経験的尺度に基づく一般化された置換分類器誤差推定器のファミリーを提案する。
これらのエラー推定器は計算効率が高く、分類器の再訓練を必要としない。
プレーン再置換誤差推定器は標準経験的尺度の選択に対応する。
その他の経験的尺度の選択は、強化された後確率、ガウス過程、ベイズ誤差推定器につながり、さらに、強化後確率誤差推定器を一般化再置換推定器の新しいファミリーとして提案する。
2クラスの場合、対応する一般化経験尺度が標準経験尺度に均一に収束し、分類規則が有限VC次元を持つ場合、特徴とラベルの分布にかかわらず、一般化再置換推定器は一貫して漸近的に不偏であることを示す。
一般化された置換推定器は通常、そのバイアスと分散を制御するために調整できる過度パラメータを持ち、柔軟性が増す。
汎用再置換誤差推定器の有限サンプル性能を評価する合成データに基づく各種分類規則を用いた数値実験
さらに、LeNet-5畳み込みニューラルネットワークとMNISTデータセットを用いた画像分類実験の結果、コンピュータビジョンのためのディープラーニングにおけるこの種のエラー推定装置の可能性を示した。
関連論文リスト
- Generalized Resubstitution for Regression Error Estimation [1.6114012813668932]
経験的確率測度と損失関数の選択に対応する回帰に対する置換誤差推定器を提案する。
これらの誤差推定器は広い仮定の下で一貫したものであることを証明している。
論文 参考訳（メタデータ） (2024-10-23T15:22:21Z) - Estimating Generalization Performance Along the Trajectory of Proximal SGD in Robust Regression [4.150180443030652]
本稿では,反復アルゴリズムの軌道に沿った反復の一般化誤差を正確に追跡する推定器を提案する。
結果は、ハマー回帰(英語版)、擬ハマー回帰(英語版)、および非滑らかな正則化子を持つそれらのペナル化変種(英語版)など、いくつかの例を通して説明される。
論文 参考訳（メタデータ） (2024-10-03T16:13:42Z) - Generalization bounds for regression and classification on adaptive covering input domains [1.4141453107129398]
一般化誤差の上限となる一般化境界に着目する。
分類タスクの場合、対象関数を1ホット、ピースワイド定数関数として扱い、誤差測定に0/1ロスを用いる。
論文 参考訳（メタデータ） (2024-07-29T05:40:08Z) - Deep Imbalanced Regression via Hierarchical Classification Adjustment [50.19438850112964]
コンピュータビジョンにおける回帰タスクは、しばしば、対象空間をクラスに定量化することで分類される。
トレーニングサンプルの大多数は目標値の先頭にあるが、少数のサンプルは通常より広い尾幅に分布する。
不均衡回帰タスクを解くために階層型分類器を構築することを提案する。
不均衡回帰のための新しい階層型分類調整(HCA)は,3つのタスクにおいて優れた結果を示す。
論文 参考訳（メタデータ） (2023-10-26T04:54:39Z) - Corrected generalized cross-validation for finite ensembles of penalized estimators [5.165142221427927]
Generalized Cross-Vidation (GCV) は、正方形外乱予測リスクを推定するための広く使われている手法である。
GCV は 1 以上の大きさの有限アンサンブルに対して不整合であることを示す。
論文 参考訳（メタデータ） (2023-10-02T17:38:54Z) - A Statistical Model for Predicting Generalization in Few-Shot
Classification [6.158812834002346]
一般化誤差を予測するために,特徴分布のガウスモデルを導入する。
提案手法は, 相互検証戦略の離脱など, 代替案よりも優れていることを示す。
論文 参考訳（メタデータ） (2022-12-13T10:21:15Z) - Predicting Unreliable Predictions by Shattering a Neural Network [145.3823991041987]
線形ニューラルネットワークは、サブファンクションに分割することができる。
サブファンクションは、独自のアクティベーションパターン、ドメイン、経験的エラーを持っている。
完全なネットワークに対する経験的エラーは、サブファンクションに対する期待として記述できる。
論文 参考訳（メタデータ） (2021-06-15T18:34:41Z) - Evaluating State-of-the-Art Classification Models Against Bayes
Optimality [106.50867011164584]
正規化フローを用いて学習した生成モデルのベイズ誤差を正確に計算できることを示す。
われわれの手法を用いて、最先端の分類モデルについて徹底的な調査を行う。
論文 参考訳（メタデータ） (2021-06-07T06:21:20Z) - Good Classifiers are Abundant in the Interpolating Regime [64.72044662855612]
補間分類器間のテストエラーの完全な分布を正確に計算する手法を開発した。
テストエラーは、最悪の補間モデルのテストエラーから大きく逸脱する、小さな典型的な$varepsilon*$に集中する傾向にある。
以上の結果から,統計的学習理論における通常の解析手法は,実際に観測された優れた一般化性能を捉えるのに十分な粒度にはならない可能性が示唆された。
論文 参考訳（メタデータ） (2020-06-22T21:12:31Z) - Performance metrics for intervention-triggering prediction models do not
reflect an expected reduction in outcomes from using the model [71.9860741092209]
臨床研究者はしばしばリスク予測モデルの中から選択し評価する。
振り返りデータから算出される標準メトリクスは、特定の仮定の下でのみモデルユーティリティに関係します。
予測が時間を通して繰り返し配信される場合、標準メトリクスとユーティリティの関係はさらに複雑になる。
論文 参考訳（メタデータ） (2020-06-02T16:26:49Z) - Estimating Gradients for Discrete Random Variables by Sampling without
Replacement [93.09326095997336]
我々は、置換のないサンプリングに基づいて、離散確率変数に対する期待値の偏りのない推定器を導出する。
推定器は3つの異なる推定器のラオ・ブラックウェル化として導出可能であることを示す。
論文 参考訳（メタデータ） (2020-02-14T14:15:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。