論文の概要: Classification Error Bound for Low Bayes Error Conditions in Machine Learning

• arxiv url: http://arxiv.org/abs/2501.15977v1
• Date: Mon, 27 Jan 2025 11:57:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-28 13:59:24.618838
• Title: Classification Error Bound for Low Bayes Error Conditions in Machine Learning
• Title（参考訳）: 機械学習における低ベイズ誤差条件の分類誤差境界
• Authors: Zijian Yang, Vahe Eminyan, Ralf Schlüter, Hermann Ney,
• Abstract要約: 機械学習における誤りミスマッチとKulback-Leibler分散の関係について検討する。 多くの機械学習タスクにおける低モデルに基づく分類誤差の最近の観測により、低ベイズ誤差条件に対する分類誤差の線形近似を提案する。
• 参考スコア（独自算出の注目度）: 50.25063912757367
• License:
• Abstract: In statistical classification and machine learning, classification error is an important performance measure, which is minimized by the Bayes decision rule. In practice, the unknown true distribution is usually replaced with a model distribution estimated from the training data in the Bayes decision rule. This substitution introduces a mismatch between the Bayes error and the model-based classification error. In this work, we apply classification error bounds to study the relationship between the error mismatch and the Kullback-Leibler divergence in machine learning. Motivated by recent observations of low model-based classification errors in many machine learning tasks, bounding the Bayes error to be lower, we propose a linear approximation of the classification error bound for low Bayes error conditions. Then, the bound for class priors are discussed. Moreover, we extend the classification error bound for sequences. Using automatic speech recognition as a representative example of machine learning applications, this work analytically discusses the correlations among different performance measures with extended bounds, including cross-entropy loss, language model perplexity, and word error rate.
• Abstract（参考訳）: 統計分類と機械学習において、分類誤差はベイズ決定規則によって最小化される重要な性能指標である。 実際には、未知の真の分布は通常ベイズ決定規則のトレーニングデータから推定されるモデル分布に置き換えられる。 この置換はベイズ誤差とモデルに基づく分類誤差のミスマッチを導入する。 本研究では,機械学習における誤りミスマッチとKulback-Leibler分散の関係について,分類誤差境界を適用した。 近年,多くの機械学習タスクにおける低モデルに基づく分類誤差の観測によりベイズ誤差を低く抑えた結果,低ベイズ誤差条件に対する分類誤差の線形近似が提案された。 次に、クラス事前のバウンダリについて議論する。 さらに,シーケンスの分類誤差を拡大する。 機械学習応用の代表的な例として自動音声認識を用いて,クロスエントロピー損失,言語モデルパープレキシティ,単語誤り率など,様々な性能指標間の相関関係を解析的に検討する。

関連論文リスト

• Understanding and Mitigating Classification Errors Through Interpretable Token Patterns [58.91023283103762]
  容易に解釈可能な用語でエラーを特徴付けることは、分類器が体系的なエラーを起こす傾向にあるかどうかを洞察する。 正しい予測と誤予測を区別するトークンのパターンを発見することを提案する。 提案手法であるPremiseが実際によく動作することを示す。
  論文  参考訳（メタデータ） (2023-11-18T00:24:26Z)
• Probabilistic Safety Regions Via Finite Families of Scalable Classifiers [2.431537995108158]
  監視された分類は、データのパターンを認識して、振る舞いのクラスを分離する。 正準解は、機械学習の数値近似の性質に固有の誤分類誤差を含む。 本稿では,確率論的安全性領域の概念を導入し,入力空間のサブセットとして,誤分類されたインスタンスの数を確率論的に制御する手法を提案する。
  論文  参考訳（メタデータ） (2023-09-08T22:40:19Z)
• Is the Performance of My Deep Network Too Good to Be True? A Direct Approach to Estimating the Bayes Error in Binary Classification [86.32752788233913]
  分類問題において、ベイズ誤差は、最先端の性能を持つ分類器を評価するための基準として用いられる。 我々はベイズ誤差推定器を提案する。そこでは,クラスの不確かさを示すラベルの平均値のみを評価できる。 我々の柔軟なアプローチは、弱い教師付きデータであってもベイズ誤差を推定できる。
  論文  参考訳（メタデータ） (2022-02-01T13:22:26Z)
• Robust Importance Sampling for Error Estimation in the Context of Optimal Bayesian Transfer Learning [13.760785726194591]
  最適ベイズ移動学習のための最小平均二乗誤差推定器(MMSE)を新たに導入する。 提案した推定器を用いて,多様な学習能力にまたがる幅広い分類器の分類精度を評価する。 合成データと実世界のRNAシークエンシング(RNA-seq)データの両方に基づく実験結果から,提案したOBTL誤差推定手法が標準誤差推定器より明らかに優れていることが示された。
  論文  参考訳（メタデータ） (2021-09-05T19:11:33Z)
• Evaluating State-of-the-Art Classification Models Against Bayes Optimality [106.50867011164584]
  正規化フローを用いて学習した生成モデルのベイズ誤差を正確に計算できることを示す。 われわれの手法を用いて、最先端の分類モデルについて徹底的な調査を行う。
  論文  参考訳（メタデータ） (2021-06-07T06:21:20Z)
• Defuse: Harnessing Unrestricted Adversarial Examples for Debugging Models Beyond Test Accuracy [11.265020351747916]
  Defuseは、テストデータ以外のモデルエラーを自動的に検出し、修正する手法である。 本稿では, 生成モデルを用いて, モデルによって誤分類された自然発生事例を探索する逆機械学習手法に着想を得たアルゴリズムを提案する。 Defuseはテストセットの一般化を維持しながら、微調整後のエラーを修正する。
  論文  参考訳（メタデータ） (2021-02-11T18:08:42Z)
• How to Control the Error Rates of Binary Classifiers [0.0]
  本稿では,二項分類を統計的テストに変換し,p値の分類を計算し,対象の誤差率を制限する方法を示す。 特に、二項分類器を統計検査に変換し、p-値の分類を計算し、対象の誤差率を制限する方法を示す。
  論文  参考訳（メタデータ） (2020-10-21T14:43:14Z)
• Understanding Classifier Mistakes with Generative Models [88.20470690631372]
  ディープニューラルネットワークは教師付き学習タスクに有効であるが、脆弱であることが示されている。 本稿では、生成モデルを利用して、分類器が一般化に失敗するインスタンスを特定し、特徴付ける。 我々のアプローチは、トレーニングセットのクラスラベルに依存しないため、半教師付きでトレーニングされたモデルに適用できる。
  論文  参考訳（メタデータ） (2020-10-05T22:13:21Z)
• Good Classifiers are Abundant in the Interpolating Regime [64.72044662855612]
  補間分類器間のテストエラーの完全な分布を正確に計算する手法を開発した。 テストエラーは、最悪の補間モデルのテストエラーから大きく逸脱する、小さな典型的な$varepsilon*$に集中する傾向にある。 以上の結果から,統計的学習理論における通常の解析手法は,実際に観測された優れた一般化性能を捉えるのに十分な粒度にはならない可能性が示唆された。
  論文  参考訳（メタデータ） (2020-06-22T21:12:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。