論文の概要: Using the Naive Bayes as a discriminative classifier
- arxiv url: http://arxiv.org/abs/2012.13572v3
- Date: Fri, 5 Mar 2021 16:15:28 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-25 04:37:46.266726
- Title: Using the Naive Bayes as a discriminative classifier
- Title(参考訳): Naive Bayes を識別分類器として使う
- Authors: Elie Azeraf, Emmanuel Monfrini, Wojciech Pieczynski
- Abstract要約: 分類タスクでは、確率モデルは、生成的または識別的の2つの不一致なクラスに分類することができる。
最近のEntropic Forward-Backwardアルゴリズムは、生成モデルと見なされる隠れマルコフモデルが、識別的定義と一致することも示している。
Naive Bayes分類器は、識別分類器の定義にも一致するので、生成的または識別的な方法で使用できる。
- 参考スコア(独自算出の注目度): 6.939768185086753
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: For classification tasks, probabilistic models can be categorized into two
disjoint classes: generative or discriminative. It depends on the posterior
probability computation of the label $x$ given the observation $y$, $p(x | y)$.
On the one hand, generative classifiers, like the Naive Bayes or the Hidden
Markov Model (HMM), need the computation of the joint probability p(x,y),
before using the Bayes rule to compute $p(x | y)$. On the other hand,
discriminative classifiers compute $p(x | y)$ directly, regardless of the
observations' law. They are intensively used nowadays, with models as Logistic
Regression, Conditional Random Fields (CRF), and Artificial Neural Networks.
However, the recent Entropic Forward-Backward algorithm shows that the HMM,
considered as a generative model, can also match the discriminative one's
definition. This example leads to question if it is the case for other
generative models. In this paper, we show that the Naive Bayes classifier can
also match the discriminative classifier definition, so it can be used in
either a generative or a discriminative way. Moreover, this observation also
discusses the notion of Generative-Discriminative pairs, linking, for example,
Naive Bayes and Logistic Regression, or HMM and CRF. Related to this point, we
show that the Logistic Regression can be viewed as a particular case of the
Naive Bayes used in a discriminative way.
- Abstract(参考訳): 分類タスクでは、確率的モデルは2つの非結合クラス(生成的または識別的)に分類される。
これは、観測値 $y$, $p(x | y)$ が与えられると、ラベル $x$ の後方確率計算に依存する。
一方、ナイーブ・ベイズ(英語版)や隠れマルコフモデル(英語版)(hmm)のような生成的分類器は、ベイズ則を用いて$p(x | y)$を計算する前に、合同確率 p(x,y) の計算が必要である。
一方、判別分類器は観察の法則に関係なく直接的に$p(x | y)$を計算する。
現在では、ロジスティック回帰、条件ランダムフィールド(CRF)、ニューラルネットワークなどのモデルで、集中的に使用されている。
しかし、最近のentropic forward-backwardアルゴリズムは、生成モデルと見なされるhmmが差別的定義にマッチすることを示している。
この例は、他の生成モデルの場合について疑問を呈する。
本稿では,ナイーブベイズ分類器が識別的分類器の定義と一致することも示し,生成的あるいは識別的手法で使用することができることを示す。
さらに、この観察では、例えば、Naive Bayes や Logistic Regression や HMM や CRF など、生成-識別対の概念についても論じている。
この点に関連して、ロジスティック回帰は、識別的に使用されるナイーブベイの特定のケースと見なすことができることを示した。
関連論文リスト
- Mitigating Nonlinear Algorithmic Bias in Binary Classification [0.0]
本稿では,保護属性の非線形なバイアスの検出と緩和に因果モデリングを用いることを提案する。
若年者では「低リスク」と正しく分類される可能性が低いことを示す。
適応因果モデルに基づいて、偏り確率推定を計算し、全体の精度にほとんど影響を与えずに、公正性の向上を示す。
論文 参考訳(メタデータ) (2023-12-09T01:26:22Z) - Revisiting Discriminative vs. Generative Classifiers: Theory and
Implications [37.98169487351508]
本論文はベイズの統計的効率に着想を得たものである。
マルチクラス$mathcalH$-consistency bound frameworkと明示的なロジスティック損失境界を示す。
様々な事前訓練されたディープビジョンモデルの実験は、データの数が増加するにつれて、ナイーブベイズは常に速く収束することを示している。
論文 参考訳(メタデータ) (2023-02-05T08:30:42Z) - Two-sample test based on Self-Organizing Maps [68.8204255655161]
機械学習分類器は2サンプル統計テストとして利用することができる。
自己組織化マップは、当初データ視覚化ツールとして考案された次元削減である。
しかし、本来の目的は視覚化であるため、洞察を与えることもできる。
論文 参考訳(メタデータ) (2022-12-17T21:35:47Z) - Parametric Classification for Generalized Category Discovery: A Baseline
Study [70.73212959385387]
Generalized Category Discovery (GCD)は、ラベル付きサンプルから学習した知識を用いて、ラベルなしデータセットで新しいカテゴリを発見することを目的としている。
パラメトリック分類器の故障を調査し,高品質な監視が可能であった場合の過去の設計選択の有効性を検証し,信頼性の低い疑似ラベルを重要課題として同定する。
エントロピー正規化の利点を生かし、複数のGCDベンチマークにおける最先端性能を実現し、未知のクラス数に対して強いロバスト性を示す、単純で効果的なパラメトリック分類法を提案する。
論文 参考訳(メタデータ) (2022-11-21T18:47:11Z) - On the Identifiability and Estimation of Causal Location-Scale Noise
Models [122.65417012597754]
位置スケール・異方性雑音モデル(LSNM)のクラスについて検討する。
症例によっては, 因果方向が同定可能であることが示唆された。
我々は,LSNMの2つの推定器を提案し,その1つは(非線形)特徴写像に基づく推定器と,1つはニューラルネットワークに基づく推定器を提案する。
論文 参考訳(メタデータ) (2022-10-13T17:18:59Z) - Asymptotic Statistical Analysis of $f$-divergence GAN [13.587087960403199]
GAN(Generative Adversarial Networks)は、データ生成において大きな成功を収めている。
GANの一般$f$-divergence定式化の統計的挙動を考察する。
得られた推定方法は、Adversarial Gradient Estimation (AGE)と呼ばれる。
論文 参考訳(メタデータ) (2022-09-14T18:08:37Z) - Reusing the Task-specific Classifier as a Discriminator:
Discriminator-free Adversarial Domain Adaptation [55.27563366506407]
非教師付きドメイン適応(UDA)のための識別器なし対向学習ネットワーク(DALN)を導入する。
DALNは、統一された目的によって明確なドメインアライメントとカテゴリの区別を達成する。
DALNは、さまざまなパブリックデータセット上の既存の最先端(SOTA)メソッドと比較して好意的に比較する。
論文 参考訳(メタデータ) (2022-04-08T04:40:18Z) - Deriving discriminative classifiers from generative models [6.939768185086753]
生成モデルから誘導される生成的分類器は、同じモデルから判別的に計算できることを示す。
自然言語処理(NLP)フレームワークにおいて,分類器を識別する新たな手法が注目されている。
論文 参考訳(メタデータ) (2022-01-03T19:18:25Z) - Large scale analysis of generalization error in learning using margin
based classification methods [2.436681150766912]
サンプルサイズ$n$と次元$p$の両方の極限で、大マルジン分類器の族を一般化誤差とする式を導出する。
2層ニューラルネットワークでは、最近開発された2重降下現象をいくつかの分類モデルで再現する。
論文 参考訳(メタデータ) (2020-07-16T20:31:26Z) - Learning from Aggregate Observations [82.44304647051243]
本研究では,一組のインスタンスに監視信号が与えられる集合観察から学習する問題について検討する。
本稿では,多種多様な集合観測に適合する一般的な確率的枠組みを提案する。
単純な極大解は様々な微分可能なモデルに適用できる。
論文 参考訳(メタデータ) (2020-04-14T06:18:50Z) - Neural Bayes: A Generic Parameterization Method for Unsupervised
Representation Learning [175.34232468746245]
本稿ではニューラルベイズと呼ばれるパラメータ化手法を提案する。
これは一般に計算が難しい統計量の計算を可能にする。
このパラメータ化のための2つの独立したユースケースを示す。
論文 参考訳(メタデータ) (2020-02-20T22:28:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。