論文の概要: Generalization Error Bounds for Multiclass Sparse Linear Classifiers

• arxiv url: http://arxiv.org/abs/2204.06264v1
• Date: Wed, 13 Apr 2022 09:25:03 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-14 12:43:07.778842
• Title: Generalization Error Bounds for Multiclass Sparse Linear Classifiers
• Title（参考訳）: 多クラススパース線形分類器の一般化誤差境界
• Authors: Tomer Levy and Felix Abramovich
• Abstract要約: スパース多項ロジスティック回帰による高次元多クラス分類を考察する。 本稿では,ペナル化最大可能性に基づく計算可能な特徴選択手法を提案する。 特に、グローバル・スパシティ、ダブル・行ワイド・スパシティ、ロー・ランク・スパシティについて検討する。
• 参考スコア（独自算出の注目度）: 7.360807642941714
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: We consider high-dimensional multiclass classification by sparse multinomial logistic regression. Unlike binary classification, in the multiclass setup one can think about an entire spectrum of possible notions of sparsity associated with different structural assumptions on the regression coefficients matrix. We propose a computationally feasible feature selection procedure based on penalized maximum likelihood with convex penalties capturing a specific type of sparsity at hand. In particular, we consider global sparsity, double row-wise sparsity, and low-rank sparsity, and show that with the properly chosen tuning parameters the derived plug-in classifiers attain the minimax generalization error bounds (in terms of misclassification excess risk) within the corresponding classes of multiclass sparse linear classifiers. The developed approach is general and can be adapted to other types of sparsity as well.
• Abstract（参考訳）: スパース多項ロジスティック回帰による高次元多クラス分類を考察する。 バイナリ分類とは異なり、多クラスセットアップでは、回帰係数行列上の異なる構造的仮定に関連するスパーシティの概念のスペクトル全体を考えることができる。 そこで本研究では,特定の種類のスパーシティを捉えた対流ペナルティを用いたペナルティ最大度に基づく計算可能な特徴選択手法を提案する。 特に,大域的スパース性,二列的スパース性,低ランク的スパース性について検討し,適切に選択されたチューニングパラメータを用いて導出されたプラグイン分類器が,対応する多クラススパース線形分類器のクラス内で(過度なリスクの誤分類の観点から)minimax一般化誤差境界を達成することを示す。 開発されたアプローチは一般的であり、他の種類の空間にも適応できる。

関連論文リスト

• Precise Asymptotic Generalization for Multiclass Classification with Overparameterized Linear Models [4.093769373833101]
  Subramanian et al.'22 の予想では、データポイント、特徴、クラスの数はすべて一緒になる。 我々の新しい下限は情報理論の強い逆に似ており、それらは誤分類率が0か1に近づくことを証明している。 厳密な解析の鍵はハンソン・ライトの不等式の新しい変種であり、スパースラベルの多重クラス問題に広く有用である。
  論文  参考訳（メタデータ） (2023-06-23T00:59:15Z)
• Generalization for multiclass classification with overparameterized linear models [3.3434274586532515]
  クラスが多すぎる限り、多クラス分類は二分分類のように振る舞うことが示される。 様々な技術的課題に加えて、二項分類設定との大きな違いは、クラス数が増加するにつれて、各クラスの正のトレーニング例がマルチクラス設定で比較的少ないことである。
  論文  参考訳（メタデータ） (2022-06-03T05:52:43Z)
• Soft-margin classification of object manifolds [0.0]
  単一対象の複数の出現に対応する神経集団は、神経応答空間における多様体を定義する。 そのような多様体を分類する能力は、オブジェクト認識やその他の計算タスクは多様体内の変数に無関心な応答を必要とするため、興味がある。 ソフトマージン分類器は、より大きなアルゴリズムのクラスであり、トレーニングセット外のパフォーマンスを最適化するためにアプリケーションで使われる追加の正規化パラメータを提供する。
  論文  参考訳（メタデータ） (2022-03-14T12:23:36Z)
• On the rate of convergence of a classifier based on a Transformer encoder [55.41148606254641]
  最適誤分類確率に対する分類器の誤分類確率の収束率を分析する。 この分類器は,アポテリオリ確率が適切な階層的構成モデルを満たす場合,次元性の呪いを回避することができる。
  論文  参考訳（メタデータ） (2021-11-29T14:58:29Z)
• On Clustering Categories of Categorical Predictors in Generalized Linear Models [0.0]
  本稿では,分類予測器の存在下での一般化線形モデルの複雑性を低減する手法を提案する。 各カテゴリがダミー変数で表される従来のワンホット符号化は、無駄で解釈が難しく、過度に適合する傾向がある。 本稿では,カテゴリをクラスタリングすることでカテゴリ予測器の表現を小さくすることで,これらの課題に対処する。
  論文  参考訳（メタデータ） (2021-10-19T15:36:35Z)
• When in Doubt: Improving Classification Performance with Alternating Normalization [57.39356691967766]
  分類のための非パラメトリック後処理ステップである交互正規化(CAN)を用いた分類を導入する。 CANは、予測されたクラス確率分布を再調整することで、挑戦的な例の分類精度を向上させる。 多様な分類課題にまたがってその効果を実証的に示す。
  論文  参考訳（メタデータ） (2021-09-28T02:55:42Z)
• Learning Gaussian Mixtures with Generalised Linear Models: Precise Asymptotics in High-dimensions [79.35722941720734]
  多クラス分類問題に対する一般化線形モデルは、現代の機械学習タスクの基本的な構成要素の1つである。 実験的リスク最小化による高次元推定器の精度を実証する。 合成データの範囲を超えて我々の理論をどのように適用できるかを論じる。
  論文  参考訳（メタデータ） (2021-06-07T16:53:56Z)
• Theoretical Insights Into Multiclass Classification: A High-dimensional Asymptotic View [82.80085730891126]
  線形多クラス分類の最初の現代的精度解析を行う。 分析の結果,分類精度は分布に依存していることがわかった。 得られた洞察は、他の分類アルゴリズムの正確な理解の道を開くかもしれない。
  論文  参考訳（メタデータ） (2020-11-16T05:17:29Z)
• Self-Weighted Robust LDA for Multiclass Classification with Edge Classes [111.5515086563592]
  SWRLDAと呼ばれる,l21ノルムを基準とした新しい自己重み付き頑健なLDAを提案する。 提案するSWRLDAは実装が容易で,実際に高速に収束する。
  論文  参考訳（メタデータ） (2020-09-24T12:32:55Z)
• Saliency-based Weighted Multi-label Linear Discriminant Analysis [101.12909759844946]
  複数ラベルの分類課題を解決するために,LDA(Linear Discriminant Analysis)の新たな変種を提案する。 提案手法は,個々の試料の重量を定義する確率モデルに基づく。 サリエンシに基づく重み付きマルチラベル LDA アプローチは,様々なマルチラベル分類問題の性能改善につながることが示されている。
  論文  参考訳（メタデータ） (2020-04-08T19:40:53Z)
• Multiclass classification by sparse multinomial logistic regression [10.312968200748116]
  スパース多項ロジスティック回帰による高次元多クラス分類を考察する。 本稿では,複雑性ペナルティを伴うペナル化最大度に基づく特徴選択手法を提案する。 我々は,小クラスと多数のクラスに対応する2つのレギュレーションが存在することを示した。
  論文  参考訳（メタデータ） (2020-03-04T08:44:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。