論文の概要: Multiclass classification by sparse multinomial logistic regression

• arxiv url: http://arxiv.org/abs/2003.01951v3
• Date: Thu, 19 Nov 2020 11:35:48 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-26 13:10:00.047592
• Title: Multiclass classification by sparse multinomial logistic regression
• Title（参考訳）: スパース多項ロジスティック回帰による多クラス分類
• Authors: Felix Abramovich, Vadim Grinshtein and Tomer Levy
• Abstract要約: スパース多項ロジスティック回帰による高次元多クラス分類を考察する。 本稿では,複雑性ペナルティを伴うペナル化最大度に基づく特徴選択手法を提案する。 我々は,小クラスと多数のクラスに対応する2つのレギュレーションが存在することを示した。
• 参考スコア（独自算出の注目度）: 10.312968200748116
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this paper we consider high-dimensional multiclass classification by sparse multinomial logistic regression. We propose first a feature selection procedure based on penalized maximum likelihood with a complexity penalty on the model size and derive the nonasymptotic bounds for misclassification excess risk of the resulting classifier. We establish also their tightness by deriving the corresponding minimax lower bounds. In particular, we show that there exist two regimes corresponding to small and large number of classes. The bounds can be reduced under the additional low noise condition. To find a penalized maximum likelihood solution with a complexity penalty requires, however, a combinatorial search over all possible models. To design a feature selection procedure computationally feasible for high-dimensional data, we propose multinomial logistic group Lasso and Slope classifiers and show that they also achieve the minimax order.
• Abstract（参考訳）: 本稿では,多項ロジスティック回帰による高次元多クラス分類を考える。 まず、モデルサイズに複雑性ペナルティを課したペナル化最大度に基づく特徴選択法を提案し、結果の分類器の誤分類過剰リスクに対する漸近的境界を導出する。 また、対応するミニマックス下限を導出することにより、その密性を確立する。 特に、小クラスと多数のクラスに対応する2つのレギュレーションが存在することを示す。 追加の低騒音条件下で境界を小さくすることができる。 しかし、複雑性のペナルティを持つペナル化最大可能性解を見つけるには、すべての可能なモデルに対する組合せ探索が必要である。 高次元データに対して計算可能な特徴選択手順を設計するために,多項ロジスティック群ラッソと傾斜分類器を提案し,それらもまたミニマックス次数を達成することを示す。

関連論文リスト

• Optimal Multi-Distribution Learning [88.3008613028333]
  マルチディストリビューション学習は、$k$の異なるデータ分散における最悪のリスクを最小限に抑える共有モデルを学ぶことを目指している。 本稿では, (d+k)/varepsilon2の順に, サンプルの複雑さを伴って, ヴァレプシロン最適ランダム化仮説を導出するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-12-08T16:06:29Z)
• Precise Asymptotic Generalization for Multiclass Classification with Overparameterized Linear Models [4.093769373833101]
  Subramanian et al.'22 の予想では、データポイント、特徴、クラスの数はすべて一緒になる。 我々の新しい下限は情報理論の強い逆に似ており、それらは誤分類率が0か1に近づくことを証明している。 厳密な解析の鍵はハンソン・ライトの不等式の新しい変種であり、スパースラベルの多重クラス問題に広く有用である。
  論文  参考訳（メタデータ） (2023-06-23T00:59:15Z)
• Optimal PAC Bounds Without Uniform Convergence [11.125968799758436]
  我々は、一様収束論の極限を超えるフレームワークを通して、最適な高確率リスク境界を提供する。 我々のフレームワークは、置換不変予測器の残余誤差を高い確率リスク境界に変換する。 具体的には, 1-inclusion graph アルゴリズムの特定のアグリゲーションが最適であることを示す。
  論文  参考訳（メタデータ） (2023-04-18T17:57:31Z)
• Oracle Inequalities for Model Selection in Offline Reinforcement Learning [105.74139523696284]
  本稿では,値関数近似を用いたオフラインRLにおけるモデル選択の問題について検討する。 対数係数まで最小値の速度-最適不等式を実現するオフラインRLの最初のモデル選択アルゴリズムを提案する。 そこで本研究では,優れたモデルクラスを確実に選択できることを示す数値シミュレーションを行った。
  論文  参考訳（メタデータ） (2022-11-03T17:32:34Z)
• Generalization Error Bounds for Multiclass Sparse Linear Classifiers [7.360807642941714]
  スパース多項ロジスティック回帰による高次元多クラス分類を考察する。 本稿では,ペナル化最大可能性に基づく計算可能な特徴選択手法を提案する。 特に、グローバル・スパシティ、ダブル・行ワイド・スパシティ、ロー・ランク・スパシティについて検討する。
  論文  参考訳（メタデータ） (2022-04-13T09:25:03Z)
• Set-valued prediction in hierarchical classification with constrained representation complexity [4.258263831866309]
  階層的多クラス分類問題に焦点をあて、有効集合が階層の内部ノードに対応する。 我々は3つの手法を提案し、それらをベンチマークデータセット上で評価する。
  論文  参考訳（メタデータ） (2022-03-13T15:13:19Z)
• Learning Gaussian Mixtures with Generalised Linear Models: Precise Asymptotics in High-dimensions [79.35722941720734]
  多クラス分類問題に対する一般化線形モデルは、現代の機械学習タスクの基本的な構成要素の1つである。 実験的リスク最小化による高次元推定器の精度を実証する。 合成データの範囲を超えて我々の理論をどのように適用できるかを論じる。
  論文  参考訳（メタデータ） (2021-06-07T16:53:56Z)
• Provable Model-based Nonlinear Bandit and Reinforcement Learning: Shelve Optimism, Embrace Virtual Curvature [61.22680308681648]
  決定論的報酬を有する1層ニューラルネットバンディットにおいても,グローバル収束は統計的に難解であることを示す。 非線形バンディットとRLの両方に対して,オンラインモデル学習者による仮想アセンジ(Virtual Ascent with Online Model Learner)というモデルベースアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-02-08T12:41:56Z)
• Online Model Selection for Reinforcement Learning with Function Approximation [50.008542459050155]
  我々は、$tildeO(L5/6 T2/3)$ regretで最適な複雑性に適応するメタアルゴリズムを提案する。 また、メタアルゴリズムは、インスタンス依存の後悔境界を著しく改善することを示す。
  論文  参考訳（メタデータ） (2020-11-19T10:00:54Z)
• Theoretical Insights Into Multiclass Classification: A High-dimensional Asymptotic View [82.80085730891126]
  線形多クラス分類の最初の現代的精度解析を行う。 分析の結果,分類精度は分布に依存していることがわかった。 得られた洞察は、他の分類アルゴリズムの正確な理解の道を開くかもしれない。
  論文  参考訳（メタデータ） (2020-11-16T05:17:29Z)
• Modelling High-Dimensional Categorical Data Using Nonconvex Fusion Penalties [7.262048441360131]
  SCOPEと呼ばれる我々の推定器は、対応する係数を正確に等しくすることで、レベルを融合する。 変数の非次元ブロック内での正確かつ効率的なクラスタリングのためのアルゴリズムを提供する。
  論文  参考訳（メタデータ） (2020-02-28T09:20:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。