論文の概要: Finite-sample performance of the maximum likelihood estimator in logistic regression

• arxiv url: http://arxiv.org/abs/2411.02137v1
• Date: Mon, 04 Nov 2024 14:50:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-05 14:49:46.284357
• Title: Finite-sample performance of the maximum likelihood estimator in logistic regression
• Title（参考訳）: ロジスティック回帰における最大極大推定器の有限サンプル性能
• Authors: Hugo Chardon, Matthieu Lerasle, Jaouad Mourtada,
• Abstract要約: 本稿では,ロジスティック回帰に対する最大極大推定器(MLE)の予測性能について考察する。 我々は,MLEの存在と過剰なロジスティックリスクについて,急激な非漸近的保証を得る。
• 参考スコア（独自算出の注目度）: 3.7550827441501844
• License:
• Abstract: Logistic regression is a classical model for describing the probabilistic dependence of binary responses to multivariate covariates. We consider the predictive performance of the maximum likelihood estimator (MLE) for logistic regression, assessed in terms of logistic risk. We consider two questions: first, that of the existence of the MLE (which occurs when the dataset is not linearly separated), and second that of its accuracy when it exists. These properties depend on both the dimension of covariates and on the signal strength. In the case of Gaussian covariates and a well-specified logistic model, we obtain sharp non-asymptotic guarantees for the existence and excess logistic risk of the MLE. We then generalize these results in two ways: first, to non-Gaussian covariates satisfying a certain two-dimensional margin condition, and second to the general case of statistical learning with a possibly misspecified logistic model. Finally, we consider the case of a Bernoulli design, where the behavior of the MLE is highly sensitive to the parameter direction.
• Abstract（参考訳）: ロジスティック回帰は、多変量共変量に対する二分反応の確率的依存を記述する古典的なモデルである。 本稿では,ロジスティック回帰に対する最大極大推定器(MLE)の予測性能について,ロジスティックリスクの観点から検討した。 まず、MLE(データセットが線形に分離されていないときに発生する)の存在と、それが存在するときの精度の2つを考察する。 これらの性質は共変量の次元と信号強度の両方に依存する。 ガウス共変量およびよく特定されたロジスティックモデルの場合、我々はMLEの存在と過剰なロジスティックリスクに対する急激な非漸近的保証を得る。 次に、これらの結果を2つの方法で一般化する: 第一に、ある2次元のマージン条件を満たす非ガウス共変体、第二に、おそらく不特定なロジスティックモデルを持つ統計学習の一般の場合である。 最後に、MLEの挙動がパラメータ方向に非常に敏感なベルヌーイ設計の場合について考察する。

関連論文リスト

• High-dimensional logistic regression with missing data: Imputation, regularization, and universality [7.167672851569787]
  我々は高次元リッジ規則化ロジスティック回帰について検討する。 予測誤差と推定誤差の両方を正確に評価する。
  論文  参考訳（メタデータ） (2024-10-01T21:41:21Z)
• Logistic-beta processes for dependent random probabilities with beta marginals [58.91121576998588]
  本稿では,ロジスティック・ベータプロセスと呼ばれる新しいプロセスを提案する。 空間や時間などの離散領域と連続領域の両方への依存をモデル化でき、相関カーネルを通じて柔軟な依存構造を持つ。 本研究は,非パラメトリック二分回帰と条件密度推定の例による効果をシミュレーション研究と妊娠結果応用の両方で説明する。
  論文  参考訳（メタデータ） (2024-02-10T21:41:32Z)
• Nonparametric logistic regression with deep learning [1.2509746979383698]
  非パラメトリックロジスティック回帰では、クルバック・リーバーの発散は容易に発散できる。 余剰リスクを解析する代わりに、最大可能性推定器の一貫性を示すのに十分である。 重要な応用として、深層ニューラルネットワークによるNPMLEの収束率を導出する。
  論文  参考訳（メタデータ） (2024-01-23T04:31:49Z)
• Multinomial Logistic Regression: Asymptotic Normality on Null Covariates in High-Dimensions [11.69389391551085]
  本稿では,次元と試料サイズが同一の高次元状態における多相ロジスティックモデルにおける最大線量推定(MLE)の分布について検討する。
  論文  参考訳（メタデータ） (2023-05-28T23:33:41Z)
• Off-policy estimation of linear functionals: Non-asymptotic theory for semi-parametric efficiency [59.48096489854697]
  観測データに基づいて線形汎関数を推定する問題は、因果推論と包帯文献の両方において標準的である。 このような手順の平均二乗誤差に対して非漸近上界を証明した。 非漸近的局所ミニマックス下限をマッチングすることにより、有限標本のインスタンス依存最適性を確立する。
  論文  参考訳（メタデータ） (2022-09-26T23:50:55Z)
• On the Double Descent of Random Features Models Trained with SGD [78.0918823643911]
  勾配降下(SGD)により最適化された高次元におけるランダム特徴(RF)回帰特性について検討する。 本研究では, RF回帰の高精度な非漸近誤差境界を, 定常および適応的なステップサイズSGD設定の下で導出する。 理論的にも経験的にも二重降下現象を観察する。
  論文  参考訳（メタデータ） (2021-10-13T17:47:39Z)
• Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
  ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。 そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
  論文  参考訳（メタデータ） (2021-08-25T21:30:27Z)
• Multivariate Probabilistic Regression with Natural Gradient Boosting [63.58097881421937]
  多変量予測分布の条件パラメータを非パラメトリックにモデル化したNatural Gradient Boosting (NGBoost) 手法を提案する。 提案手法は頑健で, 広範囲なチューニングを伴わず, 推定対象分布に対してモジュール構造であり, 既存の手法と比較して競争力がある。
  論文  参考訳（メタデータ） (2021-06-07T17:44:49Z)
• The MELODIC family for simultaneous binary logistic regression in a reduced space [0.5330240017302619]
  同時バイナリロジスティック回帰モデリングのためのMELODICファミリーを提案する。 モデルは、ロジスティック回帰係数または双極子の観点から解釈することができる。 薬物摂取プロファイルに関連する性格特性と、うつ病や不安障害に関連する性格特性の2つの応用が詳細に示されている。
  論文  参考訳（メタデータ） (2021-02-16T15:47:20Z)
• On the existence of the maximum likelihood estimate and convergence rate under gradient descent for multi-class logistic regression [0.0]
  サンプルデータセットの全てのクラスに正の確率を割り当てることによって、その存在を保証する方法が示される。 データの分離性の概念は必要ではなく、古典的なマルチクラスロジスティック回帰のセットアップとは対照的である。
  論文  参考訳（メタデータ） (2020-12-08T17:21:34Z)
• Two-step penalised logistic regression for multi-omic data with an application to cardiometabolic syndrome [62.997667081978825]
  我々は,各層で変数選択を行うマルチオミックロジスティック回帰に対する2段階のアプローチを実装した。 私たちのアプローチは、可能な限り多くの関連する予測子を選択することを目標とすべきです。 提案手法により,分子レベルでの心筋メタボリックシンドロームの特徴を同定することができる。
  論文  参考訳（メタデータ） (2020-08-01T10:36:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。