論文の概要: Assumption-lean logistic regression with missing covariates
- arxiv url: http://arxiv.org/abs/2610.07292v1
- Date: Mon, 05 Oct 2026 19:28:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.618083
- Title: Assumption-lean logistic regression with missing covariates
- Title（参考訳）: 余変数の欠如による推定リーンロジスティック回帰
- Abstract要約: 我々の手法は、欠落したデータによる観測を無視するデファクト完全確率ケース」を常に上回ることを示す。
また,本研究の限界は,完全症例のみの使用よりも大幅に改善できることが示唆された。
- 参考スコア（独自算出の注目度）: 3.406855662926352
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Missing covariates are frequently encountered in supervised learning problems, and classical methods for estimation using such data use carefully chosen imputation schemes for missing data, or likelihood approximations that lead to nonconvex $M$-estimation problems. These methods and their relatives are suitable for scenarios in which the covariate distribution is known, and more broadly, have enjoyed tremendous success in linear models. But even in basic nonlinear problems such as logistic regression in moderate dimensions, such methods can experience drastic failure modes when the covariate distribution is unknown. Motivated by the need for reliable alternatives, we consider the problem of parameter estimation in logistic regression with missing covariates. Crucially, we operate in the assumption-lean setting where the covariate distribution is unknown (but bounded). We design a stochastic approximation method that is based on $Z$-estimation with a novel monotone operator, and establish that our algorithm is computationally efficient and achieves provable signal recovery at parametric rates under the hypothesis that covariates are missing completely at random. Our theory sharply characterizes the $\ell_2^2$ risk of the estimator in terms of the missingness profile, accommodating heterogeneous observation probabilities. Importantly, it shows that our method always outperforms the de facto ``complete-case'' estimator that ignores observations with any missing data. Even in the setting with homogeneous missingness (in which each covariate is observed independently with probability $q$), our bounds exhibit intricate and nonstandard dependence on $q$ that can yield significant improvements over using only complete cases. We complement our upper bounds with new information-theoretic lower bounds that show that this intricate dependence on $q$ is fundamental in a minimax sense.
- Abstract（参考訳）: 教師付き学習問題では欠落共変量が多く、そのようなデータを用いた古典的推定法では、欠落データに対して慎重に選択された計算スキームや、非凸な$M$推定問題につながる確率近似が用いられる。
これらの手法とその親類は、共変量分布が知られ、より広範に線形モデルにおいて大きな成功を収めたシナリオに適している。
しかし、中等次元におけるロジスティック回帰のような基本的な非線形問題においても、共変量分布が未知のときに劇的な故障モードを経験することができる。
信頼性のある代替手段の必要性から,ロジスティック回帰におけるパラメータ推定の問題を考える。
重要なことに、共変量分布が未知(ただし有界)な仮定リーン設定で運用する。
我々は,新しい単調演算子とのZ$-推定に基づく確率近似法を設計し,我々のアルゴリズムは計算効率が高く,共変量は完全にランダムに欠落しているという仮説の下でパラメトリックレートで証明可能な信号回復を実現する。
我々の理論は、不均一な観測確率を調節する不均一性プロファイルの観点から、推定器の$\ell_2^2$リスクを著しく特徴づけている。
重要なことは、我々の手法は、欠落したデータで観測を無視する「完全ケース」推定器のデファクトを常に上回っていることを示している。
等質な欠如(それぞれの共変量が確率$q$と独立に観測されるような)の設定であっても、我々の境界は$q$に対する複雑で非標準的な依存を示し、これは完全なケースのみを使用することよりも大幅に改善される。
我々は、この$q$への複雑な依存がミニマックスの意味で基本的なものであることを示す新しい情報理論の下界で上界を補完する。
関連論文リスト
- Doubly robust target inference for generalized linear regression with completely missing covariates [2.9508594131545354]
大規模多目的コホート研究やバイオバンクは下流分析に必要なコバーリネートを省略することが多い。
サブポピュレーションシフト仮定の下で、二重頑健な移動学習フレームワークを開発する。
我々の推定器は、重み付けされた音源推定方程式とこれらの条件関数の計算を組み合わせる。
論文 参考訳（メタデータ） (2026-09-21T04:12:28Z) - Generalisation and benign over-fitting for linear regression onto random functional covariates [4.344644788142548]
リッジレス最小二乗回帰法とリッジレス最小二乗回帰法の理論的予測性能について検討した。
我々は、$p$が$n$に対して急速に成長する体制における収束率を導出する。
論文 参考訳（メタデータ） (2025-08-19T15:01:20Z) - Asymptotically Optimal Linear Best Feasible Arm Identification with Fixed Budget [55.938644481736446]
本稿では,誤差確率の指数的減衰を保証し,最適な腕識別のための新しいアルゴリズムを提案する。
我々は,複雑性のレベルが異なる様々な問題インスタンスに対する包括的経験的評価を通じて,アルゴリズムの有効性を検証する。
論文 参考訳（メタデータ） (2025-06-03T02:56:26Z) - Causality Pursuit from Heterogeneous Environments via Neural Adversarial Invariance Learning [12.947265104477237]
データから因果関係を抽出することは、科学的発見、治療介入、伝達学習における根本的な問題である。
本稿では,複数の環境における回帰モデルにおける非パラメトリック不変性と因果学習に対処するアルゴリズムを提案する。
提案したFocused Adrial Invariant Regularizationフレームワークは、逆検定により回帰モデルを予測不変解へ向ける革新的なミニマックス最適化手法を利用する。
論文 参考訳（メタデータ） (2024-05-07T23:37:40Z) - Distributionally Robust Skeleton Learning of Discrete Bayesian Networks [9.46389554092506]
我々は、潜在的に破損したデータから一般的な離散ベイズネットワークの正確なスケルトンを学習する問題を考察する。
本稿では,有界ワッサーシュタイン距離(KL)における分布群に対する最も有害なリスクを,経験的分布へのKL分散を最適化することを提案する。
本稿では,提案手法が標準正規化回帰手法と密接に関連していることを示す。
論文 参考訳（メタデータ） (2023-11-10T15:33:19Z) - Model-Agnostic Covariate-Assisted Inference on Partially Identified Causal Effects [1.9253333342733674]
多くの因果推定値は、潜在的な結果間の観測不能な関節分布に依存するため、部分的にしか識別できない。
本研究では,部分的同定された推定値の広いクラスに対して,統一的かつモデルに依存しない推論手法を提案する。
論文 参考訳（メタデータ） (2023-10-12T08:17:30Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳（メタデータ） (2021-08-25T21:30:27Z) - Near-optimal inference in adaptive linear regression [60.08422051718195]
最小二乗法のような単純な方法でさえ、データが適応的に収集されるときの非正規な振る舞いを示すことができる。
我々は,これらの分布異常を少なくとも2乗推定で補正するオンラインデバイアス推定器のファミリーを提案する。
我々は,マルチアームバンディット,自己回帰時系列推定,探索による能動的学習などの応用を通して,我々の理論の有用性を実証する。
論文 参考訳（メタデータ） (2021-07-05T21:05:11Z) - Learning Probabilistic Ordinal Embeddings for Uncertainty-Aware
Regression [91.3373131262391]
不確かさが唯一の確実性である。
伝統的に、直接回帰定式化を考慮し、ある確率分布の族に出力空間を変更することによって不確実性をモデル化する。
現在のレグレッション技術における不確実性をモデル化する方法は、未解決の問題である。
論文 参考訳（メタデータ） (2021-03-25T06:56:09Z) - Good Classifiers are Abundant in the Interpolating Regime [64.72044662855612]
補間分類器間のテストエラーの完全な分布を正確に計算する手法を開発した。
テストエラーは、最悪の補間モデルのテストエラーから大きく逸脱する、小さな典型的な$varepsilon*$に集中する傾向にある。
以上の結果から,統計的学習理論における通常の解析手法は,実際に観測された優れた一般化性能を捉えるのに十分な粒度にはならない可能性が示唆された。
論文 参考訳（メタデータ） (2020-06-22T21:12:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。