論文の概要: Debiased Machine Learning without Sample-Splitting for Stable Estimators

• arxiv url: http://arxiv.org/abs/2206.01825v1
• Date: Fri, 3 Jun 2022 21:31:28 GMT
• ステータス: 処理完了
• システム内更新日: 2022-06-07 18:25:49.589293
• Title: Debiased Machine Learning without Sample-Splitting for Stable Estimators
• Title（参考訳）: 安定推定器のサンプルスプリッティングを伴わないデバイアス機械学習
• Authors: Qizhao Chen, Vasilis Syrgkanis, Morgane Austern
• Abstract要約: 偏りのある機械学習に関する最近の研究は、補助的な問題に対して汎用機械学習推定器をどのように使用できるかを示している。 これらの補助的推定アルゴリズムが自然に残留する安定性特性を満たす場合、サンプル分割は不要であることを示す。
• 参考スコア（独自算出の注目度）: 21.502538698559825
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Estimation and inference on causal parameters is typically reduced to a generalized method of moments problem, which involves auxiliary functions that correspond to solutions to a regression or classification problem. Recent line of work on debiased machine learning shows how one can use generic machine learning estimators for these auxiliary problems, while maintaining asymptotic normality and root-$n$ consistency of the target parameter of interest, while only requiring mean-squared-error guarantees from the auxiliary estimation algorithms. The literature typically requires that these auxiliary problems are fitted on a separate sample or in a cross-fitting manner. We show that when these auxiliary estimation algorithms satisfy natural leave-one-out stability properties, then sample splitting is not required. This allows for sample re-use, which can be beneficial in moderately sized sample regimes. For instance, we show that the stability properties that we propose are satisfied for ensemble bagged estimators, built via sub-sampling without replacement, a popular technique in machine learning practice.
• Abstract（参考訳）: 因果パラメータの推定と推論は通常、回帰問題や分類問題の解に対応する補助関数を含むモーメント問題の一般化された方法に還元される。 debiased machine learningに関する最近の研究は、補助的問題に対して汎用的な機械学習推定器をいかに利用できるかを示しつつ、対象パラメータの漸近的正規性とルート=n$一貫性を維持しながら、補助的推定アルゴリズムから平均二乗誤差保証を要求できることを示した。 典型的には、これらの補助的な問題は別のサンプルやクロスフィッティングの方法で適合するよう要求される。 これらの補助的推定アルゴリズムが自然に残留する安定性特性を満たす場合、サンプル分割は不要であることを示す。 これによりサンプルの再使用が可能となり、適度なサイズのサンプルレギュレーションで有用となる。 例えば,我々が提案する安定性特性は,機械学習の実践で一般的な手法である副サンプリングで構築した袋入り推定器で満足できることを示す。

関連論文リスト

• Error Feedback under $(L_0,L_1)$-Smoothness: Normalization and Momentum [56.37522020675243]
  機械学習の幅広い問題にまたがる正規化誤差フィードバックアルゴリズムに対する収束の最初の証明を提供する。 提案手法では,許容可能なステップサイズが大きくなったため,新しい正規化エラーフィードバックアルゴリズムは,各種タスクにおける非正規化エラーよりも優れていた。
  論文  参考訳（メタデータ） (2024-10-22T10:19:27Z)
• Learning to sample fibers for goodness-of-fit testing [0.0]
  離散指数族モデルに対する完全適合性テストを構築することの問題点を考察する。 この問題をマルコフ決定プロセスに変換し、サンプリングのための「よい動きを学ぶための強化学習アプローチ」を示す。 提案アルゴリズムは,評価可能な収束性を持つアクタ・クリティカル・サンプリング方式に基づいている。
  論文  参考訳（メタデータ） (2024-05-22T19:33:58Z)
• Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
  確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。 本手法は, 精度の高い問題に特に適している。 提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
  論文  参考訳（メタデータ） (2023-11-08T00:10:21Z)
• Learning to Extrapolate: A Transductive Approach [44.74850954809099]
  パラメータ化関数近似器のパワーを保った機械学習システムを開発する際の課題に対処する。 このような一般化を実現するために,バイリニア埋め込みに基づく簡単な戦略を提案する。 様々な教師付き学習や模倣学習タスクに適用可能な,単純で実用的なアルゴリズムをインスタンス化する。
  論文  参考訳（メタデータ） (2023-04-27T17:00:51Z)
• Improving Adaptive Conformal Prediction Using Self-Supervised Learning [72.2614468437919]
  我々は、既存の予測モデルの上に自己教師付きプレテキストタスクを持つ補助モデルを訓練し、自己教師付きエラーを付加的な特徴として用いて、非整合性スコアを推定する。 合成データと実データの両方を用いて、効率(幅)、欠陥、共形予測間隔の超過といった付加情報の利点を実証的に実証する。
  論文  参考訳（メタデータ） (2023-02-23T18:57:14Z)
• RF+clust for Leave-One-Problem-Out Performance Prediction [0.9281671380673306]
  本稿では,LOPO(Left-one-problem-out)のパフォーマンス予測について検討する。 我々は、標準ランダムフォレスト(RF)モデル予測が性能値の重み付き平均値で校正することで改善できるかどうかを解析する。
  論文  参考訳（メタデータ） (2023-01-23T16:14:59Z)
• Self-Supervised Training with Autoencoders for Visual Anomaly Detection [61.62861063776813]
  我々は, 正規サンプルの分布を低次元多様体で支持する異常検出において, 特定のユースケースに焦点を当てた。 我々は、訓練中に識別情報を活用する自己指導型学習体制に適応するが、通常の例のサブ多様体に焦点をあてる。 製造領域における視覚異常検出のための挑戦的なベンチマークであるMVTec ADデータセットで、最先端の新たな結果を達成する。
  論文  参考訳（メタデータ） (2022-06-23T14:16:30Z)
• Automatic Debiased Machine Learning for Dynamic Treatment Effects and General Nested Functionals [23.31865419578237]
  我々は、自動脱バイアス機械学習の考え方を動的治療体制に拡張し、より一般的にネストされた機能に拡張する。 離散的な処理を施した動的処理系に対する多重ロバストな式は、ネスト平均回帰のリース表現器のキャラクタリゼーションにより再定式化可能であることを示す。
  論文  参考訳（メタデータ） (2022-03-25T19:54:17Z)
• Fairness constraint in Structural Econometrics and Application to fair estimation using Instrumental Variables [3.265773263570237]
  教師付き機械学習アルゴリズムは、新しい観測を予測するために使用される学習サンプルからモデルを決定する。 この情報集約は、観測できないものや、トレーニングサンプルに含まれる可能性のあるステータス・クオバイアスについて、潜在的な選択を考慮しない。 後者の偏見は、機械学習アルゴリズムのいわゆるテクストフェアネス(textitfairness)、特に不利なグループに対する懸念を提起している。
  論文  参考訳（メタデータ） (2022-02-16T15:34:07Z)
• Generalization of Neural Combinatorial Solvers Through the Lens of Adversarial Robustness [68.97830259849086]
  ほとんどのデータセットは単純なサブプロブレムのみをキャプチャし、おそらくは突発的な特徴に悩まされる。 本研究では, 局所的な一般化特性である対向ロバスト性について検討し, 厳密でモデル固有な例と突発的な特徴を明らかにする。 他のアプリケーションとは異なり、摂動モデルは知覚できないという主観的な概念に基づいて設計されているため、摂動モデルは効率的かつ健全である。 驚くべきことに、そのような摂動によって、十分に表現力のあるニューラルソルバは、教師あり学習で共通する正確さと悪質さのトレードオフの限界に悩まされない。
  論文  参考訳（メタデータ） (2021-10-21T07:28:11Z)
• Asymptotic Analysis of an Ensemble of Randomly Projected Linear Discriminants [94.46276668068327]
  [1]では、ランダムに投影された線形判別式のアンサンブルを用いてデータセットを分類する。 我々は,計算コストのかかるクロスバリデーション推定器の代替として,誤分類確率の一貫した推定器を開発する。 また、実データと合成データの両方で投影次元を調整するための推定器の使用を実証する。
  論文  参考訳（メタデータ） (2020-04-17T12:47:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。