論文の概要: Inject Machine Learning into Significance Test for Misspecified Linear
Models
- arxiv url: http://arxiv.org/abs/2006.03167v1
- Date: Thu, 4 Jun 2020 23:22:04 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-25 09:33:00.121293
- Title: Inject Machine Learning into Significance Test for Misspecified Linear
Models
- Title(参考訳): 誤特定線形モデルの重要度テストに機械学習を注入する
- Authors: Jiaye Teng and Yang Yuan
- Abstract要約: 線形シナリオと非線形シナリオの両方において、線形近似の単純かつ効果的な仮定不要な手法を提案する。
実験結果から, この推定器は非線形基底真理関数の線形回帰を著しく上回ることがわかった。
- 参考スコア(独自算出の注目度): 14.672773981251574
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Due to its strong interpretability, linear regression is widely used in
social science, from which significance test provides the significance level of
models or coefficients in the traditional statistical inference. However,
linear regression methods rely on the linear assumptions of the ground truth
function, which do not necessarily hold in practice. As a result, even for
simple non-linear cases, linear regression may fail to report the correct
significance level.
In this paper, we present a simple and effective assumption-free method for
linear approximation in both linear and non-linear scenarios. First, we apply a
machine learning method to fit the ground truth function on the training set
and calculate its linear approximation. Afterward, we get the estimator by
adding adjustments based on the validation set. We prove the concentration
inequalities and asymptotic properties of our estimator, which leads to the
corresponding significance test. Experimental results show that our estimator
significantly outperforms linear regression for non-linear ground truth
functions, indicating that our estimator might be a better tool for the
significance test.
- Abstract(参考訳): その強い解釈可能性から、線形回帰は社会科学において広く使われており、その意味度テストは伝統的な統計推論におけるモデルや係数の重要度レベルを提供する。
しかし、線形回帰法は、実際には必ずしも成り立たない基底真理関数の線型仮定に依存している。
その結果、単純な非線形の場合でさえ、線形回帰は正しい重要性レベルを報告できない可能性がある。
本稿では,線形および非線形のシナリオにおける線形近似に対する,単純かつ効果的な仮定フリー手法を提案する。
まず、学習集合に基底真理関数を適合させるために機械学習法を適用し、その線形近似を計算する。
その後、検証セットに基づいて調整を加えることで推定値を得る。
我々は, 推定器の濃度不等式と漸近特性を証明し, 対応する有意性試験に導いた。
実験の結果, 非線形基底真理関数の線形回帰を有意に上回っており, 重要度評価のためのツールとして評価できる可能性が示唆された。
関連論文リスト
- Interpretation of High-Dimensional Regression Coefficients by Comparison with Linearized Compressing Features [0.0]
リチウムイオン電池のサイクル寿命を予測することによって,高次元関数データからの非線形応答を線形回帰がいかに近似するかを理解することに注力する。
我々は,回帰解の経路の最も近い回帰係数と比較し,特徴係数を導出する線形化法を開発した。
論文 参考訳(メタデータ) (2024-11-18T20:59:38Z) - Automatic doubly robust inference for linear functionals via calibrated debiased machine learning [0.9694940903078658]
本稿では2つの頑健な推論のためのバイアス付き機械学習推定器を提案する。
C-DML推定器は、結果回帰または線形汎函数のリース表現器が十分に推定されたときに線形性を維持する。
我々の理論的および実証的な結果は、ニュアンス関数の不一致または遅い推定によるバイアスを軽減するためにC-DMLの使用を支持する。
論文 参考訳(メタデータ) (2024-11-05T03:32:30Z) - Bayesian Inference for Consistent Predictions in Overparameterized Nonlinear Regression [0.0]
本研究では,ベイズフレームワークにおける過パラメータ化非線形回帰の予測特性について検討した。
リプシッツ連続活性化関数を持つ一般化線形および単一ニューロンモデルに対して後部収縮が成立する。
提案手法は数値シミュレーションと実データアプリケーションを用いて検証した。
論文 参考訳(メタデータ) (2024-04-06T04:22:48Z) - Pessimistic Nonlinear Least-Squares Value Iteration for Offline Reinforcement Learning [53.97335841137496]
非線形関数近似を用いたオフラインRLにおけるPNLSVI(Pessimistic Least-Square Value Iteration)と呼ばれるオラクル効率のアルゴリズムを提案する。
本アルゴリズムは,関数クラスの複雑性に強く依存する後悔境界を享受し,線形関数近似に特化して最小限のインスタンス依存後悔を実現する。
論文 参考訳(メタデータ) (2023-10-02T17:42:01Z) - Selective Nonparametric Regression via Testing [54.20569354303575]
本研究では,所定の点における条件分散の値に関する仮説を検証し,留置手順を開発する。
既存の手法とは異なり、提案手法は分散自体の値だけでなく、対応する分散予測器の不確実性についても考慮することができる。
論文 参考訳(メタデータ) (2023-09-28T13:04:11Z) - On the Detection and Quantification of Nonlinearity via Statistics of
the Gradients of a Black-Box Model [0.0]
非線形性の検出と同定は構造力学において重要な課題である。
データ駆動モデルの勾配分布に基づいて非線形性を検出する手法を提案する。
論文 参考訳(メタデータ) (2023-02-15T23:15:22Z) - Near-optimal Offline Reinforcement Learning with Linear Representation:
Leveraging Variance Information with Pessimism [65.46524775457928]
オフライン強化学習は、オフライン/歴史的データを活用して、シーケンシャルな意思決定戦略を最適化しようとしている。
線形モデル表現を用いたオフライン強化学習の統計的限界について検討する。
論文 参考訳(メタデータ) (2022-03-11T09:00:12Z) - Near-optimal inference in adaptive linear regression [60.08422051718195]
最小二乗法のような単純な方法でさえ、データが適応的に収集されるときの非正規な振る舞いを示すことができる。
我々は,これらの分布異常を少なくとも2乗推定で補正するオンラインデバイアス推定器のファミリーを提案する。
我々は,マルチアームバンディット,自己回帰時系列推定,探索による能動的学習などの応用を通して,我々の理論の有用性を実証する。
論文 参考訳(メタデータ) (2021-07-05T21:05:11Z) - LQF: Linear Quadratic Fine-Tuning [114.3840147070712]
本稿では,非線形微調整に匹敵する性能を実現する事前学習モデルの線形化手法を提案する。
LQFはアーキテクチャの単純な変更、損失関数、そして一般的に分類に使用される最適化で構成されている。
論文 参考訳(メタデータ) (2020-12-21T06:40:20Z) - Causality-aware counterfactual confounding adjustment as an alternative
to linear residualization in anticausal prediction tasks based on linear
learners [14.554818659491644]
反因果予測タスクにおける因果関係を考慮した共起調整に対する線形残差化手法の比較を行った。
線形学習者の予測性能において,因果認識アプローチは(漸近的に)残留化調整に優れる傾向があることを示す。
論文 参考訳(メタデータ) (2020-11-09T17:59:57Z) - Non-parametric Models for Non-negative Functions [48.7576911714538]
同じ良い線形モデルから非負関数に対する最初のモデルを提供する。
我々は、それが表現定理を認め、凸問題に対する効率的な二重定式化を提供することを証明した。
論文 参考訳(メタデータ) (2020-07-08T07:17:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。