論文の概要: Are Latent Factor Regression and Sparse Regression Adequate?
- arxiv url: http://arxiv.org/abs/2203.01219v1
- Date: Wed, 2 Mar 2022 16:22:23 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-03 14:16:36.146744
- Title: Are Latent Factor Regression and Sparse Regression Adequate?
- Title(参考訳): 潜在因子回帰とスパース回帰は適切か?
- Authors: Jianqing Fan, Zhipeng Lou, Mengxin Yu
- Abstract要約: 準ガウス雑音と重み付き雑音の存在下でのモデル推定に関する理論的保証を提供する。
本稿ではFacter-Adjusted de-Biased Test (FabTest) と2段階のANOVA型テストを提案する。
数値計算の結果,潜在因子回帰モデルと疎線形回帰モデルに対するモデルの有効性と有効性を示した。
- 参考スコア(独自算出の注目度): 0.49416305961918056
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose the Factor Augmented sparse linear Regression Model (FARM) that
not only encompasses both the latent factor regression and sparse linear
regression as special cases but also bridges dimension reduction and sparse
regression together. We provide theoretical guarantees for the estimation of
our model under the existence of sub-Gaussian and heavy-tailed noises (with
bounded (1+x)-th moment, for all x>0), respectively. In addition, the existing
works on supervised learning often assume the latent factor regression or the
sparse linear regression is the true underlying model without justifying its
adequacy. To fill in such an important gap, we also leverage our model as the
alternative model to test the sufficiency of the latent factor regression and
the sparse linear regression models. To accomplish these goals, we propose the
Factor-Adjusted de-Biased Test (FabTest) and a two-stage ANOVA type test
respectively. We also conduct large-scale numerical experiments including both
synthetic and FRED macroeconomics data to corroborate the theoretical
properties of our methods. Numerical results illustrate the robustness and
effectiveness of our model against latent factor regression and sparse linear
regression models.
- Abstract(参考訳): 本稿では, 遅延係数回帰とスパース線形回帰の両方を特殊ケースとして含むとともに, ブリッジ次元縮小とスパース回帰を併用したFARM(Facter Augmented sparse linear Regression Model)を提案する。
準ガウス雑音と重尾雑音(すべての x>0 に対して有界 (1+x) モーメントを持つ)の存在下でのモデル推定に関する理論的保証を提供する。
さらに、教師付き学習に関する既存の研究は、その妥当性を正当化することなく、潜在因子回帰またはスパース線形回帰が真の基盤モデルであると仮定することが多い。
このような重要なギャップを埋めるために、我々のモデルを代替モデルとして活用し、潜在因子回帰と疎線形回帰モデルの十分性をテストする。
これらの目的を達成するために, 因子調整脱バイアステスト(fabtest)と2段階のanova型テストを提案する。
また, 合成およびFREDマクロ経済学データを含む大規模数値実験を行い, 提案手法の理論的特性を裏付ける。
数値計算の結果,潜在因子回帰モデルと疎線形回帰モデルに対するモデルの有効性と有効性を示した。
関連論文リスト
- Regression-aware Inference with LLMs [52.764328080398805]
提案手法は,一般的な回帰と評価指標に準最適であることを示す。
本稿では,ベイズ最適解を推定し,サンプル応答からクローズド形式の評価指標を推定する代替推論手法を提案する。
論文 参考訳(メタデータ) (2024-03-07T03:24:34Z) - Statistical Agnostic Regression: a machine learning method to validate regression models [0.0]
本稿では,MLに基づく線形回帰の統計的意義を評価する手法として,統計的回帰(Agnostic Regression, SAR)を提案する。
我々は、説明的(機能)変数と反応(ラベル)変数の間の集団に線形関係があることを結論付けるために、少なくとも1-etaの確率で十分な証拠が存在することを示すしきい値を定義する。
論文 参考訳(メタデータ) (2024-02-23T09:19:26Z) - Selective Nonparametric Regression via Testing [54.20569354303575]
本研究では,所定の点における条件分散の値に関する仮説を検証し,留置手順を開発する。
既存の手法とは異なり、提案手法は分散自体の値だけでなく、対応する分散予測器の不確実性についても考慮することができる。
論文 参考訳(メタデータ) (2023-09-28T13:04:11Z) - Engression: Extrapolation through the Lens of Distributional Regression [2.519266955671697]
我々は、エングレースと呼ばれるニューラルネットワークに基づく分布回帰手法を提案する。
エングレスモデル(engression model)は、適合した条件分布からサンプリングできるという意味で生成され、高次元結果にも適している。
一方、最小二乗法や量子回帰法のような従来の回帰手法は、同じ仮定の下では不十分である。
論文 参考訳(メタデータ) (2023-07-03T08:19:00Z) - Augmented balancing weights as linear regression [3.877356414450364]
自動脱バイアス機械学習(AutoDML)としても知られる拡張バランスウェイトの特徴を新たに提供する。
拡張推定器は、元の結果モデルから得られる係数と、不注意な通常の最小二乗(OLS)から得られる係数を同じデータに組み合わせた単一の線形モデルと等価であることを示す。
私たちのフレームワークは、この人気の高い推定器のクラスにブラックボックスを開きます。
論文 参考訳(メタデータ) (2023-04-27T21:53:54Z) - Time varying regression with hidden linear dynamics [74.9914602730208]
線形力学系に従って未知のパラメータが進化することを前提とした時間変化線形回帰モデルを再検討する。
反対に、基礎となる力学が安定である場合、このモデルのパラメータは2つの通常の最小二乗推定と組み合わせることで、データから推定できることが示される。
論文 参考訳(メタデータ) (2021-12-29T23:37:06Z) - Estimation of Bivariate Structural Causal Models by Variational Gaussian
Process Regression Under Likelihoods Parametrised by Normalising Flows [74.85071867225533]
因果機構は構造因果モデルによって記述できる。
最先端の人工知能の大きな欠点の1つは、説明責任の欠如である。
論文 参考訳(メタデータ) (2021-09-06T14:52:58Z) - Regression Bugs Are In Your Model! Measuring, Reducing and Analyzing
Regressions In NLP Model Updates [68.09049111171862]
この研究は、NLPモデル更新における回帰エラーの定量化、低減、分析に重点を置いている。
回帰フリーモデル更新を制約付き最適化問題に定式化する。
モデルアンサンブルが回帰を減らす方法を実証的に分析します。
論文 参考訳(メタデータ) (2021-05-07T03:33:00Z) - Robust Finite Mixture Regression for Heterogeneous Targets [70.19798470463378]
本稿では,サンプルクラスタの探索と,複数の不完全な混合型ターゲットを同時にモデル化するFMRモデルを提案する。
我々は、高次元の学習フレームワークの下で、無症状のオラクルのパフォーマンス境界をモデルに提供します。
その結果,我々のモデルは最先端の性能を達成できることがわかった。
論文 参考訳(メタデータ) (2020-10-12T03:27:07Z) - A Locally Adaptive Interpretable Regression [7.4267694612331905]
線形回帰は最も解釈可能な予測モデルの一つである。
本稿では,局所適応型解釈型回帰(LoAIR)を導入する。
我々のモデルは、他の最先端のベースラインと同等またはより良い予測性能を達成する。
論文 参考訳(メタデータ) (2020-05-07T09:26:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。