論文の概要: Nuclear Norm Regularized Estimation of Panel Regression Models
- arxiv url: http://arxiv.org/abs/1810.10987v3
- Date: Wed, 7 Jun 2023 01:49:35 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-08 20:56:20.377845
- Title: Nuclear Norm Regularized Estimation of Panel Regression Models
- Title(参考訳): パネル回帰モデルの核規範正規化推定
- Authors: Hyungsik Roger Moon, Martin Weidner
- Abstract要約: 凸目的関数の最小化に基づく2つの新しい推定法を提案する。
さらに、核のノルム化は、インタラクティブな固定効果モデルに対する潜在的な識別問題を解くのに役立つ。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper we investigate panel regression models with interactive fixed
effects. We propose two new estimation methods that are based on minimizing
convex objective functions. The first method minimizes the sum of squared
residuals with a nuclear (trace) norm regularization. The second method
minimizes the nuclear norm of the residuals. We establish the consistency of
the two resulting estimators. Those estimators have a very important
computational advantage compared to the existing least squares (LS) estimator,
in that they are defined as minimizers of a convex objective function. In
addition, the nuclear norm penalization helps to resolve a potential
identification problem for interactive fixed effect models, in particular when
the regressors are low-rank and the number of the factors is unknown. We also
show how to construct estimators that are asymptotically equivalent to the
least squares (LS) estimator in Bai (2009) and Moon and Weidner (2017) by using
our nuclear norm regularized or minimized estimators as initial values for a
finite number of LS minimizing iteration steps. This iteration avoids any
non-convex minimization, while the original LS estimation problem is generally
non-convex, and can have multiple local minima.
- Abstract(参考訳): 本稿では,インタラクティブな固定効果を有するパネル回帰モデルについて検討する。
凸目的関数の最小化に基づく2つの新しい推定法を提案する。
最初の方法は、核(トレース)ノルム正規化による正方形残差の和を最小化する。
第2の方法は残差の核ノルムを最小化する。
得られた2つの推定値の整合性を確立する。
これらの推定器は、凸目的関数の最小値として定義されるため、既存の最小二乗(LS)推定器と比較して非常に重要な計算上の優位性を持つ。
さらに、核規範のペナリゼーションは、相互作用的固定効果モデル、特にレグレプターが低ランクで要因の数が不明な場合の潜在的な識別問題を解決するのに役立つ。
また,ベイ (2009) とムーン・アンド・ウェイドナー (2017) の最小二乗推定器 (LS) と漸近的に同値な推定器を,有限個のLS最小イテレーションステップの初期値として,我々の核ノルムを用いて構築する方法を示す。
この反復は非凸最小化を回避するが、元のLS推定問題は一般に非凸であり、複数の局所ミニマを持つことができる。
関連論文リスト
- Optimal minimax rate of learning interaction kernels [7.329333373512536]
広帯域の交換可能な分布に対して最適な収束率を得るための最小二乗推定器(tLSE)を導入する。
以上の結果から, 大きな試料限界の逆問題が保たれた場合, 左テール確率はバイアス分散トレードオフを変化させないことがわかった。
論文 参考訳(メタデータ) (2023-11-28T15:01:58Z) - Error Reduction from Stacked Regressions [12.657895453939298]
積み重ね回帰は、予測精度を高めるために異なる回帰推定器の線形結合を形成するアンサンブル手法である。
本稿では,非負性制約を受ける経験的リスクの正規化バージョンを最小化することにより,これらの重みを類似的に学習する。
適応的縮小効果により、結果として生じる累積推定量は、最も優れた単一推定値よりも人口リスクが厳しく小さい。
論文 参考訳(メタデータ) (2023-09-18T15:42:12Z) - Batches Stabilize the Minimum Norm Risk in High Dimensional Overparameterized Linear Regression [12.443289202402761]
最小ノルム過パラメータ線形回帰モデルのレンズによるバッチ分割の利点を示す。
最適なバッチサイズを特徴付け、ノイズレベルに逆比例することを示す。
また,Weiner係数と同等の係数によるバッチ最小ノルム推定器の縮小がさらに安定化し,全ての設定において2次リスクを低くすることを示した。
論文 参考訳(メタデータ) (2023-06-14T11:02:08Z) - Kernel-based off-policy estimation without overlap: Instance optimality
beyond semiparametric efficiency [53.90687548731265]
本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。
任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
論文 参考訳(メタデータ) (2023-01-16T02:57:37Z) - Estimating the minimizer and the minimum value of a regression function
under passive design [72.85024381807466]
最小値 $boldsymbolx*$ と最小値 $f*$ を滑らかで凸な回帰関数 $f$ で推定する新しい手法を提案する。
2次リスクと$boldsymbolz_n$の最適化誤差、および$f*$を推定するリスクについて、漸近的でない上界を導出する。
論文 参考訳(メタデータ) (2022-11-29T18:38:40Z) - Non asymptotic estimation lower bounds for LTI state space models with
Cram\'er-Rao and van Trees [1.14219428942199]
本研究では,未知の共分散のガウス励起を持つ線形時間不変(LTI)状態空間モデルに対する推定問題について検討する。
予測される推定誤差と最小二乗推定器の平均二乗推定リスクに対して非下界を与える。
その結果, 推定リスクを期待して, 既存の下限を下限に拡張し, 改善した。
論文 参考訳(メタデータ) (2021-09-17T15:00:25Z) - Near-optimal inference in adaptive linear regression [60.08422051718195]
最小二乗法のような単純な方法でさえ、データが適応的に収集されるときの非正規な振る舞いを示すことができる。
我々は,これらの分布異常を少なくとも2乗推定で補正するオンラインデバイアス推定器のファミリーを提案する。
我々は,マルチアームバンディット,自己回帰時系列推定,探索による能動的学習などの応用を通して,我々の理論の有用性を実証する。
論文 参考訳(メタデータ) (2021-07-05T21:05:11Z) - Rao-Blackwellizing the Straight-Through Gumbel-Softmax Gradient
Estimator [93.05919133288161]
一般的なGumbel-Softmax推定器のストレートスルー変量の分散は、ラオ・ブラックウェル化により減少できることを示す。
これは平均二乗誤差を確実に減少させる。
これは分散の低減、収束の高速化、および2つの教師なし潜在変数モデルの性能向上につながることを実証的に実証した。
論文 参考訳(メタデータ) (2020-10-09T22:54:38Z) - Learning Minimax Estimators via Online Learning [55.92459567732491]
確率分布のパラメータを推定するミニマックス推定器を設計する際の問題点を考察する。
混合ケースナッシュ平衡を求めるアルゴリズムを構築した。
論文 参考訳(メタデータ) (2020-06-19T22:49:42Z) - Minimax Estimation of Conditional Moment Models [40.95498063465325]
min-max基準関数を導入し,ゼロサムゲームの解法とみなすことができる。
任意の仮説空間に対する結果推定器の統計的推定速度を解析する。
修正された平均二乗誤差率と、逆問題の不備とが組み合わさって、平均二乗誤差率をもたらすことを示す。
論文 参考訳(メタデータ) (2020-06-12T14:02:38Z) - SUMO: Unbiased Estimation of Log Marginal Probability for Latent
Variable Models [80.22609163316459]
無限級数のランダム化トランケーションに基づく潜在変数モデルに対して、ログ境界確率の非バイアス推定器とその勾配を導入する。
推定器を用いてトレーニングしたモデルは、同じ平均計算コストに対して、標準的な重要度サンプリングに基づくアプローチよりも優れたテストセット確率を与えることを示す。
論文 参考訳(メタデータ) (2020-04-01T11:49:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。