論文の概要: Cointegrated Regressors: Where Folded Concave Penalties Go Beyond LASSO
- arxiv url: http://arxiv.org/abs/2610.14617v1
- Date: Sat, 10 Oct 2026 06:01:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.495153
- Title: Cointegrated Regressors: Where Folded Concave Penalties Go Beyond LASSO
- Title(参考訳): 折りたたみコンケーブの罰則がLASSOを超越した統合レジストレーター
- Abstract要約: LASSOの凸ペナルティは、結合した回帰器の係数を過度に抑制する。
我々は、この問題を解決するために、よく知られたSCADとMPPを含む折り畳みコンケーブペナルティ(FCP)を採用している。
後者は、真の係数を一貫して推定し、オラクル予測性能を享受する大域的解を保証する。
- 参考スコア(独自算出の注目度): 1.4249472316161877
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: LASSO is one of the most popular regularization methods for high-dimensional regression models. While cointegration is common in practical applications of predictive regressions with many regressors, the convex penalty of LASSO overly suppresses the coefficients of cointegrated regressors and therefore fails to deliver consistent parameter estimation. We employ folded concave penalties (FCP), including the well-known SCAD and MCP, to address this issue. Using FCP, we establish two asymptotic results: (i) a local oracle property for the penalized regression, and (ii) a global oracle property for regressions with a penalty-level constraint. In particular, the latter guarantees a global solution that consistently estimates the true coefficients and enjoys oracle prediction performance. Simulation studies and an application to predicting the euro area unemployment rate show that FCP improves variable selection and out-of-sample prediction relative to LASSO.
- Abstract(参考訳): LASSOは高次元回帰モデルの最も一般的な正規化手法の1つである。
しかし、LASSOの凸ペナルティは結合された回帰器の係数を過度に抑制し、従って一貫したパラメータ推定を行うことができない。
我々は、この問題を解決するために、よく知られたSCADとMPPを含む折り畳みコンケーブペナルティ(FCP)を採用している。
FCPを用いて2つの漸近的な結果が得られた。
i) 罰則付き退行のための局所的なオラクル特性、及び
(ii)ペナルティレベルの制約のある回帰のグローバルなオラクル特性。
特に後者は、真の係数を一貫して推定し、オラクル予測性能を享受する大域的解を保証する。
シミュレーション研究とユーロ圏失業率予測への応用により、FCPはLASSOと比較して変動選択と外乱予測を改善していることが示された。
関連論文リスト
- Distributional Regression for Arbitrary Response Variables Using ReLU Neural Networks [10.091168922595784]
本稿では、任意の応答変数を持つ分散回帰のための統一的なフレームワークを開発する。
我々はスカラーしきい値やユークリッド構造に頼るのではなく、測定可能な集合によってインデックス付けされた条件付き事象確率をモデル化する。
論文 参考訳(メタデータ) (2026-10-12T04:02:15Z) - REAL: Regression-Aware Reinforcement Learning for LLM-as-a-Judge [83.2858110368572]
回帰報酬を最適化するための原則的RLフレームワークである textbfREAL (underlineREgression-underlineAware Reinforcement underlineLThought) を提案する。
我々は,REALがレグレッション対応SFTベースラインと標準RL法の両方を一貫して上回ることを示す。
論文 参考訳(メタデータ) (2026-03-17T21:19:08Z) - NDCG-Consistent Softmax Approximation with Accelerated Convergence [67.10365329542365]
本稿では,ランキングの指標と直接一致した新たな損失定式化を提案する。
提案したRG損失を高効率な Alternating Least Squares (ALS) 最適化手法と統合する。
実世界のデータセットに対する実証的な評価は、我々のアプローチが同等または上位のパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2025-06-11T06:59:17Z) - Self-Boost via Optimal Retraining: An Analysis via Approximate Message Passing [58.52119063742121]
独自の予測と潜在的にノイズの多いラベルを使ってモデルをトレーニングすることは、モデルパフォーマンスを改善するためのよく知られた戦略である。
本稿では,モデルの予測と提供ラベルを最適に組み合わせる方法について論じる。
我々の主な貢献は、現在のモデルの予測と与えられたラベルを組み合わせたベイズ最適集約関数の導出である。
論文 参考訳(メタデータ) (2025-05-21T07:16:44Z) - On LASSO for High Dimensional Predictive Regression [0.0]
本稿では,L_1$-penalized regression法であるLASSOを高次元線形回帰法で検討する。
LASSOの整合性は、回帰器の交叉積の偏差境界と誤差項の2つの重要な成分に基づいて決定される。
機械学習とマクロ経済分野の専門知識を用いて、LASSOは失業率の予測において高いパフォーマンスを示す。
論文 参考訳(メタデータ) (2022-12-14T06:14:58Z) - Federated Coordinate Descent for Privacy-Preserving Multiparty Linear
Regression [0.5049057348282932]
我々は、FCDと呼ばれる新しい分散スキームであるFederated Coordinate Descentを紹介し、マルチパーティシナリオ下でこの問題に安全に対処する。
具体的には、セキュアな集約と追加の摂動により、(1)ローカル情報が他の当事者にリークされることがなく、(2)グローバルモデルパラメータがクラウドサーバに公開されることが保証される。
また,FCD方式は, 線形, リッジ, ラッソ回帰などの一般線形回帰に適用可能であることを示す。
論文 参考訳(メタデータ) (2022-09-16T03:53:46Z) - Adaptive LASSO estimation for functional hidden dynamic geostatistical
model [69.10717733870575]
関数型隠れ統計モデル(f-HD)のためのペナル化極大推定器(PMLE)に基づく新しいモデル選択アルゴリズムを提案する。
このアルゴリズムは反復最適化に基づいており、適応最小限の収縮・セレクタ演算子(GMSOLAS)ペナルティ関数を用いており、これは不給付のf-HD最大線量推定器によって得られる。
論文 参考訳(メタデータ) (2022-08-10T19:17:45Z) - Provably tuning the ElasticNet across instances [53.0518090093538]
我々は、複数の問題インスタンスにまたがるリッジ回帰、LASSO、ElasticNetの正規化パラメータをチューニングする問題を考察する。
我々の結果は、この重要な問題に対する学習理論による最初の一般的な保証である。
論文 参考訳(メタデータ) (2022-07-20T21:22:40Z) - Fast OSCAR and OWL Regression via Safe Screening Rules [97.28167655721766]
順序付き$L_1$ (OWL)正規化回帰は、高次元スパース学習のための新しい回帰分析である。
近勾配法はOWL回帰を解くための標準手法として用いられる。
未知の順序構造を持つ原始解の順序を探索することにより、OWL回帰の最初の安全なスクリーニングルールを提案する。
論文 参考訳(メタデータ) (2020-06-29T23:35:53Z) - The Reciprocal Bayesian LASSO [0.0]
我々は、線形回帰パラメータの rLASSO 推定をベイズ的後続モード推定として解釈できるという観測に基づいて、rLASSO 問題の完全なベイズ的定式化を考える。
シミュレーションおよび実データについて、ベイズ式は、推定、予測、変数選択において、その古典的な従兄弟よりも優れていることを示す。
論文 参考訳(メタデータ) (2020-01-23T01:21:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。