論文の概要: Nested Model Averaging on Solution Path for High-dimensional Linear
Regression
- arxiv url: http://arxiv.org/abs/2005.08057v1
- Date: Sat, 16 May 2020 18:09:57 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-02 13:14:45.391223
- Title: Nested Model Averaging on Solution Path for High-dimensional Linear
Regression
- Title(参考訳): 高次元線形回帰に対する解経路に基づくネストモデル
- Authors: Yang Feng and Qingfeng Liu
- Abstract要約: 本研究では,高次元線形回帰問題に対するネストモデル平均化法について検討した。
モデル平均化と正規化推定器(例えば、ラッソとSLOPE)を高次元線形回帰の解経路上で組み合わせることを提案する。
米国における一人当たりの暴力犯罪の予測に関する実際のデータ分析は、ラッソで平均化するネストされたモデルの優れたパフォーマンスを示している。
- 参考スコア(独自算出の注目度): 12.173071615025504
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study the nested model averaging method on the solution path for a
high-dimensional linear regression problem. In particular, we propose to
combine model averaging with regularized estimators (e.g., lasso and SLOPE) on
the solution path for high-dimensional linear regression. In simulation
studies, we first conduct a systematic investigation on the impact of predictor
ordering on the behavior of nested model averaging, then show that nested model
averaging with lasso and SLOPE compares favorably with other competing methods,
including the infeasible lasso and SLOPE with the tuning parameter optimally
selected. A real data analysis on predicting the per capita violent crime in
the United States shows an outstanding performance of the nested model
averaging with lasso.
- Abstract(参考訳): 高次元線形回帰問題に対する解経路のネストモデル平均化法について検討した。
特に,高次元線形回帰の解経路上でのモデル平均化と正規化推定器(ラッソやスロープなど)を組み合わせることを提案する。
シミュレーション研究において,まず,ネストモデル平均化の挙動に対する予測子順序の影響を体系的に検討し,ラッソとスロープ平均化のネストモデルと,実現不可能なラッソとスロープを含む他の競合手法と最適に選択されたチューニングパラメータとを比較した。
米国における一人当たりの暴力犯罪の予測に関する実際のデータ分析は、ラッソで平均化するネストされたモデルの優れたパフォーマンスを示している。
関連論文リスト
- Conformal prediction of circular data [1.6385815610837167]
円形応答を伴う回帰問題に対して分割共形予測法を適用した。
我々は、任意の線形応答回帰モデルを円形応答に適した形式に変換する一般的なプロジェクション手順を解析する。
論文 参考訳(メタデータ) (2024-10-31T17:05:52Z) - Regression-aware Inference with LLMs [52.764328080398805]
提案手法は,一般的な回帰と評価指標に準最適であることを示す。
本稿では,ベイズ最適解を推定し,サンプル応答からクローズド形式の評価指標を推定する代替推論手法を提案する。
論文 参考訳(メタデータ) (2024-03-07T03:24:34Z) - Adaptive Optimization for Prediction with Missing Data [6.800113478497425]
適応線形回帰モデルの中には,命令規則と下流線形回帰モデルを同時に学習するのと等価なものもある。
ランダムにデータの欠落が強くない環境では,本手法はサンプル外精度を2~10%向上させる。
論文 参考訳(メタデータ) (2024-02-02T16:35:51Z) - Out of the Ordinary: Spectrally Adapting Regression for Covariate Shift [12.770658031721435]
本稿では,学習前のニューラル回帰モデルの最後の層の重みを適応させて,異なる分布から得られる入力データを改善する手法を提案する。
本稿では,この軽量なスペクトル適応手法により,合成および実世界のデータセットの分布外性能が向上することを示す。
論文 参考訳(メタデータ) (2023-12-29T04:15:58Z) - Variational Laplace Autoencoders [53.08170674326728]
変分オートエンコーダは、遅延変数の後部を近似するために、償却推論モデルを用いる。
完全分解ガウス仮定の限定的後部表現性に対処する新しい手法を提案する。
また、深部生成モデルのトレーニングのための変分ラプラスオートエンコーダ(VLAE)という一般的なフレームワークも提示する。
論文 参考訳(メタデータ) (2022-11-30T18:59:27Z) - An adaptive shortest-solution guided decimation approach to sparse
high-dimensional linear regression [2.3759847811293766]
ASSDは最短解誘導アルゴリズムから適応され、ASSDと呼ばれる。
ASSDは、実世界の応用で遭遇する高度に相関した測定行列を持つ線形回帰問題に特に適している。
論文 参考訳(メタデータ) (2022-11-28T04:29:57Z) - Time varying regression with hidden linear dynamics [74.9914602730208]
線形力学系に従って未知のパラメータが進化することを前提とした時間変化線形回帰モデルを再検討する。
反対に、基礎となる力学が安定である場合、このモデルのパラメータは2つの通常の最小二乗推定と組み合わせることで、データから推定できることが示される。
論文 参考訳(メタデータ) (2021-12-29T23:37:06Z) - An Extended Multi-Model Regression Approach for Compressive Strength
Prediction and Optimization of a Concrete Mixture [0.0]
コンクリートの圧縮強度のモデルに基づく評価は, 強度予測と混合最適化の両方のために高い値である。
複数の回帰手法の重み付け組み合わせにより予測モデルの精度を向上させるためのさらなる一歩を踏み出す。
得られた多回帰モデルに基づいてGAに基づく混合最適化を提案する。
論文 参考訳(メタデータ) (2021-06-13T16:10:32Z) - Estimation of Switched Markov Polynomial NARX models [75.91002178647165]
非線形自己回帰(NARX)成分を特徴とするハイブリッド力学系のモデル群を同定する。
提案手法は, 特定の回帰器を持つ3つの非線形サブモデルからなるSMNARX問題に対して実証される。
論文 参考訳(メタデータ) (2020-09-29T15:00:47Z) - Model Fusion with Kullback--Leibler Divergence [58.20269014662046]
異種データセットから学習した後続分布を融合する手法を提案する。
我々のアルゴリズムは、融合モデルと個々のデータセット後部の両方に対する平均場仮定に依存している。
論文 参考訳(メタデータ) (2020-07-13T03:27:45Z) - Control as Hybrid Inference [62.997667081978825]
本稿では、反復推論と償却推論のバランスを自然に仲介するCHIの実装について述べる。
連続的な制御ベンチマークでアルゴリズムのスケーラビリティを検証し、強力なモデルフリーおよびモデルベースラインを上回る性能を示す。
論文 参考訳(メタデータ) (2020-07-11T19:44:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。