論文の概要: Cluster Regularization via a Hierarchical Feature Regression
- arxiv url: http://arxiv.org/abs/2107.04831v1
- Date: Sat, 10 Jul 2021 13:03:01 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-13 16:13:24.941334
- Title: Cluster Regularization via a Hierarchical Feature Regression
- Title（参考訳）: 階層的特徴回帰によるクラスタ正規化
- Authors: Johann Pfitzinger
- Abstract要約: 本稿では,階層的特徴回帰(HFR)という新しいクラスタベース正規化を提案する。
機械学習とグラフ理論の領域からの洞察を動員し、予測セットの教師付き階層表現に沿ってパラメータを推定する。
経済成長予測への応用は、実証的な環境でのHFRの有効性を示すために用いられる。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Prediction tasks with high-dimensional nonorthogonal predictor sets pose a
challenge for least squares based fitting procedures. A large and productive
literature exists, discussing various regularized approaches to improving the
out-of-sample robustness of parameter estimates. This paper proposes a novel
cluster-based regularization - the hierarchical feature regression (HFR) -,
which mobilizes insights from the domains of machine learning and graph theory
to estimate parameters along a supervised hierarchical representation of the
predictor set, shrinking parameters towards group targets. The method is
innovative in its ability to estimate optimal compositions of predictor groups,
as well as the group targets endogenously. The HFR can be viewed as a
supervised factor regression, with the strength of shrinkage governed by a
penalty on the extent of idiosyncratic variation captured in the fitting
process. The method demonstrates good predictive accuracy and versatility,
outperforming a panel of benchmark regularized estimators across a diverse set
of simulated regression tasks, including dense, sparse and grouped data
generating processes. An application to the prediction of economic growth is
used to illustrate the HFR's effectiveness in an empirical setting, with
favorable comparisons to several frequentist and Bayesian alternatives.
- Abstract（参考訳）: 高次元非直交予測器セットを用いた予測タスクは、最小二乗ベースの適合手順に挑戦する。
大規模で生産的な文献が存在し、パラメータ推定の外部ロバスト性を改善するための様々な正規化アプローチについて議論している。
本稿では,機械学習およびグラフ理論の領域からの洞察を動員し,予測子集合の教師付き階層表現に沿ってパラメータを推定し,パラメータをグループターゲットへ縮小する新しいクラスタ型正規化法である階層的特徴回帰(hfr)を提案する。
この方法は、予測群の最適組成を推定する能力と、グループ目標を不均一に推定する能力において革新的である。
HFRは調整因子の回帰と見なすことができ、フィッティングプロセスで捕獲された慣性変動の程度でペナルティによって支配される収縮の強さが支配される。
この手法は,高密度,スパース,グループ化されたデータ生成プロセスを含む,多種多様な回帰タスクに対して,ベンチマーク正規化推定器のパネルよりも優れた予測精度と汎用性を示す。
経済成長予測への応用は、HFRの有効性を実証的な環境で示し、いくつかの頻繁な選択肢やベイズ的な選択肢と好意的に比較するために用いられる。
関連論文リスト
- Structured Radial Basis Function Network: Modelling Diversity for
Multiple Hypotheses Prediction [51.82628081279621]
多重モード回帰は非定常過程の予測や分布の複雑な混合において重要である。
構造的放射基底関数ネットワークは回帰問題に対する複数の仮説予測器のアンサンブルとして提示される。
この構造モデルにより, このテッセルレーションを効率よく補間し, 複数の仮説対象分布を近似することが可能であることが証明された。
論文 参考訳（メタデータ） (2023-09-02T01:27:53Z) - Group-Conditional Conformal Prediction via Quantile Regression
Calibration for Crop and Weed Classification [0.0]
本稿では,ブラックボックス予測装置の予測性能について,統計的に妥当な保証を提供する共形予測フレームワークを提案する。
このフレームワークは、実践的な側面と、Adaptive Prediction Sets (APS) アプローチに沿った特別な注意を払って公開されている。
この欠点に対処するため、群-条件共形アプローチが提示される。
論文 参考訳（メタデータ） (2023-08-29T08:02:41Z) - Modeling the Q-Diversity in a Min-max Play Game for Robust Optimization [61.39201891894024]
群分布的ロバスト最適化(群 DRO)は、事前定義された群に対する最悪の損失を最小限にすることができる。
グループDROフレームワークをQ-Diversityを提案して再構築する。
インタラクティブなトレーニングモードによって特徴付けられるQ-Diversityは、アノテーションからグループ識別を緩和し、直接パラメータ化を行う。
論文 参考訳（メタデータ） (2023-05-20T07:02:27Z) - Errors-in-variables Fr\'echet Regression with Low-rank Covariate
Approximation [2.1756081703276]
Fr'echet回帰は、非ユークリッド応答変数を含む回帰分析のための有望なアプローチとして登場した。
提案手法は,大域的Fr'echet回帰と主成分回帰の概念を組み合わせて,回帰推定器の効率と精度を向上させることを目的とする。
論文 参考訳（メタデータ） (2023-05-16T08:37:54Z) - Forecast reconciliation for vaccine supply chain optimization [61.13962963550403]
ワクチンサプライチェーン最適化は階層的な時系列予測の恩恵を受けることができる。
異なる階層レベルの予測は、上位レベルの予測が下位レベルの予測の総和と一致しないときに不整合となる。
我々は2010年から2021年にかけてのGSKの販売データを階層的時系列としてモデル化し,ワクチン販売予測問題に取り組む。
論文 参考訳（メタデータ） (2023-05-02T14:34:34Z) - Orthogonal Series Estimation for the Ratio of Conditional Expectation
Functions [2.855485723554975]
本章は、条件付き期待関数(CEFR)の推定と推定のための一般的な枠組みを開発する。
本研究は,ガウスブートストラップの有効性を含むCEFRの推定と推定のためのポイントワイドおよび均一な結果を導出する。
提案手法を適用し,世帯資産に対する401(k)プログラムの因果効果を推定する。
論文 参考訳（メタデータ） (2022-12-26T13:01:17Z) - Optimization of Annealed Importance Sampling Hyperparameters [77.34726150561087]
Annealed Importance Smpling (AIS) は、深層生成モデルの難易度を推定するために使われる一般的なアルゴリズムである。
本稿では、フレキシブルな中間分布を持つパラメータAISプロセスを提案し、サンプリングに少ないステップを使用するようにブリッジング分布を最適化する。
我々は, 最適化AISの性能評価を行い, 深部生成モデルの限界推定を行い, 他の推定値と比較した。
論文 参考訳（メタデータ） (2022-09-27T07:58:25Z) - Distributionally Robust Models with Parametric Likelihood Ratios [123.05074253513935]
3つの単純なアイデアにより、より広いパラメトリックな確率比のクラスを用いてDROでモデルを訓練することができる。
パラメトリック逆数を用いてトレーニングしたモデルは、他のDROアプローチと比較して、サブポピュレーションシフトに対して一貫して頑健であることがわかった。
論文 参考訳（メタデータ） (2022-04-13T12:43:12Z) - Counterfactual Explanations for Arbitrary Regression Models [8.633492031855655]
ベイズ最適化に基づく対実的説明法(CFE)を提案する。
提案手法は,任意の回帰モデルと特徴空間や動作可能なリコースなどの制約をサポートする,グローバル収束探索アルゴリズムである。
論文 参考訳（メタデータ） (2021-06-29T09:53:53Z) - Robust Grouped Variable Selection Using Distributionally Robust
Optimization [11.383869751239166]
摂動下での群付き変数選択のための不確実性セットを用いた分布ロバスト最適化(DRO)の定式化を提案する。
我々は,サンプル外損失と推定バイアスの確率的境界を証明し,推定器の群化効果を確立する。
我々の定式化は,群レベルでの空間性を促進する解釈可能で同相なモデルを生成することを示す。
論文 参考訳（メタデータ） (2020-06-10T22:32:52Z) - Target-Embedding Autoencoders for Supervised Representation Learning [111.07204912245841]
本稿では,対象空間が高次元な純粋教師付き環境における一般化の枠組みを解析する。
我々は、教師付き予測のための目標埋め込みオートエンコーダ(TEA)の一般的なフレームワークのモチベーションと形式化を行い、特徴とターゲットの予測の両方から予測可能なように最適化された中間潜在表現を学習する。
論文 参考訳（メタデータ） (2020-01-23T02:37:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。