論文の概要: Flexible Model Aggregation for Quantile Regression
- arxiv url: http://arxiv.org/abs/2103.00083v5
- Date: Sat, 15 Apr 2023 08:40:57 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-19 01:31:27.455089
- Title: Flexible Model Aggregation for Quantile Regression
- Title(参考訳): 質的回帰のためのフレキシブルモデルアグリゲーション
- Authors: Rasool Fakoor, Taesup Kim, Jonas Mueller, Alexander J. Smola, Ryan J.
Tibshirani
- Abstract要約: 量子回帰は、予測の不確実性を定量化する必要性によって動機付けられた統計学習の基本的な問題である。
条件付き量子モデルの任意の数を集約する手法について検討する。
この論文で検討するモデルはすべて、現代のディープラーニングツールキットに適合します。
- 参考スコア(独自算出の注目度): 92.63075261170302
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Quantile regression is a fundamental problem in statistical learning
motivated by a need to quantify uncertainty in predictions, or to model a
diverse population without being overly reductive. For instance,
epidemiological forecasts, cost estimates, and revenue predictions all benefit
from being able to quantify the range of possible values accurately. As such,
many models have been developed for this problem over many years of research in
statistics, machine learning, and related fields. Rather than proposing yet
another (new) algorithm for quantile regression we adopt a meta viewpoint: we
investigate methods for aggregating any number of conditional quantile models,
in order to improve accuracy and robustness. We consider weighted ensembles
where weights may vary over not only individual models, but also over quantile
levels, and feature values. All of the models we consider in this paper can be
fit using modern deep learning toolkits, and hence are widely accessible (from
an implementation point of view) and scalable. To improve the accuracy of the
predicted quantiles (or equivalently, prediction intervals), we develop tools
for ensuring that quantiles remain monotonically ordered, and apply conformal
calibration methods. These can be used without any modification of the original
library of base models. We also review some basic theory surrounding quantile
aggregation and related scoring rules, and contribute a few new results to this
literature (for example, the fact that post sorting or post isotonic regression
can only improve the weighted interval score). Finally, we provide an extensive
suite of empirical comparisons across 34 data sets from two different benchmark
repositories.
- Abstract(参考訳): 量子回帰は、予測の不確実性を定量化したり、過度に還元されることなく多様な人口をモデル化する必要性によって動機付けられた統計学習の基本的な問題である。
例えば、疫学予測、コスト推定、収益予測などは、可能な値の範囲を正確に定量化できることの恩恵を受ける。
このように、統計学、機械学習、関連する分野の研究で長年にわたって、この問題のために多くのモデルが開発されてきた。
我々は, 質的回帰のための新たな(新しい)アルゴリズムを提案するのではなく, 任意の条件的質的モデルを集約する手法について, 精度と頑健性を改善するために検討する。
重み付けされたアンサンブルを考えると、重み付けは個々のモデルだけでなく、質的レベルや特徴量でも変化する。
この論文で検討するすべてのモデルは、現代のディープラーニングツールキットを使用して適合し得るので、(実装の観点から)広くアクセス可能で、スケーラブルです。
予測量子化の精度を向上させるために,予測量子化の単調な順序を保つためのツールを開発し,共形キャリブレーション法を適用した。
これらは、ベースモデルのオリジナルのライブラリを変更することなく使用できる。
また, 質的集合とそれに関連するスコアリング規則に関する基礎理論を概観し, この文献にいくつかの新しい結果を与える(例えば, ポストソートやポスト等調回帰は, 重み付けされた区間スコアだけを改善することができる)。
最後に、2つの異なるベンチマークレポジトリから34データセットにまたがる実験的な比較スイートを提供する。
関連論文リスト
- Quantile deep learning models for multi-step ahead time series prediction [0.15833270109954137]
多段階時系列予測のための新しい量子レグレッションディープラーニングフレームワークを提案する。
本稿では,多段階先行時系列予測のためのディープラーニングモデルの実装について述べる。
高いボラティリティと極端な条件下での性能を評価する。
論文 参考訳(メタデータ) (2024-11-24T00:00:10Z) - Semiparametric conformal prediction [79.6147286161434]
リスクに敏感なアプリケーションは、複数の、潜在的に相関したターゲット変数に対して、よく校正された予測セットを必要とする。
スコアをランダムなベクトルとして扱い、それらの連接関係構造を考慮した予測セットを構築することを目的とする。
実世界のレグレッション問題に対して,所望のカバレッジと競争効率について報告する。
論文 参考訳(メタデータ) (2024-11-04T14:29:02Z) - Uncertainty estimation in satellite precipitation spatial prediction by combining distributional regression algorithms [3.8623569699070353]
データマージによって降水データセットを作成するエンジニアリングタスクに対して,分散回帰の概念を導入する。
本研究では,空間予測だけでなく,一般の予測問題にも有用な新しいアンサンブル学習手法を提案する。
論文 参考訳(メタデータ) (2024-06-29T05:58:00Z) - Relaxed Quantile Regression: Prediction Intervals for Asymmetric Noise [51.87307904567702]
量子レグレッション(Quantile regression)は、出力の分布における量子の実験的推定を通じてそのような間隔を得るための主要なアプローチである。
本稿では、この任意の制約を除去する量子回帰に基づく区間構成の直接的な代替として、Relaxed Quantile Regression (RQR)を提案する。
これにより、柔軟性が向上し、望ましい品質が向上することが実証された。
論文 参考訳(メタデータ) (2024-06-05T13:36:38Z) - Bayesian Quantile Regression with Subset Selection: A Decision Analysis Perspective [0.0]
量子回帰は、共変量が応答分布の特定のパーセンタイルにどのように影響するかを推測する強力なツールである。
既存の方法では、興味のある各量に対して個別に条件量子を推定するか、半パラメトリックモデルまたは非パラメトリックモデルを用いて条件分布全体を推定する。
本研究では,線形定量推定,不確実性定量化,およびベイズ決定解析の観点からのサブセット選択の基本的問題を提起する。
論文 参考訳(メタデータ) (2023-11-03T17:19:31Z) - Engression: Extrapolation through the Lens of Distributional Regression [2.519266955671697]
我々は、エングレースと呼ばれるニューラルネットワークに基づく分布回帰手法を提案する。
エングレスモデル(engression model)は、適合した条件分布からサンプリングできるという意味で生成され、高次元結果にも適している。
一方、最小二乗法や量子回帰法のような従来の回帰手法は、同じ仮定の下では不十分である。
論文 参考訳(メタデータ) (2023-07-03T08:19:00Z) - X-model: Improving Data Efficiency in Deep Learning with A Minimax Model [78.55482897452417]
ディープラーニングにおける分類と回帰設定の両面でのデータ効率の向上を目標とする。
両世界の力を生かすために,我々は新しいX-モデルを提案する。
X-モデルは、特徴抽出器とタスク固有のヘッドの間でミニマックスゲームを行う。
論文 参考訳(メタデータ) (2021-10-09T13:56:48Z) - Understanding the Under-Coverage Bias in Uncertainty Estimation [58.03725169462616]
量子レグレッションは、現実の望ましいカバレッジレベルよりもアンファンダーカバー(enmphunder-cover)する傾向がある。
我々は、量子レグレッションが固有のアンダーカバーバイアスに悩まされていることを証明している。
我々の理論は、この過大被覆バイアスが特定の高次元パラメータ推定誤差に起因することを明らかにしている。
論文 参考訳(メタデータ) (2021-06-10T06:11:55Z) - Regression Bugs Are In Your Model! Measuring, Reducing and Analyzing
Regressions In NLP Model Updates [68.09049111171862]
この研究は、NLPモデル更新における回帰エラーの定量化、低減、分析に重点を置いている。
回帰フリーモデル更新を制約付き最適化問題に定式化する。
モデルアンサンブルが回帰を減らす方法を実証的に分析します。
論文 参考訳(メタデータ) (2021-05-07T03:33:00Z) - Regularization Strategies for Quantile Regression [8.232258589877942]
連続的な量子の分布に対するピンボール損失を最小化することは、特定の量子の予測のみを行う場合でも良い正則化器であることを示す。
格子モデルにより予測された分布を位置スケールの族に正規化できることを示す。
論文 参考訳(メタデータ) (2021-02-09T21:10:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。