論文の概要: Communication-Efficient Distributed Quantile Regression with Optimal
Statistical Guarantees
- arxiv url: http://arxiv.org/abs/2110.13113v1
- Date: Mon, 25 Oct 2021 17:09:59 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-26 17:16:36.332462
- Title: Communication-Efficient Distributed Quantile Regression with Optimal
Statistical Guarantees
- Title(参考訳): 最適統計保証を用いた通信効率の良い分散量子回帰
- Authors: Heather Battey, Kean Ming Tan, and Wen-Xin Zhou
- Abstract要約: 本稿では,分散量子レグレッションにおいて,厳密なスケーリング条件を伴わずに最適な推論を実現する方法の課題に対処する。
この問題は、ローカル(各データソース)とグローバルな目的関数に適用される二重平滑化アプローチによって解決される。
局所的および大域的滑らか化パラメータの微妙な組み合わせに依存するにもかかわらず、量子回帰モデルは完全にパラメトリックである。
- 参考スコア(独自算出の注目度): 2.064612766965483
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We address the problem of how to achieve optimal inference in distributed
quantile regression without stringent scaling conditions. This is challenging
due to the non-smooth nature of the quantile regression loss function, which
invalidates the use of existing methodology. The difficulties are resolved
through a double-smoothing approach that is applied to the local (at each data
source) and global objective functions. Despite the reliance on a delicate
combination of local and global smoothing parameters, the quantile regression
model is fully parametric, thereby facilitating interpretation. In the
low-dimensional regime, we discuss and compare several alternative confidence
set constructions, based on inversion of Wald and score-type tests and
resam-pling techniques, detailing an improvement that is effective for more
extreme quantile coefficients. In high dimensions, a sparse framework is
adopted, where the proposed doubly-smoothed objective function is complemented
with an $\ell_1$-penalty. A thorough simulation study further elucidates our
findings. Finally, we provide estimation theory and numerical studies for
sparse quantile regression in the high-dimensional setting.
- Abstract(参考訳): 本稿では,厳密なスケーリング条件を伴わずに,分散分位数回帰における最適推論を実現する方法について論じる。
これは、既存の方法論の使用を無効にする量子回帰損失関数の非滑らかな性質のため、難しい。
この問題は、ローカル(各データソース)とグローバルな目的関数に適用される二重平滑化アプローチによって解決される。
局所的および大域的滑らか化パラメータの微妙な組み合わせに依存するにもかかわらず、量子回帰モデルは完全にパラメトリックであり、解釈を容易にする。
低次元のシステムでは、ウォルドの反転とスコア型テストとresam-pling法に基づいて、いくつかの代替信頼度集合の構成を議論・比較し、より極端な量子化係数に有効である改善を詳述する。
高次元ではスパースフレームワークが採用され、提案された2倍の目的関数は$\ell_1$-penaltyで補完される。
詳細なシミュレーション研究が我々の発見をさらに解明している。
最後に,高次元環境における分散分位回帰に対する推定理論と数値的研究を行った。
関連論文リスト
- Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳(メタデータ) (2024-11-21T10:26:17Z) - Semiparametric conformal prediction [79.6147286161434]
リスクに敏感なアプリケーションは、複数の、潜在的に相関したターゲット変数に対して、よく校正された予測セットを必要とする。
スコアをランダムなベクトルとして扱い、それらの連接関係構造を考慮した予測セットを構築することを目的とする。
実世界のレグレッション問題に対して,所望のカバレッジと競争効率について報告する。
論文 参考訳(メタデータ) (2024-11-04T14:29:02Z) - Federated Smoothing Proximal Gradient for Quantile Regression with Non-Convex Penalties [3.269165283595478]
IoT(Internet-of-Things)の分散センサーは、大量のスパースデータを生成する。
本稿では, 滑らか化機構をそのビューに統合し, 精度と計算速度を両立させる, 結合型滑らか化近位勾配(G)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-08-10T21:50:19Z) - Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。
我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
論文 参考訳(メタデータ) (2024-07-11T13:28:34Z) - Uncertainty estimation in satellite precipitation spatial prediction by combining distributional regression algorithms [3.8623569699070353]
データマージによって降水データセットを作成するエンジニアリングタスクに対して,分散回帰の概念を導入する。
本研究では,空間予測だけでなく,一般の予測問題にも有用な新しいアンサンブル学習手法を提案する。
論文 参考訳(メタデータ) (2024-06-29T05:58:00Z) - Relaxed Quantile Regression: Prediction Intervals for Asymmetric Noise [51.87307904567702]
量子レグレッション(Quantile regression)は、出力の分布における量子の実験的推定を通じてそのような間隔を得るための主要なアプローチである。
本稿では、この任意の制約を除去する量子回帰に基づく区間構成の直接的な代替として、Relaxed Quantile Regression (RQR)を提案する。
これにより、柔軟性が向上し、望ましい品質が向上することが実証された。
論文 参考訳(メタデータ) (2024-06-05T13:36:38Z) - Distributed High-Dimensional Quantile Regression: Estimation Efficiency and Support Recovery [0.0]
我々は高次元線形量子レグレッションのための分散推定とサポート回復に焦点をあてる。
元の量子レグレッションを最小二乗最適化に変換する。
効率的なアルゴリズムを開発し、高い計算と通信効率を享受する。
論文 参考訳(メタデータ) (2024-05-13T08:32:22Z) - Bayesian Quantile Regression with Subset Selection: A Decision Analysis Perspective [0.0]
量子回帰は、共変量が応答分布の特定のパーセンタイルにどのように影響するかを推測する強力なツールである。
既存の方法では、興味のある各量に対して個別に条件量子を推定するか、半パラメトリックモデルまたは非パラメトリックモデルを用いて条件分布全体を推定する。
本研究では,線形定量推定,不確実性定量化,およびベイズ決定解析の観点からのサブセット選択の基本的問題を提起する。
論文 参考訳(メタデータ) (2023-11-03T17:19:31Z) - Structured Radial Basis Function Network: Modelling Diversity for
Multiple Hypotheses Prediction [51.82628081279621]
多重モード回帰は非定常過程の予測や分布の複雑な混合において重要である。
構造的放射基底関数ネットワークは回帰問題に対する複数の仮説予測器のアンサンブルとして提示される。
この構造モデルにより, このテッセルレーションを効率よく補間し, 複数の仮説対象分布を近似することが可能であることが証明された。
論文 参考訳(メタデータ) (2023-09-02T01:27:53Z) - Errors-in-variables Fr\'echet Regression with Low-rank Covariate
Approximation [2.1756081703276]
Fr'echet回帰は、非ユークリッド応答変数を含む回帰分析のための有望なアプローチとして登場した。
提案手法は,大域的Fr'echet回帰と主成分回帰の概念を組み合わせて,回帰推定器の効率と精度を向上させることを目的とする。
論文 参考訳(メタデータ) (2023-05-16T08:37:54Z) - Flexible Model Aggregation for Quantile Regression [92.63075261170302]
量子回帰は、予測の不確実性を定量化する必要性によって動機付けられた統計学習の基本的な問題である。
条件付き量子モデルの任意の数を集約する手法について検討する。
この論文で検討するモデルはすべて、現代のディープラーニングツールキットに適合します。
論文 参考訳(メタデータ) (2021-02-26T23:21:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。