論文の概要: Finite-Sample Distribution Theory and Efficient Large-Scale Inference for Online Quantile Regression
- arxiv url: http://arxiv.org/abs/2610.05869v1
- Date: Mon, 05 Oct 2026 06:35:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 03:36:01.415728
- Title: Finite-Sample Distribution Theory and Efficient Large-Scale Inference for Online Quantile Regression
- Title(参考訳): オンライン量子回帰における有限サンプル分布理論と大規模推論
- Abstract要約: 本稿では,既存のサブグラディエントDescent (SSGD) を用いた大規模およびストリーミングデータのオンライン量子レグレッションについて検討する。
我々は,有限モーメント仮定の下でSSGDに対する焼き入れ中央極限定理(CLT)と有限サンプルガウス近似を証明するための新しい手法を導入する。
- 参考スコア(独自算出の注目度): 15.719759218335339
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper studies online quantile regression for large-scale and streaming data using Stochastic SubGradient Descent (SSGD) with constant learning rates. Classical offline inference for quantile regression is computationally and memory intensive. Existing works of online inference for quantile regression provide only asymptotic guarantees and typically require sub-exponential tail conditions for distribution theory. To bridge these gaps, we introduce new techniques to prove a quenched central limit theorem (CLT) and finite-sample Gaussian approximation for SSGD under a finite-moment assumption. We further show that Ruppert-Polyak averaging with a constant learning rate has a non-vanishing bias and fails to satisfy CLT centering at the population target. Hence we propose suffix averaging to address this issue and establish its finite-sample Gaussian approximation. Based on these results, we provide an efficient online inference method for quantile regression that avoids covariance estimation. Numerical experiments show that our method achieves desirable empirical coverage rates and competitive performance compared to other inference methods. We also apply our approach to U.S. wage data to demonstrate its practical effectiveness.
- Abstract(参考訳): 本稿では,Stochastic Sub Gradient Descent (SSGD) を用いた大規模およびストリーミングデータのオンライン量子レグレッションについて検討する。
量子レグレッションのための古典的なオフライン推論は、計算とメモリ集約である。
既存のオンライン推論の量子レグレッションは漸近的な保証のみを提供し、通常は分布論の準指数尾条件を必要とする。
これらのギャップを埋めるために、我々は、有限モーメント仮定の下でSSGDに対する焼き入れ中央極限定理(CLT)と有限サンプルガウス近似を証明する新しい手法を導入する。
さらに, 一定学習率のラッパート・ポリアク平均化は, 非消滅バイアスであり, 人口目標を中心とするCLTを満たさないことを示す。
したがって、この問題に対処するための接尾辞平均化を提案し、その有限サンプルガウス近似を確立する。
これらの結果に基づき、共分散推定を回避した量子レグレッションのための効率的なオンライン推論手法を提案する。
数値実験により,本手法は,他の推論手法と比較して,好適な経験的カバレッジ率と競争性能が得られることが示された。
また、我々のアプローチを米国の賃金データに適用し、その実効性を実証する。
関連論文リスト
- Efficient Analytic Uncertainty Quantification for Multi-Modal Regression [26.64106355159076]
複雑な条件分布の正確な推定を同時に行う統一的分布に依存しないフレームワークを提案する。
我々のフレームワークは最先端のマルチモーダル回帰ベースラインより優れており、計算コストの高いアンサンブルモデルの予測性能とさえ一致している。
論文 参考訳(メタデータ) (2026-06-23T21:31:42Z) - Fréchet regression of multivariate distributions with nonparanormal transport [5.388168357866664]
本稿では,多変量分布応答に対する新しい回帰手法を提案する。
我々は、NPTの理論的正当性を提供し、ワッサーシュタイン距離と位相的同値性を確立し、それが次元の呪いを緩和することを証明する。
本手法の実用性はシミュレーションと連続グルコースモニタリングデータへの応用により実証された。
論文 参考訳(メタデータ) (2026-03-07T03:21:12Z) - A sparse PAC-Bayesian approach for high-dimensional quantile prediction [0.0]
本稿では,高次元量子化予測のための確率論的機械学習手法を提案する。
擬似ベイズ的フレームワークとスケールした学生tとランゲヴィン・モンテカルロを併用して効率的な計算を行う。
その効果はシミュレーションや実世界のデータを通じて検証され、そこでは確立された頻繁な手法やベイズ的手法と競合する。
論文 参考訳(メタデータ) (2024-09-03T08:01:01Z) - Relaxed Quantile Regression: Prediction Intervals for Asymmetric Noise [51.87307904567702]
量子レグレッション(Quantile regression)は、出力の分布における量子の実験的推定を通じてそのような間隔を得るための主要なアプローチである。
本稿では、この任意の制約を除去する量子回帰に基づく区間構成の直接的な代替として、Relaxed Quantile Regression (RQR)を提案する。
これにより、柔軟性が向上し、望ましい品質が向上することが実証された。
論文 参考訳(メタデータ) (2024-06-05T13:36:38Z) - Distributed High-Dimensional Quantile Regression: Estimation Efficiency and Support Recovery [0.0]
我々は高次元線形量子レグレッションのための分散推定とサポート回復に焦点をあてる。
元の量子レグレッションを最小二乗最適化に変換する。
効率的なアルゴリズムを開発し、高い計算と通信効率を享受する。
論文 参考訳(メタデータ) (2024-05-13T08:32:22Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳(メタデータ) (2022-09-16T19:15:50Z) - Learning to Estimate Without Bias [57.82628598276623]
ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。
本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。
BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
論文 参考訳(メタデータ) (2021-10-24T10:23:51Z) - Near-optimal inference in adaptive linear regression [60.08422051718195]
最小二乗法のような単純な方法でさえ、データが適応的に収集されるときの非正規な振る舞いを示すことができる。
我々は,これらの分布異常を少なくとも2乗推定で補正するオンラインデバイアス推定器のファミリーを提案する。
我々は,マルチアームバンディット,自己回帰時系列推定,探索による能動的学習などの応用を通して,我々の理論の有用性を実証する。
論文 参考訳(メタデータ) (2021-07-05T21:05:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。