論文の概要: Confidence Interval Construction and Conditional Variance Estimation with Dense ReLU Networks

• arxiv url: http://arxiv.org/abs/2412.20355v1
• Date: Sun, 29 Dec 2024 05:17:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-31 16:07:20.828988
• Title: Confidence Interval Construction and Conditional Variance Estimation with Dense ReLU Networks
• Title（参考訳）: ディエンスReLUネットワークを用いた信頼区間構築と条件変数推定
• Authors: Carlos Misael Madrid Padilla, Oscar Hernan Madrid Padilla, Yik Lun Kei, Zhi Zhang, Yanzhen Chen,
• Abstract要約: 本稿では,Rectified Linear Unit (ReLU) アクティベーション機能を持つ高密度ネットワークを用いた非パラメトリック回帰における条件分散推定と信頼区間構成の問題に対処する。 本稿では, 条件付き分散推定のための残差に基づくフレームワークを提案し, ヘテロセダスティックおよびホモセダスティックな設定下での分散推定のための漸近的境界を導出する。 本研究では,ReLUネットワークをベースとしたロバストブートストラップ手法を開発し,その適用範囲を理論的に保証し,不確実性定量化と深層学習環境における信頼性信頼区間の構築に大きく貢献する。
• 参考スコア（独自算出の注目度）: 11.218066045459778
• License:
• Abstract: This paper addresses the problems of conditional variance estimation and confidence interval construction in nonparametric regression using dense networks with the Rectified Linear Unit (ReLU) activation function. We present a residual-based framework for conditional variance estimation, deriving nonasymptotic bounds for variance estimation under both heteroscedastic and homoscedastic settings. We relax the sub-Gaussian noise assumption, allowing the proposed bounds to accommodate sub-Exponential noise and beyond. Building on this, for a ReLU neural network estimator, we derive non-asymptotic bounds for both its conditional mean and variance estimation, representing the first result for variance estimation using ReLU networks. Furthermore, we develop a ReLU network based robust bootstrap procedure (Efron, 1992) for constructing confidence intervals for the true mean that comes with a theoretical guarantee on the coverage, providing a significant advancement in uncertainty quantification and the construction of reliable confidence intervals in deep learning settings.
• Abstract（参考訳）: 本稿では,Rectified Linear Unit (ReLU) アクティベーション機能を持つ高密度ネットワークを用いた非パラメトリック回帰における条件分散推定と信頼区間構成の問題に対処する。 本稿では, 条件付き分散推定のための残差に基づくフレームワークを提案し, ヘテロセダスティックおよびホモセダスティックな設定下での分散推定のための漸近的境界を導出する。 我々はガウス下雑音の仮定を緩和し、提案した境界が指数下雑音などに対応するようにした。 これに基づいて、ReLUニューラルネットワーク推定器において、条件平均と分散推定の両方に対して非漸近境界を導出し、ReLUネットワークを用いた分散推定の最初の結果を示す。 さらに,ReLUネットワークを用いたロバストブートストラップ手法(Efron, 1992)を開発し,その適用範囲を理論的に保証し,不確実性定量化と深層学習環境における信頼性信頼区間の構築に有意な進展をもたらす。

関連論文リスト

• Relaxed Quantile Regression: Prediction Intervals for Asymmetric Noise [51.87307904567702]
  量子レグレッション(Quantile regression)は、出力の分布における量子の実験的推定を通じてそのような間隔を得るための主要なアプローチである。 本稿では、この任意の制約を除去する量子回帰に基づく区間構成の直接的な代替として、Relaxed Quantile Regression (RQR)を提案する。 これにより、柔軟性が向上し、望ましい品質が向上することが実証された。
  論文  参考訳（メタデータ） (2024-06-05T13:36:38Z)
• Model Free Prediction with Uncertainty Assessment [7.524024486998338]
  そこで本研究では,深部推定パラダイムを条件付き平均推定を行うプラットフォームに変換する新しいフレームワークを提案する。 本研究では, 条件付き拡散モデルに対する終端収束率を開発し, 生成した試料の正規性を確立する。 数値実験により,提案手法の有効性を実証的に検証した。
  論文  参考訳（メタデータ） (2024-05-21T11:19:50Z)
• Confidence and Uncertainty Assessment for Distributional Random Forests [1.2767281330110625]
  分布ランダムフォレスト (DRF) は条件分布を推定するために最近導入されたランダムフォレストである。 条件平均処理効果、条件量子化、条件相関など、幅広いターゲットを推定するために使用できる。 DRFのアルゴリズムを特徴付け、ブートストラップ近似を開発する。
  論文  参考訳（メタデータ） (2023-02-11T19:10:01Z)
• Robust Estimation for Nonparametric Families via Generative Adversarial Networks [92.64483100338724]
  我々は,高次元ロバストな統計問題を解くためにGAN(Generative Adversarial Networks)を設計するためのフレームワークを提供する。 我々の研究は、これらをロバスト平均推定、第二モーメント推定、ロバスト線形回帰に拡張する。 技術面では、提案したGAN損失は、スムーズで一般化されたコルモゴロフ-スミルノフ距離と見なすことができる。
  論文  参考訳（メタデータ） (2022-02-02T20:11:33Z)
• Private Robust Estimation by Stabilizing Convex Relaxations [22.513117502159922]
  $(epsilon, delta)$-differentially private (DP) $(epsilon, delta)$-differentially private (DP) $(epsilon, delta)$-differentially private (DP)
  論文  参考訳（メタデータ） (2021-12-07T07:47:37Z)
• Estimation of a regression function on a manifold by fully connected deep neural networks [6.058868817939519]
  ReLUアクティベーション関数を用いたディープニューラルネットワークの完全連結空間に基づく最小二乗推定の収束率を解析した。 予測変数の分布が多様体に集中している場合、これらの推定は多様体の次元に依存し、予測変数の成分数に依存しない収束率を達成する。
  論文  参考訳（メタデータ） (2021-07-20T14:43:59Z)
• Estimation and Applications of Quantiles in Deep Binary Classification [0.0]
  チェック損失に基づく量子回帰は統計学において広く使われている推論パラダイムである。 二項分類設定におけるチェック損失の類似について考察する。 我々は、予測が信頼できるかどうかを判断するために使用できる個別信頼度スコアを開発する。
  論文  参考訳（メタデータ） (2021-02-09T07:07:42Z)
• Unlabelled Data Improves Bayesian Uncertainty Calibration under Covariate Shift [100.52588638477862]
  後続正則化に基づく近似ベイズ推定法を開発した。 前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
  論文  参考訳（メタデータ） (2020-06-26T13:50:19Z)
• Nonparametric Score Estimators [49.42469547970041]
  未知分布によって生成されたサンプルの集合からスコアを推定することは確率モデルの推論と学習における基本的なタスクである。 正規化非パラメトリック回帰の枠組みの下で、これらの推定器の統一的なビューを提供する。 カールフリーカーネルと高速収束による計算効果を享受する反復正規化に基づくスコア推定器を提案する。
  論文  参考訳（メタデータ） (2020-05-20T15:01:03Z)
• Being Bayesian, Even Just a Bit, Fixes Overconfidence in ReLU Networks [65.24701908364383]
  我々は、ReLUネットワーク上の不確実性に対する十分条件が「少しベイズ校正される」ことを示す。 さらに,これらの知見を,共通深部ReLUネットワークとLaplace近似を用いた各種標準実験により実証的に検証した。
  論文  参考訳（メタデータ） (2020-02-24T08:52:06Z)
• GenDICE: Generalized Offline Estimation of Stationary Values [108.17309783125398]
  重要なアプリケーションでは,効果的な推定が依然として可能であることを示す。 我々のアプローチは、定常分布と経験分布の差を補正する比率を推定することに基づいている。 結果として得られるアルゴリズム、GenDICEは単純で効果的である。
  論文  参考訳（メタデータ） (2020-02-21T00:27:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。