論文の概要: Deep Huber quantile regression networks
- arxiv url: http://arxiv.org/abs/2306.10306v1
- Date: Sat, 17 Jun 2023 09:40:52 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-21 23:16:59.232427
- Title: Deep Huber quantile regression networks
- Title(参考訳): Deep Huber 量子レグレッションネットワーク
- Authors: Hristos Tyralis, Georgia Papacharalampous, Nilay Dogulu, Kwok P. Chun
- Abstract要約: QRNNとERNNをエッジケースとしてネストするディープハマー量子回帰ネットワーク(DHQRN)を導入する。
DHQRNは、限定的なケースとして量子化と期待をネストするという意味で、より一般的な関数であるHuber量子化を予測できる。
概念実証として、オーストラリアにおける住宅価格の予測にDHQRNを適用している。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Typical machine learning regression applications aim to report the mean or
the median of the predictive probability distribution, via training with a
squared or an absolute error scoring function. The importance of issuing
predictions of more functionals of the predictive probability distribution
(quantiles and expectiles) has been recognized as a means to quantify the
uncertainty of the prediction. In deep learning (DL) applications, that is
possible through quantile and expectile regression neural networks (QRNN and
ERNN respectively). Here we introduce deep Huber quantile regression networks
(DHQRN) that nest QRNNs and ERNNs as edge cases. DHQRN can predict Huber
quantiles, which are more general functionals in the sense that they nest
quantiles and expectiles as limiting cases. The main idea is to train a deep
learning algorithm with the Huber quantile regression function, which is
consistent for the Huber quantile functional. As a proof of concept, DHQRN are
applied to predict house prices in Australia. In this context, predictive
performances of three DL architectures are discussed along with evidential
interpretation of results from an economic case study.
- Abstract(参考訳): 典型的な機械学習回帰アプリケーションは、正方形または絶対誤差スコアリング関数を用いたトレーニングを通じて、予測確率分布の平均または中央値の報告を目的としている。
予測確率分布 (quantiles と expectiles) のより機能的な予測の発行の重要性は、予測の不確実性を定量化する手段として認識されている。
ディープラーニング(dl)アプリケーションでは、量子化と期待回帰ニューラルネットワーク(それぞれqrnnとernn)によって実現可能です。
本稿では、QRNNとERNNをエッジケースとしてネストするディープハマー量子回帰ネットワーク(DHQRN)を紹介する。
DHQRNは、限定的なケースとして量子化と期待をネストするという意味で、より一般的な関数であるHuber量子化を予測できる。
主なアイデアは、Huber量子化関数に一貫性のあるHuber量子化回帰関数でディープラーニングアルゴリズムをトレーニングすることである。
概念実証として、オーストラリアの住宅価格を予測するためにdhqrnが用いられる。
この文脈では、3つのDLアーキテクチャの予測性能と、経済ケーススタディの結果の明確な解釈について論じる。
関連論文リスト
- Deep Neural Networks Tend To Extrapolate Predictably [51.303814412294514]
ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。
我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。
我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
論文 参考訳(メタデータ) (2023-10-02T03:25:32Z) - Improved uncertainty quantification for neural networks with Bayesian
last layer [0.0]
不確実性定量化は機械学習において重要な課題である。
本稿では,BLL を用いた NN の対数乗算可能性の再構成を行い,バックプロパゲーションを用いた効率的なトレーニングを実現する。
論文 参考訳(メタデータ) (2023-02-21T20:23:56Z) - IB-UQ: Information bottleneck based uncertainty quantification for
neural function regression and neural operator learning [11.5992081385106]
本稿では,科学的機械学習タスクのための情報ボトルネック(IB-UQ)による不確実性定量化のための新しいフレームワークを提案する。
我々は,入力データの信頼度に応じて,入力を潜在表現に符号化する信頼認識エンコーダによってボトルネックを埋め込む。
また,外挿不確かさの質を高めるために,データ拡張に基づく情報ボトルネック目標を提案する。
論文 参考訳(メタデータ) (2023-02-07T05:56:42Z) - Why Lottery Ticket Wins? A Theoretical Perspective of Sample Complexity
on Pruned Neural Networks [79.74580058178594]
目的関数の幾何学的構造を解析することにより、刈り取られたニューラルネットワークを訓練する性能を解析する。
本稿では,ニューラルネットワークモデルがプルーニングされるにつれて,一般化が保証された望ましいモデル近傍の凸領域が大きくなることを示す。
論文 参考訳(メタデータ) (2021-10-12T01:11:07Z) - Understanding the Under-Coverage Bias in Uncertainty Estimation [58.03725169462616]
量子レグレッションは、現実の望ましいカバレッジレベルよりもアンファンダーカバー(enmphunder-cover)する傾向がある。
我々は、量子レグレッションが固有のアンダーカバーバイアスに悩まされていることを証明している。
我々の理論は、この過大被覆バイアスが特定の高次元パラメータ推定誤差に起因することを明らかにしている。
論文 参考訳(メタデータ) (2021-06-10T06:11:55Z) - Towards an Understanding of Benign Overfitting in Neural Networks [104.2956323934544]
現代の機械学習モデルは、しばしば膨大な数のパラメータを使用し、通常、トレーニング損失がゼロになるように最適化されている。
ニューラルネットワークの2層構成において、これらの良質な過適合現象がどのように起こるかを検討する。
本稿では,2層型ReLUネットワーク補間器を極小最適学習率で実現可能であることを示す。
論文 参考訳(メタデータ) (2021-06-06T19:08:53Z) - Flexible Model Aggregation for Quantile Regression [92.63075261170302]
量子回帰は、予測の不確実性を定量化する必要性によって動機付けられた統計学習の基本的な問題である。
条件付き量子モデルの任意の数を集約する手法について検討する。
この論文で検討するモデルはすべて、現代のディープラーニングツールキットに適合します。
論文 参考訳(メタデータ) (2021-02-26T23:21:16Z) - Quantile regression with deep ReLU Networks: Estimators and minimax
rates [4.522666263036413]
線形整流ユニット(ReLU)ニューラルネットワークを用いた量子レグレッションについて検討する。
ReLUネットワークの期待平均2乗誤差の上限を導出する。
これらの厳密な境界は、量子レグレッションを持つReLUネットワークが、関数型の広いコレクションに対して最小値の速度を達成することを示唆している。
論文 参考訳(メタデータ) (2020-10-16T08:34:04Z) - A Statistical Learning Assessment of Huber Regression [8.834480010537229]
本研究では,ハマー回帰推定器の通常のリスク整合性は,平均回帰における学習可能性を保証することができないことを示す。
また、平均回帰を実行するために、Huberレグレッションは適応的な方法で実装されるべきであると主張する。
フーバー回帰推定器の収束率をほぼ確実に設定する。
論文 参考訳(メタデータ) (2020-09-27T06:08:21Z) - How Neural Networks Extrapolate: From Feedforward to Graph Neural
Networks [80.55378250013496]
勾配勾配降下法によりトレーニングされたニューラルネットワークが、トレーニング分布の支持の外で学んだことを外挿する方法について検討する。
グラフニューラルネットワーク(GNN)は、より複雑なタスクでいくつかの成功を収めている。
論文 参考訳(メタデータ) (2020-09-24T17:48:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。