論文の概要: Large width penalization for neural network-based prediction interval estimation

• arxiv url: http://arxiv.org/abs/2411.19181v2
• Date: Wed, 11 Dec 2024 02:41:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-12 13:58:17.485066
• Title: Large width penalization for neural network-based prediction interval estimation
• Title（参考訳）: ニューラルネットワークを用いた予測間隔推定のための大幅ペナル化
• Authors: Worachit Amnuaypongsa, Jitkomut Songsiri,
• Abstract要約: 予測間隔(PI)は、信頼度に関連する予測の上下境界を示す。 高品質PIは高いPIカバレッジ確率(PICP)と狭いPI幅によって特徴づけられる。 本研究では,大径PI幅の平均値のペナルティ化を図った新しいPI損失関数を提案する。
• 参考スコア（独自算出の注目度）: 3.2228025627337864
• License:
• Abstract: Forecasting accuracy in highly uncertain environments is challenging due to the stochastic nature of systems. Deterministic forecasting provides only point estimates and cannot capture potential outcomes. Therefore, probabilistic forecasting has gained significant attention due to its ability to quantify uncertainty, where one of the approaches is to express it as a prediction interval (PI), that explicitly shows upper and lower bounds of predictions associated with a confidence level. High-quality PI is characterized by a high PI coverage probability (PICP) and a narrow PI width. In many real-world applications, the PI width is generally used in risk management to prepare resources that improve reliability and effectively manage uncertainty. A wider PI width results in higher costs for backup resources as decision-making processes often focus on the worst-case scenarios arising with large PI widths under extreme conditions. This study aims to reduce the large PI width from the PI estimation method by proposing a new PI loss function that penalizes the average of the large PI widths more heavily. The proposed formulation is compatible with gradient-based algorithms, the standard approach to training neural networks (NNs), and integrating state-of-the-art NNs and existing deep learning techniques. Experiments with the synthetic dataset reveal that our formulation significantly reduces the large PI width while effectively maintaining the PICP to achieve the desired probability. The practical implementation of our proposed loss function is demonstrated in solar irradiance forecasting, highlighting its effectiveness in minimizing the large PI width in data with high uncertainty and showcasing its compatibility with more complex neural network models. Therefore, reducing large PI widths from our method can lead to significant cost savings by over-allocation of reserve resources.
• Abstract（参考訳）: 高度に不確実な環境での予測精度は、システムの確率的性質のために困難である。 決定論的予測は点推定のみを提供し、潜在的な結果を捉えることができない。 したがって、確率予測は不確実性を定量化する能力から、信頼度に関連付けられた予測の上下境界を明示的に示す予測区間(PI)として表現する手法の1つとして、大きな注目を集めている。 高品質PIは高いPIカバレッジ確率(PICP)と狭いPI幅によって特徴づけられる。 多くの現実世界のアプリケーションでは、PI幅は一般的に、信頼性を改善し、不確実性を効果的に管理するリソースを作成するためにリスク管理に使用される。 PI幅が広いと、決定プロセスが極端な条件下で大きなPI幅で発生する最悪のシナリオに集中するため、バックアップリソースのコストが高くなる。 本研究の目的は, PI幅の幅を最大化する新しいPI損失関数を提案することにより, PI推定法からPI幅を小さくすることである。 提案された定式化は、勾配に基づくアルゴリズム、ニューラルネットワーク(NN)のトレーニングのための標準的なアプローチ、最先端のNNと既存のディープラーニング技術の統合と互換性がある。 人工データセットを用いて行った実験により,我々の定式化はPICPを効果的に維持して所望の確率を達成しつつ大きなPI幅を著しく減少させることが明らかとなった。 提案した損失関数の実用的実装は、太陽光による予測において、不確実性の高いデータにおけるPI幅の最大化と、より複雑なニューラルネットワークモデルとの互換性を示す効果を示す。 したがって,本手法によるPI幅の削減は,資源の過剰配置によるコスト削減に繋がる可能性がある。

関連論文リスト

• Towards Resource-Efficient Federated Learning in Industrial IoT for Multivariate Time Series Analysis [50.18156030818883]
  異常と欠落したデータは、産業応用における厄介な問題を構成する。 ディープラーニングによる異常検出が重要な方向として現れている。 エッジデバイスで収集されたデータは、ユーザのプライバシを含む。
  論文  参考訳（メタデータ） (2024-11-06T15:38:31Z)
• Stratified Prediction-Powered Inference for Hybrid Language Model Evaluation [62.2436697657307]
  予測駆動推論(英: Prediction-powered Inference, PPI)は、人間ラベル付き限られたデータに基づいて統計的推定を改善する手法である。 我々はStratPPI(Stratified Prediction-Powered Inference)という手法を提案する。 単純なデータ階層化戦略を用いることで,基礎的なPPI推定精度を大幅に向上できることを示す。
  論文  参考訳（メタデータ） (2024-06-06T17:37:39Z)
• Provably Efficient UCB-type Algorithms For Learning Predictive State Representations [55.00359893021461]
  逐次決定問題は、予測状態表現(PSR)によってモデル化された低ランク構造が認められる場合、統計的に学習可能である 本稿では,推定モデルと実モデル間の全変動距離を上限とする新しいボーナス項を特徴とする,PSRに対する最初のUCB型アプローチを提案する。 PSRに対する既存のアプローチとは対照的に、UCB型アルゴリズムは計算的トラクタビリティ、最優先の準最適ポリシー、モデルの精度が保証される。
  論文  参考訳（メタデータ） (2023-07-01T18:35:21Z)
• Uncertainty Estimation by Fisher Information-based Evidential Deep Learning [61.94125052118442]
  不確実性推定は、ディープラーニングを実用アプリケーションで信頼できるものにする鍵となる要素である。 漁業情報に基づくエビデンシャルディープラーニング(mathcalI$-EDL)を提案する。 特に,各サンプルが有する証拠の情報量を測定するためにFisher Information Matrix (FIM)を導入し,目的的損失項を動的に重み付けし,不確実なクラスの表現学習に集中させる。
  論文  参考訳（メタデータ） (2023-03-03T16:12:59Z)
• Reliable Prediction Intervals with Directly Optimized Inductive Conformal Regression for Deep Learning [3.42658286826597]
  予測間隔(PI)は、ディープラーニング回帰における各予測の不確かさの定量化に使用される。 PIの品質向上のための多くのアプローチは、PIの幅を効果的に削減することができるが、実際のラベルが十分に取得されていることを保証しない。 本研究では,損失関数としてPIの平均幅のみを考慮に入れた直接最適化インダクティブ・コンダクティブ・レグレッション(DOICR)を用いる。 ベンチマーク実験により、DOICRは回帰問題に対する現在の最先端アルゴリズムよりも優れていることが示された。
  論文  参考訳（メタデータ） (2023-02-02T04:46:14Z)
• Dual Accuracy-Quality-Driven Neural Network for Prediction Interval Generation [0.0]
  本稿では,回帰に基づくニューラルネットワークの予測間隔を自動的に学習する手法を提案する。 我々の主な貢献は、PI世代ネットワークのための新しい損失関数の設計である。 合成データセット,8つのベンチマークデータセット,および実世界の収量予測データセットを用いて実験したところ,本手法は有意な確率カバレッジを維持することができた。
  論文  参考訳（メタデータ） (2022-12-13T05:03:16Z)
• Prediction intervals for neural network models using weighted asymmetric loss functions [0.3093890460224435]
  本稿では,近似および予測された傾向に対する予測区間(PI)を簡便かつ効率的に生成する手法を提案する。 本手法は、重み付き非対称損失関数を利用して、PIの上下境界を推定する。 パラメトリド関数のPIを導出するためにどのように拡張できるかを示し、深層ニューラルネットワークのトレーニングにおいてその有効性について議論する。
  論文  参考訳（メタデータ） (2022-10-09T18:58:24Z)
• Probabilistic Gradient Boosting Machines for Large-Scale Probabilistic Regression [51.770998056563094]
  PGBM(Probabilistic Gradient Boosting Machines)は、確率的予測を生成する手法である。 既存の最先端手法と比較してPGBMの利点を実証的に示す。
  論文  参考訳（メタデータ） (2021-06-03T08:32:13Z)
• Uncertainty-aware Remaining Useful Life predictor [57.74855412811814]
  有効寿命 (Remaining Useful Life, RUL) とは、特定の産業資産の運用期間を推定する問題である。 本研究では,Deep Gaussian Processes (DGPs) を,前述の制限に対する解決策と捉える。 アルゴリズムの性能はNASAの航空機エンジン用N-CMAPSSデータセットで評価される。
  論文  参考訳（メタデータ） (2021-04-08T08:50:44Z)
• PIVEN: A Deep Neural Network for Prediction Intervals with Specific Value Prediction [14.635820704895034]
  PIと値予測の両方を生成するディープニューラルネットワークであるPIVENを提案する。 提案手法では,PI内のデータ分布に関する仮定は行わず,実世界の様々な問題に対して,その価値予測をより効果的に行う。
  論文  参考訳（メタデータ） (2020-06-09T09:29:58Z)
• Optimal Uncertainty-guided Neural Network Training [14.768115786212187]
  最適PIを構築するためにNNを開発するために,高度にカスタマイズ可能なスムーズなコスト関数を提案する。 提案手法は,PIの品質の変動を低減し,トレーニングを加速し,収束確率を99.2%から99.8%に向上させる。
  論文  参考訳（メタデータ） (2019-12-30T00:03:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。