論文の概要: Reliable Prediction Intervals with Directly Optimized Inductive Conformal Regression for Deep Learning

• arxiv url: http://arxiv.org/abs/2302.00872v1
• Date: Thu, 2 Feb 2023 04:46:14 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-03 15:23:48.928746
• Title: Reliable Prediction Intervals with Directly Optimized Inductive Conformal Regression for Deep Learning
• Title（参考訳）: 直接最適化されたインダクティブ・コンフォーマル回帰を用いた深層学習のための信頼性予測区間
• Authors: Haocheng Lei and Anthony Bellotti
• Abstract要約: 予測間隔(PI)は、ディープラーニング回帰における各予測の不確かさの定量化に使用される。 PIの品質向上のための多くのアプローチは、PIの幅を効果的に削減することができるが、実際のラベルが十分に取得されていることを保証しない。 本研究では,損失関数としてPIの平均幅のみを考慮に入れた直接最適化インダクティブ・コンダクティブ・レグレッション(DOICR)を用いる。 ベンチマーク実験により、DOICRは回帰問題に対する現在の最先端アルゴリズムよりも優れていることが示された。
• 参考スコア（独自算出の注目度）: 3.42658286826597
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: By generating prediction intervals (PIs) to quantify the uncertainty of each prediction in deep learning regression, the risk of wrong predictions can be effectively controlled. High-quality PIs need to be as narrow as possible, whilst covering a preset proportion of real labels. At present, many approaches to improve the quality of PIs can effectively reduce the width of PIs, but they do not ensure that enough real labels are captured. Inductive Conformal Predictor (ICP) is an algorithm that can generate effective PIs which is theoretically guaranteed to cover a preset proportion of data. However, typically ICP is not directly optimized to yield minimal PI width. However, in this study, we use Directly Optimized Inductive Conformal Regression (DOICR) that takes only the average width of PIs as the loss function and increases the quality of PIs through an optimized scheme under the validity condition that sufficient real labels are captured in the PIs. Benchmark experiments show that DOICR outperforms current state-of-the-art algorithms for regression problems using underlying Deep Neural Network structures for both tabular and image data.
• Abstract（参考訳）: ディープラーニング回帰における各予測の不確かさを定量化する予測間隔(pis)を生成することにより、誤った予測のリスクを効果的に制御することができる。 高品質なPIは可能な限り狭くする必要があるが、実際のラベルのプリセット割合はカバーしている。 現在、PIの品質向上のための多くのアプローチは、PIの幅を効果的に削減することができるが、実際のラベルが十分に取得されることは保証されていない。 Inductive Conformal Predictor (ICP)は、理論上、予め設定されたデータの比率をカバーすることが保証される効果的なPIを生成するアルゴリズムである。 しかし、一般的にICPはPI幅を最小にするために直接最適化されていない。 しかし,本研究では,損失関数としてPIの平均幅のみを考慮し,適切な実ラベルをPIで取得する妥当性条件下での最適化スキームによりPIの品質を向上させる,直接最適化インダクティブ・コンダクティブ・レグレッション(DOICR)を用いる。 ベンチマーク実験により、DOICRは、グラフデータと画像データの両方において、基盤となるDeep Neural Network構造を用いて、回帰問題に対する現在の最先端アルゴリズムよりも優れていることが示された。

関連論文リスト

• Tube Loss: A Novel Approach for Prediction Interval Estimation and probabilistic forecasting [17.472882720712118]
  本稿では,予測区間(PI)の境界の同時推定のための新しい損失関数「タブロス」を提案する。 管損失に基づく経験的リスクを最小化することにより得られるパイは、既存の方法によるPIよりも高品質であることが示されている。
  論文  参考訳（メタデータ） (2024-12-08T15:17:53Z)
• Large width penalization for neural network-based prediction interval estimation [3.2228025627337864]
  予測間隔(PI)は、信頼度に関連する予測の上下境界を示す。 高品質PIは高いPIカバレッジ確率(PICP)と狭いPI幅によって特徴づけられる。 本研究では,大径PI幅の平均値のペナルティ化を図った新しいPI損失関数を提案する。
  論文  参考訳（メタデータ） (2024-11-28T14:34:32Z)
• Stratified Prediction-Powered Inference for Hybrid Language Model Evaluation [62.2436697657307]
  予測駆動推論(英: Prediction-powered Inference, PPI)は、人間ラベル付き限られたデータに基づいて統計的推定を改善する手法である。 我々はStratPPI(Stratified Prediction-Powered Inference)という手法を提案する。 単純なデータ階層化戦略を用いることで,基礎的なPPI推定精度を大幅に向上できることを示す。
  論文  参考訳（メタデータ） (2024-06-06T17:37:39Z)
• Bayesian Prediction-Powered Inference [62.2436697657307]
  予測駆動推論(英: Prediction-powered Inference, PPI)は、人間ラベル付き限られたデータに基づいて統計的推定を改善する手法である。 本稿では,ベイズ推定に基づくPPIのためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-05-09T18:08:58Z)
• Batch-oriented Element-wise Approximate Activation for Privacy-Preserving Neural Networks [5.039738753594332]
  ホモモルフィック暗号化(FHE)は、非線型アクティベーション計算にホモモルフィック演算を容易に適用できないという大きな課題に直面している。 バッチ指向の要素単位のデータパッキングと近似アクティベーションを提案し、非線形アクティベーション関数ReLUを近似するために線形低次を訓練する。 実験の結果、4096の入力画像上で、現在の最も効率的なチャネルワイド方式と比較して、暗号文推論を行うと、推測精度が1.65%向上し、償却推論時間が99.5%低下することがわかった。
  論文  参考訳（メタデータ） (2024-03-16T13:26:33Z)
• Dual Accuracy-Quality-Driven Neural Network for Prediction Interval Generation [0.0]
  本稿では,回帰に基づくニューラルネットワークの予測間隔を自動的に学習する手法を提案する。 我々の主な貢献は、PI世代ネットワークのための新しい損失関数の設計である。 合成データセット,8つのベンチマークデータセット,および実世界の収量予測データセットを用いて実験したところ,本手法は有意な確率カバレッジを維持することができた。
  論文  参考訳（メタデータ） (2022-12-13T05:03:16Z)
• Pessimistic Bootstrapping for Uncertainty-Driven Offline Reinforcement Learning [125.8224674893018]
  オフライン強化学習(RL)は、環境を探索することなく、以前に収集したデータセットからポリシーを学ぶことを目的としている。 オフポリシーアルゴリズムをオフラインRLに適用することは、通常、オフ・オブ・ディストリビューション(OOD)アクションによって引き起こされる外挿エラーによって失敗する。 本稿では,PBRL(Pepsimistic Bootstrapping for offline RL)を提案する。
  論文  参考訳（メタデータ） (2022-02-23T15:27:16Z)
• Selective Network Linearization for Efficient Private Inference [49.937470642033155]
  本稿では,予測精度を維持しつつReLUを選択的に線形化する勾配に基づくアルゴリズムを提案する。 その結果、現在の技術よりも4.25%$の精度(so-ReLUは50K)、または2.2times$のレイテンシ(so-accuracyは70%)が低いことがわかった。
  論文  参考訳（メタデータ） (2022-02-04T19:00:24Z)
• Is Pessimism Provably Efficient for Offline RL? [104.00628430454479]
  優先度を収集したデータセットに基づいて最適なポリシーを学ぶことを目的としたオフライン強化学習(RL)について検討する。 ペナルティ関数として不確かさ量化器を組み込んだ値反復アルゴリズム(pevi)の悲観的変種を提案する。
  論文  参考訳（メタデータ） (2020-12-30T09:06:57Z)
• PEP: Parameter Ensembling by Perturbation [13.221295194854642]
  摂動(PEP)は、トレーニングから設定された最適パラメータのランダム摂動としてパラメータ値のアンサンブルを構成する。 PEPは性能を少し改善し、場合によっては経験的キャリブレーションを大幅に改善する。 PEPは、トレーニング中に発生したオーバーフィッティングのレベルを調査するために使用することができる。
  論文  参考訳（メタデータ） (2020-10-24T00:16:03Z)
• Scaling Equilibrium Propagation to Deep ConvNets by Drastically Reducing its Gradient Estimator Bias [65.13042449121411]
  実際には、EPによって提供される勾配推定によるネットワークのトレーニングは、MNISTよりも難しい視覚タスクにスケールしない。 有限ヌード法に固有のEPの勾配推定のバイアスがこの現象の原因であることを示す。 これらの手法を適用し、非対称な前方および後方接続を持つアーキテクチャをトレーニングし、13.2%のテストエラーを発生させる。
  論文  参考訳（メタデータ） (2020-06-06T09:36:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。