論文の概要: Constructing Prediction Intervals with Neural Networks: An Empirical
Evaluation of Bootstrapping and Conformal Inference Methods
- arxiv url: http://arxiv.org/abs/2210.05354v1
- Date: Fri, 7 Oct 2022 23:16:03 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-12 14:37:39.755795
- Title: Constructing Prediction Intervals with Neural Networks: An Empirical
Evaluation of Bootstrapping and Conformal Inference Methods
- Title(参考訳): ニューラルネットワークによる予測区間の構成:ブートストラップ法とコンフォーマル推論法の実証評価
- Authors: Alex Contarino, Christine Schubert Kabban, Chancellor Johnstone,
Fairul Mohd-Zaid
- Abstract要約: この作業は、ネットワーク設計の選択と、ANNでより優れたパフォーマンスのPIを作成するための推論方法を提供する。
画像ベースデータセットを含む11データセット間で2段階の実験が実行される。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Artificial neural networks (ANNs) are popular tools for accomplishing many
machine learning tasks, including predicting continuous outcomes. However, the
general lack of confidence measures provided with ANN predictions limit their
applicability. Supplementing point predictions with prediction intervals (PIs)
is common for other learning algorithms, but the complex structure and training
of ANNs renders constructing PIs difficult. This work provides the network
design choices and inferential methods for creating better performing PIs with
ANNs. A two-step experiment is executed across 11 data sets, including an
imaged-based data set. Two distribution-free methods for constructing PIs,
bootstrapping and conformal inference, are considered. The results of the first
experimental step reveal that the choices inherent to building an ANN affect PI
performance. Guidance is provided for optimizing PI performance with respect to
each network feature and PI method. In the second step, 20 algorithms for
constructing PIs, each using the principles of bootstrapping or conformal
inference, are implemented to determine which provides the best performance
while maintaining reasonable computational burden. In general, this trade-off
is optimized when implementing the cross-conformal method, which maintained
interval coverage and efficiency with decreased computational burden.
- Abstract(参考訳): ニューラルネットワーク(anns)は、継続的な結果の予測を含む、多くの機械学習タスクを達成するための一般的なツールである。
しかし、ANN予測による信頼性の一般的な欠如は、適用可能性を制限する。
予測区間付き補足点予測は他の学習アルゴリズムでは一般的であるが、ANNの複雑な構造と訓練はPIの構築を困難にしている。
この作業は、ネットワーク設計の選択と、ANNによるパフォーマンス向上のための推論方法を提供する。
画像ベースデータセットを含む11データセット間で2段階の実験が実行される。
PIを構築する2つの方法,ブートストラップと共形推論について考察する。
最初の実験的なステップの結果、ANNの構築に固有の選択がPI性能に影響することが明らかとなった。
各ネットワーク特徴量およびPIメソッドに対するPI性能の最適化のためのガイダンスを提供する。
第2のステップでは、ブートストラップや共形推論の原理を用いて、PIを構築するための20のアルゴリズムを実装し、妥当な計算負担を維持しつつ、最適な性能を提供するかを判断する。
一般に、このトレードオフは、計算負担を減らした間隔のカバレッジと効率を維持できるクロスコンフォーマルな手法を実装する際に最適化される。
関連論文リスト
- A lifted Bregman strategy for training unfolded proximal neural network Gaussian denoisers [8.343594411714934]
屈曲した近位ニューラルネットワーク(PNN)は、深層学習と近位最適化のアプローチを組み合わせた一連の手法である。
展開されたPNNに対するBregman距離に基づく揚力トレーニングの定式化を提案する。
画像復調の数値シミュレーションにより,提案したPNNのトレーニング手法の挙動を評価する。
論文 参考訳(メタデータ) (2024-08-16T13:41:34Z) - Error convergence and engineering-guided hyperparameter search of PINNs:
towards optimized I-FENN performance [0.0]
PINNコンポーネントの2つの重要な側面に着目し,I-FENNの厳格さと性能を向上させる。
本稿では,新しい総合的パフォーマンス指標のセットに基づく体系的な数値的アプローチを提案する。
提案された分析は、科学と工学の他の応用にも直接拡張することができる。
論文 参考訳(メタデータ) (2023-03-03T17:39:06Z) - AIO-P: Expanding Neural Performance Predictors Beyond Image
Classification [22.743278613519152]
アーキテクチャの例でニューラルネットワーク予測器を事前訓練するための新しいオールインワン予測器(AIO-P)を提案する。
AIO-Pは平均絶対誤差(MAE)とスピアマンランク相関(SRCC)をそれぞれ1%以下と0.5以上で達成できる。
論文 参考訳(メタデータ) (2022-11-30T18:30:41Z) - Improved Algorithms for Neural Active Learning [74.89097665112621]
非パラメトリックストリーミング設定のためのニューラルネットワーク(NN)ベースの能動学習アルゴリズムの理論的および経験的性能を改善する。
本研究では,SOTA(State-of-the-art (State-the-art)) 関連研究で使用されるものよりも,アクティブラーニングに適する人口減少を最小化することにより,2つの後悔の指標を導入する。
論文 参考訳(メタデータ) (2022-10-02T05:03:38Z) - Revisiting PINNs: Generative Adversarial Physics-informed Neural
Networks and Point-weighting Method [70.19159220248805]
物理インフォームドニューラルネットワーク(PINN)は、偏微分方程式(PDE)を数値的に解くためのディープラーニングフレームワークを提供する
本稿では,GA機構とPINNの構造を統合したGA-PINNを提案する。
本稿では,Adaboost法の重み付け戦略からヒントを得て,PINNのトレーニング効率を向上させるためのPW法を提案する。
論文 参考訳(メタデータ) (2022-05-18T06:50:44Z) - Efficient Estimation in NPIV Models: A Comparison of Various Neural
Networks-Based Estimators [1.4000007799304268]
半非パラメトリックインスツルメンタル変数(NPIV)モデルにおけるニューラルネットワーク(ANN)の計算性能について検討する。
我々は予測の効率的な推定に焦点をあて、未知の関数を近似するためにANNを使用する。
複雑な設計における有限サンプル性能を比較する大規模なモンテカルロ実験を行う。
論文 参考訳(メタデータ) (2021-10-13T15:00:33Z) - COPS: Controlled Pruning Before Training Starts [68.8204255655161]
最先端のディープニューラルネットワーク(DNN)プルーニング技術は、トレーニング開始前にワンショットで適用され、プルーニングスコアと呼ばれる単一の基準の助けを借りてスパースアーキテクチャを評価する。
この作業では、単一プルーニング基準に集中するのではなく、任意のGASを組み合わせてより強力なプルーニング戦略を構築するためのフレームワークを提供します。
論文 参考訳(メタデータ) (2021-07-27T08:48:01Z) - Noise-robust Graph Learning by Estimating and Leveraging Pairwise
Interactions [123.07967420310796]
本稿では,グラフ上のノイズノード分類のためのペアワイズフレームワークを提案することにより,そのギャップを埋める。
PI-GNNは、ノイズの多いノードクラスラベルからのポイントワイズ学習に加えて、PIを一次学習プロキシとして依存している。
提案するフレームワークPI-GNNは,(1)PIラベルを適応的に推定する信頼度を考慮したPI推定モデル,(2)PIラベルを推定する疎結合トレーニング手法の2つの新しい構成要素に寄与する。
論文 参考訳(メタデータ) (2021-06-14T14:23:08Z) - Adaptive Inference through Early-Exit Networks: Design, Challenges and
Directions [80.78077900288868]
初期のネットワークの設計手法をその重要コンポーネントに分解し、各コンポーネントの最近の進歩を調査する。
我々は、他の効率的な推論ソリューションと早期に競合する立場をとり、この分野の研究における現在の課題と最も有望な今後の方向性についての洞察を提供する。
論文 参考訳(メタデータ) (2021-06-09T12:33:02Z) - SIMPLE: SIngle-network with Mimicking and Point Learning for Bottom-up
Human Pose Estimation [81.03485688525133]
Single-network with Mimicking and Point Learning for Bottom-up Human Pose Estimation (SIMPLE) を提案する。
具体的には、トレーニングプロセスにおいて、SIMPLEが高性能なトップダウンパイプラインからのポーズ知識を模倣できるようにする。
さらに、SIMPLEは人間検出とポーズ推定を統一的なポイントラーニングフレームワークとして定式化し、単一ネットワークで相互に補完する。
論文 参考訳(メタデータ) (2021-04-06T13:12:51Z) - Optimal Uncertainty-guided Neural Network Training [14.768115786212187]
最適PIを構築するためにNNを開発するために,高度にカスタマイズ可能なスムーズなコスト関数を提案する。
提案手法は,PIの品質の変動を低減し,トレーニングを加速し,収束確率を99.2%から99.8%に向上させる。
論文 参考訳(メタデータ) (2019-12-30T00:03:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。