論文の概要: Uncertainty quantification for deeponets with ensemble kalman inversion

• arxiv url: http://arxiv.org/abs/2403.03444v1
• Date: Wed, 6 Mar 2024 04:02:30 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-07 16:13:06.240207
• Title: Uncertainty quantification for deeponets with ensemble kalman inversion
• Title（参考訳）: アンサンブルカルマンインバージョンを用いたdeeponetsの不確かさ定量化
• Authors: Andrew Pensoneault, Xueyu Zhu
• Abstract要約: 本研究では,Ensemble Kalman Inversion (EKI) 手法を用いて,演算子学習のための効率的な不確実性定量化(UQ)のための新しい推論手法を提案する。 EKIはデリバティブフリーでノイズロバストで高度に並列化可能な特徴で知られており、物理インフォームドニューラルネットワークのUQに対するアドバンテージを実証している。 我々は、より大きなデータセットに対応するために、EKIのミニバッチ版をデプロイし、トレーニング段階での大きなデータセットによる計算需要を軽減します。
• 参考スコア（独自算出の注目度）: 0.8158530638728501
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In recent years, operator learning, particularly the DeepONet, has received much attention for efficiently learning complex mappings between input and output functions across diverse fields. However, in practical scenarios with limited and noisy data, accessing the uncertainty in DeepONet predictions becomes essential, especially in mission-critical or safety-critical applications. Existing methods, either computationally intensive or yielding unsatisfactory uncertainty quantification, leave room for developing efficient and informative uncertainty quantification (UQ) techniques tailored for DeepONets. In this work, we proposed a novel inference approach for efficient UQ for operator learning by harnessing the power of the Ensemble Kalman Inversion (EKI) approach. EKI, known for its derivative-free, noise-robust, and highly parallelizable feature, has demonstrated its advantages for UQ for physics-informed neural networks [28]. Our innovative application of EKI enables us to efficiently train ensembles of DeepONets while obtaining informative uncertainty estimates for the output of interest. We deploy a mini-batch variant of EKI to accommodate larger datasets, mitigating the computational demand due to large datasets during the training stage. Furthermore, we introduce a heuristic method to estimate the artificial dynamics covariance, thereby improving our uncertainty estimates. Finally, we demonstrate the effectiveness and versatility of our proposed methodology across various benchmark problems, showcasing its potential to address the pressing challenges of uncertainty quantification in DeepONets, especially for practical applications with limited and noisy data.
• Abstract（参考訳）: 近年、演算子学習、特にDeepONetは、様々な分野にわたる入力関数と出力関数の間の複雑なマッピングを効率的に学習するために多くの注目を集めている。 しかしながら、限られたデータとノイズのある実際のシナリオでは、特にミッションクリティカルやセーフティクリティカルなアプリケーションにおいて、ディープネス予測の不確実性へのアクセスが不可欠となる。 既存の手法は、計算集約的あるいは不満足な不確実な定量化をもたらすが、DeepONetsに適した効率的で情報的な不確実性定量化(UQ)技術を開発する余地は残らない。 本研究では,Ensemble Kalman Inversion (EKI) 手法のパワーを利用して,演算子学習のための効率的なUQのための新しい推論手法を提案する。 EKIは、偏微分、ノイズロス、高並列化が可能な特徴で知られており、物理インフォームドニューラルネットワーク [28] におけるUQの利点を実証している。 EKIの革新的な応用により、関心の出力に対する情報的不確実性評価を得ながら、DeepONetsのアンサンブルを効率的に訓練することができる。 我々は,大規模データセットに対応するためのミニバッチ型ekiをデプロイし,トレーニングステージにおける大規模データセットによる計算要求を軽減した。 さらに、人工力学の共分散を推定するヒューリスティック手法を導入し、不確実性の推定を改善する。 最後に,様々なベンチマーク問題に対して提案手法の有効性と汎用性を実証し,DeepONetsにおける不確実性定量化の急激な課題に対処する可能性を示す。

関連論文リスト

• Denoising Pre-Training and Customized Prompt Learning for Efficient Multi-Behavior Sequential Recommendation [69.60321475454843]
  マルチビヘイビアシークエンシャルレコメンデーションに適した,最初の事前学習および迅速な学習パラダイムであるDPCPLを提案する。 事前学習段階において,複数の時間スケールでノイズを除去する新しい行動マイナ (EBM) を提案する。 次に,提案するCustomized Prompt Learning (CPL)モジュールを用いて,事前学習したモデルを高効率にチューニングすることを提案する。
  論文  参考訳（メタデータ） (2024-08-21T06:48:38Z)
• Uncertainty Quantification for Forward and Inverse Problems of PDEs via Latent Global Evolution [110.99891169486366]
  本稿では,効率的かつ高精度な不確実性定量化を深層学習に基づく代理モデルに統合する手法を提案する。 本手法は,フォワード問題と逆問題の両方に対して,堅牢かつ効率的な不確実性定量化機能を備えたディープラーニングに基づく代理モデルを提案する。 提案手法は, 長期予測を含むシナリオに適合し, 拡張された自己回帰ロールアウトに対する不確かさの伝播に優れる。
  論文  参考訳（メタデータ） (2024-02-13T11:22:59Z)
• Neural auto-designer for enhanced quantum kernels [59.616404192966016]
  本稿では,問題固有の量子特徴写像の設計を自動化するデータ駆動型手法を提案する。 私たちの研究は、量子機械学習の進歩におけるディープラーニングの実質的な役割を強調します。
  論文  参考訳（メタデータ） (2024-01-20T03:11:59Z)
• Equation Discovery with Bayesian Spike-and-Slab Priors and Efficient Kernels [57.46832672991433]
  ケルネル学習とBayesian Spike-and-Slab pres (KBASS)に基づく新しい方程式探索法を提案する。 カーネルレグレッションを用いてターゲット関数を推定する。これはフレキシブルで表現力があり、データ空間やノイズに対してより堅牢である。 我々は,効率的な後部推論と関数推定のための予測伝搬予測最大化アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2023-10-09T03:55:09Z)
• DUDES: Deep Uncertainty Distillation using Ensembles for Semantic Segmentation [11.099838952805325]
  予測の不確実性の定量化は、そのようなアプリケーションにディープニューラルネットワークを使用するための、有望な取り組みである。 本稿では,アンサンブルを用いた深部不確実性蒸留(DuDES)と呼ばれる,効率的かつ確実な不確実性評価手法を提案する。 DUDESはディープ・アンサンブル(Deep Ensemble)による学生-教師の蒸留を適用し、予測の不確かさを1つの前方パスで正確に推定する。
  論文  参考訳（メタデータ） (2023-03-17T08:56:27Z)
• Uncertainty Estimation by Fisher Information-based Evidential Deep Learning [61.94125052118442]
  不確実性推定は、ディープラーニングを実用アプリケーションで信頼できるものにする鍵となる要素である。 漁業情報に基づくエビデンシャルディープラーニング(mathcalI$-EDL)を提案する。 特に,各サンプルが有する証拠の情報量を測定するためにFisher Information Matrix (FIM)を導入し,目的的損失項を動的に重み付けし,不確実なクラスの表現学習に集中させる。
  論文  参考訳（メタデータ） (2023-03-03T16:12:59Z)
• Incremental Permutation Feature Importance (iPFI): Towards Online Explanations on Data Streams [8.49072000414555]
  私たちはデータを段階的にサンプリングし、バッチモードではなく漸進的に学習する動的なシナリオに興味を持っています。 本研究では,特徴量重要度(PFI)に類似した特徴量の特徴残差化に基づく,特徴量重要度(FI)尺度の効率的なインクリメンタルアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-09-05T12:34:27Z)
• The Unreasonable Effectiveness of Deep Evidential Regression [72.30888739450343]
  不確実性を考慮した回帰ベースニューラルネットワーク(NN)による新しいアプローチは、従来の決定論的手法や典型的なベイズ的NNよりも有望であることを示している。 我々は、理論的欠点を詳述し、合成および実世界のデータセットのパフォーマンスを分析し、Deep Evidential Regressionが正確な不確実性ではなく定量化であることを示す。
  論文  参考訳（メタデータ） (2022-05-20T10:10:32Z)
• On Efficient Uncertainty Estimation for Resource-Constrained Mobile Applications [0.0]
  予測の不確実性は、モデル予測を補完し、下流タスクの機能を改善します。 Axolotlフレームワークを用いてモンテカルロ・ドロップアウト(MCDO)モデルを構築することでこの問題に対処する。 我々は,(1)CIFAR10データセットを用いた多クラス分類タスク,(2)より複雑な人体セグメンテーションタスクについて実験を行った。
  論文  参考訳（メタデータ） (2021-11-11T22:24:15Z)
• Interval Deep Learning for Uncertainty Quantification in Safety Applications [0.0]
  現在のディープニューラルネットワーク(DNN)は、重要な入力データの不確実性を定量化し伝播する暗黙のメカニズムを持っていない。 本稿では、間隔解析を用いて入力とパラメータの不確かさを定量化できる勾配法を最適化したDNNを提案する。 本研究では,Deep Interval Neural Network (DINN) が不確定な入力データから正確な有界推定を生成できることを示した。
  論文  参考訳（メタデータ） (2021-05-13T17:21:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。