論文の概要: Distribution free uncertainty quantification in neuroscience-inspired deep operators
- arxiv url: http://arxiv.org/abs/2412.09369v1
- Date: Thu, 12 Dec 2024 15:37:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-12-13 13:34:09.887686
- Title: Distribution free uncertainty quantification in neuroscience-inspired deep operators
- Title（参考訳）: 神経科学に触発された深部作用素における分布自由不確実性定量化
- Authors: Shailesh Garg, Souvik Chakraborty,
- Abstract要約: エネルギー効率の高いディープラーニングアルゴリズムは、持続可能な未来と実現可能なエッジコンピューティングのセットアップに不可欠である。
本稿では,従来型およびスパイク型ニューラル演算子の不確実性を定量化するために,CRP-O(Conformalized Randomized Prior Operator)フレームワークを提案する。
共形化したRP-VSWNOは,バニラRP-VSWNO,Quantile WNO(Q-WNO),コンフォーマル化されたQuantile WNO(CQ-WNO)と比較して,UQ推定を著しく向上させることを示した。
- 参考スコア（独自算出の注目度）: 1.8416014644193066
- License:
- Abstract: Energy-efficient deep learning algorithms are essential for a sustainable future and feasible edge computing setups. Spiking neural networks (SNNs), inspired from neuroscience, are a positive step in the direction of achieving the required energy efficiency. However, in a bid to lower the energy requirements, accuracy is marginally sacrificed. Hence, predictions of such deep learning algorithms require an uncertainty measure that can inform users regarding the bounds of a certain output. In this paper, we introduce the Conformalized Randomized Prior Operator (CRP-O) framework that leverages Randomized Prior (RP) networks and Split Conformal Prediction (SCP) to quantify uncertainty in both conventional and spiking neural operators. To further enable zero-shot super-resolution in UQ, we propose an extension incorporating Gaussian Process Regression. This enhanced super-resolution-enabled CRP-O framework is integrated with the recently developed Variable Spiking Wavelet Neural Operator (VSWNO). To test the performance of the obtained calibrated uncertainty bounds, we discuss four different examples covering both one-dimensional and two-dimensional partial differential equations. Results demonstrate that the uncertainty bounds produced by the conformalized RP-VSWNO significantly enhance UQ estimates compared to vanilla RP-VSWNO, Quantile WNO (Q-WNO), and Conformalized Quantile WNO (CQ-WNO). These findings underscore the potential of the proposed approach for practical applications.
- Abstract（参考訳）: エネルギー効率の高いディープラーニングアルゴリズムは、持続可能な未来と実現可能なエッジコンピューティングのセットアップに不可欠である。
神経科学に触発されたスパイキングニューラルネットワーク(SNN)は、必要なエネルギー効率を達成するための正のステップである。
しかし、エネルギー需要を減らそうとする試みでは、精度は極端に犠牲にされている。
したがって、そのようなディープラーニングアルゴリズムの予測には、ある出力の境界についてユーザーに通知できる不確実性尺度が必要である。
本稿では,従来型およびスパイピング型ニューラル演算子の不確かさを定量化するために,Randomized Prior (RP) ネットワークとSplit Conformal Prediction (SCP) を利用した Conformalized Randomized Prior Operator (CRP-O) フレームワークを提案する。
UQにおけるゼロショット超解像をさらに実現するために,ガウス過程回帰を取り入れた拡張を提案する。
この拡張された超解像度対応CRP-Oフレームワークは、最近開発された可変スパイキングウェーブレットニューラル演算子(VSWNO)と統合されている。
得られたキャリブレーションされた不確かさ境界の性能をテストするために, 1次元および2次元の偏微分方程式をカバーする4つの異なる例について検討した。
その結果, 共形化RP-VSWNOによる不確実性境界は, バニラRP-VSWNO, 量子化WNO (Q-WNO) およびコンフォーマル化量子化WNO (CQ-WNO) と比較してUQ推定を著しく向上させることがわかった。
これらの知見は, 実用化に向けた提案手法の可能性を明らかにするものである。
関連論文リスト
- Alpha-VI DeepONet: A prior-robust variational Bayesian approach for enhancing DeepONets with uncertainty quantification [0.0]
一般化変分推論(GVI)を組み込んだ新しいディープオペレータネットワーク(DeepONet)を提案する。
分岐ネットワークとトランクネットワークのビルディングブロックとしてベイズニューラルネットワークを組み込むことで,不確実な定量化が可能なDeepONetを実現する。
変動目的関数の修正は平均二乗誤差を最小化する点で優れた結果をもたらすことを示す。
論文 参考訳（メタデータ） (2024-08-01T16:22:03Z) - RandONet: Shallow-Networks with Random Projections for learning linear and nonlinear operators [0.0]
ランダムプロジェクションに基づく演算子ネットワーク(RandONets)を提案する。
ランダムネット(RandONets)は、線形および非線形作用素を学習するランダムプロジェクションを持つ浅いネットワークである。
このタスクにおいて、RandONetsは数値近似の精度と計算コストの両面で、バニラ"DeepOnetsよりも優れていることを示す。
論文 参考訳（メタデータ） (2024-06-08T13:20:48Z) - Pointer Networks with Q-Learning for Combinatorial Optimization [55.2480439325792]
我々は、モデルフリーQ値ポリシー近似をPointer Networks(Ptr-Nets)と統合したハイブリッドニューラルネットワークであるPointer Q-Network(PQN)を紹介する。
実験により,本手法の有効性を実証し,不安定な環境でモデルをテストする。
論文 参考訳（メタデータ） (2023-11-05T12:03:58Z) - Deep Neural Networks Tend To Extrapolate Predictably [51.303814412294514]
ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。
我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。
我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
論文 参考訳（メタデータ） (2023-10-02T03:25:32Z) - Randomized prior wavelet neural operator for uncertainty quantification [0.0]
我々はtextitRandomized Prior Wavelet Neural Operator (RP-WNO) と呼ばれる新しいデータ駆動型演算子学習フレームワークを提案する。
提案したRP-WNOは、最近提案されたウェーブレットニューラル演算子の拡張であり、優れた一般化能力を有するが、その予測に関する不確実性を推定できない。
論文 参考訳（メタデータ） (2023-02-02T12:28:49Z) - Density Regression and Uncertainty Quantification with Bayesian Deep
Noise Neural Networks [4.376565880192482]
ディープニューラルネットワーク(DNN)モデルは、幅広い教師付き学習アプリケーションにおいて最先端の予測精度を達成した。
DNN予測の不確実性を正確に定量化することは、依然として難しい課題である。
本稿では,ベイジアンディープノイズニューラルネットワーク (B-DeepNoise) を提案する。ベイジアンDNNは,ランダムノイズ変数をすべての隠蔽層に拡張することにより,標準ベイジアンDNNを一般化する。
予測精度,不確実性定量化精度,不確実性定量化効率の点で優れた性能を示した。
論文 参考訳（メタデータ） (2022-06-12T02:47:29Z) - Comparative Analysis of Interval Reachability for Robust Implicit and
Feedforward Neural Networks [64.23331120621118]
我々は、暗黙的ニューラルネットワーク(INN)の堅牢性を保証するために、区間到達可能性分析を用いる。
INNは暗黙の方程式をレイヤとして使用する暗黙の学習モデルのクラスである。
提案手法は, INNに最先端の区間境界伝搬法を適用するよりも, 少なくとも, 一般的には, 有効であることを示す。
論文 参考訳（メタデータ） (2022-04-01T03:31:27Z) - Robust Implicit Networks via Non-Euclidean Contractions [63.91638306025768]
暗黙のニューラルネットワークは、精度の向上とメモリ消費の大幅な削減を示す。
彼らは不利な姿勢と収束の不安定さに悩まされる。
本論文は,ニューラルネットワークを高機能かつ頑健に設計するための新しい枠組みを提供する。
論文 参考訳（メタデータ） (2021-06-06T18:05:02Z) - Amortized Conditional Normalized Maximum Likelihood: Reliable Out of
Distribution Uncertainty Estimation [99.92568326314667]
本研究では,不確実性推定のための拡張性のある汎用的アプローチとして,償却条件正規化最大値(ACNML)法を提案する。
提案アルゴリズムは条件付き正規化最大度(CNML)符号化方式に基づいており、最小記述長の原理に従って最小値の最適特性を持つ。
我々は、ACNMLが、分布外入力のキャリブレーションの観点から、不確実性推定のための多くの手法と好意的に比較することを示した。
論文 参考訳（メタデータ） (2020-11-05T08:04:34Z) - Chance-Constrained Control with Lexicographic Deep Reinforcement
Learning [77.34726150561087]
本稿では,レキシックなDeep Reinforcement Learning(DeepRL)に基づく確率制約マルコフ決定プロセスを提案する。
有名なDeepRLアルゴリズムDQNの辞書版も提案され、シミュレーションによって検証されている。
論文 参考訳（メタデータ） (2020-10-19T13:09:14Z) - Robustness Analysis of Neural Networks via Efficient Partitioning with
Applications in Control Systems [45.35808135708894]
ニューラルネットワーク(NN)は現在、不確実な環境で動作しなければならないシステムに定期的に実装されている。
本稿では、ロバストネス解析アルゴリズムのファミリを提供するために、伝播と分割のアプローチを統合する。
新しいパーティショニング技術は、現在の境界推定値と望ましい境界形状を認識している。
論文 参考訳（メタデータ） (2020-10-01T16:51:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。