論文の概要: Robust DNN Surrogate Models with Uncertainty Quantification via Adversarial Training

• arxiv url: http://arxiv.org/abs/2211.09954v1
• Date: Thu, 10 Nov 2022 05:09:39 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-27 13:26:47.747371
• Title: Robust DNN Surrogate Models with Uncertainty Quantification via Adversarial Training
• Title（参考訳）: 逆訓練による不確実性定量化を伴うロバストdnnサロゲートモデル
• Authors: Lixiang Zhang, Jia Li
• Abstract要約: 代理モデルは、物理または生物学的プロセスの数学的シミュレーターをエミュレートするために使われてきた。 ディープニューラルネットワーク(DNN)サロゲートモデルは、ハード・ト・マッチエミュレーションの精度で人気を集めている。 本稿では,実証的研究と仮説テストを通じて,この問題の深刻度を示す。
• 参考スコア（独自算出の注目度）: 17.981250443856897
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: For computational efficiency, surrogate models have been used to emulate mathematical simulators for physical or biological processes. High-speed simulation is crucial for conducting uncertainty quantification (UQ) when the simulation is repeated over many randomly sampled input points (aka, the Monte Carlo method). In some cases, UQ is only feasible with a surrogate model. Recently, Deep Neural Network (DNN) surrogate models have gained popularity for their hard-to-match emulation accuracy. However, it is well-known that DNN is prone to errors when input data are perturbed in particular ways, the very motivation for adversarial training. In the usage scenario of surrogate models, the concern is less of a deliberate attack but more of the high sensitivity of the DNN's accuracy to input directions, an issue largely ignored by researchers using emulation models. In this paper, we show the severity of this issue through empirical studies and hypothesis testing. Furthermore, we adopt methods in adversarial training to enhance the robustness of DNN surrogate models. Experiments demonstrate that our approaches significantly improve the robustness of the surrogate models without compromising emulation accuracy.
• Abstract（参考訳）: 計算効率のために、サロゲートモデルは物理的または生物学的過程の数学的シミュレータをエミュレートするために使われてきた。 ランダムにサンプリングされた多くの入力点(モンテカルロ法)でシミュレーションを繰り返す場合、高速シミュレーションは不確かさ定量化(uq)を行うのに不可欠である。 場合によっては、UQは代理モデルでのみ実現可能である。 近年,Deep Neural Network (DNN) のサロゲートモデルは,マッチングの難しいエミュレーション精度で人気を博している。 しかし、DNNは入力データが特定の方法で摂動されたときにエラーを起こしやすいことが知られている。 代理モデルの使用シナリオでは、懸念は意図的な攻撃ではなく、入力方向に対するDNNの精度の高感度である。 本稿では,実証的研究と仮説テストを通じて,この問題の深刻度を示す。 さらに, DNNサロゲートモデルのロバスト性を高めるために, 対人訓練の手法を採用する。 実験により,エミュレーション精度を損なうことなく,サロゲートモデルのロバスト性を大幅に向上することを示した。

関連論文リスト

• Uncertainty-aware Surrogate Models for Airfoil Flow Simulations with Denoising Diffusion Probabilistic Models [26.178192913986344]
  本研究では,拡散確率モデル(DDPM)を用いて乱流シミュレーションのための不確実性を考慮した代理モデルの訓練を行う。 その結果、DDPMは解全体の分布を正確に把握し、その結果、シミュレーションの不確かさを正確に推定できることがわかった。 また,正規拡散モデルと比較して,新たな生成モデルであるフローマッチングの評価を行った。
  論文  参考訳（メタデータ） (2023-12-08T19:04:17Z)
• Learning Sample Difficulty from Pre-trained Models for Reliable Prediction [55.77136037458667]
  本稿では,大規模事前学習モデルを用いて,サンプル難易度を考慮したエントロピー正規化による下流モデルトレーニングを指導する。 我々は、挑戦的なベンチマークで精度と不確実性の校正を同時に改善する。
  論文  参考訳（メタデータ） (2023-04-20T07:29:23Z)
• Robust Neural Posterior Estimation and Statistical Model Criticism [1.5749416770494706]
  モデラーはシミュレータを真のデータ生成プロセスの理想主義的な表現として扱わなければならない。 本研究では,シミュレーションモデルにおけるブラックボックスパラメータ推論を可能にするアルゴリズムのクラスであるNPEを再検討する。 一方,NPEを経時的に用いた場合,不特定性の存在は信頼できない推論につながることが判明した。
  論文  参考訳（メタデータ） (2022-10-12T20:06:55Z)
• Efficient Learning of Accurate Surrogates for Simulations of Complex Systems [0.0]
  サンプリング駆動サンプリングによって強化されたオンライン学習手法を提案する。 モデル応答面上のすべての旋回点がトレーニングデータに含まれることを保証する。 本手法を核物質のシミュレーションに適用し,高精度なサロゲートを確実に自動生成できることを実証する。
  論文  参考訳（メタデータ） (2022-07-11T20:51:11Z)
• Multi-fidelity Hierarchical Neural Processes [79.0284780825048]
  多要素代理モデリングは、異なるシミュレーション出力を融合させることで計算コストを削減する。 本稿では,多階層型階層型ニューラルネットワーク(MF-HNP)を提案する。 疫学および気候モデリングタスクにおけるMF-HNPの評価を行い、精度と不確実性評価の観点から競合性能を達成した。
  論文  参考訳（メタデータ） (2022-06-10T04:54:13Z)
• Uncertainty quantification of two-phase flow in porous media via coupled-TgNN surrogate model [6.705438773768439]
  地下二相流の不確実性定量化(UQ)は通常、様々な条件下でのフォワードシミュレーションの多数の実行を必要とする。 本研究では, 理論誘導型ニューラルネットワーク(TgNN)をベースとした新しいサロゲートモデルを構築し, 良好な精度で効率を向上する。
  論文  参考訳（メタデータ） (2022-05-28T02:33:46Z)
• Learning continuous models for continuous physics [94.42705784823997]
  本研究では,科学技術応用のための機械学習モデルを検証する数値解析理論に基づくテストを開発する。 本研究は,従来のMLトレーニング/テスト手法と一体化して,科学・工学分野におけるモデルの検証を行う方法である。
  論文  参考訳（メタデータ） (2022-02-17T07:56:46Z)
• Generalization of Neural Combinatorial Solvers Through the Lens of Adversarial Robustness [68.97830259849086]
  ほとんどのデータセットは単純なサブプロブレムのみをキャプチャし、おそらくは突発的な特徴に悩まされる。 本研究では, 局所的な一般化特性である対向ロバスト性について検討し, 厳密でモデル固有な例と突発的な特徴を明らかにする。 他のアプリケーションとは異なり、摂動モデルは知覚できないという主観的な概念に基づいて設計されているため、摂動モデルは効率的かつ健全である。 驚くべきことに、そのような摂動によって、十分に表現力のあるニューラルソルバは、教師あり学習で共通する正確さと悪質さのトレードオフの限界に悩まされない。
  論文  参考訳（メタデータ） (2021-10-21T07:28:11Z)
• MEMO: Test Time Robustness via Adaptation and Augmentation [131.28104376280197]
  テスト時間ロバスト化の問題、すなわちモデルロバスト性を改善するためにテストインプットを用いて検討する。 最近の先行研究ではテスト時間適応法が提案されているが、それぞれ追加の仮定を導入している。 モデルが確率的で適応可能な任意のテスト環境で使用できるシンプルなアプローチを提案する。
  論文  参考訳（メタデータ） (2021-10-18T17:55:11Z)
• ALT-MAS: A Data-Efficient Framework for Active Testing of Machine Learning Algorithms [58.684954492439424]
  少量のラベル付きテストデータのみを用いて機械学習モデルを効率的にテストする新しいフレームワークを提案する。 ベイズニューラルネットワーク(bnn)を用いたモデルアンダーテストの関心指標の推定が目的である。
  論文  参考訳（メタデータ） (2021-04-11T12:14:04Z)
• Using Bayesian deep learning approaches for uncertainty-aware building energy surrogate models [0.0]
  機械学習シュロゲートモデルは、遅くて高忠実なエンジニアリングシミュレーションモデルをエミュレートするために訓練される。 ベイズパラダイムに従う深層学習モデルが存在する。 その結果, 高い不確実性を有する試料の10%を高忠実度モデルに転送した場合, 誤差を最大30%低減できることがわかった。
  論文  参考訳（メタデータ） (2020-10-05T15:04:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。