論文の概要: Bi-fidelity Variational Auto-encoder for Uncertainty Quantification
- arxiv url: http://arxiv.org/abs/2305.16530v2
- Date: Wed, 18 Oct 2023 03:11:07 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-19 20:10:28.512352
- Title: Bi-fidelity Variational Auto-encoder for Uncertainty Quantification
- Title(参考訳): 不確実性定量化のためのbi-fidelity variational auto-encoder
- Authors: Nuojin Cheng, Osman Asif Malik, Subhayan De, Stephen Becker, Alireza
Doostan
- Abstract要約: 本稿では,QoIの低忠実度(LF)および高忠実度(HF)サンプルからQoIに関連する不確かさを推定するために,変分オートエンコーダ(BF-VAE)の2次元定式化を提案する。
限られたHFデータが存在する場合のHFログの変動的下界を最大化する有効なアルゴリズムを提案する。
以上の結果から,BF-VAEの精度は,HFデータのみを用いて訓練したVAEと比較して有意に向上した。
- 参考スコア(独自算出の注目度): 7.724713939814071
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Quantifying the uncertainty of quantities of interest (QoIs) from physical
systems is a primary objective in model validation. However, achieving this
goal entails balancing the need for computational efficiency with the
requirement for numerical accuracy. To address this trade-off, we propose a
novel bi-fidelity formulation of variational auto-encoders (BF-VAE) designed to
estimate the uncertainty associated with a QoI from low-fidelity (LF) and
high-fidelity (HF) samples of the QoI. This model allows for the approximation
of the statistics of the HF QoI by leveraging information derived from its LF
counterpart. Specifically, we design a bi-fidelity auto-regressive model in the
latent space that is integrated within the VAE's probabilistic encoder-decoder
structure. An effective algorithm is proposed to maximize the variational lower
bound of the HF log-likelihood in the presence of limited HF data, resulting in
the synthesis of HF realizations with a reduced computational cost.
Additionally, we introduce the concept of the bi-fidelity information
bottleneck (BF-IB) to provide an information-theoretic interpretation of the
proposed BF-VAE model. Our numerical results demonstrate that BF-VAE leads to
considerably improved accuracy, as compared to a VAE trained using only HF
data, when limited HF data is available.
- Abstract(参考訳): 物理システムからの関心量の不確実性(qois)の定量化はモデル検証の主要な目的である。
しかし、この目標を達成するには、計算効率と数値精度の要求のバランスをとる必要がある。
このトレードオフに対処するために,QoIの低忠実度(LF)と高忠実度(HF)サンプルからQoIに関連する不確かさを推定するために,変分オートエンコーダ(BF-VAE)の2次元定式化を提案する。
このモデルにより、LFから派生した情報を活用することで、HF QoIの統計量の近似が可能になる。
具体的には,VAEの確率的エンコーダ・デコーダ構造に組み込まれた2次元自己回帰モデルの設計を行う。
限られたHFデータが存在する場合のHFログの変動的下界を最大化するために有効なアルゴリズムが提案され、計算コストを低減したHFの実現が実現された。
さらに,提案するbf-vaeモデルの情報理論的解釈を行うために,bi-fidelity information bottleneck (bf-ib)の概念を導入する。
以上の結果から,BF-VAEの精度は,HFデータのみを用いて訓練したVAEと比較して有意に向上した。
関連論文リスト
- PiRD: Physics-informed Residual Diffusion for Flow Field Reconstruction [5.06136344261226]
データ忠実度向上のためのCNNベースの手法は、トレーニング期間中の低忠実度データパターンと分布に依存している。
提案したモデルである物理インフォームド残差拡散(Residual Diffusion)は、標準の低忠実度入力からデータの品質を高める能力を示す。
実験結果から, 2次元乱流に対して, 再学習を必要とせず, 高品質な流れを効果的に再現できることが示唆された。
論文 参考訳(メタデータ) (2024-04-12T11:45:51Z) - Multi-Fidelity Residual Neural Processes for Scalable Surrogate Modeling [20.76939585108783]
マルチフィデリティ・サロゲートモデリングは,複数の情報源からのデータを組み合わせることで,最も高いフィデリティレベルで正確なサロゲートを学習することを目的としている。
ディープラーニングアプローチでは、ニューラルネットワークベースのエンコーダとデコーダを使用してスケーラビリティを向上させる。
我々は,MFRNP(Multi-fidelity Residual Neural Processs)が偏微分方程式の学習や実世界の気候モデリングのタスクにおいて,現状を著しく上回ることを示す。
論文 参考訳(メタデータ) (2024-02-29T04:40:25Z) - Mitigating Reward Hacking via Information-Theoretic Reward Modeling [70.26019860948114]
本稿では,報酬モデリングのための汎用的で堅牢なフレームワークであるInfoRMを提案する。
我々は,潜伏空間における過最適化と外れ値の相関を同定し,報酬過最適化を検出するための有望なツールとしてInfoRMを確立した。
論文 参考訳(メタデータ) (2024-02-14T17:49:07Z) - Ensemble Kalman Filtering Meets Gaussian Process SSM for Non-Mean-Field
and Online Inference [50.91823345296243]
我々は,非平均場(NMF)変動推定フレームワークにアンサンブルカルマンフィルタ(EnKF)を導入し,潜在状態の後方分布を近似する。
EnKFとGPSSMのこの新しい結婚は、変分分布の学習における広範なパラメータ化の必要性をなくすだけでなく、エビデンスの下限(ELBO)の解釈可能でクローズドな近似を可能にする。
得られたEnKF支援オンラインアルゴリズムは、データ適合精度を確保しつつ、モデル正規化を組み込んで過度適合を緩和し、目的関数を具現化する。
論文 参考訳(メタデータ) (2023-12-10T15:22:30Z) - IB-UQ: Information bottleneck based uncertainty quantification for
neural function regression and neural operator learning [11.5992081385106]
本稿では,科学的機械学習タスクのための情報ボトルネック(IB-UQ)による不確実性定量化のための新しいフレームワークを提案する。
我々は,入力データの信頼度に応じて,入力を潜在表現に符号化する信頼認識エンコーダによってボトルネックを埋め込む。
また,外挿不確かさの質を高めるために,データ拡張に基づく情報ボトルネック目標を提案する。
論文 参考訳(メタデータ) (2023-02-07T05:56:42Z) - Green, Quantized Federated Learning over Wireless Networks: An
Energy-Efficient Design [68.86220939532373]
有限精度レベルは、固定精度フォーマットで重みとアクティベーションを定量化する量子ニューラルネットワーク(QNN)を使用して取得される。
提案するFLフレームワークは,ベースラインFLアルゴリズムと比較して,収束までのエネルギー消費量を最大70%削減することができる。
論文 参考訳(メタデータ) (2022-07-19T16:37:24Z) - Error-based Knockoffs Inference for Controlled Feature Selection [49.99321384855201]
本手法では, ノックオフ特徴量, エラーベース特徴重要度統計量, ステップダウン手順を一体化して, エラーベースのノックオフ推定手法を提案する。
提案手法では回帰モデルを指定する必要はなく,理論的保証で特徴選択を処理できる。
論文 参考訳(メタデータ) (2022-03-09T01:55:59Z) - Active Learning with Multifidelity Modeling for Efficient Rare Event
Simulation [0.0]
希少事象の効率的に推定することを強調する多忠実度モデリングを用いた能動的学習フレームワークを提案する。
我々のフレームワークは、低忠実度(LF)予測をHF推論補正と融合させ、修正されたLF予測をフィルタリングして、高忠実度モデルを呼び出すかどうかを決定する。
障害確率を小さくする際のロバスト性を改善するため,HFモデルをいつ呼び出すかを決定する動的能動学習関数を提案する。
論文 参考訳(メタデータ) (2021-06-25T17:44:28Z) - Trust but Verify: Assigning Prediction Credibility by Counterfactual
Constrained Learning [123.3472310767721]
予測信頼性尺度は統計学と機械学習において基本的なものである。
これらの措置は、実際に使用される多種多様なモデルを考慮に入れるべきである。
この研究で開発されたフレームワークは、リスクフィットのトレードオフとして信頼性を表現している。
論文 参考訳(メタデータ) (2020-11-24T19:52:38Z) - Detecting Out-of-distribution Samples via Variational Auto-encoder with
Reliable Uncertainty Estimation [5.430048915427229]
変分オートエンコーダ(VAE)は、豊かな表現能力を持つ影響のある生成モデルである。
VAEモデルは、アウト・オブ・ディストリビューション(OOD)インプットに対して、イン・ディストリビューション(ID)インプットよりも高い確率を割り当てる弱点がある。
本研究では,INCPVAEと呼ばれるVAEのエンコーダに統合可能な改良型ノイズコントラッシブ先行(INCP)を提案する。
論文 参考訳(メタデータ) (2020-07-16T06:02:18Z) - Uncertainty Estimation Using a Single Deep Deterministic Neural Network [66.26231423824089]
本稿では,1回のフォワードパスで,テスト時に分布データポイントの発見と拒否が可能な決定論的ディープモデルを訓練する手法を提案する。
我々は,新しい損失関数とセントロイド更新方式を用いて,これらをスケールトレーニングし,ソフトマックスモデルの精度に適合させる。
論文 参考訳(メタデータ) (2020-03-04T12:27:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。