論文の概要: A Fully Bayesian Gradient-Free Supervised Dimension Reduction Method
using Gaussian Processes
- arxiv url: http://arxiv.org/abs/2008.03534v2
- Date: Thu, 1 Jul 2021 14:59:07 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-01 09:12:42.290910
- Title: A Fully Bayesian Gradient-Free Supervised Dimension Reduction Method
using Gaussian Processes
- Title(参考訳): ガウス過程を用いた完全ベイズ勾配無監督次元削減法
- Authors: Raphael Gautier, Piyush Pandita, Sayan Ghosh, Dimitri Mavris
- Abstract要約: 提案手法は、低次元部分空間と代理モデルパラメータの両方の不確かさを定量化するため、勾配のない完全にベイズ的である。
工学と科学の複数のデータセットで検証され、他の2つの最先端の手法と比較される。
- 参考スコア(独自算出の注目度): 3.2636291418858474
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Modern day engineering problems are ubiquitously characterized by
sophisticated computer codes that map parameters or inputs to an underlying
physical process. In other situations, experimental setups are used to model
the physical process in a laboratory, ensuring high precision while being
costly in materials and logistics. In both scenarios, only limited amount of
data can be generated by querying the expensive information source at a finite
number of inputs or designs. This problem is compounded further in the presence
of a high-dimensional input space. State-of-the-art parameter space dimension
reduction methods, such as active subspace, aim to identify a subspace of the
original input space that is sufficient to explain the output response. These
methods are restricted by their reliance on gradient evaluations or copious
data, making them inadequate to expensive problems without direct access to
gradients. The proposed methodology is gradient-free and fully Bayesian, as it
quantifies uncertainty in both the low-dimensional subspace and the surrogate
model parameters. This enables a full quantification of epistemic uncertainty
and robustness to limited data availability. It is validated on multiple
datasets from engineering and science and compared to two other
state-of-the-art methods based on four aspects: a) recovery of the active
subspace, b) deterministic prediction accuracy, c) probabilistic prediction
accuracy, and d) training time. The comparison shows that the proposed method
improves the active subspace recovery and predictive accuracy, in both the
deterministic and probabilistic sense, when only few model observations are
available for training, at the cost of increased training time.
- Abstract(参考訳): 現代の工学的問題は、パラメータや入力を基礎となる物理プロセスにマッピングする洗練されたコンピュータコードによって普遍的に特徴づけられる。
他の状況では、実験室の物理過程をモデル化するために実験装置が使用され、材料や物流にコストがかかりながら高精度である。
どちらのシナリオでも、高価な情報ソースを有限個の入力や設計でクエリすることで、限られた量のデータしか生成できない。
この問題は、高次元の入力空間の存在下でさらに複合される。
アクティブ部分空間のような最先端のパラメータ空間次元減少手法は、出力応答を説明するのに十分な元の入力空間の部分空間を同定することを目的としている。
これらの手法は勾配評価やコーパスデータに依存しているため、勾配に直接アクセスすることなく高価な問題に不適当である。
提案手法は、低次元部分空間とサロゲートモデルパラメータの両方における不確かさを定量化するため、勾配フリーで完全にベイズ的である。
これにより、限られたデータ可用性に対する認識の不確実性と堅牢性の完全な定量化が可能になる。
工学と科学の複数のデータセットで検証され、他の2つの最先端の手法と比較される。
a) 活性部分空間の回復
b) 決定論的予測精度
c)確率的予測精度,及び
d) トレーニング時間。
提案手法は, トレーニング時間の増加を犠牲にして, モデル観測がほとんど得られていない場合, 決定論的・確率論的両意味で, アクティブな部分空間回復と予測精度の向上を図っている。
関連論文リスト
- Dimensionality reduction can be used as a surrogate model for
high-dimensional forward uncertainty quantification [3.218294891039672]
本研究では,不確実性定量化における次元減少の結果から代理モデルを構築する手法を提案する。
提案手法は次元減少の逐次的応用とは異なる。
提案手法は,高次元入力の不確かさを特徴とする2つの不確実性定量化問題によって実証される。
論文 参考訳(メタデータ) (2024-02-07T04:47:19Z) - Large-Scale OD Matrix Estimation with A Deep Learning Method [70.78575952309023]
提案手法は,ディープラーニングと数値最適化アルゴリズムを統合し,行列構造を推論し,数値最適化を導出する。
大規模合成データセットを用いて,提案手法の優れた一般化性能を実証するために実験を行った。
論文 参考訳(メタデータ) (2023-10-09T14:30:06Z) - A Metaheuristic for Amortized Search in High-Dimensional Parameter
Spaces [0.0]
本稿では,特徴インフォームド変換から次元還元を実現するメタヒューリスティックを提案する。
DR-FFITは、高次元空間における勾配自由パラメータ探索を容易にする効率的なサンプリング戦略を実装している。
実験データから,DR-FFITは,確立したメタヒューリスティックスに対するランダム検索とシミュレート・アニーリングの性能を向上させることが示された。
論文 参考訳(メタデータ) (2023-09-28T14:25:14Z) - Score-based Diffusion Models in Function Space [140.792362459734]
拡散モデルは、最近、生成モデリングの強力なフレームワークとして登場した。
本稿では,関数空間における拡散モデルをトレーニングするためのDDO(Denoising Diffusion Operators)という,数学的に厳密なフレームワークを提案する。
データ解像度に依存しない固定コストで、対応する離散化アルゴリズムが正確なサンプルを生成することを示す。
論文 参考訳(メタデータ) (2023-02-14T23:50:53Z) - Monte Carlo Neural PDE Solver for Learning PDEs via Probabilistic Representation [59.45669299295436]
教師なしニューラルソルバのトレーニングのためのモンテカルロPDEソルバを提案する。
我々は、マクロ現象をランダム粒子のアンサンブルとみなすPDEの確率的表現を用いる。
対流拡散, アレン・カーン, ナヴィエ・ストークス方程式に関する実験により, 精度と効率が著しく向上した。
論文 参考訳(メタデータ) (2023-02-10T08:05:19Z) - Extension of Dynamic Mode Decomposition for dynamic systems with
incomplete information based on t-model of optimal prediction [69.81996031777717]
動的モード分解は、動的データを研究するための非常に効率的な手法であることが証明された。
このアプローチの適用は、利用可能なデータが不完全である場合に問題となる。
本稿では,森-Zwanzig分解の1次近似を考察し,対応する最適化問題を記述し,勾配に基づく最適化法を用いて解く。
論文 参考訳(メタデータ) (2022-02-23T11:23:59Z) - A survey of unsupervised learning methods for high-dimensional
uncertainty quantification in black-box-type problems [0.0]
複素偏微分方程式(PPDE)上の量子化不確実性(UQ)のための代理モデルを構築する。
次元性の呪いは、適切な教師なし学習技術で使用される事前次元の部分空間である。
我々は,m-PCEモデルの利点と限界を実証し,m-PCEモデルが深部部分空間に対するコスト効率の良いアプローチを提供すると結論付けた。
論文 参考訳(メタデータ) (2022-02-09T16:33:40Z) - Manifold learning-based polynomial chaos expansions for high-dimensional
surrogate models [0.0]
システム記述における不確実性定量化(UQ)のための多様体学習に基づく手法を提案する。
提案手法は高精度な近似を達成でき、UQタスクの大幅な高速化につながる。
論文 参考訳(メタデータ) (2021-07-21T00:24:15Z) - Learning Functional Priors and Posteriors from Data and Physics [3.537267195871802]
我々は、歴史的データを用いて時空の露光を可能にするディープニューラルネットワークに基づく新しいフレームワークを開発した。
物理インフォームド・ジェネレーティブ・アダクティブ・アダクティブ・ネットワーク(PI-GAN)を用いて機能的事前学習を行う。
第2段階では, PI-GANの潜伏空間の後方を推定するために, ハミルトニアンモンテカルロ法(HMC)を用いる。
論文 参考訳(メタデータ) (2021-06-08T03:03:24Z) - Scalable Marginal Likelihood Estimation for Model Selection in Deep
Learning [78.83598532168256]
階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。
本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
論文 参考訳(メタデータ) (2021-04-11T09:50:24Z) - Evidential Sparsification of Multimodal Latent Spaces in Conditional
Variational Autoencoders [63.46738617561255]
訓練された条件付き変分オートエンコーダの離散潜時空間をスパース化する問題を考察する。
顕在的理論を用いて、特定の入力条件から直接証拠を受け取る潜在クラスを特定し、そうでないクラスをフィルタリングする。
画像生成や人間の行動予測などの多様なタスクの実験により,提案手法の有効性を実証した。
論文 参考訳(メタデータ) (2020-10-19T01:27:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。