論文の概要: Multi-Fidelity Residual Neural Processes for Scalable Surrogate Modeling

• arxiv url: http://arxiv.org/abs/2402.18846v2
• Date: Mon, 24 Jun 2024 04:33:30 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-26 01:41:44.319117
• Title: Multi-Fidelity Residual Neural Processes for Scalable Surrogate Modeling
• Title（参考訳）: スケーラブルサロゲートモデリングのための多面的残留ニューラルネットワークプロセス
• Authors: Ruijia Niu, Dongxia Wu, Kai Kim, Yi-An Ma, Duncan Watson-Parris, Rose Yu,
• Abstract要約: マルチフィデリティ・サロゲートモデリングは,最も高いフィデリティレベルで正確なサロゲートを学習することを目的としている。 ディープラーニングアプローチでは、ニューラルネットワークベースのエンコーダとデコーダを使用してスケーラビリティを向上させる。 本稿では,MFRNP(Multi-fidelity Residual Neural Processs)を提案する。
• 参考スコア（独自算出の注目度）: 19.60087366873302
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multi-fidelity surrogate modeling aims to learn an accurate surrogate at the highest fidelity level by combining data from multiple sources. Traditional methods relying on Gaussian processes can hardly scale to high-dimensional data. Deep learning approaches utilize neural network based encoders and decoders to improve scalability. These approaches share encoded representations across fidelities without including corresponding decoder parameters. This hinders inference performance, especially in out-of-distribution scenarios when the highest fidelity data has limited domain coverage. To address these limitations, we propose Multi-fidelity Residual Neural Processes (MFRNP), a novel multi-fidelity surrogate modeling framework. MFRNP explicitly models the residual between the aggregated output from lower fidelities and ground truth at the highest fidelity. The aggregation introduces decoders into the information sharing step and optimizes lower fidelity decoders to accurately capture both in-fidelity and cross-fidelity information. We show that MFRNP significantly outperforms state-of-the-art in learning partial differential equations and a real-world climate modeling task. Our code is published at: https://github.com/Rose-STL-Lab/MFRNP
• Abstract（参考訳）: マルチフィデリティ・サロゲートモデリングは,複数の情報源からのデータを組み合わせることで,最も高いフィデリティレベルで正確なサロゲートを学習することを目的としている。 ガウス過程に依存する従来の手法は、高次元のデータにはほとんどスケールできない。 ディープラーニングアプローチでは、ニューラルネットワークベースのエンコーダとデコーダを使用してスケーラビリティを向上させる。 これらのアプローチは、対応するデコーダパラメータを含めることなく、忠実度間で符号化された表現を共有する。 これにより、特に最も高い忠実度データがドメインカバレッジに制限がある場合、分散外のシナリオでは、推論のパフォーマンスが妨げられます。 これらの制約に対処するため、我々はMFRNP(Multi-fidelity Residual Neural Processs)を提案する。 MFRNPは、低い忠実度からの集約された出力と最も高い忠実度における基底真理の間の残差を明示的にモデル化する。 このアグリゲーションは、情報共有ステップにデコーダを導入し、低いフィデリティデコーダを最適化して、インフィデリティ情報とクロスフィデリティ情報の両方を正確にキャプチャする。 MFRNPは、偏微分方程式の学習や実世界の気候モデリングタスクにおいて、最先端の手法よりも優れていることを示す。 私たちのコードは、https://github.com/Rose-STL-Lab/MFRNPで公開されています。

関連論文リスト

• Practical multi-fidelity machine learning: fusion of deterministic and Bayesian models [0.34592277400656235]
  マルチフィデリティ機械学習手法は、少ないリソース集約型高フィデリティデータと、豊富なが精度の低い低フィデリティデータを統合する。 低次元領域と高次元領域にまたがる問題に対する実用的多面性戦略を提案する。
  論文  参考訳（メタデータ） (2024-07-21T10:40:50Z)
• Model Inversion Attacks Through Target-Specific Conditional Diffusion Models [54.69008212790426]
  モデル反転攻撃(MIA)は、ターゲット分類器のトレーニングセットからプライベートイメージを再構築することを目的としており、それによってAIアプリケーションにおけるプライバシー上の懸念が高まる。 従来のGANベースのMIAは、GANの固有の欠陥と潜伏空間における最適化の偏りにより、劣った遺伝子的忠実度に悩まされる傾向にある。 これらの問題を緩和するために拡散モデル反転(Diff-MI)攻撃を提案する。
  論文  参考訳（メタデータ） (2024-07-16T06:38:49Z)
• Hierarchical Integration Diffusion Model for Realistic Image Deblurring [71.76410266003917]
  拡散モデル (DM) は画像劣化に導入され, 有望な性能を示した。 本稿では,階層型統合拡散モデル(HI-Diff)を提案する。 人工的および実世界のぼかしデータセットの実験は、HI-Diffが最先端の手法より優れていることを示した。
  論文  参考訳（メタデータ） (2023-05-22T12:18:20Z)
• Disentangled Multi-Fidelity Deep Bayesian Active Learning [19.031567953748453]
  マルチ忠実能動学習は、入力パラメータからシミュレーション出力への直接マッピングを最も高い忠実度で学習することを目的としている。 深層学習に基づく手法は、しばしば隠れ表現に階層構造を課し、低忠実度から高忠実度への情報伝達のみをサポートする。 本稿では,D-MFDAL(Disentangled Multi-fidelity Deep Bayesian Active Learning)と呼ばれる新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-05-07T23:14:58Z)
• Enhancing Multiple Reliability Measures via Nuisance-extended Information Bottleneck [77.37409441129995]
  トレーニングデータに制限がある現実的なシナリオでは、データ内の多くの予測信号は、データ取得のバイアスからより多く得る。 我々は,相互情報制約の下で,より広い範囲の摂動をカバーできる敵の脅威モデルを考える。 そこで本研究では,その目的を実現するためのオートエンコーダベーストレーニングと,提案したハイブリッド識別世代学習を促進するための実用的なエンコーダ設計を提案する。
  論文  参考訳（メタデータ） (2023-03-24T16:03:21Z)
• Multi-fidelity surrogate modeling using long short-term memory networks [0.0]
  パラメタライズされた時間依存問題に対する多要素代理モデリングの新しいデータ駆動フレームワークを提案する。 提案した多要素LSTMネットワークは, シングルフィデリティ回帰を著しく向上するだけでなく, フィードフォワードニューラルネットワークに基づくマルチフィデリティモデルよりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-08-05T12:05:02Z)
• Multi-fidelity Hierarchical Neural Processes [79.0284780825048]
  多要素代理モデリングは、異なるシミュレーション出力を融合させることで計算コストを削減する。 本稿では,多階層型階層型ニューラルネットワーク(MF-HNP)を提案する。 疫学および気候モデリングタスクにおけるMF-HNPの評価を行い、精度と不確実性評価の観点から競合性能を達成した。
  論文  参考訳（メタデータ） (2022-06-10T04:54:13Z)
• Multi-fidelity regression using artificial neural networks: efficient approximation of parameter-dependent output quantities [0.17499351967216337]
  本稿では,多元性回帰問題に対するニューラルネットワークの利用について述べる。 導入されたモデルは、従来のマルチファイアリティスキームと比較されます。 また、工学的問題に対するマルチファイダリグレッションの適用も示します。
  論文  参考訳（メタデータ） (2021-02-26T11:29:00Z)
• Diversity inducing Information Bottleneck in Model Ensembles [73.80615604822435]
  本稿では,予測の多様性を奨励することで,ニューラルネットワークの効果的なアンサンブルを生成する問題をターゲットにする。 そこで本研究では,潜伏変数の学習における逆損失の多様性を明示的に最適化し,マルチモーダルデータのモデリングに必要な出力予測の多様性を得る。 最も競争力のあるベースラインと比較して、データ分布の変化の下で、分類精度が大幅に向上した。
  論文  参考訳（メタデータ） (2020-03-10T03:10:41Z)
• Model Fusion via Optimal Transport [64.13185244219353]
  ニューラルネットワークのための階層モデル融合アルゴリズムを提案する。 これは、不均一な非i.d.データに基づいてトレーニングされたニューラルネットワーク間での"ワンショット"な知識伝達に成功していることを示す。
  論文  参考訳（メタデータ） (2019-10-12T22:07:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。