論文の概要: Multi-Fidelity Residual Neural Processes for Scalable Surrogate Modeling

• arxiv url: http://arxiv.org/abs/2402.18846v1
• Date: Thu, 29 Feb 2024 04:40:25 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-01 16:00:21.381410
• Title: Multi-Fidelity Residual Neural Processes for Scalable Surrogate Modeling
• Title（参考訳）: スケーラブルサロゲートモデリングのための多面的残留ニューラルネットワークプロセス
• Authors: Ruijia Niu, Dongxia Wu, Kai Kim, Yi-An Ma, Duncan Watson-Parris, Rose Yu
• Abstract要約: マルチフィデリティ・サロゲートモデリングは,複数の情報源からのデータを組み合わせることで,最も高いフィデリティレベルで正確なサロゲートを学習することを目的としている。 ディープラーニングアプローチでは、ニューラルネットワークベースのエンコーダとデコーダを使用してスケーラビリティを向上させる。 我々は,MFRNP(Multi-fidelity Residual Neural Processs)が偏微分方程式の学習や実世界の気候モデリングのタスクにおいて,現状を著しく上回ることを示す。
• 参考スコア（独自算出の注目度）: 20.76939585108783
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multi-fidelity surrogate modeling aims to learn an accurate surrogate at the highest fidelity level by combining data from multiple sources. Traditional methods relying on Gaussian processes can hardly scale to high-dimensional data. Deep learning approaches utilize neural network based encoders and decoders to improve scalability. These approaches share encoded representations across fidelities without including corresponding decoder parameters. At the highest fidelity, the representations are decoded with different parameters, making the shared information inherently inaccurate. This hinders inference performance, especially in out-of-distribution scenarios when the highest fidelity data has limited domain coverage. To address these limitations, we propose Multi-fidelity Residual Neural Processes (MFRNP), a novel multi-fidelity surrogate modeling framework. MFRNP optimizes lower fidelity decoders for accurate information sharing by aggregating lower fidelity surrogate outputs and models residual between the aggregation and ground truth on the highest fidelity. We show that MFRNP significantly outperforms current state-of-the-art in learning partial differential equations and a real-world climate modeling task.
• Abstract（参考訳）: マルチフィデリティ・サロゲートモデリングは,複数の情報源からのデータを組み合わせて,最も高いフィデリティレベルで正確なサロゲートを学習することを目的としている。 ガウス過程に依存する伝統的な手法は、高次元データにはほとんどスケールできない。 ディープラーニングアプローチでは、ニューラルネットワークベースのエンコーダとデコーダを使用してスケーラビリティを向上させる。 これらのアプローチは、対応するデコーダパラメータを含まずに、fidelityにまたがるエンコード表現を共有する。 高い忠実度では、表現は異なるパラメータでデコードされ、共有された情報が本質的に不正確になる。 これにより、特に最も高い忠実度データがドメインカバレッジに制限がある場合、予測性能が阻害される。 これらの制約に対処するために,我々は,新しいマルチフィデリティサーロゲートモデリングフレームワークであるmulti-fidelity residual neural processes (mfrnp)を提案する。 MFRNPは、低忠実度サロゲート出力を集約することで正確な情報共有のための低忠実度デコーダを最適化し、最も高い忠実度におけるアグリゲーションと基底真理の間の残差をモデル化する。 MFRNPは、偏微分方程式の学習や実世界の気候モデリングタスクにおいて、現在の最先端技術よりも著しく優れていることを示す。

関連論文リスト

• Practical multi-fidelity machine learning: fusion of deterministic and Bayesian models [0.34592277400656235]
  マルチフィデリティ機械学習手法は、少ないリソース集約型高フィデリティデータと、豊富なが精度の低い低フィデリティデータを統合する。 低次元領域と高次元領域にまたがる問題に対する実用的多面性戦略を提案する。
  論文  参考訳（メタデータ） (2024-07-21T10:40:50Z)
• Model Inversion Attacks Through Target-Specific Conditional Diffusion Models [54.69008212790426]
  モデル反転攻撃(MIA)は、ターゲット分類器のトレーニングセットからプライベートイメージを再構築することを目的としており、それによってAIアプリケーションにおけるプライバシー上の懸念が高まる。 従来のGANベースのMIAは、GANの固有の欠陥と潜伏空間における最適化の偏りにより、劣った遺伝子的忠実度に悩まされる傾向にある。 これらの問題を緩和するために拡散モデル反転(Diff-MI)攻撃を提案する。
  論文  参考訳（メタデータ） (2024-07-16T06:38:49Z)
• Hierarchical Integration Diffusion Model for Realistic Image Deblurring [71.76410266003917]
  拡散モデル (DM) は画像劣化に導入され, 有望な性能を示した。 本稿では,階層型統合拡散モデル(HI-Diff)を提案する。 人工的および実世界のぼかしデータセットの実験は、HI-Diffが最先端の手法より優れていることを示した。
  論文  参考訳（メタデータ） (2023-05-22T12:18:20Z)
• Disentangled Multi-Fidelity Deep Bayesian Active Learning [19.031567953748453]
  マルチ忠実能動学習は、入力パラメータからシミュレーション出力への直接マッピングを最も高い忠実度で学習することを目的としている。 深層学習に基づく手法は、しばしば隠れ表現に階層構造を課し、低忠実度から高忠実度への情報伝達のみをサポートする。 本稿では,D-MFDAL(Disentangled Multi-fidelity Deep Bayesian Active Learning)と呼ばれる新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-05-07T23:14:58Z)
• Enhancing Multiple Reliability Measures via Nuisance-extended Information Bottleneck [77.37409441129995]
  トレーニングデータに制限がある現実的なシナリオでは、データ内の多くの予測信号は、データ取得のバイアスからより多く得る。 我々は,相互情報制約の下で,より広い範囲の摂動をカバーできる敵の脅威モデルを考える。 そこで本研究では,その目的を実現するためのオートエンコーダベーストレーニングと,提案したハイブリッド識別世代学習を促進するための実用的なエンコーダ設計を提案する。
  論文  参考訳（メタデータ） (2023-03-24T16:03:21Z)
• Multi-fidelity surrogate modeling using long short-term memory networks [0.0]
  パラメタライズされた時間依存問題に対する多要素代理モデリングの新しいデータ駆動フレームワークを提案する。 提案した多要素LSTMネットワークは, シングルフィデリティ回帰を著しく向上するだけでなく, フィードフォワードニューラルネットワークに基づくマルチフィデリティモデルよりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-08-05T12:05:02Z)
• Multi-fidelity Hierarchical Neural Processes [79.0284780825048]
  多要素代理モデリングは、異なるシミュレーション出力を融合させることで計算コストを削減する。 本稿では,多階層型階層型ニューラルネットワーク(MF-HNP)を提案する。 疫学および気候モデリングタスクにおけるMF-HNPの評価を行い、精度と不確実性評価の観点から競合性能を達成した。
  論文  参考訳（メタデータ） (2022-06-10T04:54:13Z)
• Multi-fidelity regression using artificial neural networks: efficient approximation of parameter-dependent output quantities [0.17499351967216337]
  本稿では,多元性回帰問題に対するニューラルネットワークの利用について述べる。 導入されたモデルは、従来のマルチファイアリティスキームと比較されます。 また、工学的問題に対するマルチファイダリグレッションの適用も示します。
  論文  参考訳（メタデータ） (2021-02-26T11:29:00Z)
• Diversity inducing Information Bottleneck in Model Ensembles [73.80615604822435]
  本稿では,予測の多様性を奨励することで,ニューラルネットワークの効果的なアンサンブルを生成する問題をターゲットにする。 そこで本研究では,潜伏変数の学習における逆損失の多様性を明示的に最適化し,マルチモーダルデータのモデリングに必要な出力予測の多様性を得る。 最も競争力のあるベースラインと比較して、データ分布の変化の下で、分類精度が大幅に向上した。
  論文  参考訳（メタデータ） (2020-03-10T03:10:41Z)
• Model Fusion via Optimal Transport [64.13185244219353]
  ニューラルネットワークのための階層モデル融合アルゴリズムを提案する。 これは、不均一な非i.d.データに基づいてトレーニングされたニューラルネットワーク間での"ワンショット"な知識伝達に成功していることを示す。
  論文  参考訳（メタデータ） (2019-10-12T22:07:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。