論文の概要: Multi-fidelity surrogate modeling using long short-term memory networks
- arxiv url: http://arxiv.org/abs/2208.03115v1
- Date: Fri, 5 Aug 2022 12:05:02 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-08 13:20:19.213905
- Title: Multi-fidelity surrogate modeling using long short-term memory networks
- Title(参考訳): 長期短期記憶ネットワークを用いたマルチ忠実度サロゲートモデリング
- Authors: Paolo Conti, Mengwu Guo, Andrea Manzoni, Jan S. Hesthaven
- Abstract要約: パラメタライズされた時間依存問題に対する多要素代理モデリングの新しいデータ駆動フレームワークを提案する。
提案した多要素LSTMネットワークは, シングルフィデリティ回帰を著しく向上するだけでなく, フィードフォワードニューラルネットワークに基づくマルチフィデリティモデルよりも優れていることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: When evaluating quantities of interest that depend on the solutions to
differential equations, we inevitably face the trade-off between accuracy and
efficiency. Especially for parametrized, time dependent problems in engineering
computations, it is often the case that acceptable computational budgets limit
the availability of high-fidelity, accurate simulation data. Multi-fidelity
surrogate modeling has emerged as an effective strategy to overcome this
difficulty. Its key idea is to leverage many low-fidelity simulation data, less
accurate but much faster to compute, to improve the approximations with limited
high-fidelity data. In this work, we introduce a novel data-driven framework of
multi-fidelity surrogate modeling for parametrized, time-dependent problems
using long short-term memory (LSTM) networks, to enhance output predictions
both for unseen parameter values and forward in time simultaneously - a task
known to be particularly challenging for data-driven models. We demonstrate the
wide applicability of the proposed approaches in a variety of engineering
problems with high- and low-fidelity data generated through fine versus coarse
meshes, small versus large time steps, or finite element full-order versus deep
learning reduced-order models. Numerical results show that the proposed
multi-fidelity LSTM networks not only improve single-fidelity regression
significantly, but also outperform the multi-fidelity models based on
feed-forward neural networks.
- Abstract(参考訳): 微分方程式の解に依存する関心量を評価するとき、我々は必然的に精度と効率のトレードオフに直面している。
特に、工学計算における時間依存問題において、許容可能な計算予算が高忠実度で正確なシミュレーションデータの可用性を制限する場合が多い。
この困難を克服するための効果的な戦略としてマルチフィデリティ・サロゲート・モデリングが登場している。
鍵となるアイデアは、多くの低忠実度シミュレーションデータを活用することであり、精度は低いが計算がはるかに速く、限られた高忠実度データで近似を改善することである。
本研究では,長期短期記憶(LSTM)ネットワークを用いたパラメータ化・時間依存問題に対する多要素サロゲートモデリングのための新しいデータ駆動型フレームワークを提案する。
提案手法は,細粒度と粗いメッシュ,小段と大段の時間ステップ,有限要素の完全順序と深度学習の低次モデルによって生成される,多種多様な工学的問題に適用可能であることを示す。
数値計算の結果,提案したマルチフィデリティLSTMネットワークはシングルフィデリティ回帰を著しく改善するだけでなく,フィードフォワードニューラルネットワークに基づくマルチフィデリティモデルよりも優れていた。
関連論文リスト
- TimeSieve: Extracting Temporal Dynamics through Information Bottlenecks [31.10683149519954]
本稿では,時系列予測モデルTimeSieveを提案する。
提案手法では、ウェーブレット変換を用いて時系列データを前処理し、マルチスケールの特徴を効果的にキャプチャする。
本研究は,時系列予測における課題に対処するためのアプローチの有効性を検証した。
論文 参考訳(メタデータ) (2024-06-07T15:58:12Z) - Multi-Fidelity Residual Neural Processes for Scalable Surrogate Modeling [19.60087366873302]
マルチフィデリティ・サロゲートモデリングは,最も高いフィデリティレベルで正確なサロゲートを学習することを目的としている。
ディープラーニングアプローチでは、ニューラルネットワークベースのエンコーダとデコーダを使用してスケーラビリティを向上させる。
本稿では,MFRNP(Multi-fidelity Residual Neural Processs)を提案する。
論文 参考訳(メタデータ) (2024-02-29T04:40:25Z) - Multi-fidelity reduced-order surrogate modeling [5.346062841242067]
我々は,次元削減と多要素ニューラルネットワークのサロゲートを組み合わせた新しいデータ駆動型戦略を提案する。
このサロゲート法により不安定性と過渡性の開始が良好に捉えられることを示す。
論文 参考訳(メタデータ) (2023-09-01T08:16:53Z) - To Repeat or Not To Repeat: Insights from Scaling LLM under Token-Crisis [50.31589712761807]
大規模言語モデル(LLM)は、事前トレーニング中にトークンに悩まされていることで知られており、Web上の高品質なテキストデータは、LSMのスケーリング制限に近づいている。
本研究では,事前学習データの再学習の結果について検討し,モデルが過度に適合する可能性が示唆された。
第2に, マルチエポック劣化の原因となる要因について検討し, データセットのサイズ, モデルパラメータ, トレーニング目標など, 重要な要因について検討した。
論文 参考訳(メタデータ) (2023-05-22T17:02:15Z) - Multi-fidelity Hierarchical Neural Processes [79.0284780825048]
多要素代理モデリングは、異なるシミュレーション出力を融合させることで計算コストを削減する。
本稿では,多階層型階層型ニューラルネットワーク(MF-HNP)を提案する。
疫学および気候モデリングタスクにおけるMF-HNPの評価を行い、精度と不確実性評価の観点から競合性能を達成した。
論文 参考訳(メタデータ) (2022-06-10T04:54:13Z) - Multi-scale Attention Flow for Probabilistic Time Series Forecasting [68.20798558048678]
マルチスケールアテンション正規化フロー(MANF)と呼ばれる非自己回帰型ディープラーニングモデルを提案する。
我々のモデルは累積誤差の影響を回避し、時間の複雑さを増大させない。
本モデルは,多くの多変量データセット上での最先端性能を実現する。
論文 参考訳(メタデータ) (2022-05-16T07:53:42Z) - Adaptive Anomaly Detection for Internet of Things in Hierarchical Edge
Computing: A Contextual-Bandit Approach [81.5261621619557]
階層エッジコンピューティング(HEC)を用いた適応型異常検出手法を提案する。
まず,複雑性を増した複数のDNNモデルを構築し,それぞれを対応するHEC層に関連付ける。
そこで我々は、文脈帯域問題として定式化され、強化学習ポリシーネットワークを用いて解決される適応モデル選択スキームを設計する。
論文 参考訳(メタデータ) (2021-08-09T08:45:47Z) - Closed-form Continuous-Depth Models [99.40335716948101]
連続深度ニューラルモデルは高度な数値微分方程式解法に依存している。
我々は,CfCネットワークと呼ばれる,記述が簡単で,少なくとも1桁高速な新しいモデル群を提示する。
論文 参考訳(メタデータ) (2021-06-25T22:08:51Z) - Multi-fidelity regression using artificial neural networks: efficient
approximation of parameter-dependent output quantities [0.17499351967216337]
本稿では,多元性回帰問題に対するニューラルネットワークの利用について述べる。
導入されたモデルは、従来のマルチファイアリティスキームと比較されます。
また、工学的問題に対するマルチファイダリグレッションの適用も示します。
論文 参考訳(メタデータ) (2021-02-26T11:29:00Z) - Neural Closure Models for Dynamical Systems [35.000303827255024]
低忠実度モデルに対する非マルコフ閉閉パラメータ化を学習する新しい手法を開発した。
ニューラルクロージャモデル」はニューラル遅延微分方程式(nDDE)を用いた低忠実度モデルを強化する
非マルコヴィアンオーバーマルコヴィアンクロージャを使用することで、長期的精度が向上し、より小さなネットワークが必要であることを示した。
論文 参考訳(メタデータ) (2020-12-27T05:55:33Z) - Optimization-driven Machine Learning for Intelligent Reflecting Surfaces
Assisted Wireless Networks [82.33619654835348]
インテリジェントサーフェス(IRS)は、個々の散乱素子の位相シフトを制御して無線チャネルを再形成するために用いられる。
散乱素子の規模が大きいため、受動ビームフォーミングは一般に高い計算複雑性によって挑戦される。
本稿では、IRS支援無線ネットワークの性能向上のための機械学習(ML)アプローチに焦点を当てる。
論文 参考訳(メタデータ) (2020-08-29T08:39:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。