論文の概要: Differentiable Multi-Fidelity Fusion: Efficient Learning of Physics
Simulations with Neural Architecture Search and Transfer Learning
- arxiv url: http://arxiv.org/abs/2306.06904v1
- Date: Mon, 12 Jun 2023 07:18:13 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-13 15:48:25.269067
- Title: Differentiable Multi-Fidelity Fusion: Efficient Learning of Physics
Simulations with Neural Architecture Search and Transfer Learning
- Title（参考訳）: 微分可能多重忠実融合:ニューラルネットワークによる物理シミュレーションの効率的な学習と伝達学習
- Authors: Yuwen Deng, Wang Kang, Wei W. Xing
- Abstract要約: ニューラル・アーキテクチャ・サーチ(NAS)を利用して、異なる問題に対する適切なモデル・アーキテクチャを自動的に探索する微分可能なmf(DMF)モデルを提案する。
DMFは、少数の高忠実度トレーニングサンプルで物理シミュレーションを効率よく学習することができ、最先端の手法よりも優れたマージンを持つ。
- 参考スコア（独自算出の注目度）: 1.0024450637989093
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: With rapid progress in deep learning, neural networks have been widely used
in scientific research and engineering applications as surrogate models.
Despite the great success of neural networks in fitting complex systems, two
major challenges still remain: i) the lack of generalization on different
problems/datasets, and ii) the demand for large amounts of simulation data that
are computationally expensive. To resolve these challenges, we propose the
differentiable \mf (DMF) model, which leverages neural architecture search
(NAS) to automatically search the suitable model architecture for different
problems, and transfer learning to transfer the learned knowledge from
low-fidelity (fast but inaccurate) data to high-fidelity (slow but accurate)
model. Novel and latest machine learning techniques such as hyperparameters
search and alternate learning are used to improve the efficiency and robustness
of DMF. As a result, DMF can efficiently learn the physics simulations with
only a few high-fidelity training samples, and outperform the state-of-the-art
methods with a significant margin (with up to 58$\%$ improvement in RMSE) based
on a variety of synthetic and practical benchmark problems.
- Abstract（参考訳）: ディープラーニングの急速な進歩により、ニューラルネットワークはサロゲートモデルとして科学研究や工学応用に広く利用されている。
複雑なシステムに適合するニューラルネットワークの大きな成功にもかかわらず、依然として2つの大きな課題が残っている。
一 異なる問題又はデータセットの一般化の欠如、及び
二 計算上費用がかかる大量のシミュレーションデータの需要
これらの課題を解決するために、ニューラルアーキテクチャ探索(NAS)を活用して、異なる問題に適したモデルアーキテクチャを自動的に探索し、学習を低忠実(高速だが不正確な)データから高忠実(スローだが正確な)モデルへ変換する、微分可能な \mf (DMF) モデルを提案する。
DMFの効率性と堅牢性を改善するために,ハイパーパラメータ探索や代替学習などの新しい機械学習技術が用いられている。
その結果、DMFは、少数の高忠実度トレーニングサンプルで物理シミュレーションを効率よく学習することができ、様々な総合的および実用的なベンチマーク問題に基づいて、最先端の手法(最大58$\%のRMSEの改善)よりも優れている。
関連論文リスト
- Learning Controllable Adaptive Simulation for Multi-resolution Physics [86.8993558124143]
完全深層学習に基づくサロゲートモデルとして,LAMP(Learning Controllable Adaptive Simulation for Multi- resolution Physics)を導入した。
LAMPは、前方進化を学習するためのグラフニューラルネットワーク(GNN)と、空間的洗練と粗大化のポリシーを学ぶためのGNNベースのアクター批判で構成されている。
我々は,LAMPが最先端のディープラーニングサロゲートモデルより優れており,長期予測誤差を改善するために,適応的なトレードオフ計算が可能であることを実証した。
論文 参考訳（メタデータ） (2023-05-01T23:20:27Z) - On Robust Numerical Solver for ODE via Self-Attention Mechanism [82.95493796476767]
我々は,内在性雑音障害を緩和し,AIによって強化された数値解法を,データサイズを小さくする訓練について検討する。
まず,教師付き学習における雑音を制御するための自己認識機構の能力を解析し,さらに微分方程式の数値解に付加的な自己認識機構を導入し,簡便かつ有効な数値解法であるAttrを提案する。
論文 参考訳（メタデータ） (2023-02-05T01:39:21Z) - Multi-fidelity surrogate modeling using long short-term memory networks [0.0]
パラメタライズされた時間依存問題に対する多要素代理モデリングの新しいデータ駆動フレームワークを提案する。
提案した多要素LSTMネットワークは, シングルフィデリティ回帰を著しく向上するだけでなく, フィードフォワードニューラルネットワークに基づくマルチフィデリティモデルよりも優れていることを示す。
論文 参考訳（メタデータ） (2022-08-05T12:05:02Z) - Multi-fidelity Hierarchical Neural Processes [79.0284780825048]
多要素代理モデリングは、異なるシミュレーション出力を融合させることで計算コストを削減する。
本稿では,多階層型階層型ニューラルネットワーク(MF-HNP)を提案する。
疫学および気候モデリングタスクにおけるMF-HNPの評価を行い、精度と不確実性評価の観点から競合性能を達成した。
論文 参考訳（メタデータ） (2022-06-10T04:54:13Z) - Constructing Neural Network-Based Models for Simulating Dynamical
Systems [59.0861954179401]
データ駆動モデリングは、真のシステムの観測からシステムの力学の近似を学ぼうとする代替パラダイムである。
本稿では,ニューラルネットワークを用いた動的システムのモデル構築方法について検討する。
基礎的な概要に加えて、関連する文献を概説し、このモデリングパラダイムが克服すべき数値シミュレーションから最も重要な課題を概説する。
論文 参考訳（メタデータ） (2021-11-02T10:51:42Z) - Efficient Model-Based Multi-Agent Mean-Field Reinforcement Learning [89.31889875864599]
マルチエージェントシステムにおける学習に有効なモデルベース強化学習アルゴリズムを提案する。
我々の理論的な貢献は、MFCのモデルベース強化学習における最初の一般的な後悔の限界である。
コア最適化問題の実用的なパラメトリゼーションを提供する。
論文 参考訳（メタデータ） (2021-07-08T18:01:02Z) - Model-Based Deep Learning [155.063817656602]
信号処理、通信、制御は伝統的に古典的な統計モデリング技術に依存している。
ディープニューラルネットワーク(DNN)は、データから操作を学ぶ汎用アーキテクチャを使用し、優れたパフォーマンスを示す。
私たちは、原理数学モデルとデータ駆動システムを組み合わせて両方のアプローチの利点を享受するハイブリッド技術に興味があります。
論文 参考訳（メタデータ） (2020-12-15T16:29:49Z) - Learning Mesh-Based Simulation with Graph Networks [20.29893312074383]
グラフニューラルネットワークを用いたメッシュベースのシミュレーション学習フレームワークであるMeshGraphNetsを紹介する。
その結果, 空気力学, 構造力学, 布など, 幅広い物理系の力学を正確に予測できることがわかった。
論文 参考訳（メタデータ） (2020-10-07T13:34:49Z) - Modeling System Dynamics with Physics-Informed Neural Networks Based on
Lagrangian Mechanics [3.214927790437842]
第一原則の手法は高いバイアスに悩まされるが、データ駆動モデリングは高いばらつきを持つ傾向がある。
本稿では,2つのモデリング手法を組み合わせて上記の問題を解くハイブリッドモデルであるPINODEについて述べる。
本研究の目的は,機械系のモデルベース制御とシステム同定である。
論文 参考訳（メタデータ） (2020-05-29T15:10:43Z) - Transfer learning based multi-fidelity physics informed deep neural
network [0.0]
支配微分方程式は、近似的な意味では知られていないか、知られているかのどちらかである。
本稿では,深部ニューラルネットワーク(MF-PIDNN)を用いた多要素物理について述べる。
MF-PIDNNは、転送学習の概念を用いて、物理情報とデータ駆動型ディープラーニング技術をブレンドする。
論文 参考訳（メタデータ） (2020-05-19T13:57:48Z) - Real-time Federated Evolutionary Neural Architecture Search [14.099753950531456]
フェデレーション学習(Federated Learning)は、プライバシ保護のための分散機械学習アプローチである。
本稿では、モデル性能を最適化するだけでなく、局所的なペイロードを削減するリアルタイムフェデレーションニューラルネットワーク探索への進化的アプローチを提案する。
このようにして、進化的最適化に必要な計算・通信コストを効果的に削減し、局所モデルの大きな性能変動を回避する。
論文 参考訳（メタデータ） (2020-03-04T17:03:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。