論文の概要: LE-PDE++: Mamba for accelerating PDEs Simulations

• arxiv url: http://arxiv.org/abs/2411.01897v2
• Date: Tue, 12 Nov 2024 16:48:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-13 13:18:20.569346
• Title: LE-PDE++: Mamba for accelerating PDEs Simulations
• Title（参考訳）: LE-PDE++: PDEシミュレーションを高速化するMamba
• Authors: Aoming Liang, Zhaoyang Mu, Qi liu, Ruipeng Li, Mingming Ge, Dixia Fan,
• Abstract要約: PDEの潜在進化法は、古典的および深層学習に基づくPDEソルバの計算強度に対処するように設計されている。 本手法は, LE-PDEと比較して推定速度を2倍にし, パラメータ効率を同じレベルに維持する。
• 参考スコア（独自算出の注目度）: 4.7505178698234625
• License:
• Abstract: Partial Differential Equations are foundational in modeling science and natural systems such as fluid dynamics and weather forecasting. The Latent Evolution of PDEs method is designed to address the computational intensity of classical and deep learning-based PDE solvers by proposing a scalable and efficient alternative. To enhance the efficiency and accuracy of LE-PDE, we incorporate the Mamba model, an advanced machine learning model known for its predictive efficiency and robustness in handling complex dynamic systems with a progressive learning strategy. The LE-PDE was tested on several benchmark problems. The method demonstrated a marked reduction in computational time compared to traditional solvers and standalone deep learning models while maintaining high accuracy in predicting system behavior over time. Our method doubles the inference speed compared to the LE-PDE while retaining the same level of parameter efficiency, making it well-suited for scenarios requiring long-term predictions.
• Abstract（参考訳）: 部分微分方程式は、流体力学や天気予報といった自然システムや科学のモデリングの基礎となっている。 The Latent Evolution of PDEs method is designed to address the compute intensity of classical and deep learning-based PDE solver by proposing a scalable and efficient alternative。 LE-PDEの効率性と精度を高めるため,先進的な学習戦略で複雑な力学系を扱う際の予測効率と堅牢性で知られる高度な機械学習モデルであるMambaモデルを組み込んだ。 LE-PDEはいくつかのベンチマーク問題でテストされた。 従来の解法やスタンドアロンのディープラーニングモデルと比較して計算時間を著しく短縮すると同時に,時間とともにシステムの挙動を予測する上で高い精度を維持した。 提案手法は, LE-PDEと比較して, 同じパラメータ効率を維持しながら推定速度を2倍にし, 長期予測を必要とするシナリオに適している。

関連論文リスト

• DSMoE: Matrix-Partitioned Experts with Dynamic Routing for Computation-Efficient Dense LLMs [70.91804882618243]
  本稿では,事前学習したFFN層を計算ブロックに分割することで,分散化を実現するDSMoEを提案する。 我々は,Sigmoid アクティベーションとストレートスルー推定器を用いた適応型エキスパートルーティングを実装し,トークンがモデル知識の様々な側面に柔軟にアクセスできるようにする。 LLaMAモデルを用いた実験により、DSMoEは既存のプルーニング法やMoE法に比べて優れた性能を発揮することが示された。
  論文  参考訳（メタデータ） (2025-02-18T02:37:26Z)
• SDE Matching: Scalable and Simulation-Free Training of Latent Stochastic Differential Equations [2.1779479916071067]
  SDEマッチング(SDE Matching)を提案する。 以上の結果から,SDEマッチングは随伴感度法に匹敵する性能を示す。
  論文  参考訳（メタデータ） (2025-02-04T16:47:49Z)
• MultiPDENet: PDE-embedded Learning with Multi-time-stepping for Accelerated Flow Simulation [48.41289705783405]
  マルチスケールタイムステップ(MultiPDENet)を用いたPDE組み込みネットワークを提案する。 特に,有限差分構造に基づく畳み込みフィルタを少数のパラメータで設計し,最適化する。 4階ランゲ・クッタ積分器を微細な時間スケールで備えた物理ブロックが確立され、PDEの構造を埋め込んで予測を導出する。
  論文  参考訳（メタデータ） (2025-01-27T12:15:51Z)
• Advancing Generalization in PINNs through Latent-Space Representations [71.86401914779019]
  物理インフォームドニューラルネットワーク(PINN)は、偏微分方程式(PDE)によって支配される力学系のモデリングにおいて大きな進歩を遂げた。 本稿では,多種多様なPDE構成を効果的に一般化する物理インフォームドニューラルPDE解法PIDOを提案する。 PIDOは1次元合成方程式と2次元ナビエ・ストークス方程式を含む様々なベンチマークで検証する。
  論文  参考訳（メタデータ） (2024-11-28T13:16:20Z)
• Adversarial Learning for Neural PDE Solvers with Sparse Data [4.226449585713182]
  本研究では,ロバストトレーニングのためのシステムモデル拡張(Systematic Model Augmentation for Robust Training)という,ニューラルネットワークPDEの普遍的学習戦略を紹介する。 モデルの弱点に挑戦し改善することに集中することにより、SMARTはデータスカース条件下でのトレーニング中の一般化エラーを低減する。
  論文  参考訳（メタデータ） (2024-09-04T04:18:25Z)
• Parametric Learning of Time-Advancement Operators for Unstable Flame Evolution [0.0]
  本研究では、パラメトリック偏微分方程式(PDE)に対する時間適応演算子学習への機械学習の適用について検討する。 我々の焦点は、PDEパラメータを表す追加入力を処理するために既存の演算子学習方法を拡張することである。 目標は、短期的なソリューションを正確に予測し、堅牢な長期統計を提供する統一的な学習アプローチを作ることだ。
  論文  参考訳（メタデータ） (2024-02-14T18:12:42Z)
• Uncertainty Quantification for Forward and Inverse Problems of PDEs via Latent Global Evolution [110.99891169486366]
  本稿では,効率的かつ高精度な不確実性定量化を深層学習に基づく代理モデルに統合する手法を提案する。 本手法は,フォワード問題と逆問題の両方に対して,堅牢かつ効率的な不確実性定量化機能を備えたディープラーニングに基づく代理モデルを提案する。 提案手法は, 長期予測を含むシナリオに適合し, 拡張された自己回帰ロールアウトに対する不確かさの伝播に優れる。
  論文  参考訳（メタデータ） (2024-02-13T11:22:59Z)
• PDE-Refiner: Achieving Accurate Long Rollouts with Neural PDE Solvers [40.097474800631]
  時間依存偏微分方程式(PDE)は、科学や工学においてユビキタスである。 ディープニューラルネットワークに基づくサロゲートへの関心が高まっている。
  論文  参考訳（メタデータ） (2023-08-10T17:53:05Z)
• Learning Neural PDE Solvers with Parameter-Guided Channel Attention [17.004380150146268]
  天気予報、分子動力学、逆設計といった応用領域では、MLベースの代理モデルがますます使われている。 本稿では,ニューラルサロゲートモデルのためのチャネル注意埋め込み(CAPE)コンポーネントと,シンプルで効果的なカリキュラム学習戦略を提案する。 CAPEモジュールは、未知のPDEパラメータに適応できるように、ニューラルPDEソルバと組み合わせることができる。
  論文  参考訳（メタデータ） (2023-04-27T12:05:34Z)
• Learning to Accelerate Partial Differential Equations via Latent Global Evolution [64.72624347511498]
  The Latent Evolution of PDEs (LE-PDE) is a simple, fast and scalable method to accelerate the simulation and inverse optimization of PDEs。 我々は,このような潜在力学を効果的に学習し,長期的安定性を確保するために,新たな学習目標を導入する。 更新対象の寸法が最大128倍、速度が最大15倍向上し、競争精度が向上した。
  論文  参考訳（メタデータ） (2022-06-15T17:31:24Z)
• Fast Distributionally Robust Learning with Variance Reduced Min-Max Optimization [85.84019017587477]
  分散的ロバストな教師付き学習は、現実世界のアプリケーションのための信頼性の高い機械学習システムを構築するための重要なパラダイムとして登場している。 Wasserstein DRSLを解くための既存のアルゴリズムは、複雑なサブプロブレムを解くか、勾配を利用するのに失敗する。 我々はmin-max最適化のレンズを通してwaserstein drslを再検討し、スケーラブルで効率的に実装可能な超勾配アルゴリズムを導出する。
  論文  参考訳（メタデータ） (2021-04-27T16:56:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。