論文の概要: MMET: A Multi-Input and Multi-Scale Transformer for Efficient PDEs Solving

• arxiv url: http://arxiv.org/abs/2506.17230v1
• Date: Sat, 24 May 2025 19:50:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-29 09:28:14.804064
• Title: MMET: A Multi-Input and Multi-Scale Transformer for Efficient PDEs Solving
• Title（参考訳）: MMET:効率的なPDE解法のためのマルチ入力・マルチスケール変換器
• Authors: Yichen Luo, Jia Wang, Dapeng Lan, Yu Liu, Zhibo Pang,
• Abstract要約: MMET(Multi-Input and Multi-scale Efficient Transformer)は、上記の課題に対処するために設計された新しいフレームワークである。 MMETはメッシュとクエリポイントを2つのシーケンスとして分離し、それぞれエンコーダとデコーダに供給する。 この研究は、工学および物理学に基づくアプリケーションにおけるリアルタイムPDE解決のための堅牢でスケーラブルなソリューションとしてのMMETの可能性を強調している。
• 参考スコア（独自算出の注目度）: 7.676857294785697
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Partial Differential Equations (PDEs) are fundamental for modeling physical systems, yet solving them in a generic and efficient manner using machine learning-based approaches remains challenging due to limited multi-input and multi-scale generalization capabilities, as well as high computational costs. This paper proposes the Multi-input and Multi-scale Efficient Transformer (MMET), a novel framework designed to address the above challenges. MMET decouples mesh and query points as two sequences and feeds them into the encoder and decoder, respectively, and uses a Gated Condition Embedding (GCE) layer to embed input variables or functions with varying dimensions, enabling effective solutions for multi-scale and multi-input problems. Additionally, a Hilbert curve-based reserialization and patch embedding mechanism decrease the input length. This significantly reduces the computational cost when dealing with large-scale geometric models. These innovations enable efficient representations and support multi-scale resolution queries for large-scale and multi-input PDE problems. Experimental evaluations on diverse benchmarks spanning different physical fields demonstrate that MMET outperforms SOTA methods in both accuracy and computational efficiency. This work highlights the potential of MMET as a robust and scalable solution for real-time PDE solving in engineering and physics-based applications, paving the way for future explorations into pre-trained large-scale models in specific domains. This work is open-sourced at https://github.com/YichenLuo-0/MMET.
• Abstract（参考訳）: 部分微分方程式 (Partial Differential Equations, PDE) は物理系をモデル化するための基本的手法であるが, マルチインプットとマルチスケールの一般化能力に制限があり, 計算コストも高いため, 汎用的かつ効率的な機械学習アプローチによる解法は依然として困難である。 本稿では,これらの課題に対処するための新しいフレームワークであるMMETを提案する。 MMETはメッシュとクエリポイントを2つのシーケンスとして分離し、それぞれエンコーダとデコーダに供給し、GCE(Gated Condition Embedding)層を使用して入力変数や関数を様々な次元で埋め込むことにより、マルチスケールおよびマルチインプット問題に対する効果的な解を可能にする。 さらに、ヒルベルト曲線に基づく再シリアライズとパッチ埋め込み機構は入力長を減少させる。 これにより、大規模幾何学モデルを扱う際の計算コストが大幅に削減される。 これらの革新は効率的な表現を可能にし、大規模およびマルチインプットPDE問題に対するマルチスケール解像度クエリをサポートする。 様々な物理分野にまたがる様々なベンチマークの実験評価により、MMETは精度と計算効率の両方でSOTA法より優れていることが示された。 この研究は、工学および物理学に基づくアプリケーションにおけるリアルタイムPDE解決のための堅牢でスケーラブルなソリューションとしてのMMETの可能性を強調し、特定の領域における事前訓練された大規模モデルへの将来の探索の道を開く。 この作業はhttps://github.com/YichenLuo-0/MMETで公開されている。

関連論文リスト

• CodePDE: An Inference Framework for LLM-driven PDE Solver Generation [57.15474515982337]
  偏微分方程式(PDE)は物理系のモデリングの基本である。 従来の数値解法は専門家の知識に頼って実装し、計算コストがかかる。 大規模言語モデルを用いてPDEソルバを生成するための最初の推論フレームワークであるCodePDEを紹介する。
  論文  参考訳（メタデータ） (2025-05-13T17:58:08Z)
• Transolver++: An Accurate Neural Solver for PDEs on Million-Scale Geometries [67.63077028746191]
  Transolver++は、百万のスケールでPDEを解くことができる、非常に並列で効率的なニューラルソルバである。 Transolver++は、シングルGPU入力能力を初めて100万ポイントに拡張する。 数百万スケールの高忠実度産業シミュレーションで20%以上の性能向上を実現している。
  論文  参考訳（メタデータ） (2025-02-04T15:33:50Z)
• M2NO: Multiresolution Operator Learning with Multiwavelet-based Algebraic Multigrid Method [13.93532934867225]
  本稿では,新しいディープラーニングフレームワークであるMultiwaveletベースの代数的マルチグリッドニューラル演算子(M2NO)を紹介する。 これら2つのアプローチの固有の類似性を利用して、M2NOは様々なPDEベンチマークの精度と柔軟性を向上させる。 M2NOは高分解能および超高分解能タスクの処理に優れ、競合するモデルよりも一貫して優れている。
  論文  参考訳（メタデータ） (2024-06-07T10:47:40Z)
• Parameter-Efficient Fine-Tuning for Large Models: A Comprehensive Survey [18.00772798876708]
  PEFT(Efficient Fine-Tuning)は、様々な下流タスクに対して大きなモデルを効率的に調整することで、実用的なソリューションを提供する。 PEFTは、訓練済みの大規模モデルのパラメータを特定のタスクやドメインに適応させるプロセスを指す。 本稿では,様々なPEFTアルゴリズムの総合的な研究を行い,その性能と計算オーバーヘッドについて検討する。
  論文  参考訳（メタデータ） (2024-03-21T17:55:50Z)
• Kolmogorov n-Widths for Multitask Physics-Informed Machine Learning (PIML) Methods: Towards Robust Metrics [8.90237460752114]
  このトピックは、マルチタスク学習(multitask learning)と呼ばれる、シングルまたはPDE問題の集合を解決するための、幅広いメソッドとモデルを含んでいる。 PIMLは、PDE問題を解決する際に、大規模なデータの代わりに機械学習モデルのトレーニングプロセスに物理法則を組み込むことによって特徴付けられる。
  論文  参考訳（メタデータ） (2024-02-16T23:21:40Z)
• A Multi-Head Ensemble Multi-Task Learning Approach for Dynamical Computation Offloading [62.34538208323411]
  共有バックボーンと複数の予測ヘッド(PH)を組み合わせたマルチヘッドマルチタスク学習(MEMTL)手法を提案する。 MEMTLは、追加のトレーニングデータを必要とせず、推測精度と平均平方誤差の両方でベンチマーク手法より優れている。
  論文  参考訳（メタデータ） (2023-09-02T11:01:16Z)
• Solving High-Dimensional PDEs with Latent Spectral Models [74.1011309005488]
  我々は,高次元PDEの効率的かつ高精度な解法に向けて,Latent Spectral Models (LSM) を提案する。 数値解析において古典スペクトル法に着想を得て,潜時空間におけるPDEを解くために,ニューラルスペクトルブロックを設計する。 LSMは、一貫した最先端を実現し、7つのベンチマークで平均11.5%の相対的な利益を得る。
  論文  参考訳（メタデータ） (2023-01-30T04:58:40Z)
• A composable autoencoder-based iterative algorithm for accelerating numerical simulations [0.0]
  CoAE-MLSimは教師なし、低次元の局所的手法であり、商用PDEソルバで使われる重要なアイデアから動機づけられている。 計算速度、精度、スケーラビリティ、様々なPDE条件に対する一般化を実証するために、様々な複雑なエンジニアリングケースでテストされている。
  論文  参考訳（メタデータ） (2021-10-07T20:22:37Z)
• A Bayesian Multiscale Deep Learning Framework for Flows in Random Media [0.0]
  マルチスケール偏微分方程式(PDE)によって制御される複雑なシステムの微細スケールシミュレーションは計算コストが高く,そのような問題に対処する様々なマルチスケール手法が開発されている。 本研究では,学習データに制限のあるマルチスケールPDEのためのハイブリッドディープラーニングとマルチスケールアプローチを提案する。 実演目的では,多孔質メディアフローの問題に焦点をあてる。 画像から画像への教師あり深層学習モデルを用いて,入力透過性場とマルチスケール基底関数のマッピングを学習する。
  論文  参考訳（メタデータ） (2021-03-08T23:11:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。