論文の概要: MORPH: Shape-agnostic PDE Foundation Models
- arxiv url: http://arxiv.org/abs/2509.21670v1
- Date: Thu, 25 Sep 2025 22:38:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-29 20:57:54.06278
- Title: MORPH: Shape-agnostic PDE Foundation Models
- Title(参考訳): MORPH:形状に依存しないPDEファンデーションモデル
- Authors: Mahindra Singh Rautela, Alexander Most, Siddharth Mansingh, Bradley C. Love, Ayan Biswas, Diane Oyen, Earl Lawrence,
- Abstract要約: MORPHは偏微分方程式(PDE)の形状に依存しない自己回帰基底モデルである
畳み込みビジョンのバックボーン上に構築されており、異なる解像度で様々なデータ次元(1D--3D)の評価をシームレスに処理する。
広範なデータセット全体にわたって、MORPHは強力なベースラインと最近の最先端モデルにマッチするか、超えている。
- 参考スコア(独自算出の注目度): 37.26306668589026
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce MORPH, a shape-agnostic, autoregressive foundation model for partial differential equations (PDEs). MORPH is built on a convolutional vision transformer backbone that seamlessly handles heterogeneous spatiotemporal datasets of varying data dimensionality (1D--3D) at different resolutions, multiple fields with mixed scalar and vector components. The architecture combines (i) component-wise convolution, which jointly processes scalar and vector channels to capture local interactions, (ii) inter-field cross-attention, which models and selectively propagates information between different physical fields, (iii) axial attentions, which factorizes full spatiotemporal self-attention along individual spatial and temporal axes to reduce computational burden while retaining expressivity. We pretrain multiple model variants on a diverse collection of heterogeneous PDE datasets and evaluate transfer to a range of downstream prediction tasks. Using both full-model fine-tuning and parameter-efficient low-rank adapters (LoRA), MORPH outperforms models trained from scratch in both zero-shot and full-shot generalization. Across extensive evaluations, MORPH matches or surpasses strong baselines and recent state-of-the-art models. Collectively, these capabilities present a flexible and powerful backbone for learning from heterogeneous and multimodal nature of scientific observations, charting a path toward scalable and data-efficient scientific machine learning.
- Abstract(参考訳): 偏微分方程式(PDE)の形状に依存しない自己回帰基底モデルであるMORPHを導入する。
MORPHは畳み込み型視覚変換器のバックボーン上に構築されており、様々な解像度で異なるデータ次元(1D--3D)の異種時空間データセットをシームレスに処理する。
アーキテクチャが組み合わさる
i) 局所的な相互作用を捉えるためにスカラーとベクトルチャネルを共同で処理するコンポーネント・ワイド・コンボリューション。
(II)異なる分野間で情報をモデル化し、選択的に伝達する分野間クロスアテンション。
三 空間的、時間的軸に沿った完全な時空間自己注意を分解し、表現性を保ちながら計算負担を軽減する軸的注意。
我々は、多種多様なPDEデータセットの集合上で複数のモデル変種を事前訓練し、下流予測タスクへの転送を評価する。
フルモデルファインチューニングとパラメータ効率の低いローランクアダプタ(LoRA)の両方を用いて、MORPHはゼロショットとフルショットの一般化の両方において、ゼロショットから訓練されたモデルより優れている。
広範囲な評価において、MORPHは強いベースラインと最近の最先端モデルとを一致または超越する。
これらの能力は、科学的観察の異質で多様な性質から学習するための柔軟で強力なバックボーンを提供し、スケーラブルでデータ効率のよい科学機械学習への道をグラフ化している。
関連論文リスト
- Learning Divergence Fields for Shift-Robust Graph Representations [73.11818515795761]
本研究では,相互依存データに対する問題に対して,学習可能な分散場を持つ幾何学的拡散モデルを提案する。
因果推論によって新たな学習目標が導出され、ドメイン間で無神経な相互依存の一般化可能なパターンを学習するためのモデルが導出される。
論文 参考訳(メタデータ) (2024-06-07T14:29:21Z) - Coupled generator decomposition for fusion of electro- and magnetoencephalography data [1.7102695043811291]
データ融合モデリングは、ソース固有の変数を考慮に入れながら、多様なデータソースにまたがる共通の特徴を識別することができる。
本稿では、テキスト結合型ジェネレータ分解の概念を導入し、データ融合のためのスパース主成分分析をいかに一般化するかを示す。
論文 参考訳(メタデータ) (2024-03-02T12:09:16Z) - Synthetic location trajectory generation using categorical diffusion
models [50.809683239937584]
拡散モデル(DPM)は急速に進化し、合成データのシミュレーションにおける主要な生成モデルの一つとなっている。
本稿では,個人が訪れた物理的位置を表す変数列である合成個別位置軌跡(ILT)の生成にDPMを用いることを提案する。
論文 参考訳(メタデータ) (2024-02-19T15:57:39Z) - VTAE: Variational Transformer Autoencoder with Manifolds Learning [144.0546653941249]
深層生成モデルは、多くの潜伏変数を通して非線形データ分布の学習に成功している。
ジェネレータの非線形性は、潜在空間がデータ空間の不満足な射影を示し、表現学習が不十分になることを意味する。
本研究では、測地学と正確な計算により、深部生成モデルの性能を大幅に向上させることができることを示す。
論文 参考訳(メタデータ) (2023-04-03T13:13:19Z) - Interpretable and Scalable Graphical Models for Complex Spatio-temporal
Processes [3.469001874498102]
論文は、複雑な時間構造を持つデータと、解釈可能かつ解釈可能な方法で構造を学ぶ確率的グラフィカルモデルに焦点を当てている。
この方法論の実践的応用は、実際のデータセットを用いて検討される。
これには、データを用いた脳接続分析、太陽画像データを用いた宇宙天気予報、Twitterデータを用いた世論の縦断的分析、TalkLifeデータを用いたメンタルヘルス関連の問題のマイニングが含まれる。
論文 参考訳(メタデータ) (2023-01-15T05:39:30Z) - Scalable Regularised Joint Mixture Models [2.0686407686198263]
多くの応用において、データは異なる基底分布を持つ潜在群にまたがるという意味で不均一である。
我々は,(i)明示的多変量特徴分布,(ii)高次元回帰モデル,(iii)潜在群ラベルの連成学習を可能にする異種データに対するアプローチを提案する。
このアプローチは明らかに高次元において有効であり、計算効率のためのデータ削減と、特徴数が大きければ鍵信号を保持する再重み付けスキームを組み合わせる。
論文 参考訳(メタデータ) (2022-05-03T13:38:58Z) - Mixed Effects Neural ODE: A Variational Approximation for Analyzing the
Dynamics of Panel Data [50.23363975709122]
パネルデータ解析に(固定・ランダムな)混合効果を取り入れたME-NODEという確率モデルを提案する。
我々は、Wong-Zakai定理によって提供されるSDEの滑らかな近似を用いて、我々のモデルを導出できることを示す。
次に、ME-NODEのためのエビデンスに基づく下界を導出し、(効率的な)トレーニングアルゴリズムを開発する。
論文 参考訳(メタデータ) (2022-02-18T22:41:51Z) - Equivariant vector field network for many-body system modeling [65.22203086172019]
Equivariant Vector Field Network (EVFN) は、新しい同変層と関連するスカラー化およびベクトル化層に基づいて構築されている。
シミュレーションされたニュートン力学系の軌跡を全観測データと部分観測データで予測する手法について検討した。
論文 参考訳(メタデータ) (2021-10-26T14:26:25Z) - Dynamical Deep Generative Latent Modeling of 3D Skeletal Motion [15.359134407309726]
本モデルでは,高度に相関した骨格データを時間的変化の空間的基礎の集合に分解する。
これにより、3次元ポーズデータのダイナミックスにおいて意味のある内在状態を解析する動的深部生成潜在モデルが得られる。
論文 参考訳(メタデータ) (2021-06-18T23:58:49Z) - Modeling Shared Responses in Neuroimaging Studies through MultiView ICA [94.31804763196116]
被験者の大規模なコホートを含むグループ研究は、脳機能組織に関する一般的な結論を引き出す上で重要である。
グループ研究のための新しい多視点独立成分分析モデルを提案し、各被験者のデータを共有独立音源と雑音の線形結合としてモデル化する。
まず、fMRIデータを用いて、被験者間の共通音源の同定における感度の向上を示す。
論文 参考訳(メタデータ) (2020-06-11T17:29:53Z) - Dynamic multi-object Gaussian process models: A framework for
data-driven functional modelling of human joints [0.0]
形状とポーズを結合する原則的かつ堅牢な方法が,3つの主要な問題によって明らかになってきた。
本研究では,人体関節解析のための動的多目的統計モデリングフレームワークを提案する。
このフレームワークは、生物学的関節のための効率的な生成動的マルチオブジェクトモデリングプラットフォームを提供する。
論文 参考訳(メタデータ) (2020-01-22T07:57:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。