論文の概要: BCAT: A Block Causal Transformer for PDE Foundation Models for Fluid Dynamics

• arxiv url: http://arxiv.org/abs/2501.18972v2
• Date: Wed, 30 Apr 2025 03:02:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-02 19:15:52.247839
• Title: BCAT: A Block Causal Transformer for PDE Foundation Models for Fluid Dynamics
• Title（参考訳）: BCAT:流体力学のためのPDE基礎モデルのためのブロック因果変換器
• Authors: Yuxuan Liu, Jingmin Sun, Hayden Schaeffer,
• Abstract要約: BCATは2次元流体力学問題に対する解の自動回帰予測のための基礎モデルである。 我々のアプローチはブロック因果アーキテクチャを用いて次のフレーム予測をモデル化し、画像生成法で一般的に使用されるサブフレームやピクセルベースの入力のみに頼るのではなく、以前のフレームをコンテキスト優先として活用する。
• 参考スコア（独自算出の注目度）: 4.027470328330335
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce BCAT, a PDE foundation model designed for autoregressive prediction of solutions to two dimensional fluid dynamics problems. Our approach uses a block causal transformer architecture to model next frame predictions, leveraging previous frames as contextual priors rather than relying solely on sub-frames or pixel-based inputs commonly used in image generation methods. This block causal framework more effectively captures the spatial dependencies inherent in nonlinear spatiotemporal dynamics and physical phenomena. In an ablation study, next frame prediction demonstrated a 3.5x accuracy improvement over next token prediction. BCAT is trained on a diverse range of fluid dynamics datasets, including incompressible and compressible Navier-Stokes equations across various geometries and parameter regimes, as well as the shallow-water equations. The model's performance was evaluated on 6 distinct downstream prediction tasks and tested on about 8K trajectories to measure robustness on a variety of fluid dynamics simulations. BCAT achieved an average relative error of 1.18% across all evaluation tasks, outperforming prior approaches on standard benchmarks. With fine-tuning on a turbulence dataset, we show that the method adapts to new settings with more than 40% better accuracy over prior methods.
• Abstract（参考訳）: BCATは2次元流体力学問題に対する解の自動回帰予測のための基礎モデルである。 提案手法はブロック因果変換器アーキテクチャを用いて次のフレーム予測をモデル化し,画像生成法で一般的に使用されるサブフレームや画素ベースの入力のみに依存するのではなく,以前のフレームをコンテキスト先行として活用する。 このブロック因果構造は、非線形時空間力学や物理現象に固有の空間的依存をより効果的に捉える。 アブレーション実験では、次のフレーム予測は次のトークン予測よりも3.5倍精度の向上を示した。 BCATは、様々なジオメトリやパラメーターレジームにわたる非圧縮および圧縮可能なナビエ・ストークス方程式や浅水方程式を含む様々な流体力学データセットに基づいて訓練されている。 モデルの性能は、6つの異なる下流予測タスクで評価され、様々な流体力学シミュレーションでロバスト性を測定するために約8K軌道で試験された。 BCATは全ての評価タスクで平均1.18%の相対誤差を達成した。 乱流データセットの微調整により,従来の手法よりも40%以上の精度で新しい設定に適応することを示す。

関連論文リスト

• A Comparison of Parametric Dynamic Mode Decomposition Algorithms for Thermal-Hydraulics Applications [0.5033155053523042]
  この研究は、現場にデプロイされた異なるアルゴリズムを比較して、利用可能なデータから学習モデルの研究に寄与する。 この目的のために, FEniCS有限要素ソルバを用いてそれぞれデータセットを取得し, CFDbenchデータセットから抽出した3つの異なる熱水和問題について検討した。
  論文  参考訳（メタデータ） (2025-03-31T15:23:22Z)
• Physics-constrained coupled neural differential equations for one dimensional blood flow modeling [0.3749861135832073]
  計算心血管モデリングは、血流動態を理解する上で重要な役割を担っている。 有限要素法(FEM)に基づく従来の1次元モデルは、3次元平均解に比べて精度が低いことが多い。 本研究では1次元血流モデルの精度を向上させる物理制約付き機械学習手法を提案する。
  論文  参考訳（メタデータ） (2024-11-08T15:22:20Z)
• Learning Physics From Video: Unsupervised Physical Parameter Estimation for Continuous Dynamical Systems [49.11170948406405]
  ビデオからの自動パラメータ推定の最先端は、大規模データセット上で教師付きディープネットワークをトレーニングすることによって解決される。 単一ビデオから, 既知, 連続制御方程式の物理パラメータを推定する手法を提案する。
  論文  参考訳（メタデータ） (2024-10-02T09:44:54Z)
• PROSE-FD: A Multimodal PDE Foundation Model for Learning Multiple Operators for Forecasting Fluid Dynamics [3.770825791788951]
  不均一な2次元物理系の同時予測のためのゼロショット多モードPDE基礎モデルを提案する。 これらの系は浅い水方程式と、圧縮不可能で圧縮不能な流れを持つナビエ・ストークス方程式を含む。
  論文  参考訳（メタデータ） (2024-09-15T18:20:15Z)
• Hierarchically Disentangled Recurrent Network for Factorizing System Dynamics of Multi-scale Systems: An application on Hydrological Systems [4.634606500665259]
  複数の時間スケールでシステムダイナミクスを分解する新しい階層的リカレントニューラルネットワークを提案する。 国立気象局ノース・セントラル・リバー・フォアキャスト・センターからの幾らかの捕獲実験では、FHNNが標準ベースラインを上回っていることを示している。 我々は,FHNNが,効果的な事前学習戦略とグローバルモデルの訓練を通じて,限られたトレーニングデータであっても精度を維持することができることを示す。
  論文  参考訳（メタデータ） (2024-07-29T16:25:43Z)
• Physics-guided Active Sample Reweighting for Urban Flow Prediction [75.24539704456791]
  都市フロー予測は、バス、タクシー、ライド駆動モデルといった交通サービスのスループットを見積もる、微妙な時間的モデリングである。 最近の予測解は、物理学誘導機械学習(PGML)の概念による改善をもたらす。 我々は、PN(atized Physics-guided Network)を開発し、P-GASR(Physical-guided Active Sample Reweighting)を提案する。
  論文  参考訳（メタデータ） (2024-07-18T15:44:23Z)
• AdaOcc: Adaptive Forward View Transformation and Flow Modeling for 3D Occupancy and Flow Prediction [56.72301849123049]
  CVPR 2024 における nuScenes Open-Occ データセットチャレンジにおいて,視覚中心の3次元活動とフロー予測トラックのソリューションを提案する。 我々の革新的なアプローチは、適応的なフォワード・ビュー・トランスフォーメーションとフロー・モデリングを取り入れることで、3次元の占有率とフロー予測を向上させる2段階のフレームワークである。 提案手法は回帰と分類を組み合わせることで,様々な場面におけるスケールの変動に対処し,予測フローを利用して将来のフレームに現行のボクセル特徴をワープする。
  論文  参考訳（メタデータ） (2024-07-01T16:32:15Z)
• Graph Neural Networks for Pressure Estimation in Water Distribution Systems [44.99833362998488]
  水分配ネットワーク(WDN)における圧力と流量の推定により、水管理会社は制御操作を最適化できる。 物理に基づくモデリングとデータ駆動型アプローチであるグラフニューラルネットワーク(GNN)を組み合わせて,圧力推定問題に対処する。 我々のGNNモデルでは、オランダの大規模WDNの圧力は1.94mH$O、MAPEは7%と見積もられている。
  論文  参考訳（メタデータ） (2023-11-17T15:30:12Z)
• Forecasting through deep learning and modal decomposition in two-phase concentric jets [2.362412515574206]
  本研究はターボファンエンジンにおける燃料室噴射器の性能向上を目的としている。 燃料/空気混合物のリアルタイム予測と改善を可能にするモデルの開発が必要である。
  論文  参考訳（メタデータ） (2022-12-24T12:59:41Z)
• Human Trajectory Prediction via Neural Social Physics [63.62824628085961]
  軌道予測は多くの分野において広く研究され、多くのモデルベースおよびモデルフリーな手法が研究されている。 ニューラル微分方程式モデルに基づく新しい手法を提案する。 我々の新しいモデル(ニューラル社会物理学またはNSP)は、学習可能なパラメータを持つ明示的な物理モデルを使用するディープニューラルネットワークである。
  論文  参考訳（メタデータ） (2022-07-21T12:11:18Z)
• Deep Equilibrium Optical Flow Estimation [80.80992684796566]
  最近のSOTA(State-of-the-art)光フローモデルでは、従来のアルゴリズムをエミュレートするために有限ステップの更新操作を使用する。 これらのRNNは大きな計算とメモリオーバーヘッドを課し、そのような安定した推定をモデル化するために直接訓練されていない。 暗黙的層の無限レベル固定点として直接流れを解く手法として,Deep equilibrium Flow estimatorを提案する。
  論文  参考訳（メタデータ） (2022-04-18T17:53:44Z)
• Message Passing Neural PDE Solvers [60.77761603258397]
  我々は、バックプロップ最適化されたニューラル関数近似器で、グラフのアリーデザインのコンポーネントを置き換えるニューラルメッセージパッシング解決器を構築した。 本稿では, 有限差分, 有限体積, WENOスキームなどの古典的手法を表現的に含んでいることを示す。 本研究では, 異なる領域のトポロジ, 方程式パラメータ, 離散化などにおける高速, 安定, 高精度な性能を, 1次元, 2次元で検証する。
  論文  参考訳（メタデータ） (2022-02-07T17:47:46Z)
• Bilevel Online Adaptation for Out-of-Domain Human Mesh Reconstruction [94.25865526414717]
  本稿では,事前に訓練されたヒトメッシュ再構築モデルをドメイン外ストリーミングビデオに適応させるという新たな問題を検討する。 重みプローブと重み更新の2つのステップに全体多対象の最適化プロセスを分割するBilevel Online Adaptationを提案します。 BOAが2つのヒューマンメッシュ再構築ベンチマークで最先端の結果をもたらすことを実証する。
  論文  参考訳（メタデータ） (2021-03-30T15:47:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。