論文の概要: BCAT: A Block Causal Transformer for PDE Foundation Models for Fluid Dynamics

• arxiv url: http://arxiv.org/abs/2501.18972v1
• Date: Fri, 31 Jan 2025 09:07:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-03 13:57:50.544950
• Title: BCAT: A Block Causal Transformer for PDE Foundation Models for Fluid Dynamics
• Title（参考訳）: BCAT:流体力学のためのPDE基礎モデルのためのブロック因果変換器
• Authors: Yuxuan Liu, Jingmin Sun, Hayden Schaeffer,
• Abstract要約: BCATは2次元流体力学問題に対する解の自己回帰予測のために設計されたPDE基礎モデルである。 我々の手法はブロック因果アーキテクチャを用いて次のフレームの予測をモデル化し、以前のフレームをコンテキスト先行として活用する。 BCATは全ての評価タスクで平均1.92%の相対誤差を達成した。
• 参考スコア（独自算出の注目度）: 4.027470328330335
• License:
• Abstract: We introduce BCAT, a PDE foundation model designed for autoregressive prediction of solutions to two dimensional fluid dynamics problems. Our approach uses a block causal transformer architecture to model next frame predictions, leveraging previous frames as contextual priors rather than relying solely on sub-frames or pixel-based inputs commonly used in image generation methods. This block causal framework more effectively captures the spatial dependencies inherent in nonlinear spatiotemporal dynamics and physical phenomena. In an ablation study, next frame prediction demonstrated a 2.9x accuracy improvement over next token prediction. BCAT is trained on a diverse range of fluid dynamics datasets, including incompressible and compressible Navier-Stokes equations across various geometries and parameter regimes, as well as the shallow-water equations. The model's performance was evaluated on 6 distinct downstream prediction tasks and tested on about 8K trajectories to measure robustness on a variety of fluid dynamics simulations. BCAT achieved an average relative error of 1.92% across all evaluation tasks, outperforming prior approaches on standard benchmarks.
• Abstract（参考訳）: BCATは2次元流体力学問題に対する解の自動回帰予測のための基礎モデルである。 提案手法はブロック因果変換器アーキテクチャを用いて次のフレーム予測をモデル化し,画像生成法で一般的に使用されるサブフレームや画素ベースの入力のみに依存するのではなく,以前のフレームをコンテキスト先行として活用する。 このブロック因果構造は、非線形時空間力学や物理現象に固有の空間的依存をより効果的に捉える。 アブレーション研究では、次のフレーム予測は次のトークン予測よりも2.9倍の精度向上を示した。 BCATは、様々なジオメトリやパラメーターレジームにわたる非圧縮および圧縮可能なナビエ・ストークス方程式や浅水方程式を含む様々な流体力学データセットに基づいて訓練されている。 モデルの性能は、6つの異なる下流予測タスクで評価され、様々な流体力学シミュレーションでロバスト性を測定するために約8K軌道で試験された。 BCATは全ての評価タスクで平均1.92%の相対誤差を達成した。

関連論文リスト

• Smart Predict-then-Optimize Method with Dependent Data: Risk Bounds and Calibration of Autoregression [7.369846475695131]
  本稿では,決定段階における最適化問題を直接対象とする自己回帰型SPO手法を提案する。 我々は, 絶対損失と最小二乗損失と比較して, SPO+サロゲートの有効性を示す実験を行った。
  論文  参考訳（メタデータ） (2024-11-19T17:02:04Z)
• Physics-constrained coupled neural differential equations for one dimensional blood flow modeling [0.3749861135832073]
  計算心血管モデリングは、血流動態を理解する上で重要な役割を担っている。 有限要素法(FEM)に基づく従来の1次元モデルは、3次元平均解に比べて精度が低いことが多い。 本研究では1次元血流モデルの精度を向上させる物理制約付き機械学習手法を提案する。
  論文  参考訳（メタデータ） (2024-11-08T15:22:20Z)
• Learning Physics From Video: Unsupervised Physical Parameter Estimation for Continuous Dynamical Systems [49.11170948406405]
  ビデオからの自動パラメータ推定の最先端は、大規模データセット上で教師付きディープネットワークをトレーニングすることによって解決される。 単一ビデオから, 既知, 連続制御方程式の物理パラメータを推定する手法を提案する。
  論文  参考訳（メタデータ） (2024-10-02T09:44:54Z)
• PROSE-FD: A Multimodal PDE Foundation Model for Learning Multiple Operators for Forecasting Fluid Dynamics [3.770825791788951]
  不均一な2次元物理系の同時予測のためのゼロショット多モードPDE基礎モデルを提案する。 これらの系は浅い水方程式と、圧縮不可能で圧縮不能な流れを持つナビエ・ストークス方程式を含む。
  論文  参考訳（メタデータ） (2024-09-15T18:20:15Z)
• Physics-guided Active Sample Reweighting for Urban Flow Prediction [75.24539704456791]
  都市フロー予測は、バス、タクシー、ライド駆動モデルといった交通サービスのスループットを見積もる、微妙な時間的モデリングである。 最近の予測解は、物理学誘導機械学習(PGML)の概念による改善をもたらす。 我々は、PN(atized Physics-guided Network)を開発し、P-GASR(Physical-guided Active Sample Reweighting)を提案する。
  論文  参考訳（メタデータ） (2024-07-18T15:44:23Z)
• AdaOcc: Adaptive Forward View Transformation and Flow Modeling for 3D Occupancy and Flow Prediction [56.72301849123049]
  CVPR 2024 における nuScenes Open-Occ データセットチャレンジにおいて,視覚中心の3次元活動とフロー予測トラックのソリューションを提案する。 我々の革新的なアプローチは、適応的なフォワード・ビュー・トランスフォーメーションとフロー・モデリングを取り入れることで、3次元の占有率とフロー予測を向上させる2段階のフレームワークである。 提案手法は回帰と分類を組み合わせることで,様々な場面におけるスケールの変動に対処し,予測フローを利用して将来のフレームに現行のボクセル特徴をワープする。
  論文  参考訳（メタデータ） (2024-07-01T16:32:15Z)
• Exploiting Diffusion Prior for Generalizable Dense Prediction [85.4563592053464]
  近年のテキスト・トゥ・イメージ(T2I)拡散モデルでは、既成の高密度予測器では予測できないことがある。 我々は,事前学習したT2Iモデルを用いたパイプラインDMPを,高密度予測タスクの先駆けとして導入する。 限られたドメインのトレーニングデータにもかかわらず、この手法は任意の画像に対して忠実に推定し、既存の最先端のアルゴリズムを超越する。
  論文  参考訳（メタデータ） (2023-11-30T18:59:44Z)
• Graph Neural Networks for Pressure Estimation in Water Distribution Systems [44.99833362998488]
  水分配ネットワーク(WDN)における圧力と流量の推定により、水管理会社は制御操作を最適化できる。 物理に基づくモデリングとデータ駆動型アプローチであるグラフニューラルネットワーク(GNN)を組み合わせて,圧力推定問題に対処する。 我々のGNNモデルでは、オランダの大規模WDNの圧力は1.94mH$O、MAPEは7%と見積もられている。
  論文  参考訳（メタデータ） (2023-11-17T15:30:12Z)
• Forecasting through deep learning and modal decomposition in two-phase concentric jets [2.362412515574206]
  本研究はターボファンエンジンにおける燃料室噴射器の性能向上を目的としている。 燃料/空気混合物のリアルタイム予測と改善を可能にするモデルの開発が必要である。
  論文  参考訳（メタデータ） (2022-12-24T12:59:41Z)
• Deep Equilibrium Optical Flow Estimation [80.80992684796566]
  最近のSOTA(State-of-the-art)光フローモデルでは、従来のアルゴリズムをエミュレートするために有限ステップの更新操作を使用する。 これらのRNNは大きな計算とメモリオーバーヘッドを課し、そのような安定した推定をモデル化するために直接訓練されていない。 暗黙的層の無限レベル固定点として直接流れを解く手法として,Deep equilibrium Flow estimatorを提案する。
  論文  参考訳（メタデータ） (2022-04-18T17:53:44Z)
• Bilevel Online Adaptation for Out-of-Domain Human Mesh Reconstruction [94.25865526414717]
  本稿では,事前に訓練されたヒトメッシュ再構築モデルをドメイン外ストリーミングビデオに適応させるという新たな問題を検討する。 重みプローブと重み更新の2つのステップに全体多対象の最適化プロセスを分割するBilevel Online Adaptationを提案します。 BOAが2つのヒューマンメッシュ再構築ベンチマークで最先端の結果をもたらすことを実証する。
  論文  参考訳（メタデータ） (2021-03-30T15:47:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。