論文の概要: FlowBERT: Prompt-tuned BERT for variable flow field prediction

• arxiv url: http://arxiv.org/abs/2506.08021v1
• Date: Tue, 20 May 2025 02:25:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-16 03:13:19.076327
• Title: FlowBERT: Prompt-tuned BERT for variable flow field prediction
• Title（参考訳）: FlowBERT: 可変流れ場予測のためのprompt-tuned BERT
• Authors: Weihao Zou, Weibing Feng, Pin Wu,
• Abstract要約: 本研究では,大言語モデル(LLM)からの知識伝達に基づくユニバーサルフロー場予測フレームワークを提案する。 提案手法は,90%以上の精度を維持しながら予測時間を秒に短縮する。 発達した知識伝達パラダイムは、高速流体力学予測のための新しい方向を確立する。
• 参考スコア（独自算出の注目度）: 0.5222978725954347
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This study proposes a universal flow field prediction framework based on knowledge transfer from large language model (LLM), addressing the high computational costs of traditional computational fluid dynamics (CFD) methods and the limited cross-condition transfer capability of existing deep learning models. The framework innovatively integrates Proper Orthogonal Decomposition (POD) dimensionality reduction with fine-tuning strategies for pretrained LLM, where POD facilitates compressed representation of flow field features while the fine-tuned model learns to encode system dynamics in state space. To enhance the model's adaptability to flow field data, we specifically designed fluid dynamics-oriented text templates that improve predictive performance through enriched contextual semantic information. Experimental results demonstrate that our framework outperforms conventional Transformer models in few-shot learning scenarios while exhibiting exceptional generalization across various inflow conditions and airfoil geometries. Ablation studies reveal the contributions of key components in the FlowBERT architecture. Compared to traditional Navier-Stokes equation solvers requiring hours of computation, our approach reduces prediction time to seconds while maintaining over 90% accuracy. The developed knowledge transfer paradigm establishes a new direction for rapid fluid dynamics prediction, with potential applications extending to aerodynamic optimization, flow control, and other engineering domains.
• Abstract（参考訳）: 本研究では,従来の計算流体力学(CFD)手法の計算コストの増大と,既存の深層学習モデルのクロスコンディション伝達能力の制限に対処する,大規模言語モデル(LLM)からの知識伝達に基づくユニバーサルフロー場予測フレームワークを提案する。 このフレームワークは、Palper Orthogonal Decomposition (POD)次元の削減と、事前訓練されたLLMのための微調整戦略を革新的に統合し、PODは流れ場の特徴の圧縮表現を促進し、微調整されたモデルは状態空間におけるシステムのダイナミクスをエンコードする。 本研究では,フローフィールドデータに対するモデルの適応性を高めるために,コンテキストセマンティック情報により予測性能を向上させる流体力学指向のテキストテンプレートを設計した。 実験の結果, 従来のトランスフォーマーモデルよりも, 様々な流入条件や翼面のジオメトリーにまたがる例外的な一般化を示しながら, 数ショットの学習シナリオで優れた性能を示した。 アブレーション研究はFlowBERTアーキテクチャにおける重要なコンポーネントの貢献を明らかにしている。 従来のNavier-Stokes方程式の解法と比較して、予測時間は90%以上の精度を維持しながら秒に短縮する。 開発された知識伝達パラダイムは、空気力学的最適化、フロー制御、その他の工学領域に拡張される可能性のある、高速流体力学予測のための新しい方向を確立する。

関連論文リスト

• Autoregressive regularized score-based diffusion models for multi-scenarios fluid flow prediction [0.0]
  マルチシナリオ流体流予測のための条件付きスコアベース拡散モデルを提案する。 我々のモデルは乱流の統計的性質に根ざしたエネルギー制約を統合する。 重要な物理特性と統計特性を保持しながら、複数のシナリオにわたる正確な結果を達成する。
  論文  参考訳（メタデータ） (2025-05-30T02:37:05Z)
• An Efficient Occupancy World Model via Decoupled Dynamic Flow and Image-assisted Training [50.71892161377806]
  DFIT-OccWorldは、分離されたダイナミックフローとイメージアシストトレーニング戦略を活用する、効率的な3D占有世界モデルである。 提案モデルでは, 静止ボクセルはポーズ変換により容易に得られるのに対し, 既存のボクセルフローを用いて既存の観測を歪曲することで, 将来のダイナミックボクセルを予測できる。
  論文  参考訳（メタデータ） (2024-12-18T12:10:33Z)
• Hierarchically Disentangled Recurrent Network for Factorizing System Dynamics of Multi-scale Systems: An application on Hydrological Systems [4.634606500665259]
  複数の時間スケールでシステムダイナミクスを分解する新しい階層的リカレントニューラルネットワークを提案する。 国立気象局ノース・セントラル・リバー・フォアキャスト・センターからの幾らかの捕獲実験では、FHNNが標準ベースラインを上回っていることを示している。 我々は,FHNNが,効果的な事前学習戦略とグローバルモデルの訓練を通じて,限られたトレーニングデータであっても精度を維持することができることを示す。
  論文  参考訳（メタデータ） (2024-07-29T16:25:43Z)
• Generative Modeling with Phase Stochastic Bridges [49.4474628881673]
  拡散モデル(DM)は、連続入力のための最先端の生成モデルを表す。 我々はtextbfphase space dynamics に基づく新しい生成モデリングフレームワークを提案する。 我々のフレームワークは、動的伝播の初期段階において、現実的なデータポイントを生成する能力を示す。
  論文  参考訳（メタデータ） (2023-10-11T18:38:28Z)
• Physics-Inspired Temporal Learning of Quadrotor Dynamics for Accurate Model Predictive Trajectory Tracking [76.27433308688592]
  クオーロタのシステムダイナミクスを正確にモデル化することは、アジャイル、安全、安定したナビゲーションを保証する上で非常に重要です。 本稿では,ロボットの経験から,四重項系の力学を純粋に学習するための新しい物理インスパイアされた時間畳み込みネットワーク(PI-TCN)を提案する。 提案手法は,スパース時間的畳み込みと高密度フィードフォワード接続の表現力を組み合わせて,正確なシステム予測を行う。
  論文  参考訳（メタデータ） (2022-06-07T13:51:35Z)
• Emulating Spatio-Temporal Realizations of Three-Dimensional Isotropic Turbulence via Deep Sequence Learning Models [24.025975236316842]
  最先端のディープラーニング技術を用いて3次元乱流をモデル化するために,データ駆動方式を用いる。 モデルの精度は、統計および物理に基づくメトリクスを用いて評価される。
  論文  参考訳（メタデータ） (2021-12-07T03:33:39Z)
• Transfer learning to improve streamflow forecasts in data sparse regions [0.0]
  本研究では,データスパース領域におけるストリームフロー予測の一般化性能向上のために,微調整およびパラメータ転送による伝達学習(TL)の方法論について検討する。 本稿では,Long Short-Term Memory(LSTM)という形式で,十分に大きなソースドメインデータセットに適合する標準のリカレントニューラルネットワークを提案する。 本稿では,モデルの空間的および時間的成分を分離し,モデルを一般化する訓練を行うことにより,水文学応用のための伝達学習手法を実装する手法を提案する。
  論文  参考訳（メタデータ） (2021-12-06T14:52:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。