論文の概要: Can Transformers overcome the lack of data in the simulation of history-dependent flows?
- arxiv url: http://arxiv.org/abs/2512.16305v1
- Date: Thu, 18 Dec 2025 08:46:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-19 18:10:31.986741
- Title: Can Transformers overcome the lack of data in the simulation of history-dependent flows?
- Title(参考訳): トランスフォーマーは、履歴に依存したフローのシミュレーションにおいて、データの欠如を克服できるだろうか?
- Authors: P. Urdeitx, I. Alfaro, D. Gonzalez, F. Chinesta, E. Cueto,
- Abstract要約: 本研究では、Transformerアーキテクチャが特定の変数に関する実験データの欠如にどの程度対処できるかを検討する。
以上の結果から,Transformerは,実験データがないシステムにおいて,熱力学的に一貫した構造保存型ニューラルネットワークよりも優れることがわかった。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: It is well known that the lack of information about certain variables necessary for the description of a dynamical system leads to the introduction of historical dependence (lack of Markovian character of the model) and noise. Traditionally, scientists have made up for these shortcomings by designing phenomenological variables that take into account this historical dependence (typically, conformational tensors in fluids). Often, these phenomenological variables are not easily measurable experimentally. In this work, we study to what extent Transformer architectures are able to cope with the lack of experimental data on these variables. The methodology is evaluated on three benchmark problems: a cylinder flow with no history dependence, a viscoelastic Couette flow modeled via the Oldroyd-B formalism, and a non-linear polymeric fluid described by the FENE model. Our results show that the Transformer outperforms a thermodynamically consistent, structure-preserving neural network with metriplectic bias in systems with missing experimental data, providing lower errors even in low-dimensional latent spaces. In contrast, for systems whose state variables can be fully known, the metriplectic model achieves superior performance.
- Abstract(参考訳): 力学系の記述に必要な変数に関する情報が不足していることは、歴史的依存(モデルのマルコフ的特徴の欠如)とノイズをもたらすことが知られている。
伝統的に、科学者はこの歴史的依存(典型的には流体のコンフォメーションテンソル)を考慮に入れた現象論的変数を設計することでこれらの欠点を補っている。
これらの現象学変数は、しばしば実験的に容易に測定できない。
本研究では,Transformer アーキテクチャがこれらの変数に関する実験データの欠如にどの程度対処できるかを検討する。
本手法は, 履歴に依存しないシリンダ流, オールドロイド-B形式をモデルとした粘弾性クーエット流, FENEモデルで記述した非線形高分子流体の3つのベンチマーク問題に対して評価した。
実験結果から,Transformerは,低次元ラテント空間においても,実験データが欠如しているシステムにおいて,熱力学的に一貫した構造保存型ニューラルネットワークより優れた性能を示し,低次元ラテント空間においても低い誤差が得られることがわかった。
対照的に、状態変数が完全に知られているシステムでは、メトロプレクティックモデルは優れた性能を達成する。
関連論文リスト
- Adversarial Disentanglement by Backpropagation with Physics-Informed Variational Autoencoder [0.0]
物理系の部分的な知識の下での推測と予測は困難である。
本稿では,物理モデルとデータ駆動モデルの柔軟性を組み合わせた物理インフォームド変分オートエンコーダアーキテクチャを提案する。
論文 参考訳(メタデータ) (2025-06-16T16:18:25Z) - Probing the Latent Hierarchical Structure of Data via Diffusion Models [47.56642214162824]
拡散モデルを用いた実験は,データの潜伏構造を探索するための有望なツールであることを示す。
我々はこの予測を、最先端拡散モデルを用いてテキストと画像の両方で確認する。
以上の結果から,潜在変数がデータにどのように現れるかを示し,これらの影響を実データで測定する方法を確立した。
論文 参考訳(メタデータ) (2024-10-17T17:08:39Z) - Information theory for data-driven model reduction in physics and biology [0.0]
我々は,将来最も予測的な変数として定義される変数を同定する手法を開発する。
高圧縮の極限において、関連する変数は、最も遅く縮退する固有関数によって直接決定される。
この結果から,変数を自動識別する深層学習ツールが確立された。
論文 参考訳(メタデータ) (2023-12-11T18:39:05Z) - ImputeFormer: Low Rankness-Induced Transformers for Generalizable Spatiotemporal Imputation [43.684035409535696]
既存の計算ソリューションには、主に低ランクモデルとディープラーニングモデルが含まれる。
強誘導バイアスと高時間モデル表現率の低ランク化によるバイアスバランスを示す。
交通流,太陽エネルギー,スマートメーター,空気品質など,異種データセットの精度,効率,汎用性において,その優位性を示す。
論文 参考訳(メタデータ) (2023-12-04T08:35:31Z) - Posterior Collapse and Latent Variable Non-identifiability [54.842098835445]
柔軟性を犠牲にすることなく識別性を強制する深層生成モデルである,潜時同定可能な変分オートエンコーダのクラスを提案する。
合成および実データ全体にわたって、潜在識別可能な変分オートエンコーダは、後方崩壊を緩和し、データの有意義な表現を提供する既存の方法より優れている。
論文 参考訳(メタデータ) (2023-01-02T06:16:56Z) - $Φ$-DVAE: Physics-Informed Dynamical Variational Autoencoders for Unstructured Data Assimilation [3.2873782624127843]
物理インフォームドな動的変分オートエンコーダ(Phi$-DVAE)を開発し、様々なデータストリームを時間進化物理系に埋め込む。
我々の手法は、非構造化データを潜在力学系に同化するために、潜在状態空間モデルのための標準的な非線形フィルタとVOEを組み合わせたものである。
変分ベイズフレームワークは、符号化、潜時状態、未知のシステムパラメータの合同推定に使用される。
論文 参考訳(メタデータ) (2022-09-30T17:34:48Z) - Capturing Actionable Dynamics with Structured Latent Ordinary
Differential Equations [68.62843292346813]
本稿では,その潜在表現内でのシステム入力の変動をキャプチャする構造付き潜在ODEモデルを提案する。
静的変数仕様に基づいて,本モデルではシステムへの入力毎の変動要因を学習し,潜在空間におけるシステム入力の影響を分離する。
論文 参考訳(メタデータ) (2022-02-25T20:00:56Z) - Deep Variational Luenberger-type Observer for Stochastic Video
Prediction [46.82873654555665]
本研究では,状態空間モデルの解釈可能性とディープニューラルネットワークの表現を組み合わせ,映像予測の課題について検討する。
我々のモデルは,入力映像を潜時特徴空間に変換する変分エンコーダと,潜時特徴の動的進化を捉えたルエンベルガー型オブザーバの上に構築されている。
論文 参考訳(メタデータ) (2020-02-12T06:59:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。