論文の概要: In-Context Learning for Multi-Fidelity Multiscale Model Closure and Cross-Operator Out-Of-Distribution Generalization
- arxiv url: http://arxiv.org/abs/2610.38179v1
- Date: Wed, 28 Oct 2026 02:29:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-31 05:25:12.361186
- Title: In-Context Learning for Multi-Fidelity Multiscale Model Closure and Cross-Operator Out-Of-Distribution Generalization
- Title(参考訳): マルチフィデリティマルチスケールモデルクロージャとクロスオペレータアウトオブ・ディストリビューション一般化のためのインコンテキストラーニング
- Abstract要約: 多要素学習では、低忠実度情報(粗大PDEモデル)と限られた高忠実度データ(微細解)を用いて高精度PDEソリューションを得る。
標準的な多要素学習は1つの演算子またはPDEに重点を置いており、新しいPDEが与えられると、より粗い解ペアを使って再学習する必要がある。
本稿では,複数の多要素演算子を1つの共有モデルで学習するための,コンテキスト内多要素学習フレームワークを提案する。
- 参考スコア(独自算出の注目度): 5.193607903787671
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multi-fidelity learning uses low-fidelity information (coarse-scale PDE models) together with limited high-fidelity data (fine-scale solutions) to obtain high-accuracy PDE solutions. It is a data-driven approach to downscale reduced-order models to solve PDEs efficiently and accurately. Standard multi-fidelity learning focuses on one operator or PDE; given a new PDE, retraining using additional coarse-fine solution pairs may be required, which is costly. In this work, we propose an in-context multi-fidelity learning framework for learning multiple multi-fidelity operators with one shared model. The model is trained using paired low- and high-fidelity examples as demonstrations from multiple operators, together with a new coarse-scale solution query, to predict the corresponding fine-scale solution. Once trained, given a new PDE operator, a few (fewer than five) coarse-fine demonstration pairs, and a low-cost coarse query, the model predicts the corresponding fine-scale solution without fine-tuning. When the target operator appears in the training dataset but has a different prediction goal, such as predicting beyond the training time interval, no additional demonstrations are needed. Instead, the model uses training coarse-fine pairs from that PDE and information from other training operators. Testing then only requires generating a low-cost coarse-scale solution query, without fine-tuning. Notably, our smallest model contains only 255,364 trainable parameters, corresponding to approximately 456 parameters per training operator for 560 operators.
- Abstract(参考訳): 多要素学習では、低忠実度情報(粗大PDEモデル)と限られた高忠実度データ(微細解)を用いて高精度PDEソリューションを得る。
PDEを効率的に正確に解くために、データ駆動型アプローチである。
標準的な多要素学習は1つの演算子(PDE)に重点を置いており、新しいPDEが与えられると、より粗い解対を用いる再学習が必要となり、コストがかかる。
本研究では,複数のマルチファイル演算子を1つの共有モデルで学習するための,コンテキスト内マルチファイル学習フレームワークを提案する。
このモデルは、複数の演算子のデモとして、ペア化された低忠実な例と高忠実な例を用いて、新しい粗い解クエリとともにトレーニングされ、対応する微細な解を予測する。
新しいPDE演算子、粗いデモペア(5つ未満)、低コストな粗いクエリが与えられたら、モデルは微調整なしで対応する微細なソリューションを予測する。
トレーニングデータセットにターゲットオペレータが現れるが、トレーニング時間間隔を超えて予測するなど、予測目標が異なる場合、追加のデモは必要ない。
その代わりに、モデルは、そのPDEから粗いペアと、他のトレーニングオペレータからの情報をトレーニングする。
テストでは、微調整なしで、低コストで粗大なソリューションクエリを生成する必要がある。
特に、我々の最小モデルは560演算子のトレーニング演算子あたりの約456パラメータに対応する、255,364のトレーニング可能なパラメータしか含まない。
関連論文リスト
- Test-Time Alignment via Hypothesis Reweighting [56.71167047381817]
大規模な事前訓練されたモデルは、しばしば未指定のタスクで苦労する。
テストタイムのユーザ意図にモデルを整合させるという課題に対処する新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2024-12-11T23:02:26Z) - LeMON: Learning to Learn Multi-Operator Networks [0.6554326244334868]
シングルオペレータ学習では、特定のオペレータを学ぶために、ディープニューラルネットワークをトレーニングする。
マルチオペレータ学習における最近の研究は、演算子埋め込み構造を使用して、複数の演算子のデータ上で単一のニューラルネットワークをトレーニングしている。
マルチオペレータ学習を用いてPDEを解くための事前学習および微調整戦略を提案する。
論文 参考訳(メタデータ) (2024-08-28T23:20:03Z) - DPOT: Auto-Regressive Denoising Operator Transformer for Large-Scale PDE Pre-Training [87.90342423839876]
我々は,PDEデータに対するより安定的で効率的な事前学習を可能にする,自己回帰型事前学習戦略を提案する。
我々は,100k以上の軌道を持つ10以上のPDEデータセットに対して,最大0.5BパラメータでPDEファンデーションモデルをトレーニングする。
論文 参考訳(メタデータ) (2024-03-06T08:38:34Z) - Data-Efficient Operator Learning via Unsupervised Pretraining and In-Context Learning [45.78096783448304]
本研究では,PDE演算子学習のための教師なし事前学習を設計する。
シミュレーションソリューションを使わずにラベルなしのPDEデータをマイニングし、物理に着想を得た再構成ベースのプロキシタスクでニューラルネットワークを事前訓練する。
提案手法は,データ効率が高く,より一般化可能であり,従来の視覚予測モデルよりも優れる。
論文 参考訳(メタデータ) (2024-02-24T06:27:33Z) - An Edge-Aware Graph Autoencoder Trained on Scale-Imbalanced Data for
Traveling Salesman Problems [22.792870849003137]
本研究では、トラベリングセールスマン問題(TSP)を解決するためのデータ駆動グラフ表現学習法を提案する。
残留ゲートエンコーダは遅延エッジ埋め込みを学習するために訓練され、次いでエッジ中心のデコーダでリンク予測をエンドツーエンドに出力する。
実験結果から,提案したエッジ対応グラフオートエンコーダモデルにより,高い競合性能が得られた。
論文 参考訳(メタデータ) (2023-10-10T11:42:49Z) - Training Deep Surrogate Models with Large Scale Online Learning [48.7576911714538]
ディープラーニングアルゴリズムは、PDEの高速解を得るための有効な代替手段として登場した。
モデルは通常、ソルバによって生成された合成データに基づいてトレーニングされ、ディスクに格納され、トレーニングのために読み返される。
ディープサロゲートモデルのためのオープンソースのオンライントレーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2023-06-28T12:02:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。