論文の概要: Local transfer learning Gaussian process modeling, with applications to surrogate modeling of expensive computer simulators
- arxiv url: http://arxiv.org/abs/2410.12690v2
- Date: Thu, 17 Oct 2024 01:53:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-18 13:20:52.948517
- Title: Local transfer learning Gaussian process modeling, with applications to surrogate modeling of expensive computer simulators
- Title(参考訳): 局所移動学習ガウス過程モデリングと高価な計算機シミュレータのモデル化への応用
- Authors: Xinming Wang, Simon Mak, John Miller, Jianguo Wu,
- Abstract要約: 科学的進歩における重要なボトルネックは、複雑なシステムのためのコンピュータシミュレーションのコストのかかる性質である。
多くのアプリケーションでは、関連するシステムで利用可能なデータがあることが多い。
重要な疑問は、このような"ソース"システムからの情報を効果的にサロゲートトレーニングのためにどのように転送するかである。
- 参考スコア(独自算出の注目度): 8.507372217592472
- License:
- Abstract: A critical bottleneck for scientific progress is the costly nature of computer simulations for complex systems. Surrogate models provide an appealing solution: such models are trained on simulator evaluations, then used to emulate and quantify uncertainty on the expensive simulator at unexplored inputs. In many applications, one often has available data on related systems. For example, in designing a new jet turbine, there may be existing studies on turbines with similar configurations. A key question is how information from such "source" systems can be transferred for effective surrogate training on the "target" system of interest. We thus propose a new LOcal transfer Learning Gaussian Process (LOL-GP) model, which leverages a carefully-designed Gaussian process to transfer such information for surrogate modeling. The key novelty of the LOL-GP is a latent regularization model, which identifies regions where transfer should be performed and regions where it should be avoided. This "local transfer" property is desirable in scientific systems: at certain parameters, such systems may behave similarly and thus transfer is beneficial; at other parameters, they may behave differently and thus transfer is detrimental. By accounting for local transfer, the LOL-GP can rectify a critical limitation of "negative transfer" in existing transfer learning models, where the transfer of information worsens predictive performance. We derive a Gibbs sampling algorithm for efficient posterior predictive sampling on the LOL-GP, for both the multi-source and multi-fidelity transfer settings. We then show, via a suite of numerical experiments and an application for jet turbine design, the improved surrogate performance of the LOL-GP over existing methods.
- Abstract(参考訳): 科学的進歩における重要なボトルネックは、複雑なシステムのためのコンピュータシミュレーションのコストのかかる性質である。
これらのモデルはシミュレータの評価に基づいて訓練され、探索されていない入力で高価なシミュレータ上で不確実性をエミュレートし定量化するために使用される。
多くのアプリケーションでは、関連するシステムで利用可能なデータがあることが多い。
例えば、新しいジェットタービンを設計する際には、同様の構成のタービンの研究があるかもしれない。
鍵となる疑問は、そのような「ソース」システムからの情報は、どのようにして「ターゲット」システムの効果的な代理訓練を行うことができるかである。
そこで本研究では,新たに設計されたガウス過程を応用したローカ・トランスファー学習ガウス過程(LOL-GP)モデルを提案する。
LOL-GPの重要な特徴は、移行すべき領域と回避すべき領域を識別する潜在正規化モデルである。
この「局所移動」特性は科学的システムにおいて望ましいものであり、あるパラメータではそのようなシステムは同様に振る舞うことができ、したがって転送は有益であり、他のパラメータでは異なる振る舞うことができ、したがって転送は有害である。
局所移動を考慮することで、LOL-GPは、情報転送が予測性能を悪化させる既存の伝達学習モデルにおける「負の伝達」の限界を是正することができる。
マルチソースおよびマルチファイル転送設定の両方に対して,LOL-GP上での効率的な後方予測サンプリングのためのギブスサンプリングアルゴリズムを導出する。
次に, 数値実験とジェットタービン設計への応用を通じて, LOL-GPの既存手法よりも優れたサロゲート性能を示すことを示す。
関連論文リスト
- Machine learning surrogates for efficient hydrologic modeling: Insights from stochastic simulations of managed aquifer recharge [0.0]
プロセスベース水理モデルと機械学習サロゲートモデルのためのハイブリッドモデリングワークフローを提案する。
ケーススタディでは, このワークフローを, 将来的な管理型帯水層帯水層における飽和地下水流のシミュレーションに応用する。
以上の結果から,MLサロゲートモデルでは,絶対誤差率10%以下で絶対誤差を達成でき,大域保存の順序付けが可能であることが示唆された。
論文 参考訳(メタデータ) (2024-07-30T15:24:27Z) - Transfer Learning Under High-Dimensional Graph Convolutional Regression Model for Node Classification [20.18595334666282]
グラフ畳み込み多相ロジスティック回帰(GCR)モデルと、トランス-GCRと呼ばれるGCRモデルに基づく伝達学習手法を提案する。
我々は,高次元環境下でのGCRモデルで得られた推定値について理論的に保証する。
論文 参考訳(メタデータ) (2024-05-26T19:30:14Z) - Enhancing Polynomial Chaos Expansion Based Surrogate Modeling using a
Novel Probabilistic Transfer Learning Strategy [2.980666177064344]
ブラックボックスシミュレーションでは、非侵入型PCEは一連のシミュレーション応答評価を用いてサロゲートを構築することができる。
そこで我々は,類似のPCEサロゲート構築タスクを通じて得られた知識を新たなサロゲート構築タスクに転送することで,伝達学習を活用することを提案する。
論文 参考訳(メタデータ) (2023-12-07T19:16:42Z) - Transfer of Reinforcement Learning-Based Controllers from Model- to
Hardware-in-the-Loop [1.8218298349840023]
強化学習は、自律的な訓練エージェントが複雑な制御タスクを実行する大きな可能性を秘めている。
組み込みシステム機能開発においてRLを効果的に利用するには、生成されたエージェントが現実世界のアプリケーションを扱う必要がある。
本研究は,Transfer Learning(TL)とX-in-the-Loop(XiL)シミュレーションを組み合わせることで,RLエージェントのトレーニングプロセスの高速化に重点を置いている。
論文 参考訳(メタデータ) (2023-10-25T09:13:12Z) - Emergent Agentic Transformer from Chain of Hindsight Experience [96.56164427726203]
簡単なトランスフォーマーベースモデルが時間差と模倣学習に基づくアプローチの両方と競合することを示す。
単純なトランスフォーマーベースのモデルが時間差と模倣学習ベースのアプローチの両方で競合するのはこれが初めてである。
論文 参考訳(メタデータ) (2023-05-26T00:43:02Z) - Pretraining Graph Neural Networks for few-shot Analog Circuit Modeling
and Design [68.1682448368636]
本稿では、新しい未知のトポロジや未知の予測タスクに適応可能な回路表現を学習するための教師付き事前学習手法を提案する。
異なる回路の変動位相構造に対処するため、各回路をグラフとして記述し、グラフニューラルネットワーク(GNN)を用いてノード埋め込みを学習する。
出力ノード電圧の予測における事前学習GNNは、新しい未知のトポロジや新しい回路レベル特性の予測に適応可能な学習表現を促進することができることを示す。
論文 参考訳(メタデータ) (2022-03-29T21:18:47Z) - A Meta-Learning Approach to the Optimal Power Flow Problem Under
Topology Reconfigurations [69.73803123972297]
メタラーニング(MTL)アプローチを用いて訓練されたDNNベースのOPF予測器を提案する。
開発したOPF予測器はベンチマークIEEEバスシステムを用いてシミュレーションにより検証される。
論文 参考訳(メタデータ) (2020-12-21T17:39:51Z) - Active Learning for Deep Gaussian Process Surrogates [0.3222802562733786]
深層ガウス過程(dgps)は機械学習(ml)の予測モデルとしてますます普及している
そこで我々はDGPを,応答面が類似した特性を示す計算機シミュレーション実験のサロゲートとして検討する。
我々は,シミュレータコードの高価な評価とDGP推論の3乗コストの軽減を両立させ,設計を逐次構築する。
論文 参考訳(メタデータ) (2020-12-15T00:09:37Z) - Transfer Learning without Knowing: Reprogramming Black-box Machine
Learning Models with Scarce Data and Limited Resources [78.72922528736011]
そこで我々は,ブラックボックス・アタベラル・リプログラミング (BAR) という新しい手法を提案する。
ゼロオーダー最適化とマルチラベルマッピング技術を用いて、BARは入力出力応答のみに基づいてブラックボックスMLモデルをプログラムする。
BARは最先端の手法より優れ、バニラ対逆プログラミング法に匹敵する性能を得る。
論文 参考訳(メタデータ) (2020-07-17T01:52:34Z) - Likelihood-Free Inference with Deep Gaussian Processes [70.74203794847344]
サーロゲートモデルは、シミュレータ評価の回数を減らすために、可能性のない推論に成功している。
本稿では,より不規則な対象分布を扱えるディープガウス過程(DGP)サロゲートモデルを提案する。
本実験は,DGPがマルチモーダル分布を持つ目的関数上でGPよりも優れ,単調な場合と同等の性能を維持できることを示す。
論文 参考訳(メタデータ) (2020-06-18T14:24:05Z) - RL-CycleGAN: Reinforcement Learning Aware Simulation-To-Real [74.45688231140689]
本稿では、画像翻訳におけるRL-scene整合性損失を導入し、画像に関連付けられたQ値に対して変換操作が不変であることを保証する。
RL-CycleGANは実世界のシミュレーションから実世界への変換による強化学習のための新しい手法である。
論文 参考訳(メタデータ) (2020-06-16T08:58:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。