論文の概要: Gradient and Uncertainty Enhanced Sequential Sampling for Global Fit
- arxiv url: http://arxiv.org/abs/2310.00110v1
- Date: Fri, 29 Sep 2023 19:49:39 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-05 06:31:07.923285
- Title: Gradient and Uncertainty Enhanced Sequential Sampling for Global Fit
- Title(参考訳): グローバルフィットのための勾配・不確実性強化シーケンシャルサンプリング
- Authors: Sven L\"ammle, Can Bogoclu, Kevin Cremanns, Dirk Roos
- Abstract要約: 本稿では、GUESS(Gradient and Uncertainty Enhanced Sequential Smpling)と呼ばれる、グローバル適合のための新しいサンプリング戦略を提案する。
GUESSは, 実験例における他のサロゲート型戦略と比較して, 平均的な試料効率で達成された。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Surrogate models based on machine learning methods have become an important
part of modern engineering to replace costly computer simulations. The data
used for creating a surrogate model are essential for the model accuracy and
often restricted due to cost and time constraints. Adaptive sampling strategies
have been shown to reduce the number of samples needed to create an accurate
model. This paper proposes a new sampling strategy for global fit called
Gradient and Uncertainty Enhanced Sequential Sampling (GUESS). The acquisition
function uses two terms: the predictive posterior uncertainty of the surrogate
model for exploration of unseen regions and a weighted approximation of the
second and higher-order Taylor expansion values for exploitation. Although
various sampling strategies have been proposed so far, the selection of a
suitable method is not trivial. Therefore, we compared our proposed strategy to
9 adaptive sampling strategies for global surrogate modeling, based on 26
different 1 to 8-dimensional deterministic benchmarks functions. Results show
that GUESS achieved on average the highest sample efficiency compared to other
surrogate-based strategies on the tested examples. An ablation study
considering the behavior of GUESS in higher dimensions and the importance of
surrogate choice is also presented.
- Abstract(参考訳): 機械学習手法に基づくサロゲートモデルは、高価なコンピュータシミュレーションを置き換えるために現代工学の重要な部分となっている。
代理モデルを作成するために使用されるデータは、モデルの精度に不可欠であり、コストと時間の制約のためにしばしば制限される。
適応的なサンプリング戦略は、正確なモデルを作成するのに必要なサンプル数を減らすために示されてきた。
本稿では、GUESS(Gradient and Uncertainty Enhanced Sequential Sampling)と呼ばれる、グローバル適合のための新しいサンプリング戦略を提案する。
取得関数は2つの項を用いる: サーロゲートモデルの予測的後方不確かさ(英語版) 未発見領域の探索と、搾取のための2階および高階テイラー展開値の重み付き近似。
これまでに様々なサンプリング戦略が提案されているが、適切な方法の選択は自明ではない。
そこで,提案手法を,26の異なる1次元から8次元のベンチマーク関数に基づいて,グローバルサロゲートモデリングのための9つの適応サンプリング戦略と比較した。
その結果, GUESSは, 実験例における他のサロゲート戦略と比較して, 試料効率が高かった。
より高次元におけるGUESSの挙動と代理選択の重要性を考慮したアブレーション研究についても述べる。
関連論文リスト
- An incremental preference elicitation-based approach to learning potentially non-monotonic preferences in multi-criteria sorting [53.36437745983783]
まず最適化モデルを構築し,非単調な選好をモデル化する。
本稿では,情報量測定手法と質問選択戦略を考案し,各イテレーションにおいて最も情報に富む選択肢を特定する。
2つのインクリメンタルな選好に基づくアルゴリズムは、潜在的に単調な選好を学習するために開発された。
論文 参考訳(メタデータ) (2024-09-04T14:36:20Z) - Model-Free Active Exploration in Reinforcement Learning [53.786439742572995]
強化学習における探索問題について検討し,新しいモデルフリーソリューションを提案する。
我々の戦略は、最先端の探査アプローチよりも高速に効率的な政策を特定できる。
論文 参考訳(メタデータ) (2024-06-30T19:00:49Z) - Self-Supervised Dataset Distillation for Transfer Learning [77.4714995131992]
ラベルなしデータセットを、効率的な自己教師付き学習(SSL)のための小さな合成サンプル群に蒸留する新しい問題を提案する。
両レベル最適化におけるSSL目標に対する合成サンプルの勾配は、データ拡張やマスキングから生じるランダム性から、テキストバイアスを受けていることを最初に証明する。
転送学習を含む様々な応用における本手法の有効性を実証的に検証する。
論文 参考訳(メタデータ) (2023-10-10T10:48:52Z) - Towards Automated Imbalanced Learning with Deep Hierarchical
Reinforcement Learning [57.163525407022966]
不均衡学習はデータマイニングにおいて基本的な課題であり、各クラスにトレーニングサンプルの不均等な比率が存在する。
オーバーサンプリングは、少数民族のための合成サンプルを生成することによって、不均衡な学習に取り組む効果的な手法である。
我々は,異なるレベルの意思決定を共同で最適化できる自動オーバーサンプリングアルゴリズムであるAutoSMOTEを提案する。
論文 参考訳(メタデータ) (2022-08-26T04:28:01Z) - Spatially-Varying Bayesian Predictive Synthesis for Flexible and
Interpretable Spatial Prediction [6.07227513262407]
本研究では,空間的ベイズ予測合成と呼ばれる空間的不確かさを捉える手法を提案する。
提案した空間ベイズ予測合成は,標準的な空間モデルや高度な機械学習手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-03-10T07:16:29Z) - Sample-Efficient Reinforcement Learning via Conservative Model-Based
Actor-Critic [67.00475077281212]
モデルベース強化学習アルゴリズムは、モデルフリーのアルゴリズムよりもサンプル効率が高い。
本稿では,精度の高い学習モデルに強く依存することなく,高いサンプル効率を実現する新しい手法を提案する。
CMBACは,いくつかの課題に対して,サンプル効率の点で最先端のアプローチを著しく上回ることを示す。
論文 参考訳(メタデータ) (2021-12-16T15:33:11Z) - Improving Hyperparameter Optimization by Planning Ahead [3.8673630752805432]
本稿では,モデルに基づく強化学習の文脈内で定義された新しい伝達学習手法を提案する。
本稿では,シンプルなルックアヘッド戦略をポリシーとして用いたモデル予測制御法を提案する。
最新のHPOアルゴリズムと比較した3つのメタデータセット実験により,提案手法が全ベースラインを上回り得ることを示す。
論文 参考訳(メタデータ) (2021-10-15T11:46:14Z) - Variational Inference with NoFAS: Normalizing Flow with Adaptive
Surrogate for Computationally Expensive Models [7.217783736464403]
マルコフ連鎖モンテカルロのようなサンプリングに基づくアプローチの使用は、それぞれの可能性評価が計算的に高価であるときに難解になる可能性がある。
変分推論と正規化フローを組み合わせた新しいアプローチは、潜在変数空間の次元と線形にしか成長しない計算コストによって特徴づけられる。
本稿では,ニューラルネットワークサロゲートモデルの正規化フローパラメータと重みを代わりに更新する最適化戦略である,適応サロゲートを用いた正規化フロー(NoFAS)を提案する。
論文 参考訳(メタデータ) (2021-08-28T14:31:45Z) - Local Latin Hypercube Refinement for Multi-objective Design Uncertainty
Optimization [0.5156484100374058]
本稿では,ロバスト設計最適化問題に対するサロゲートに基づく逐次サンプリング手法を提案する。
提案されたローカルラテンハイパーキューブ改善(LoLHR)戦略はモデルに依存しず、任意の代理モデルと組み合わせることができる。
LoLHRは、テスト済みの他のサロゲートベースの戦略と比較して平均的なより良い結果が得られる。
論文 参考訳(メタデータ) (2021-08-19T19:46:38Z) - Local policy search with Bayesian optimization [73.0364959221845]
強化学習は、環境との相互作用によって最適な政策を見つけることを目的としている。
局所探索のための政策勾配は、しばしばランダムな摂動から得られる。
目的関数の確率モデルとその勾配を用いたアルゴリズムを開発する。
論文 参考訳(メタデータ) (2021-06-22T16:07:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。