論文の概要: Continuous Optimization Benchmarks by Simulation
- arxiv url: http://arxiv.org/abs/2008.06249v1
- Date: Fri, 14 Aug 2020 08:50:57 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-30 17:02:09.339091
- Title: Continuous Optimization Benchmarks by Simulation
- Title(参考訳): シミュレーションによる連続最適化ベンチマーク
- Authors: Martin Zaefferer and Frederik Rehbach
- Abstract要約: 最適化アルゴリズムのテスト、比較、チューニング、理解にはベンチマーク実験が必要である。
以前の評価から得られたデータは、ベンチマークに使用される代理モデルのトレーニングに使用することができる。
本研究では,スペクトルシミュレーションにより連続最適化問題のシミュレーションが可能であることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Benchmark experiments are required to test, compare, tune, and understand
optimization algorithms. Ideally, benchmark problems closely reflect real-world
problem behavior. Yet, real-world problems are not always readily available for
benchmarking. For example, evaluation costs may be too high, or resources are
unavailable (e.g., software or equipment). As a solution, data from previous
evaluations can be used to train surrogate models which are then used for
benchmarking. The goal is to generate test functions on which the performance
of an algorithm is similar to that on the real-world objective function.
However, predictions from data-driven models tend to be smoother than the
ground-truth from which the training data is derived. This is especially
problematic when the training data becomes sparse. The resulting benchmarks may
not reflect the landscape features of the ground-truth, are too easy, and may
lead to biased conclusions. To resolve this, we use simulation of Gaussian
processes instead of estimation (or prediction). This retains the covariance
properties estimated during model training. While previous research suggested a
decomposition-based approach for a small-scale, discrete problem, we show that
the spectral simulation method enables simulation for continuous optimization
problems. In a set of experiments with an artificial ground-truth, we
demonstrate that this yields more accurate benchmarks than simply predicting
with the Gaussian process model.
- Abstract(参考訳): 最適化アルゴリズムのテスト、比較、チューニング、理解にはベンチマーク実験が必要である。
理想的には、ベンチマーク問題は現実世界の問題行動に密接に反映される。
しかし、実際の問題は必ずしもベンチマークで簡単に利用できない。
例えば、評価コストが高すぎる場合や、リソースが使用できない場合(ソフトウェアや機器など)もあります。
ソリューションとして、以前の評価から得られたデータは、その後ベンチマークに使用されるサロゲートモデルのトレーニングに使用できる。
目標は、アルゴリズムのパフォーマンスが実世界の目的関数と類似しているテスト関数を生成することである。
しかし、データ駆動モデルからの予測は、トレーニングデータが導出される地上構造よりも滑らかである傾向にある。
トレーニングデータがスパースになった場合、これは特に問題となる。
結果として得られたベンチマークは、地平線の景観的特徴を反映していないかもしれないし、簡単すぎるし、バイアスのある結論につながるかもしれない。
これを解決するために,推定(あるいは予測)の代わりにガウス過程のシミュレーションを用いる。
これはモデルトレーニング中に推定される共分散特性を保持する。
従来の研究は,小型離散問題に対する分解に基づくアプローチを提案してきたが,スペクトルシミュレーションにより連続最適化問題に対するシミュレーションが可能であった。
人工地盤を用いた一連の実験で、これは単にガウス過程モデルで予測するよりも正確なベンチマークが得られることを証明した。
関連論文リスト
- Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳(メタデータ) (2024-11-21T10:26:17Z) - Efficient Learning of Accurate Surrogates for Simulations of Complex Systems [0.0]
サンプリング駆動サンプリングによって強化されたオンライン学習手法を提案する。
モデル応答面上のすべての旋回点がトレーニングデータに含まれることを保証する。
本手法を核物質のシミュレーションに適用し,高精度なサロゲートを確実に自動生成できることを実証する。
論文 参考訳(メタデータ) (2022-07-11T20:51:11Z) - HyperImpute: Generalized Iterative Imputation with Automatic Model
Selection [77.86861638371926]
カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。
既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
論文 参考訳(メタデータ) (2022-06-15T19:10:35Z) - Model-based Offline Imitation Learning with Non-expert Data [7.615595533111191]
本稿では,最適条件と最適条件の両方で収集されたデータセットを活用する,スケーラブルなモデルベースオフライン模倣学習アルゴリズムフレームワークを提案する。
提案手法は, シミュレーションされた連続制御領域上での低データ構造における振舞いクローンよりも優れることを示す。
論文 参考訳(メタデータ) (2022-06-11T13:08:08Z) - Evaluating State-of-the-Art Classification Models Against Bayes
Optimality [106.50867011164584]
正規化フローを用いて学習した生成モデルのベイズ誤差を正確に計算できることを示す。
われわれの手法を用いて、最先端の分類モデルについて徹底的な調査を行う。
論文 参考訳(メタデータ) (2021-06-07T06:21:20Z) - Model-based Policy Optimization with Unsupervised Model Adaptation [37.09948645461043]
本研究では,不正確なモデル推定による実データとシミュレーションデータのギャップを埋めて,より良いポリシ最適化を実現する方法について検討する。
本稿では,教師なしモデル適応を導入したモデルベース強化学習フレームワークAMPOを提案する。
提案手法は,一連の連続制御ベンチマークタスクにおけるサンプル効率の観点から,最先端の性能を実現する。
論文 参考訳(メタデータ) (2020-10-19T14:19:42Z) - Goal-directed Generation of Discrete Structures with Conditional
Generative Models [85.51463588099556]
本稿では,強化学習目標を直接最適化し,期待される報酬を最大化するための新しいアプローチを提案する。
提案手法は、ユーザ定義プロパティを持つ分子の生成と、所定の目標値を評価する短いピソン表現の同定という2つのタスクで検証する。
論文 参考訳(メタデータ) (2020-10-05T20:03:13Z) - AutoSimulate: (Quickly) Learning Synthetic Data Generation [70.82315853981838]
目的の新たな微分可能近似に基づく最適な合成データ生成法を提案する。
提案手法は,学習データ生成の高速化(最大50Times$)と,実世界のテストデータセットの精度向上(+8.7%$)を実現している。
論文 参考訳(メタデータ) (2020-08-16T11:36:11Z) - Least Squares Regression with Markovian Data: Fundamental Limits and
Algorithms [69.45237691598774]
マルコフ連鎖からデータポイントが依存しサンプリングされる最小二乗線形回帰問題について検討する。
この問題を$tau_mathsfmix$という観点から、鋭い情報理論のミニマックス下限を確立する。
本稿では,経験的リプレイに基づくアルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-06-16T04:26:50Z) - Coping With Simulators That Don't Always Return [15.980496707498535]
特定の入力に対して返却できない決定論的シミュレータにプロセスノイズを加えることで生じる非効率性について検討する。
本研究では,シミュレータが高い確率で成功するような摂動を提案するために,条件付き正規化フローのトレーニング方法を示す。
論文 参考訳(メタデータ) (2020-03-28T23:05:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。