論文の概要: Discovering Representations for Black-box Optimization
- arxiv url: http://arxiv.org/abs/2003.04389v2
- Date: Sun, 5 Jul 2020 13:28:03 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-25 07:49:32.236696
- Title: Discovering Representations for Black-box Optimization
- Title(参考訳): ブラックボックス最適化のための表現の発見
- Authors: Adam Gaier, Alexander Asteroth, Jean-Baptiste Mouret
- Abstract要約: ブラックボックス最適化符号化は手作業で行うのではなく,自動的に学習可能であることを示す。
学習された表現は、標準的なMAP-Elitesよりも桁違いに少ない評価で高次元の問題を解くことができることを示す。
- 参考スコア(独自算出の注目度): 73.59962178534361
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The encoding of solutions in black-box optimization is a delicate,
handcrafted balance between expressiveness and domain knowledge -- between
exploring a wide variety of solutions, and ensuring that those solutions are
useful. Our main insight is that this process can be automated by generating a
dataset of high-performing solutions with a quality diversity algorithm (here,
MAP-Elites), then learning a representation with a generative model (here, a
Variational Autoencoder) from that dataset. Our second insight is that this
representation can be used to scale quality diversity optimization to higher
dimensions -- but only if we carefully mix solutions generated with the learned
representation and those generated with traditional variation operators. We
demonstrate these capabilities by learning an low-dimensional encoding for the
inverse kinematics of a thousand joint planar arm. The results show that
learned representations make it possible to solve high-dimensional problems
with orders of magnitude fewer evaluations than the standard MAP-Elites, and
that, once solved, the produced encoding can be used for rapid optimization of
novel, but similar, tasks. The presented techniques not only scale up quality
diversity algorithms to high dimensions, but show that black-box optimization
encodings can be automatically learned, rather than hand designed.
- Abstract(参考訳): ブラックボックス最適化におけるソリューションのエンコーディングは、表現力とドメイン知識の間の微妙で手作りのバランスであり、幅広いソリューションを探索し、それらのソリューションが有用であることを保証する。
主な洞察は、このプロセスは、高品質な多様性アルゴリズム(以下MAP-Elites)で高性能なソリューションのデータセットを生成し、そのデータセットから生成モデル(以下、変分オートエンコーダ)で表現を学習することで自動化できるということです。
第二の洞察は、この表現が品質の多様性の最適化を高次元に拡張するために使用できるということです -- しかし、学習した表現と従来の変動演算子で生成されたソリューションを慎重に混ぜた場合に限りです。
我々は,1000個の平面アームの逆運動学の低次元エンコーディングを学習することにより,これらの能力を示す。
その結果、学習表現は、標準map-elitesよりも桁違いに少ない評価で高次元の問題を解くことができ、一旦解くと、生成されたエンコーディングは、新規だが類似したタスクの迅速な最適化に使用できることが示された。
提案手法は品質の多様性のアルゴリズムを高次元にスケールアップするだけでなく,ブラックボックス最適化エンコーディングを手設計ではなく,自動的に学習できることを示す。
関連論文リスト
- Optimizing Attention with Mirror Descent: Generalized Max-Margin Token Selection [6.759148939470332]
アルゴリズムは、$ell_p$-normの目的を持つハードマージンSVMに収束することを示す。
具体的には、これらのアルゴリズムは、$ell_p$-normの目的を持つ一般化されたハードマージンSVMに収束することを示す。
論文 参考訳(メタデータ) (2024-10-18T16:32:06Z) - An Expandable Machine Learning-Optimization Framework to Sequential
Decision-Making [0.0]
逐次的意思決定問題を効率的に解決する統合予測最適化(PredOpt)フレームワークを提案する。
本稿では,機械学習(ML)における逐次依存,実現可能性,一般化といった課題に対処し,インスタンス問題に対する最適解の予測を行う。
論文 参考訳(メタデータ) (2023-11-12T21:54:53Z) - On the Suitability of Representations for Quality Diversity Optimization
of Shapes [77.34726150561087]
進化的アルゴリズムで使用される表現、あるいは符号化は、その性能に大きな影響を及ぼす。
本研究では, 直接符号化, 辞書ベース表現, パラメトリック符号化, 合成パターン生成ネットワーク, セルオートマトンなどの表現が, 酸化メッシュの生成に与える影響について比較した。
論文 参考訳(メタデータ) (2023-04-07T07:34:23Z) - An Empirical Evaluation of Zeroth-Order Optimization Methods on
AI-driven Molecule Optimization [78.36413169647408]
分子目的を最適化するための様々なZO最適化手法の有効性について検討する。
ZO符号に基づく勾配降下(ZO-signGD)の利点を示す。
本稿では,Guurcamol スイートから広く使用されているベンチマークタスクに対して,ZO 最適化手法の有効性を示す。
論文 参考訳(メタデータ) (2022-10-27T01:58:10Z) - Linear Matrix Factorization Embeddings for Single-objective Optimization
Landscapes [0.755972004983746]
ブラックボックス最適化では、機能は$(x,f(x))$サンプルのセットから導出する必要がある。
行列因数分解による線形次元の減少は、異なる問題インスタンス間の相関関係のより良い検出に大きく寄与することを示す。
論文 参考訳(メタデータ) (2020-09-30T08:46:54Z) - A Flexible Framework for Designing Trainable Priors with Adaptive
Smoothing and Game Encoding [57.1077544780653]
我々は、前方通過を非滑らかな凸最適化問題として解釈できるニューラルネットワーク層の設計とトレーニングのための一般的なフレームワークを紹介する。
グラフのノードに代表されるローカルエージェントによって解決され、正規化関数を介して相互作用する凸ゲームに焦点を当てる。
このアプローチは、訓練可能なエンドツーエンドのディープモデル内で、古典的な画像の事前使用を可能にするため、画像の問題を解決するために魅力的である。
論文 参考訳(メタデータ) (2020-06-26T08:34:54Z) - Automatically Learning Compact Quality-aware Surrogates for Optimization
Problems [55.94450542785096]
未知パラメータで最適化問題を解くには、未知パラメータの値を予測し、これらの値を用いて問題を解くための予測モデルを学ぶ必要がある。
最近の研究によると、複雑なトレーニングモデルパイプラインのレイヤーとして最適化の問題を含めると、観測されていない意思決定の繰り返しを予測することになる。
我々は,大規模最適化問題の低次元サロゲートモデルを学習することにより,解の質を向上させることができることを示す。
論文 参考訳(メタデータ) (2020-06-18T19:11:54Z) - MetaSDF: Meta-learning Signed Distance Functions [85.81290552559817]
ニューラルな暗示表現で形状を一般化することは、各関数空間上の学習先行値に比例する。
形状空間の学習をメタラーニング問題として定式化し、勾配に基づくメタラーニングアルゴリズムを利用してこの課題を解決する。
論文 参考訳(メタデータ) (2020-06-17T05:14:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。