論文の概要: High-Dimensional Bayesian Optimisation with Variational Autoencoders and Deep Metric Learning

• arxiv url: http://arxiv.org/abs/2106.03609v1
• Date: Mon, 7 Jun 2021 13:35:47 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-08 17:48:21.432598
• Title: High-Dimensional Bayesian Optimisation with Variational Autoencoders and Deep Metric Learning
• Title（参考訳）: 変分オートエンコーダとDeep Metric Learningを用いた高次元ベイズ最適化
• Authors: Antoine Grosnit, Rasul Tutunov, Alexandre Max Maraval, Ryan-Rhys Griffiths, Alexander I. Cowen-Rivers, Lin Yang, Lin Zhu, Wenlong Lyu, Zhitang Chen, Jun Wang, Jan Peters, Haitham Bou-Ammar
• Abstract要約: 本研究では,高次元の入力空間上でベイズ最適化を行うためのディープ・メトリック・ラーニングに基づく手法を提案する。 このような帰納バイアスを、利用可能なラベル付きデータの1%だけを用いて達成する。 実証的な貢献として、実世界の高次元ブラックボックス最適化問題に対する最先端の結果を示す。
• 参考スコア（独自算出の注目度）: 119.91679702854499
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We introduce a method based on deep metric learning to perform Bayesian optimisation over high-dimensional, structured input spaces using variational autoencoders (VAEs). By extending ideas from supervised deep metric learning, we address a longstanding problem in high-dimensional VAE Bayesian optimisation, namely how to enforce a discriminative latent space as an inductive bias. Importantly, we achieve such an inductive bias using just 1% of the available labelled data relative to previous work, highlighting the sample efficiency of our approach. As a theoretical contribution, we present a proof of vanishing regret for our method. As an empirical contribution, we present state-of-the-art results on real-world high-dimensional black-box optimisation problems including property-guided molecule generation. It is the hope that the results presented in this paper can act as a guiding principle for realising effective high-dimensional Bayesian optimisation.
• Abstract（参考訳）: 本稿では,可変オートエンコーダ(vaes)を用いた高次元構造化入力空間上でベイズ最適化を行うための,深部メトリック学習に基づく手法を提案する。 教師付き深層メトリック学習からアイデアを拡張することで、高次元ベイズ最適化における長年の問題、すなわち、帰納的バイアスとして判別的潜在空間を強制する方法について解決する。 重要な点は,従来の作業と比較してラベル付きデータの1%しか利用せず,提案手法のサンプル効率を浮き彫りにして,このような帰納的バイアスを実現することである。 理論的貢献として、我々の方法に対する後悔が消える証拠を示す。 本研究では,実世界の高次元ブラックボックス最適化問題に対して,特性誘導分子生成を含む最新結果を提示する。 この論文で示される結果は、効果的な高次元ベイズ最適化を実現するための指針となることを期待している。

関連論文リスト

• Enhanced Bayesian Optimization via Preferential Modeling of Abstract Properties [49.351577714596544]
  本研究では,非測定抽象特性に関する専門家の嗜好を代理モデルに組み込むための,人間とAIの協調型ベイズフレームワークを提案する。 優先判断において、誤った/誤解を招く専門家バイアスを処理できる効率的な戦略を提供する。
  論文  参考訳（メタデータ） (2024-02-27T09:23:13Z)
• PG-LBO: Enhancing High-Dimensional Bayesian Optimization with Pseudo-Label and Gaussian Process Guidance [31.585328335396607]
  現在の主流の手法は、ラベルのないデータのプールを利用して潜在空間を構築する可能性を見落としている。 ラベル付きデータのガイダンスを用いてラベル付きデータを効果的に活用するための新しい手法を提案する。 提案手法は,様々な最適化シナリオにおいて,既存のVAE-BOアルゴリズムよりも優れている。
  論文  参考訳（メタデータ） (2023-12-28T11:57:58Z)
• Scalable Bayesian Meta-Learning through Generalized Implicit Gradients [64.21628447579772]
  Inlicit Bayesian Meta-learning (iBaML) 法は、学習可能な事前のスコープを広げるだけでなく、関連する不確実性も定量化する。 解析誤差境界は、明示的よりも一般化された暗黙的勾配の精度と効率を示すために確立される。
  論文  参考訳（メタデータ） (2023-03-31T02:10:30Z)
• Making Linear MDPs Practical via Contrastive Representation Learning [101.75885788118131]
  マルコフ決定過程(MDP)における次元性の呪いに、低ランク表現を利用することで対処することが一般的である。 本稿では,効率的な表現学習を可能にしつつ,正規化を自動的に保証する線形MDPの代替的定義について考察する。 いくつかのベンチマークにおいて、既存の最先端モデルベースおよびモデルフリーアルゴリズムよりも優れた性能を示す。
  論文  参考訳（メタデータ） (2022-07-14T18:18:02Z)
• Incremental Semi-Supervised Learning Through Optimal Transport [0.0]
  本研究では, 半指導的学習のための2成分エッジ重み付きグラフを用いた新しいアプローチを提案する。 提案手法は,ラベル付きデータポイントと非ラベル付きデータポイントで定義された経験的測度間の規則化された最適輸送を用いて,最適輸送計画から親和性行列を得る。
  論文  参考訳（メタデータ） (2021-03-22T15:31:53Z)
• Efficient Semi-Implicit Variational Inference [65.07058307271329]
  効率的でスケーラブルな半単純外挿 (SIVI) を提案する。 本手法はSIVIの証拠を低勾配値の厳密な推測にマッピングする。
  論文  参考訳（メタデータ） (2021-01-15T11:39:09Z)
• High-Dimensional Bayesian Optimization via Nested Riemannian Manifolds [0.0]
  本研究では,様々な領域によく現れる非ユークリッド探索空間の幾何学を利用して,構造保存写像を学習することを提案する。 我々のアプローチは、ネストした多様体の埋め込みを共同で学習する幾何学的ガウス過程と、潜在空間における目的関数の表現を特徴付ける。
  論文  参考訳（メタデータ） (2020-10-21T11:24:11Z)
• Adaptive Learning of the Optimal Batch Size of SGD [52.50880550357175]
  本稿では,その繰り返しを通じて最適なバッチサイズを適応的に学習し,凸度と滑らかな関数を求める手法を提案する。 実験では、合成データと実データを用いて、ほぼ最適な振る舞いを示す。 我々は,本手法を分散実装に適したサンプリングを含む,文献上考慮されていないいくつかの新しいバッチ戦略に一般化する。
  論文  参考訳（メタデータ） (2020-05-03T14:28:32Z)
• Re-Examining Linear Embeddings for High-Dimensional Bayesian Optimization [20.511115436145467]
  BOに対する線形埋め込みの使用に関するいくつかの重要な問題と誤解を同定する。 本研究では,これらの問題に適切に対処することで,BOの線形埋め込みの有効性が著しく向上することを示す。
  論文  参考訳（メタデータ） (2020-01-31T05:02:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。