Fugu-MT 論文翻訳(概要): BOSS: Bayesian Optimization over String Spaces

論文の概要: BOSS: Bayesian Optimization over String Spaces

arxiv url: http://arxiv.org/abs/2010.00979v1
Date: Fri, 2 Oct 2020 13:18:27 GMT
ステータス: 処理完了
システム内更新日: 2022-10-12 00:12:56.604580
Title: BOSS: Bayesian Optimization over String Spaces
Title（参考訳）: BOSS: 文字列空間に対するベイズ最適化
Authors: Henry B. Moss, Daniel Beck, Javier Gonzalez, David S. Leslie, Paul Rayson
Abstract要約: 本稿では,原弦上で直接作用するベイズ最適化法(BO法)を提案する。 BOループ内で文字列カーネルと遺伝的アルゴリズムを最初に使用することを提案する。
参考スコア（独自算出の注目度）: 15.630421177117634
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: This article develops a Bayesian optimization (BO) method which acts directly over raw strings, proposing the first uses of string kernels and genetic algorithms within BO loops. Recent applications of BO over strings have been hindered by the need to map inputs into a smooth and unconstrained latent space. Learning this projection is computationally and data-intensive. Our approach instead builds a powerful Gaussian process surrogate model based on string kernels, naturally supporting variable length inputs, and performs efficient acquisition function maximization for spaces with syntactical constraints. Experiments demonstrate considerably improved optimization over existing approaches across a broad range of constraints, including the popular setting where syntax is governed by a context-free grammar.
Abstract（参考訳）: 本稿では,生文字列上で直接動作するベイズ最適化(bo)手法を開発し,boループ内の文字列カーネルと遺伝的アルゴリズムの初使用を提案する。 BOオーバストリングの最近の応用は、入力を滑らかで制約のない潜在空間にマッピングする必要性によって妨げられている。このプロジェクションの学習は計算とデータ集約である。提案手法は,文字列カーネルに基づく強力なガウス過程サロゲートモデルを構築し,自然に可変長入力をサポートし,構文制約のある空間に対して効率的な獲得関数最大化を行う。実験は、文脈自由文法によって構文が支配される一般的な設定など、幅広い制約で既存のアプローチよりも大幅に改善された最適化を示す。

関連論文リスト

Faster WIND: Accelerating Iterative Best-of-$N$ Distillation for LLM Alignment [81.84950252537618]
本稿では,反復的BONDと自己プレイアライメントの統一的なゲーム理論接続を明らかにする。 WINレート支配(WIN rate Dominance, WIND)という新しいフレームワークを構築し, 正規化利率支配最適化のためのアルゴリズムを多数提案する。
論文参考訳（メタデータ） (2024-10-28T04:47:39Z)
Sample-efficient Bayesian Optimisation Using Known Invariances [56.34916328814857]
バニラと制約付きBOアルゴリズムは、不変目的を最適化する際の非効率性を示す。我々はこれらの不変カーネルの最大情報ゲインを導出する。核融合炉用電流駆動システムの設計に本手法を用い, 高性能溶液の探索を行った。
論文参考訳（メタデータ） (2024-10-22T12:51:46Z)
Predicting from Strings: Language Model Embeddings for Bayesian Optimization [21.370382766970877]
文字列入力に対してコンテキスト内回帰を適用するパラダイムである Embed-then-Regress を提案する。すべての入力を文字列として表現することで、さまざまなドメインに対して最適化のための汎用回帰を行うことができる。
論文参考訳（メタデータ） (2024-10-14T06:22:11Z)
High dimensional Bayesian Optimization via Condensing-Expansion Projection [1.6355174910200032]
高次元設定では、ベイズ最適化(BO)は高価で実現不可能である。実効的な部分空間仮定に応答しない高次元BOに対して、新しいランダムなプロジェクションに基づくアプローチを導入する。実験の結果、どちらのアルゴリズムも既存のランダムな埋め込みに基づくアルゴリズムよりも優れていることがわかった。
論文参考訳（メタデータ） (2024-08-09T04:47:38Z)
Reinforced In-Context Black-Box Optimization [64.25546325063272]
RIBBOは、オフラインデータからエンドツーエンドでBBOアルゴリズムを強化学習する手法である。 RIBBOは、複数の動作アルゴリズムとタスクによって生成される最適化履歴を学習するために、表現的なシーケンスモデルを使用している。提案手法の中心となるのは,テキストレグレット・ツー・ゴートークンによる最適化履歴の増大である。
論文参考訳（メタデータ） (2024-02-27T11:32:14Z)
Voronoi Candidates for Bayesian Optimization [2.7309692684728617]
多くの実践的なBO法、特に高次元では、取得関数の形式的で連続的な最適化を導出する。本稿では,現在の設計点のヴォロノイ・テッセルレーションの境界上にある候補を用いて,それらのうち2つ以上に等しくなるようにすることを提案する。テッセルレーションを明示的に生成することなく,ヴォロノイ境界を直接サンプリングすることで,効率的な実装の戦略について議論する。
論文参考訳（メタデータ） (2024-02-07T14:47:13Z)
Tree ensemble kernels for Bayesian optimization with known constraints over mixed-feature spaces [54.58348769621782]
木アンサンブルはアルゴリズムチューニングやニューラルアーキテクチャ検索といったブラックボックス最適化タスクに適している。ブラックボックス最適化にツリーアンサンブルを使うことの2つのよく知られた課題は、探索のためのモデル不確実性を効果的に定量化し、また、 (ii) ピースワイドな定値取得関数を最適化することである。我々のフレームワークは、連続/離散的機能に対する非拘束ブラックボックス最適化のための最先端の手法と同様に、混合変数の特徴空間と既知の入力制約を組み合わせた問題の競合する手法よりも優れている。
論文参考訳（メタデータ） (2022-07-02T16:59:37Z)
Combining Latent Space and Structured Kernels for Bayesian Optimization over Combinatorial Spaces [27.989924313988016]
我々は、高価なブラックボックス関数評価を用いて、空間(シーケンス、ツリー、グラフなど)を最適化する問題を考察する。空間に対する最近のBOアプローチは、構造体の潜在表現を学習することで連続空間上のBOへの還元である。本稿では,この欠点を克服するための原則的アプローチであるLADDERを提案する。
論文参考訳（メタデータ） (2021-11-01T18:26:22Z)
LinEasyBO: Scalable Bayesian Optimization Approach for Analog Circuit Synthesis via One-Dimensional Subspaces [11.64233949999656]
アナログ回路合成のための1次元部分空間による高速でロバストなベイズ最適化手法を提案する。提案アルゴリズムは,バッチサイズが15のとき,LP-EIおよびREMBOpBOと比較して最大9倍,38倍の最適化手順を高速化できる。
論文参考訳（メタデータ） (2021-09-01T21:25:25Z)
Bayesian Algorithm Execution: Estimating Computable Properties of Black-box Functions Using Mutual Information [78.78486761923855]
多くの現実世界では、T関数の評価の予算を考えると、高価なブラックボックス関数 f の性質を推測したい。本稿では,アルゴリズムの出力に対して相互情報を最大化するクエリを逐次選択する手法InfoBAXを提案する。これらの問題に対してInfoBAXは、元のアルゴリズムで要求されるより500倍少ないクエリをfに使用する。
論文参考訳（メタデータ） (2021-04-19T17:22:11Z)
Sub-linear Regret Bounds for Bayesian Optimisation in Unknown Search Spaces [63.22864716473051]
本稿では,反復により探索空間を拡大(およびシフト)する新しいBOアルゴリズムを提案する。理論的には、どちらのアルゴリズムにおいても、累積的後悔は線形以下の速度で増大する。
論文参考訳（メタデータ） (2020-09-05T14:24:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。