論文の概要: Combinatorial Black-Box Optimization with Expert Advice
- arxiv url: http://arxiv.org/abs/2006.03963v2
- Date: Tue, 13 Oct 2020 20:00:44 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-24 21:15:49.189688
- Title: Combinatorial Black-Box Optimization with Expert Advice
- Title(参考訳): エキスパートアドバイスによる組合せブラックボックス最適化
- Authors: Hamid Dadkhahi, Karthikeyan Shanmugam, Jesus Rios, Payel Das, Samuel
Hoffman, Troy David Loeffler, Subramanian Sankaranarayanan
- Abstract要約: ハイパーキューブ上でのブラックボックス関数最適化の問題点を考察する。
本稿では,マルチリニアと指数重み更新に基づく計算効率のよいモデル学習アルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 28.45580493454314
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We consider the problem of black-box function optimization over the boolean
hypercube. Despite the vast literature on black-box function optimization over
continuous domains, not much attention has been paid to learning models for
optimization over combinatorial domains until recently. However, the
computational complexity of the recently devised algorithms are prohibitive
even for moderate numbers of variables; drawing one sample using the existing
algorithms is more expensive than a function evaluation for many black-box
functions of interest. To address this problem, we propose a computationally
efficient model learning algorithm based on multilinear polynomials and
exponential weight updates. In the proposed algorithm, we alternate between
simulated annealing with respect to the current polynomial representation and
updating the weights using monomial experts' advice. Numerical experiments on
various datasets in both unconstrained and sum-constrained boolean optimization
indicate the competitive performance of the proposed algorithm, while improving
the computational time up to several orders of magnitude compared to
state-of-the-art algorithms in the literature.
- Abstract(参考訳): ブール超キューブ上のブラックボックス関数最適化の問題を考える。
連続ドメインに対するブラックボックス関数の最適化に関する膨大な文献にもかかわらず、組合せドメインに対する最適化の学習モデルにはあまり注目されていない。
しかし、最近考案されたアルゴリズムの計算複雑性は、適度な数の変数でも禁止されており、既存のアルゴリズムを使って1つのサンプルを描画することは、多くのブラックボックス関数に対する関数評価よりも高価である。
この問題に対処するために,多線形多項式と指数重み更新に基づく計算効率の良いモデル学習アルゴリズムを提案する。
提案アルゴリズムでは,現在の多項式表現に対する擬似アニーリングと,単項専門家のアドバイスによる重みの更新を交互に行う。
unconstrained および sum-constrained boolean optimization における様々なデータセットに関する数値実験は、提案されたアルゴリズムの競合性能を示し、文献の最先端アルゴリズムと比較して計算時間を最大数桁改善した。
関連論文リスト
- An Efficient Algorithm for Clustered Multi-Task Compressive Sensing [60.70532293880842]
クラスタ化マルチタスク圧縮センシングは、複数の圧縮センシングタスクを解決する階層モデルである。
このモデルに対する既存の推論アルゴリズムは計算コストが高く、高次元ではうまくスケールしない。
本稿では,これらの共分散行列を明示的に計算する必要をなくし,モデル推論を大幅に高速化するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-09-30T15:57:14Z) - Accelerating Cutting-Plane Algorithms via Reinforcement Learning
Surrogates [49.84541884653309]
凸離散最適化問題に対する現在の標準的なアプローチは、カットプレーンアルゴリズムを使うことである。
多くの汎用カット生成アルゴリズムが存在するにもかかわらず、大規模な離散最適化問題は、難易度に悩まされ続けている。
そこで本研究では,強化学習による切削平面アルゴリズムの高速化手法を提案する。
論文 参考訳(メタデータ) (2023-07-17T20:11:56Z) - Neural-BO: A Black-box Optimization Algorithm using Deep Neural Networks [12.218039144209017]
ニューラルネットワークを用いてブラックボックス関数をモデル化する新しいブラックボックス最適化アルゴリズムを提案する。
我々のアルゴリズムは予測の不確実性を推定するためにベイズニューラルネットワークを必要としないので、計算に有利である。
論文 参考訳(メタデータ) (2023-03-03T02:53:56Z) - Tree ensemble kernels for Bayesian optimization with known constraints
over mixed-feature spaces [54.58348769621782]
木アンサンブルはアルゴリズムチューニングやニューラルアーキテクチャ検索といったブラックボックス最適化タスクに適している。
ブラックボックス最適化にツリーアンサンブルを使うことの2つのよく知られた課題は、探索のためのモデル不確実性を効果的に定量化し、また、 (ii) ピースワイドな定値取得関数を最適化することである。
我々のフレームワークは、連続/離散的機能に対する非拘束ブラックボックス最適化のための最先端の手法と同様に、混合変数の特徴空間と既知の入力制約を組み合わせた問題の競合する手法よりも優れている。
論文 参考訳(メタデータ) (2022-07-02T16:59:37Z) - Matrix Reordering for Noisy Disordered Matrices: Optimality and
Computationally Efficient Algorithms [9.245687221460654]
単細胞生物学とメダゲノミクスの応用により,ノイズモノトンToeplitz行列モデルに基づく行列化の問題を考察した。
我々は、決定理論の枠組みでこの問題の基本的な統計的限界を確立し、制約付き最小二乗率を示す。
そこで本研究では,性能向上を保証した新しい時間適応ソートアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-01-17T14:53:52Z) - Minimax Optimization with Smooth Algorithmic Adversaries [59.47122537182611]
対戦相手が展開するスムーズなアルゴリズムに対して,Min-playerの新しいアルゴリズムを提案する。
本アルゴリズムは,制限周期のない単調進行を保証し,適切な勾配上昇数を求める。
論文 参考訳(メタデータ) (2021-06-02T22:03:36Z) - Polygonal Unadjusted Langevin Algorithms: Creating stable and efficient
adaptive algorithms for neural networks [0.0]
本稿では,Langevinベースのアルゴリズムを新たに導入し,一般的な適応的消滅アルゴリズムの欠点の多くを克服する。
特に、この新しいクラスのアルゴリズムの収束性についての漸近解析と完全な理論的保証を提供し、TH$varepsilon$O POULA(あるいは単にTheoPouLa)と名付けた。
論文 参考訳(メタデータ) (2021-05-28T15:58:48Z) - Bayesian Algorithm Execution: Estimating Computable Properties of
Black-box Functions Using Mutual Information [78.78486761923855]
多くの現実世界では、T関数の評価の予算を考えると、高価なブラックボックス関数 f の性質を推測したい。
本稿では,アルゴリズムの出力に対して相互情報を最大化するクエリを逐次選択する手法InfoBAXを提案する。
これらの問題に対してInfoBAXは、元のアルゴリズムで要求されるより500倍少ないクエリをfに使用する。
論文 参考訳(メタデータ) (2021-04-19T17:22:11Z) - Meta Learning Black-Box Population-Based Optimizers [0.0]
人口ベースのブラックボックス一般化を推論するメタラーニングの利用を提案する。
メタロス関数は,学習アルゴリズムが検索動作を変更することを促進し,新たなコンテキストに容易に適合できることを示す。
論文 参考訳(メタデータ) (2021-03-05T08:13:25Z) - Divide and Learn: A Divide and Conquer Approach for Predict+Optimize [50.03608569227359]
予測+最適化問題は、予測係数を使用する最適化プロブレムと、確率係数の機械学習を組み合わせる。
本稿では, 予測係数を1次線形関数として, 最適化問題の損失を直接表現する方法を示す。
本稿では,この制約を伴わずに最適化問題に対処し,最適化損失を用いてその係数を予測する新しい分割アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-12-04T00:26:56Z) - Benchmarking Meta-heuristic Optimization [0.0]
多くのメタヒューリスティックアルゴリズムは非線形関数を解く際に非常に効率的である。
メタヒューリスティックアルゴリズムは、幅広い問題に適用できる問題に依存しない手法である。
論文 参考訳(メタデータ) (2020-07-27T12:25:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。