論文の概要: Fast Bayesian Optimization of Needle-in-a-Haystack Problems using Zooming Memory-Based Initialization

• arxiv url: http://arxiv.org/abs/2208.13771v1
• Date: Fri, 26 Aug 2022 23:57:41 GMT
• ステータス: 処理完了
• システム内更新日: 2022-08-31 13:44:02.213312
• Title: Fast Bayesian Optimization of Needle-in-a-Haystack Problems using Zooming Memory-Based Initialization
• Title（参考訳）: ズームメモリ初期化を用いたニードル・イン・ア・ヘイスタック問題の高速ベイズ最適化
• Authors: Alexander E. Siemenn, Zekun Ren, Qianxiao Li, Tonio Buonassisi
• Abstract要約: Needle-in-a-Haystack問題は、データセットのサイズに対して最適な条件が極端に不均衡であるときに発生する。 本稿では,従来のベイズ最適化原理に基づくズームメモリに基づく初期化アルゴリズムを提案する。
• 参考スコア（独自算出の注目度）: 73.96101108943986
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Needle-in-a-Haystack problems exist across a wide range of applications including rare disease prediction, ecological resource management, fraud detection, and material property optimization. A Needle-in-a-Haystack problem arises when there is an extreme imbalance of optimum conditions relative to the size of the dataset. For example, only 0.82% out of 146k total materials in the open-access Materials Project database have a negative Poisson's ratio. However, current state-of-the-art optimization algorithms are not designed with the capabilities to find solutions to these challenging multidimensional Needle-in-a-Haystack problems, resulting in slow convergence to a global optimum or pigeonholing into a local minimum. In this paper, we present a Zooming Memory-Based Initialization algorithm, entitled ZoMBI, that builds on conventional Bayesian optimization principles to quickly and efficiently optimize Needle-in-a-Haystack problems in both less time and fewer experiments by addressing the common convergence and pigeonholing issues. ZoMBI actively extracts knowledge from the previously best-performing evaluated experiments to iteratively zoom in the sampling search bounds towards the global optimum "needle" and then prunes the memory of low-performing historical experiments to accelerate compute times. We validate the algorithm's performance on two real-world 5-dimensional Needle-in-a-Haystack material property optimization datasets: discovery of auxetic Poisson's ratio materials and discovery of high thermoelectric figure of merit materials. The ZoMBI algorithm demonstrates compute time speed-ups of 400x compared to traditional Bayesian optimization as well as efficiently discovering materials in under 100 experiments that are up to 3x more highly optimized than those discovered by current state-of-the-art algorithms.
• Abstract（参考訳）: ニードル・イン・ア・ヘイスタックの問題は、希少な疾患予測、生態資源管理、不正検出、材料資産最適化など、幅広い用途に存在している。 データセットのサイズに対して最適な条件が極端に不均衡である場合、ニードル・イン・ア・ヘイスタック問題が発生する。 例えば、オープンアクセス・マテリアル・プロジェクト(英語版)データベースの146kの総材料のうち0.82%しかポアソン比が負である。 しかし、現在の最先端最適化アルゴリズムは、これらの困難な多次元ニードル・イン・ア・ヘイスタック問題の解を見つける能力を持って設計されておらず、その結果、グローバル最適化や局所最小化への収束が遅くなる。 本稿では,従来のベイズ最適化原理を基礎として,共通収束問題とハトホリング問題に対処して,少ない時間と少ない実験でニードル・イン・ア・ヘイスタック問題を迅速かつ効率的に最適化するズームングメモリベース初期化アルゴリズムzombiを提案する。 zombiは、これまで最もパフォーマンスの高い評価実験から知識を積極的に抽出し、サンプリング探索境界をグローバル最適"ニードル"に向けて反復的に拡大し、低パフォーマンスの歴史的実験の記憶をかき集めて計算時間を高速化する。 本研究では,2つの実世界の5次元ニードル・イン・ア・ヘイスタック材料特性最適化データセット上でのアルゴリズムの性能を検証する。 ZoMBIアルゴリズムは、従来のベイズ最適化と比較して400倍の計算時間を高速化し、現在の最先端アルゴリズムよりも最大3倍高度に最適化された100以上の実験で材料を効率よく発見する。

関連論文リスト

• Quality-Diversity Algorithms Can Provably Be Helpful for Optimization [24.694984679399315]
  QD(Quality-Diversity)アルゴリズムは、ハイパフォーマンスだが多様なソリューションのセットを見つけることを目的としている。 本稿では,厳密な実行時間解析によってQDアルゴリズムの最適化能力に光を当てようとしている。
  論文  参考訳（メタデータ） (2024-01-19T07:40:24Z)
• Characterization of Locality in Spin States and Forced Moves for Optimizations [0.36868085124383626]
  最適化問題において、エネルギーランドスケープにおける局所最小値の存在は、世界最小値を求めるために問題となる。 そこで我々は,局所最小値から効率よく抜け出すアルゴリズムを開発したが,正確なサンプリングは得られなかった。 提案アルゴリズムはリジェクションフリーなアルゴリズムに基づいているため,計算コストは低い。
  論文  参考訳（メタデータ） (2023-12-05T07:21:00Z)
• Parallel Bayesian Optimization Using Satisficing Thompson Sampling for Time-Sensitive Black-Box Optimization [0.0]
  本稿では,Thompsonサンプリングに基づく並列BO手法を提案する。 ターゲットを最適なソリューションから、学習しやすい満足できるソリューションにシフトします。 リチウムイオン電池の高速充電設計問題に対して提案手法の有効性を実証した。
  論文  参考訳（メタデータ） (2023-10-19T07:03:51Z)
• Portfolio optimization with discrete simulated annealing [0.0]
  離散凸関数と非凸コスト関数の存在下で最適なポートフォリオを求めるための整数最適化法を提案する。 これにより、与えられた品質でソリューションを実現できる。
  論文  参考訳（メタデータ） (2022-10-03T10:39:05Z)
• Versatile Single-Loop Method for Gradient Estimator: First and Second Order Optimality, and its Application to Federated Learning [45.78238792836363]
  本稿では,SLEDGE (Single-Loop-E Gradient Estimator) という単一ループアルゴリズムを提案する。 既存の手法とは異なり、SLEDGEは、(ii)2階最適、(ii)PL領域における、(iii)少ないデータ以下の複雑さの利点を持つ。
  論文  参考訳（メタデータ） (2022-09-01T11:05:26Z)
• Learning to Hash Robustly, with Guarantees [79.68057056103014]
  本稿では,理論的アルゴリズムと本質的に一致する最悪ケース保証を持つハミング空間のためのNSアルゴリズムを設計する。 理論的にも実用的にも、与えられたデータセットに対してアルゴリズムが最適化できる能力を評価する。 我々のアルゴリズムは、MNISTおよびImageNetデータセットに対する最悪のパフォーマンスのクエリを、1.8倍と2.1倍の精度でリコールする。
  論文  参考訳（メタデータ） (2021-08-11T20:21:30Z)
• Bayesian Algorithm Execution: Estimating Computable Properties of Black-box Functions Using Mutual Information [78.78486761923855]
  多くの現実世界では、T関数の評価の予算を考えると、高価なブラックボックス関数 f の性質を推測したい。 本稿では,アルゴリズムの出力に対して相互情報を最大化するクエリを逐次選択する手法InfoBAXを提案する。 これらの問題に対してInfoBAXは、元のアルゴリズムで要求されるより500倍少ないクエリをfに使用する。
  論文  参考訳（メタデータ） (2021-04-19T17:22:11Z)
• Towards Optimally Efficient Tree Search with Deep Learning [76.64632985696237]
  本稿では,線形モデルから信号整数を推定する古典整数最小二乗問題について検討する。 問題はNPハードであり、信号処理、バイオインフォマティクス、通信、機械学習といった様々な応用でしばしば発生する。 本稿では, 深いニューラルネットワークを用いて, 単純化されたメモリバウンドA*アルゴリズムの最適推定を推定し, HATSアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-01-07T08:00:02Z)
• Fast Objective & Duality Gap Convergence for Non-Convex Strongly-Concave Min-Max Problems with PL Condition [52.08417569774822]
  本稿では,深層学習(深層AUC)により注目度が高まっている,円滑な非凹部min-max問題の解法に焦点をあてる。
  論文  参考訳（メタデータ） (2020-06-12T00:32:21Z)
• Global Optimization of Gaussian processes [52.77024349608834]
  少数のデータポイントで学習したガウス過程を訓練した空間定式化を提案する。 このアプローチはまた、より小さく、計算的にもより安価なサブソルバを低いバウンディングに導く。 提案手法の順序の順序による時間収束を,総じて低減する。
  論文  参考訳（メタデータ） (2020-05-21T20:59:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。