論文の概要: Batch Bayesian Optimization for High-Dimensional Experimental Design: Simulation and Visualization
- arxiv url: http://arxiv.org/abs/2504.03943v1
- Date: Fri, 04 Apr 2025 21:20:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-04-17 07:20:34.232923
- Title: Batch Bayesian Optimization for High-Dimensional Experimental Design: Simulation and Visualization
- Title(参考訳): 高次元実験設計のためのバッチベイズ最適化:シミュレーションと可視化
- Authors: Imon Mia, Armi Tiihonen, Anna Ernst, Anusha Srivastava, Tonio Buonassisi, William Vandenberghe, Julia W. P. Hsu,
- Abstract要約: 本研究は,BOの設定と合成データの選択において重要な課題を体系的に強調し,実験設計をテストする。
ノイズの影響は問題環境に依存するため,BOの設計には領域構造や騒音レベルに関する事前知識が必要である。
- 参考スコア(独自算出の注目度): 1.2786803794937225
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Bayesian Optimization (BO) is increasingly used to guide experimental optimization tasks. To elucidate BO behavior in noisy and high-dimensional settings typical for materials science applications, we perform batch BO of two six-dimensional test functions: an Ackley function representing a needle-in-a-haystack problem and a Hartmann function representing a problem with a false maximum with a value close to the global maximum. We show learning curves, performance metrics, and visualization to effectively track the evolution of optimization in high dimensions and evaluate how they are affected by noise, batch-picking method, choice of acquisition function,and its exploration hyperparameter values. We find that the effects of noise depend on the problem landscape; therefore, prior knowledge of the domain structure and noise level is needed when designing BO. The Ackley function optimization is significantly degraded by noise with a complete loss of ground truth resemblance when noise equals 10 % of the maximum objective value. For the Hartmann function, even in the absence of noise, a significant fraction of the initial samplings identify the false maximum instead of the ground truth maximum as the optimum of the function; with increasing noise, BO remains effective, albeit with increasing probability of landing on the false maximum. This study systematically highlights the critical issues when setting up BO and choosing synthetic data to test experimental design. The results and methodology will facilitate wider utilization of BO in guiding experiments, specifically in high-dimensional settings.
- Abstract(参考訳): ベイズ最適化(BO)は、実験的な最適化タスクを導くのにますます使われている。
材料科学の応用に典型的なノイズや高次元の設定でBOの挙動を解明するために,2つの6次元テスト関数のバッチBOを実行する: ニードル・イン・ア・ヘイスタック問題を表すAckley関数と,大域的最大値に近い値の誤り最大値を示すハートマン関数である。
高次元における最適化の進化を効果的に追跡する学習曲線、性能指標、可視化を示し、ノイズ、バッチピッキング法、取得関数の選択、探索ハイパーパラメーター値の影響を評価する。
ノイズの影響は問題環境に依存するため,BOの設計には領域構造や騒音レベルに関する事前知識が必要である。
Ackley関数の最適化は、雑音が最大目標値の10%に等しい場合に、基底真理類似性が完全に失われるノイズによって著しく劣化する。
ハートマン函数の場合、ノイズがなくても、初期サンプリングのかなりの割合は、基底真理極大の代わりに偽極大を関数の最適値と同定する。
本研究は,BOの設定と合成データの選択において重要な課題を体系的に強調し,実験設計をテストする。
結果と方法論は、特に高次元環境での実験を導く上で、BOのより広範な活用を促進する。
関連論文リスト
- Interpretable SHAP-bounded Bayesian Optimization for Underwater Acoustic Metamaterial Coating Design [0.0]
我々は水中音響コーティングを最適化するための解釈可能性情報ベイズ最適化フレームワークを開発した。
目的関数に影響を及ぼす重要なパラメータを特定し,これらのパラメータが吸音に与える影響について考察した。
提案手法は, 硬度が異なる2つのポリウレタン材料に適用した。
論文 参考訳(メタデータ) (2025-05-10T05:33:43Z) - Debiasing Multimodal Large Language Models via Noise-Aware Preference Optimization [31.741110625305186]
本稿では、優先最適化のパラダイムを用いて、モダリティバイアス問題を解決することを提案する。
具体的には、まず摂動を導入し、特定のモダリティの情報量を減らすことでデータセットを構築する。
自動構築したデータにおける避けられないノイズに対処するために、ノイズロバストな平均絶対誤差と直接選好最適化における二項交叉エントロピーを組み合わせる。
論文 参考訳(メタデータ) (2025-03-23T04:00:11Z) - Pareto Optimization with Robust Evaluation for Noisy Subset Selection [34.83487850400559]
サブセット選択は最適化の基本的な問題であり、影響やスパース回帰といった幅広い応用がある。
欲求アルゴリズムや進化進化的POSSを含む従来のアルゴリズムは、ノイズの多い環境で苦労するか、過剰な計算資源を消費する。
本稿では,頑健な評価関数を最大化し,同時にサブセットサイズを最小化する,雑音性サブセット選択(PORE)のためのロバスト評価を用いたパレート最適化に基づく新しい手法を提案する。
論文 参考訳(メタデータ) (2025-01-12T14:04:20Z) - Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳(メタデータ) (2024-11-21T10:26:17Z) - Measurements with Noise: Bayesian Optimization for Co-optimizing Noise and Property Discovery in Automated Experiments [2.6120363620274816]
我々は,段階内雑音最適化を自動実験サイクルに統合するベイズ最適化(BO)ワークフローを開発した。
自動実験における従来のBOアプローチは、実験軌道の最適化に重点を置いているが、しばしば測定ノイズがデータ品質とコストに与える影響を見落としている。
報酬駆動型雑音最適化と二重最適化関数の2つのアプローチが検討されている。
論文 参考訳(メタデータ) (2024-10-03T17:38:43Z) - ROPO: Robust Preference Optimization for Large Language Models [59.10763211091664]
外部モデルの助けを借りずにノイズ耐性とノイズサンプルのフィルタリングを統合する反復アライメント手法を提案する。
Mistral-7BとLlama-2-7Bで広く使われている3つのデータセットの実験では、ROPOが既存の嗜好アライメント法を大幅に上回っていることが示されている。
論文 参考訳(メタデータ) (2024-04-05T13:58:51Z) - Impact of Noisy Supervision in Foundation Model Learning [91.56591923244943]
本論文は、事前学習データセットにおけるノイズの性質を包括的に理解し分析する最初の研究である。
雑音の悪影響を緩和し、一般化を改善するため、特徴空間に適応するチューニング法(NMTune)を提案する。
論文 参考訳(メタデータ) (2024-03-11T16:22:41Z) - Enhanced Bayesian Optimization via Preferential Modeling of Abstract
Properties [49.351577714596544]
本研究では,非測定抽象特性に関する専門家の嗜好を代理モデルに組み込むための,人間とAIの協調型ベイズフレームワークを提案する。
優先判断において、誤った/誤解を招く専門家バイアスを処理できる効率的な戦略を提供する。
論文 参考訳(メタデータ) (2024-02-27T09:23:13Z) - Poisson Process for Bayesian Optimization [126.51200593377739]
本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。
従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
論文 参考訳(メタデータ) (2024-02-05T02:54:50Z) - Optimistic Active Exploration of Dynamical Systems [52.91573056896633]
我々はOPAXと呼ばれる活発な探索のためのアルゴリズムを開発した。
我々は,OPAXを各エピソードで解決可能な最適制御問題に還元する方法を示す。
実験の結果,OPAXは理論的に健全であるだけでなく,新規な下流タスクのゼロショット計画にも有効であることがわかった。
論文 参考訳(メタデータ) (2023-06-21T16:26:59Z) - Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
統計的決定論の研究からシャノンエントロピーの一般化を考える。
まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。
次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
論文 参考訳(メタデータ) (2022-10-04T04:43:58Z) - Pre-training helps Bayesian optimization too [49.28382118032923]
機能的事前設定のための代替的なプラクティスを模索する。
特に、より厳密な分布を事前訓練できるような、類似した関数のデータを持つシナリオを考察する。
提案手法は, 競合する手法の少なくとも3倍の効率で, 優れたハイパーパラメータを見つけることができることを示す。
論文 参考訳(メタデータ) (2022-07-07T04:42:54Z) - Trusted-Maximizers Entropy Search for Efficient Bayesian Optimization [39.824086260578646]
本稿では,信頼度最大化エントロピー探索(TES)取得関数を提案する。
インプットがクエリの情報ゲインにどの程度貢献するかを、信頼された最大値の有限セット上で測定する。
論文 参考訳(メタデータ) (2021-07-30T07:25:07Z) - Bayesian Optimization in Materials Science: A Survey [4.037250810373225]
材料科学におけるベイズ最適化のアプローチについて調査する。
両者の間にはほとんど重複はない。
共同研究における共通の課題と機会を強調します。
論文 参考訳(メタデータ) (2021-07-29T18:45:10Z) - Golem: An algorithm for robust experiment and process optimization [0.0]
実験および最適化アルゴリズムの設計は、これらのタスクを効率的に解くためによく用いられる。
Golemは実験計画戦略の選択に最適であるアルゴリズムである。
過去の実験の堅牢性を分析したり、実験計画をオンザフライで堅牢なソリューションに向けて導くために使用できます。
論文 参考訳(メタデータ) (2021-03-05T15:00:34Z) - Adaptive Multi-View ICA: Estimation of noise levels for optimal
inference [65.94843987207445]
Adaptive MultiView ICA (AVICA) はノイズの多いICAモデルであり、各ビューは共有された独立したソースと付加的なノイズの線形混合である。
AVICAは、その明示的なMMSE推定器により、他のICA法よりも優れたソース推定値が得られる。
実脳磁図(MEG)データでは,分解がサンプリングノイズに対する感度が低く,ノイズ分散推定が生物学的に妥当であることを示す。
論文 参考訳(メタデータ) (2021-02-22T13:10:12Z) - On Dynamic Noise Influence in Differentially Private Learning [102.6791870228147]
Private Gradient Descent (PGD)は一般的に使用されるプライベート学習フレームワークであり、差分プロトコルに基づいてノイズを発生する。
最近の研究では、emphdynamic privacy schedulesは最終イテレーションで改善できるが、そのようなスケジュールの有効性の理論は限られている。
本稿では,これらの重要な質問に答えるために,動的プライバシスケジュールにおけるノイズの影響を総合的に分析する。
論文 参考訳(メタデータ) (2021-01-19T02:04:00Z) - Composition of kernel and acquisition functions for High Dimensional
Bayesian Optimization [0.1749935196721634]
目的関数の追加性を用いて、ベイズ最適化のカーネルと取得関数の両方をマッピングする。
このap-proachは確率的代理モデルの学習/更新をより効率的にする。
都市給水システムにおけるポンプの制御を実運用に適用するための結果が提示された。
論文 参考訳(メタデータ) (2020-03-09T15:45:57Z) - Incorporating Expert Prior Knowledge into Experimental Design via
Posterior Sampling [58.56638141701966]
実験者は、グローバルな最適な場所に関する知識を得ることができる。
グローバル最適化に関する専門家の事前知識をベイズ最適化に組み込む方法は不明である。
効率の良いベイズ最適化手法は、大域的最適の後方分布の後方サンプリングによって提案されている。
論文 参考訳(メタデータ) (2020-02-26T01:57:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。