Fugu-MT 論文翻訳(概要): An Adaptive Dropout Approach for High-Dimensional Bayesian Optimization

論文の概要: An Adaptive Dropout Approach for High-Dimensional Bayesian Optimization

arxiv url: http://arxiv.org/abs/2504.11353v1
Date: Tue, 15 Apr 2025 16:23:25 GMT
ステータス: 翻訳完了
システム内更新日: 2025-04-16 22:11:48.041873
Title: An Adaptive Dropout Approach for High-Dimensional Bayesian Optimization
Title（参考訳）: 高次元ベイズ最適化のための適応型ドロップアウト手法
Authors: Jundi Huang, Dawei Zhan,
Abstract要約: 本稿では,AdaDropoutを提案する。最先端の高次元ベイズ最適化手法と比較して優れた結果が得られる。
参考スコア（独自算出の注目度）: 0.0
License:
Abstract: Bayesian optimization (BO) is a widely used algorithm for solving expensive black-box optimization problems. However, its performance decreases significantly on high-dimensional problems due to the inherent high-dimensionality of the acquisition function. In the proposed algorithm, we adaptively dropout the variables of the acquisition function along the iterations. By gradually reducing the dimension of the acquisition function, the proposed approach has less and less difficulty to optimize the acquisition function. Numerical experiments demonstrate that AdaDropout effectively tackle high-dimensional challenges and improve solution quality where standard Bayesian optimization methods often struggle. Moreover, it achieves superior results when compared with state-of-the-art high-dimensional Bayesian optimization approaches. This work provides a simple yet efficient solution for high-dimensional expensive optimization.
Abstract（参考訳）: ベイズ最適化(英: Bayesian Optimization、BO)は、高価なブラックボックス最適化問題を解決するアルゴリズムである。しかし、その性能は、取得関数の固有な高次元性により、高次元問題に対して著しく低下する。提案アルゴリズムでは,繰り返しに沿って,取得関数の変数を適応的にドロップアウトする。取得関数の次元を徐々に小さくすることで、提案手法は、取得関数の最適化がますます困難になる。数値実験により、AdaDropoutは高次元の課題に効果的に取り組み、標準的なベイズ最適化手法がしばしば苦労するソリューション品質を改善することが示されている。さらに、最先端の高次元ベイズ最適化手法と比較すると、優れた結果が得られる。この作業は、高次元の高価な最適化のための単純だが効率的なソリューションを提供する。

関連論文リスト

High-Dimensional Bayesian Optimization Using Both Random and Supervised Embeddings [0.6291443816903801]
本稿では,小さな次元の線形埋め込み部分空間を組み込んだ高次元最適化手法を提案する。結果のBO法は、ランダムおよび教師付き線形埋め込みの両方を適応的に組み合わせる。その結果,高次元ブラックボックス最適化問題に対するEGORSEの有効性が示された。
論文参考訳（メタデータ） (2025-02-02T16:57:05Z)
Expected Coordinate Improvement for High-Dimensional Bayesian Optimization [0.0]
本研究では,高次元ベイズ最適化のための予測座標改善(ECI)基準を提案する。提案手法では,各イテレーションにおいて最も高いECI値の座標を選択し,座標を反復することで座標を徐々にカバーする。数値実験により,提案アルゴリズムは5つの最先端高次元BOと比較して,標準的なBOアルゴリズムよりもはるかに優れた結果が得られることが示された。
論文参考訳（メタデータ） (2024-04-18T05:48:15Z)
Analyzing and Enhancing the Backward-Pass Convergence of Unrolled Optimization [50.38518771642365]
ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。この設定における中心的な課題は最適化問題の解によるバックプロパゲーションであり、しばしば閉形式を欠いている。本稿では, 非線形最適化の後方通過に関する理論的知見を提供し, 特定の反復法による線形システムの解と等価であることを示す。 Folded Optimizationと呼ばれるシステムが提案され、非ローリングなソルバ実装からより効率的なバックプロパゲーションルールを構築する。
論文参考訳（メタデータ） (2023-12-28T23:15:18Z)
Backpropagation of Unrolled Solvers with Folded Optimization [55.04219793298687]
ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。 1つの典型的な戦略はアルゴリズムのアンローリングであり、これは反復解法の操作による自動微分に依存している。本稿では,非ロール最適化の後方通過に関する理論的知見を提供し,効率よく解けるバックプロパゲーション解析モデルを生成するシステムに繋がる。
論文参考訳（メタデータ） (2023-01-28T01:50:42Z)
An Empirical Evaluation of Zeroth-Order Optimization Methods on AI-driven Molecule Optimization [78.36413169647408]
分子目的を最適化するための様々なZO最適化手法の有効性について検討する。 ZO符号に基づく勾配降下(ZO-signGD)の利点を示す。本稿では,Guurcamol スイートから広く使用されているベンチマークタスクに対して,ZO 最適化手法の有効性を示す。
論文参考訳（メタデータ） (2022-10-27T01:58:10Z)
Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
統計的決定論の研究からシャノンエントロピーの一般化を考える。まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
論文参考訳（メタデータ） (2022-10-04T04:43:58Z)
High dimensional Bayesian Optimization Algorithm for Complex System in Time Series [1.9371782627708491]
本稿では,新しい高次元ベイズ最適化アルゴリズムを提案する。モデルの時間依存特性や次元依存特性に基づいて,提案アルゴリズムは次元を均等に低減することができる。最適解の最終精度を高めるために,提案アルゴリズムは,最終段階におけるアダムに基づく一連のステップに基づく局所探索を追加する。
論文参考訳（メタデータ） (2021-08-04T21:21:17Z)
Automatically Learning Compact Quality-aware Surrogates for Optimization Problems [55.94450542785096]
未知パラメータで最適化問題を解くには、未知パラメータの値を予測し、これらの値を用いて問題を解くための予測モデルを学ぶ必要がある。最近の研究によると、複雑なトレーニングモデルパイプラインのレイヤーとして最適化の問題を含めると、観測されていない意思決定の繰り返しを予測することになる。我々は,大規模最適化問題の低次元サロゲートモデルを学習することにより,解の質を向上させることができることを示す。
論文参考訳（メタデータ） (2020-06-18T19:11:54Z)
Convergence of adaptive algorithms for weakly convex constrained optimization [59.36386973876765]
モローエンベロープの勾配のノルムに対して$mathcaltilde O(t-1/4)$収束率を証明する。我々の分析では、最小バッチサイズが1ドル、定数が1位と2位のモーメントパラメータが1ドル、そしておそらくスムーズな最適化ドメインで機能する。
論文参考訳（メタデータ） (2020-06-11T17:43:19Z)
Composition of kernel and acquisition functions for High Dimensional Bayesian Optimization [0.1749935196721634]
目的関数の追加性を用いて、ベイズ最適化のカーネルと取得関数の両方をマッピングする。このap-proachは確率的代理モデルの学習/更新をより効率的にする。都市給水システムにおけるポンプの制御を実運用に適用するための結果が提示された。
論文参考訳（メタデータ） (2020-03-09T15:45:57Z)
Bayesian Optimization for Policy Search in High-Dimensional Systems via Automatic Domain Selection [1.1240669509034296]
我々は,BOを高次元制御タスクに拡張するために,最適制御による結果を活用することを提案する。 BO問題を単純化するために,学習したダイナミクスモデルをモデルベースコントローラと組み合わせて利用する方法を示す。本報告では,クワッドコプターの48次元ポリシを含む実ハードウェアおよびシミュレーションタスクについて実験的に評価する。
論文参考訳（メタデータ） (2020-01-21T09:04:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。