論文の概要: Bayesian Optimization with Rich Auxiliary Information via LLMs
- arxiv url: http://arxiv.org/abs/2609.19437v1
- Date: Wed, 16 Sep 2026 21:15:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-20 08:55:54.016225
- Title: Bayesian Optimization with Rich Auxiliary Information via LLMs
- Title（参考訳）: LLMによるリッチ補助情報を用いたベイズ最適化
- Abstract要約: 多くの実世界の最適化問題は、関数評価単独よりもかなりリッチな情報を含んでいる。
大規模言語モデル(LLM)は、そのようなリッチな補助情報を効果的に活用し、最適化を導くことができることを示す。
- 参考スコア（独自算出の注目度）: 5.111888718737873
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian Optimization (BO) is widely used for optimizing expensive black-box functions, yet many real-world optimization problems contain substantially richer information than function evaluations alone. Examples include training curves in hyperparameter optimization, expert notes and images in scientific experimentation, and prior knowledge about where optima may lie. We show that large language models (LLMs) can effectively leverage such rich auxiliary information to guide optimization. Motivated by these findings, we develop three methods for incorporating auxiliary information into BO using LLMs. Across hyperparameter optimization benchmarks and a real-world nuclear fusion optimization task, our methods consistently outperform both standard BO and existing LLM-based optimization approaches. Our results demonstrate the effectiveness of LLMs for leveraging rich auxiliary information in BO.
- Abstract（参考訳）: ベイズ最適化(BO)は高価なブラックボックス関数の最適化に広く用いられているが、現実の最適化問題の多くは関数評価単独よりもはるかにリッチな情報を含んでいる。
例えば、ハイパーパラメータ最適化のトレーニング曲線、科学実験のエキスパートノートや画像、オプティマがどこにあるかに関する事前知識などがある。
大規模言語モデル(LLM)は、そのようなリッチな補助情報を効果的に活用し、最適化を導くことができることを示す。
これらの知見を活かして,LLMを用いて補助情報をBOに組み込む3つの手法を開発した。
ハイパーパラメータ最適化ベンチマークと実世界の核融合最適化タスクを通して、我々の手法は標準BOと既存のLCMベースの最適化手法を一貫して上回っている。
本研究は,BOにおける豊富な補助情報を活用したLLMの有効性を実証するものである。
関連論文リスト
- From Heuristic Selection to Automated Algorithm Design: LLMs Benefit from Strong Priors [4.253872963674906]
大規模言語モデル(LLM)は、アルゴリズムの自動設計に広く採用されている。
高品質なアルゴリズムコード例を提供することで、LLM駆動最適化の性能を大幅に向上できることを示す。
論文 参考訳（メタデータ） (2026-03-03T09:27:52Z) - GPTOpt: Towards Efficient LLM-Based Black-Box Optimization [33.09351655863645]
大規模言語モデル(LLM)は幅広い能力を示してきたが、継続的なブラックボックス最適化タスクの解決にはまだ最先端のモデルが限られている。
連続的なブラックボックス最適化機能を備えたLLMを最適化するGPToptを導入する。
論文 参考訳（メタデータ） (2025-10-29T11:21:55Z) - Pre-trained knowledge elevates large language models beyond traditional chemical reaction optimizers [0.0]
大規模言語モデル(LLM)における事前学習知識がこのパラダイムを根本的に変えることを実証する。
LLM-GOは、伝統的な手法が苦労するところを正確に表現している: 数学的最適化よりもドメイン理解を必要とする複雑なカテゴリー空間。
論文 参考訳（メタデータ） (2025-08-27T21:09:51Z) - Optima: Optimizing Effectiveness and Efficiency for LLM-Based Multi-Agent System [75.25394449773052]
大規模言語モデル (LLM) に基づくマルチエージェントシステム (MAS) は協調的問題解決において顕著な可能性を示している。
通信効率の低下、スケーラビリティの低下、効果的なパラメータ更新方法の欠如などです。
本稿では,コミュニケーション効率とタスク効率を両立させ,これらの課題に対処する新しいフレームワークOptimaを提案する。
論文 参考訳（メタデータ） (2024-10-10T17:00:06Z) - LLM as a Complementary Optimizer to Gradient Descent: A Case Study in Prompt Tuning [69.95292905263393]
グラデーションベースとハイレベルなLLMは、協調最適化フレームワークを効果的に組み合わせることができることを示す。
本稿では,これらを相互に補完し,組み合わせた最適化フレームワークを効果的に連携させることができることを示す。
論文 参考訳（メタデータ） (2024-05-30T06:24:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。