論文の概要: LABO: LLM-Accelerated Bayesian Optimization through Broad Exploration and Selective Experimentation
- arxiv url: http://arxiv.org/abs/2605.22054v1
- Date: Thu, 21 May 2026 06:42:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-22 16:35:42.119396
- Title: LABO: LLM-Accelerated Bayesian Optimization through Broad Exploration and Selective Experimentation
- Title（参考訳）: LABO:広域探査と選択実験によるLLM加速ベイズ最適化
- Abstract要約: 大規模言語モデル(LLM)はベイズ最適化における知識駆動のコンポーネントである。
本研究では,LLM予測と実験観測を1つのBOループ内で組み合わせたフレームワークを提案する。
LABOは、同じ実験予算の下で、既存の手法を一貫して上回っていることを示す。
- 参考スコア（独自算出の注目度）: 18.30782195527165
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The high cost and data scarcity in scientific exploration have motivated the use of large language models (LLMs) as knowledge-driven components in Bayesian optimization (BO). However, existing approaches typically embed LLMs directly into the sampling or surrogate modeling pipeline, without fully leveraging their significantly lower evaluation cost compared to real-world experiments. To address this limitation, we propose LLM-Accelerated Bayesian Optimization (LABO), a framework that combines LLM predictions with experimental observations within a single BO loop. LABO employs a gating criterion to dynamically balance the reliance on LLM predictions versus actual experiments. By leveraging inexpensive LLM evaluations to broadly explore the search space and reserving costly real experiments only for regions with high uncertainty, LABO achieves more sample-efficient optimization. We provide a theoretical analysis with a cumulative regret bound that formalizes this efficiency gain. Empirical results across diverse scientific tasks demonstrate that LABO consistently outperforms existing methods under identical experimental budgets. Our results suggest that LABO offers a practical and theoretically grounded approach for integrating LLMs into scientific discovery workflows.
- Abstract（参考訳）: 科学的探索における高コストとデータ不足は、ベイズ最適化(BO)における知識駆動コンポーネントとして大規模言語モデル(LLM)の使用を動機付けている。
しかし、既存のアプローチでは、実世界の実験に比べて大幅に低い評価コストを生かすことなく、サンプリングやサロゲートモデリングパイプラインに直接LSMを組み込むのが一般的である。
この制限に対処するために,LLM予測と単一BOループ内の実験観測を組み合わせたLABO(LLM-Accelerated Bayesian Optimization)を提案する。
LABOは、LLM予測と実際の実験との動的バランスをとるためにゲーティング基準を採用している。
安価なLCM評価を利用して探索空間を広範囲に探索し、不確実性の高い領域のみに費用のかかる実実験を保存することにより、LABOはよりサンプリング効率の良い最適化を実現する。
この効率の利得を形式化する累積的後悔境界を持つ理論解析を提供する。
様々な科学的課題にまたがる実証的な結果は、LABOが同じ実験予算の下で既存の手法を一貫して上回っていることを示している。
この結果から,LABOは科学的発見ワークフローにLLMを統合するために,実用的で理論的に基礎的なアプローチを提供する可能性が示唆された。
関連論文リスト
- Unleashing LLMs in Bayesian Optimization: Preference-Guided Framework for Scientific Discovery [32.51891966529322]
LLM-Guided Bayesian Optimization (LGBO) を提案する。
Fe-Cr電池電解質の新しいウェットラブ最適化では、LGBOは6で観測された最高の値のテキストbf90%を達成しているが、標準BOと既存のLCM拡張ベースラインは10回以上必要である。
論文 参考訳（メタデータ） (2026-05-18T07:30:25Z) - BoLT: A Benchmark to Democratize Black-box Optimization Research for Expensive LLM Tasks [42.78958516953461]
ブラックボックス最適化法は、原則的でサンプル効率のよい方法に対して、期待できない方向性を提供する。
新しい手法は、しばしば合成テスト関数と小規模データセットでのみ評価される。
BBOコミュニティ向けの研究を民主化する最初のLCM中心のベンチマークであるBoLTを紹介する。
論文 参考訳（メタデータ） (2026-05-16T13:53:44Z) - LLMs for Bayesian Optimization in Scientific Domains: Are We There Yet? [25.116042999105193]
大規模言語モデル (LLM) は実験設計のための汎用エージェントとして提案されている。
本仮説は, 遺伝的摂動および分子特性探索に応用したオープンソースとクローズドソースのLLMを用いて評価する。
LLMをベースとしたエージェントは、実験的なフィードバックに敏感ではなく、実結果をランダムに置換したラベルに置き換えることは、性能に影響を与えない。
論文 参考訳（メタデータ） (2025-09-24T15:50:17Z) - ChemBOMAS: Accelerated BO in Chemistry with LLM-Enhanced Multi-Agent System [72.63341091857959]
本稿では,大規模言語モデル(LLM)によるベイズ最適化を高速化するマルチエージェントシステムであるChemBOMASを紹介する。
データ駆動型戦略は、わずか1%のラベル付きサンプルに微調整された8BスケールのLCMレジストレータを含む。
知識駆動型戦略では、検索空間の分割においてLLMを導くために、ハイブリッドなRetrieval-Augmented Generationアプローチを採用している。
ChemBOMASはベースライン方式に比べて最適化効率を最大5倍に向上させた。
論文 参考訳（メタデータ） (2025-09-10T16:24:08Z) - MOOSE-Chem2: Exploring LLM Limits in Fine-Grained Scientific Hypothesis Discovery via Hierarchical Search [102.11776494401705]
大規模言語モデル (LLM) は科学的仮説生成の自動化において有望であることを示している。
既存のアプローチは主に、批判的な方法論や実験的な詳細を欠いた粗粒の仮説を導出する。
我々は、科学的仮説発見の新しいタスクを導入し、正式に定義する。
論文 参考訳（メタデータ） (2025-05-25T16:13:46Z) - LLINBO: Trustworthy LLM-in-the-Loop Bayesian Optimization [5.844783557050259]
大規模言語モデル (LLM) は低データ構造において顕著な適応性を示している。
本稿では,LLINBO: LLM-in-the-Loop BOを提案する。
この論文は、3Dプリンティングの文脈における概念実証で締めくくっている。
論文 参考訳（メタデータ） (2025-05-20T15:54:48Z) - Sequential Large Language Model-Based Hyper-parameter Optimization [0.0]
本研究では,大規模言語モデル(LLM)をハイパーパラメータ最適化(HPO)に活用する革新的なフレームワークSLLMBOを紹介する。
動的探索空間適応性、拡張パラメータ空間利用、新しいLLM木構造パーゼン推定器(LLM-TPE)が組み込まれている。
この総合ベンチマークは、GPT-3.5-Turbo、GPT-4o、Claude-Sonnet-3.5、Gemini-1.5-Flashを含む複数のLCMを評価する。
論文 参考訳（メタデータ） (2024-10-27T00:50:30Z) - EVOLvE: Evaluating and Optimizing LLMs For In-Context Exploration [76.66831821738927]
大規模言語モデル(LLM)は、不確実性の下で最適な意思決定を必要とするシナリオにおいて、未調査のままである。
多くのアプリケーションに関係のあるステートレス強化学習環境である,帯域幅を最適に決定できる LLM の (in) 能力の測定を行う。
最適な探索アルゴリズムの存在を動機として,このアルゴリズム知識をLLMに統合する効率的な方法を提案する。
論文 参考訳（メタデータ） (2024-10-08T17:54:03Z) - Large Language Models to Enhance Bayesian Optimization [57.474613739645605]
本稿では,大規模言語モデル(LLM)の能力をベイズ最適化に組み込む新しいアプローチであるLLAMBOを提案する。
高いレベルでは、自然言語のBO問題を枠組み化し、LLMが歴史的評価に照らした有望な解を反復的に提案し、評価することを可能にする。
以上の結果から,LLAMBOはゼロショットウォームスタートに有効であり,サロゲートモデリングや候補サンプリングの促進,特に観察が不十分な場合の探索の初期段階において有効であることが示唆された。
論文 参考訳（メタデータ） (2024-02-06T11:44:06Z) - On Learning to Summarize with Large Language Models as References [101.79795027550959]
大型言語モデル (LLM) は、一般的な要約データセットにおける元の参照要約よりも人間のアノテーションに好まれる。
より小さなテキスト要約モデルに対するLLM-as-reference学習設定について検討し,その性能が大幅に向上するかどうかを検討する。
論文 参考訳（メタデータ） (2023-05-23T16:56:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。