論文の概要: Adaptive Acquisition Selection for Bayesian Optimization with Large Language Models

• arxiv url: http://arxiv.org/abs/2602.07904v1
• Date: Sun, 08 Feb 2026 10:53:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-10 20:26:24.863306
• Title: Adaptive Acquisition Selection for Bayesian Optimization with Large Language Models
• Title（参考訳）: 大規模言語モデルを用いたベイズ最適化のための適応的獲得選択
• Authors: Giang Ngo, Dat Phan Trong, Dang Nguyen, Sunil Gupta, Svetha Venkatesh,
• Abstract要約: LMABOは、事前訓練されたLarge Language ModelをBOプロセスのゼロショットオンラインストラテジストとしてキャストする、新しいフレームワークである。 LLMの動作は、リアルタイムの進行に適応する包括的な戦略であり、その優位性を証明することは、完全な最適化状態を処理し、効果的で適応的なポリシーに合成する能力に起因していることを示す。
• 参考スコア（独自算出の注目度）: 29.41740966512592
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Bayesian Optimization critically depends on the choice of acquisition function, but no single strategy is universally optimal; the best choice is non-stationary and problem-dependent. Existing adaptive portfolio methods often base their decisions on past function values while ignoring richer information like remaining budget or surrogate model characteristics. To address this, we introduce LMABO, a novel framework that casts a pre-trained Large Language Model (LLM) as a zero-shot, online strategist for the BO process. At each iteration, LMABO uses a structured state representation to prompt the LLM to select the most suitable acquisition function from a diverse portfolio. In an evaluation across 50 benchmark problems, LMABO demonstrates a significant performance improvement over strong static, adaptive portfolio, and other LLM-based baselines. We show that the LLM's behavior is a comprehensive strategy that adapts to real-time progress, proving its advantage stems from its ability to process and synthesize the complete optimization state into an effective, adaptive policy.
• Abstract（参考訳）: ベイズ最適化は、獲得関数の選択に批判的に依存するが、単一の戦略は普遍的に最適ではない。 既存のアダプティブ・ポートフォリオの手法は、しばしば過去の関数の値に基づいて決定を下す。 LMABOは,学習済みのLarge Language Model (LLM) をゼロショットのオンラインストラテジストとして,BOプロセスのための新しいフレームワークである。 各イテレーションにおいて、LMABOは構造化状態表現を使用して、多様なポートフォリオから最も適切な取得関数を選択するようLLMに促す。 50のベンチマーク問題に対する評価では、LMABOは、強力な静的、適応的なポートフォリオや他のLLMベースのベースラインよりも、大幅なパフォーマンス向上を示している。 LLMの動作は、リアルタイムの進行に適応する包括的な戦略であり、その優位性を証明することは、完全な最適化状態を処理し、効果的で適応的なポリシーに合成する能力に起因していることを示す。

関連論文リスト

• MAESTRO: Meta-learning Adaptive Estimation of Scalarization Trade-offs for Reward Optimization [56.074760766965085]
  大規模言語モデル(LLM)の整合性のための効率的なパラダイムとしてグループ相対政策最適化が登場している。 我々は,報酬スカラー化を動的潜在ポリシーとして扱い,モデルの終端隠蔽状態を意味的ボトルネックとして活用するMAESTROを提案する。 本稿では,軽量コンダクタネットワークがメタリワード信号としてグループ相対的優位性を生かしてポリシと共進化する,双方向最適化フレームワークにおけるコンテキスト的帯域幅問題としてこれを定式化する。
  論文  参考訳（メタデータ） (2026-01-12T05:02:48Z)
• LLMize: A Framework for Large Language Model-Based Numerical Optimization [0.0]
  大規模言語モデル(LLM)は、最近、従来の言語タスク以上の強力な推論能力を示している。 本稿では,LLM駆動最適化を実現するオープンソースPythonフレームワークであるLLMizeを提案する。
  論文  参考訳（メタデータ） (2025-12-30T20:05:30Z)
• Adaptive Batch-Wise Sample Scheduling for Direct Preference Optimization [37.54165341391688]
  DPOのためのサンプルスケジューリングという,新しい問題を紹介します。 トレーニングバッチ毎にサンプルを適応的に選択する,効率的かつ効率的なアルゴリズムであるSamSを提案する。 この研究は、バッチワイドサンプル選択によるLCMアライメントを改善するための、有望な新しい方向性を示している。
  論文  参考訳（メタデータ） (2025-06-08T10:26:09Z)
• A Survey on the Optimization of Large Language Model-based Agents [16.733092886211097]
  大規模言語モデル(LLM)は様々な分野で広く採用されており、自律的な意思決定や対話的なタスクに欠かせないものとなっている。 しかしながら、現在の作業は通常、バニラLLMに適用された迅速な設計や微調整戦略に依存している。 LLMに基づくエージェント最適化手法の総合的なレビューを行い、パラメータ駆動型およびパラメータフリーな手法に分類する。
  論文  参考訳（メタデータ） (2025-03-16T10:09:10Z)
• Adaptive Pruning for Large Language Models with Structural Importance Awareness [66.2690963378878]
  大規模言語モデル(LLM)は言語理解と生成能力を大幅に改善した。 LLMは、高い計算およびストレージリソース要求のため、リソース制約のあるエッジデバイスにデプロイするのは難しい。 モデル性能を維持しつつ,計算コストとメモリコストを大幅に削減する構造的適応型プルーニング(SAAP)を提案する。
  論文  参考訳（メタデータ） (2024-12-19T18:08:04Z)
• Self-Augmented Preference Optimization: Off-Policy Paradigms for Language Model Alignment [104.18002641195442]
  既存のペアデータを必要としない、効果的でスケーラブルなトレーニングパラダイムである自己拡張型優先度最適化(SAPO)を導入する。 負の反応を自律的に生成するセルフプレイの概念に基づいて、我々はさらに、データ探索とエクスプロイトを強化するために、非政治的な学習パイプラインを組み込む。
  論文  参考訳（メタデータ） (2024-05-31T14:21:04Z)
• Multi-Reference Preference Optimization for Large Language Models [56.84730239046117]
  複数の参照モデルを用いた直接選好最適化のための新しいクローズドフォームの定式化を提案する。 得られたアルゴリズムであるMulti-Reference Preference Optimization (MRPO)は、様々な参照モデルからより広範な事前知識を活用する。 MRPOを微調整したLLMは,データ不足や多量性に関わらず,様々な嗜好データにおいてより一般化されていることを示す。
  論文  参考訳（メタデータ） (2024-05-26T00:29:04Z)
• Large Language Models to Enhance Bayesian Optimization [57.474613739645605]
  本稿では,大規模言語モデル(LLM)の能力をベイズ最適化に組み込む新しいアプローチであるLLAMBOを提案する。 高いレベルでは、自然言語のBO問題を枠組み化し、LLMが歴史的評価に照らした有望な解を反復的に提案し、評価することを可能にする。 以上の結果から,LLAMBOはゼロショットウォームスタートに有効であり,サロゲートモデリングや候補サンプリングの促進,特に観察が不十分な場合の探索の初期段階において有効であることが示唆された。
  論文  参考訳（メタデータ） (2024-02-06T11:44:06Z)
• On the Global Optimality of Model-Agnostic Meta-Learning [133.16370011229776]
  モデル・ア・メタラーニング(MAML)は、メタラーニングを二段階最適化問題として定式化し、内部レベルが各サブタスクを、共有された事前に基づいて解決する。 学習と教師あり学習の両方においてMAMLが達成した定常点の最適性を特徴付ける。
  論文  参考訳（メタデータ） (2020-06-23T17:33:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。