論文の概要: Agentic Bayesian Optimization through Surrogate-Augmented Autoresearch
- arxiv url: http://arxiv.org/abs/2608.00316v1
- Date: Fri, 31 Jul 2026 22:01:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:24.568996
- Title: Agentic Bayesian Optimization through Surrogate-Augmented Autoresearch
- Title（参考訳）: サロゲート強化オート検索によるエージェントベイズ最適化
- Abstract要約: 本稿では,エージェントがBOループの中心的意思決定者となるパラダイムであるエージェントベイズ最適化を紹介する。
このアイデアは、サロゲート強化された自動検索エージェントであるSaraと、モジュール型のBoTorchベースのバックエンドであるLenzでインスタンス化します。
人工的および実世界のベンチマーク全体で、サラは先行知識のない最先端BOの信頼性を保ち、LLMベースのベースラインを上回り、標準BOを超える改善のために自然言語の事前を使用する。
- 参考スコア（独自算出の注目度）: 2.830343636507172
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian optimization (BO) has become the standard tool for sample-efficient optimization and owes its efficiency to uncertainty-aware search driven by generic statistical priors. Richer domain priors can improve BO in principle, but encoding them through tailored kernels or problem structure is difficult and rarely done in practice. LLMs can help sidestep this difficulty by making informal priors from natural language, code, and documentation directly available to the optimizer. However, existing LLM-based BO methods either insert the LLM into a fixed role (surrogate, acquisition proxy, or configuration interface) or hand it broad control, sacrificing the systematic exploration that makes BO reliable. We introduce agentic Bayesian optimization: a paradigm in which an LLM agent is the central decision maker in the BO loop while a Bayesian backend provides the uncertainty-aware optimization substrate. The agent configures the problem, queries the backend, selects and commits evaluations, and can revise the optimization strategy during the run by tightening bounds, switching acquisition functions, proposing targeted evaluations, or even reframing the problem following new instructions or observed evidence. We instantiate this idea in Sara, a surrogate-augmented autoresearch agent, and lenz, a modular BoTorch-based backend that the agent can inspect and modify through a structured interface. Across synthetic and real-world benchmarks, Sara preserves the reliability of state-of-the-art BO without prior knowledge, outperforms LLM-based baselines, and uses natural-language priors to improve beyond standard BO. We further demonstrate the practical value of agentic BO in dynamic settings, where Sara reconfigures the full optimization problem on the fly as requirements change, a capability not previously available in standard BO.
- Abstract（参考訳）: ベイズ最適化(BO)は、サンプル効率最適化の標準ツールとなり、その効率性は、一般的な統計的前提によって駆動される不確実性を考慮した探索に負っている。
よりリッチなドメインプリエントは原則としてBOを改善することができるが、カーネルや問題構造によってそれらをエンコードすることは困難であり、実際に行うことは滅多にない。
LLMは、自然言語、コード、ドキュメントをオプティマイザに直接利用できるようにすることで、この難しさを補うのに役立つ。
しかし、既存の LLM ベースの BO メソッドは LLM を固定された役割(代理、取得プロキシ、設定インターフェース)に挿入するか、あるいはそれを広範囲に制御し、BO を信頼性のある体系的な探索を犠牲にする。
エージェントベイズ最適化: LLMエージェントがBOループの中心的意思決定者であり、ベイズバックエンドが不確実性を考慮した最適化基板を提供するパラダイムを導入する。
エージェントは、問題を設定し、バックエンドに問い合わせ、評価を選択してコミットし、バウンダリを締め付け、取得関数を切り替え、対象とする評価を提案し、新たな指示や観察された証拠に従って問題を再検討することで、実行中の最適化戦略を修正できる。
私たちはこのアイデアを、代理強化された自動検索エージェントであるSaraと、エージェントが構造化インターフェイスを通じて検査および修正できるモジュール型のBoTorchベースのバックエンドであるLenzでインスタンス化する。
人工的および実世界のベンチマーク全体で、サラは先行知識のない最先端BOの信頼性を保ち、LLMベースのベースラインを上回り、標準BOを超える改善のために自然言語の事前を使用する。
さらに、動的設定におけるエージェントBOの実用的価値を実証し、Saraは要求の変化に応じて全最適化問題をオンザフライで再設定する。
関連論文リスト
- The Optimizer Is the Agent: Reasoning-Driven Search across Prompts, Programs, and ML Workflows [72.9051182568928]
推論駆動最適化のための統合フレームワークであるReASearchを提案する。
共有エージェントループとドメイン固有のツールにより、ReASearchは、プロンプト、プログラム、MLを最適化するために、まったく同じスキャフォールドをインスタンス化する。
我々は,複雑な探索行動がエージェントの推論プロセスから自然に現れることを観察する。
論文 参考訳（メタデータ） (2026-08-07T02:15:39Z) - FrontierOR: Benchmarking LLMs' Capacity for Efficient Algorithm Design in Large-Scale Optimization [61.43300970020897]
大規模言語モデル(LLM)は、最適化モデリングとソルバコード生成にますます使われている。
既存のベンチマークは、実際のスケールと複雑さよりもはるかに低い、小さな、あるいは単純化された例に限られている。
現実的な大規模最適化問題に対して,LLMに基づく効率的なアルゴリズム設計を評価するための最初のベンチマークとしてFrontierORを紹介した。
論文 参考訳（メタデータ） (2026-05-24T20:10:42Z) - Democratizing Large-Scale Re-Optimization with LLM-Guided Model Patches [14.24802309734814]
本稿では,大規模言語モデル(LLM)がORエキスパートとして機能するエージェント的再最適化フレームワークを提案する。
提案フレームワークは,デプロイされた最適化モデルの対話的かつ連続的な適応を可能にする。
論文 参考訳（メタデータ） (2026-05-18T17:28:25Z) - Agent-GWO: Collaborative Agents for Dynamic Prompt Optimization in Large Language Models [69.55139736609367]
Agent-GWOは複雑な推論のための動的プロンプト最適化フレームワークである。
本稿では,Agent-GWOが既存のプロンプト最適化手法よりも精度と安定性を一貫して向上することを示す。
論文 参考訳（メタデータ） (2026-04-14T07:35:37Z) - AgentOpt v0.1 Technical Report: Client-Side Optimization for LLM-Based Agent [18.58248061903799]
AgentOptは、クライアントサイドAI最適化のための最初のフレームワークに依存しないPythonパッケージである。
我々はまず,マルチステップエージェントパイプラインにおける高インパクト最適化レバーであるモデル選択について検討する。
指数関数的に増加する組み合わせ空間を効率的に探索するために、AgentOptは10の検索アルゴリズムを実装している。
論文 参考訳（メタデータ） (2026-04-07T17:13:47Z) - Execution-Verified Reinforcement Learning for Optimization Modeling [49.171122807323634]
実行検証学習フレームワークは、数学的プログラミング解法を決定論的で対話的な検証器として扱う。
NL4OPT, MAMO, IndustryOR, OptiBenchをグロビ, OR-Tools, COPTで行った実験では, EVOMがプロセス管理SFTに適合または優れていた。
論文 参考訳（メタデータ） (2026-04-01T03:39:11Z) - A Meta-Knowledge-Augmented LLM Framework for Hyperparameter Optimization in Time-Series Forecasting [0.0]
LLM-AutoOptは,BOとLLMに基づく文脈推論を組み合わせたハイブリッドHPOフレームワークである。
LLM-AutoOpt はメタ知識のない BO や LLM のベースラインと比較して,予測性能の向上と解釈可能な最適化動作の向上を実現している。
論文 参考訳（メタデータ） (2026-02-01T21:26:57Z) - Task-free Adaptive Meta Black-box Optimization [55.461814601130044]
対象タスクからのみ最適化データを用いてオンラインパラメータ適応を行うアダプティブメタブラックボックス最適化モデル(ABOM)を提案する。
メタトレーニングと最適化フェーズを分離する従来のメタBBOフレームワークとは異なり、ABOMはクローズドループパラメータ学習機構を導入し、パラメータ化された進化演算子を継続的に自己更新する。
このパラダイムシフトはゼロショット最適化を可能にする: 合成BBOベンチマークにおけるABOMの競合性能と、手作りのトレーニングタスクを伴わない現実的な無人飛行路計画問題。
論文 参考訳（メタデータ） (2026-01-29T09:54:10Z) - VBO-MI: A Fully Gradient-Based Bayesian Optimization Framework Using Variational Mutual Information Estimation [1.0829694003408499]
VBO-MIは多変量相互情報推定の最近の進歩を生かした,完全な勾配に基づくBOフレームワークである。
提案手法は,高次元合成関数や複雑な実世界のタスクを含む,多種多様なベンチマークを用いて評価する。
論文 参考訳（メタデータ） (2026-01-13T03:07:52Z) - Correcting the Mythos of KL-Regularization: Direct Alignment without Overoptimization via Chi-Squared Preference Optimization [78.82586283794886]
$chi2$-Preference Optimization(chi$PO)は、オーバー最適化に対して確実に堅牢なオフラインアライメントアルゴリズムである。
$chi$POは、正規化による不確実性に直面して悲観主義の原理を実装している。
$chi$POの単純さと強力な保証により、オーバー最適化に対して確実に堅牢な、実用的で汎用的なオフラインアライメントアルゴリズムとなった。
論文 参考訳（メタデータ） (2024-07-18T11:08:40Z) - Large Language Models to Enhance Bayesian Optimization [57.474613739645605]
本稿では,大規模言語モデル(LLM)の能力をベイズ最適化に組み込む新しいアプローチであるLLAMBOを提案する。
高いレベルでは、自然言語のBO問題を枠組み化し、LLMが歴史的評価に照らした有望な解を反復的に提案し、評価することを可能にする。
以上の結果から,LLAMBOはゼロショットウォームスタートに有効であり,サロゲートモデリングや候補サンプリングの促進,特に観察が不十分な場合の探索の初期段階において有効であることが示唆された。
論文 参考訳（メタデータ） (2024-02-06T11:44:06Z) - Sparse Bayesian Optimization [16.867375370457438]
よりスパースで解釈可能な構成を発見できる正規化ベースのアプローチをいくつか提示する。
そこで本研究では,同相連続に基づく新たな微分緩和法を提案し,空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間
スパシティのために効率的に最適化できることが示されています。
論文 参考訳（メタデータ） (2022-03-03T18:25:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。