論文の概要: TagBO: LLM-Driven Task-Aware Graph Bayesian Optimization for Scientific Discovery
- arxiv url: http://arxiv.org/abs/2610.14626v1
- Date: Sat, 10 Oct 2026 06:21:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 12:36:01.400634
- Title: TagBO: LLM-Driven Task-Aware Graph Bayesian Optimization for Scientific Discovery
- Title(参考訳): TagBO:科学発見のためのLLM駆動タスク対応グラフベイズ最適化
- Abstract要約: 科学的発見における混合変数最適化は、しばしば高価な実験的な評価の下で大きな空間を探索する必要がある。
本稿では,リレーショナル事前情報と記述子に基づく構造情報を統合するTagBO(Task-aware Graph Bayesian Optimization)を提案する。
そこで,TagBO は様々な機能を持つ LLM の固定評価予算の下で,サンプル効率を継続的に向上することを示す。
- 参考スコア(独自算出の注目度): 31.411974330055017
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Mixed-variable optimization in scientific discovery often requires exploring large combinatorial spaces under costly experimental evaluations, making sample?efficient Bayesian optimization (BO) essential. However, existing BO methods typ?ically rely on structural descriptors to define similarity among categorical variables, implicitly assuming that structural similarity reflects similarity in task performance. In scientific optimization, this assumption is often violated, leading to surrogate representations that are poorly aligned with the optimization objective. To address this limitation, we propose TagBO (Task-aware Graph Bayesian Optimization), a method that integrates LLM-derived relational priors with descriptor-based struc?tural information for mixed-variable Bayesian optimization. Rather than directly using LLM outputs as predictive scores, TagBO treats LLM outputs as a potentially noisy source of task-aware relational priors and extracts coarse ordinal relational signals from LLM reasoning to construct task-aware similarity structures for scien?tific optimization. TagBO then performs constrained Gaussian process Bayesian optimization over the resulting joint discrete-continuous representation space. Ex?periments on diverse chemistry and materials formulation tasks demonstrate that TagBO consistently improves sample efficiency under fixed evaluation budgets across LLMs of varying capabilities.
- Abstract(参考訳): 科学的な発見における混合変数の最適化は、しばしばコストのかかる実験的評価の下で大きな組合せ空間を探索し、サンプルを作成する必要があるか?
効率的なベイズ最適化(BO)。
しかし、既存のBOメソッドの型は?
厳密には、分類変数間の類似性を定義するために構造記述子に依存しており、構造類似性はタスクのパフォーマンスの類似性を反映していると暗黙的に仮定している。
科学的最適化において、この仮定はしばしば違反され、最適化の目的と不十分な表現を代理する。
この制限に対処するために、LLM由来のリレーショナルプリエントと記述子ベースのストロークを統合する方法であるTagBO(Task-aware Graph Bayesian Optimization)を提案する。
混合変数ベイズ最適化のためのトラル情報
予測スコアとしてLLM出力を直接使用するのではなく、TagBOはLLM出力をタスク対応リレーショナルプリミティブの潜在的ノイズ源として扱い、LLM推論から粗い順序関係信号を抽出し、課題対応類似性構造を構築するか?
厳格な最適化
その後、TagBOは、結果の離散連続表現空間に対する制約付きガウス過程ベイズ最適化を行う。
エクス?
多様な化学および材料定式化タスクのペリメントは、TagBOが様々な能力を持つLLMの固定評価予算の下で、サンプル効率を一貫して改善していることを示す。
関連論文リスト
- ClusterFewshot: Improving Few-shot Optimization for LLMs workflow [48.805151796878505]
ClusterFewshotは、セマンティック構造化とユーティリティアウェアスコアを組み合わせて、代表的で効果的な数ショットのデモセットを構築する戦略である。
複数のベンチマークにまたがる最適化コストを大幅に削減し、従来のブートストラップ方式と比較して精度を継続的に改善する。
論文 参考訳(メタデータ) (2026-09-22T09:45:29Z) - SOCRATES: Simulation Optimization with Correlated Replicas and Adaptive Trajectory Evaluations [25.18297372152296]
SOCRATESは、調整されたSOアルゴリズムの設計を自動化する新しい2段階のプロシージャである。
実システムのデジタルレプリカのアンサンブルは、ベースラインSOアルゴリズムのセットを評価するテストベッドとして使用される。
LLMはメタ最適化器として機能し、これらのアルゴリズムのパフォーマンストラジェクトリを分析して、最終的なハイブリッド最適化スケジュールを反復的に修正し構成する。
論文 参考訳(メタデータ) (2025-11-01T19:57:38Z) - LLM Based Bayesian Optimization for Prompt Search [6.764478031814792]
本稿では,大規模言語モデルを用いたテキスト分類を高速化するアルゴリズムを提案する。
本稿では,BO-LLMアルゴリズムを2つのデータセットで評価し,その利点について述べる。
論文 参考訳(メタデータ) (2025-10-05T22:32:50Z) - Combinatorial Optimization via LLM-driven Iterated Fine-tuning [47.66752049943335]
我々は,Large Language Models (LLMs) を利用して,柔軟で文脈に依存しない制約を最適化に統合する新しい方法を提案する。
本フレームワークは, 局所的制約と厳密なグローバル最適化とのバランスを, ベースラインサンプリング法よりも効率的に行う。
論文 参考訳(メタデータ) (2025-03-10T04:58:18Z) - Simulation Based Bayesian Optimization [0.0]
本稿では,獲得関数を最適化するための新しいアプローチとして,シミュレーションベースベイズ最適化(SBBO)を提案する。
GPは後続予測分布への解析的アクセスを提供するため、サロゲートモデルとして一般的に使用される。
本研究では,SBBOの有効性を種々の代理モデルを用いて実証的に実証する。
論文 参考訳(メタデータ) (2024-01-19T16:56:11Z) - Robust Prompt Optimization for Large Language Models Against
Distribution Shifts [80.6757997074956]
大規模言語モデル(LLM)は、様々な自然言語処理タスクにおいて重要な能力を示している。
本稿では,LLMの分散シフトに対するロバストな最適化法を提案する。
この問題は、ラベル付けされたソースグループに最適化されたプロンプトを同時にラベル付けされていないターゲットグループに一般化する必要がある。
論文 参考訳(メタデータ) (2023-05-23T11:30:43Z) - Tree ensemble kernels for Bayesian optimization with known constraints
over mixed-feature spaces [54.58348769621782]
木アンサンブルはアルゴリズムチューニングやニューラルアーキテクチャ検索といったブラックボックス最適化タスクに適している。
ブラックボックス最適化にツリーアンサンブルを使うことの2つのよく知られた課題は、探索のためのモデル不確実性を効果的に定量化し、また、 (ii) ピースワイドな定値取得関数を最適化することである。
我々のフレームワークは、連続/離散的機能に対する非拘束ブラックボックス最適化のための最先端の手法と同様に、混合変数の特徴空間と既知の入力制約を組み合わせた問題の競合する手法よりも優れている。
論文 参考訳(メタデータ) (2022-07-02T16:59:37Z) - Bilevel Optimization: Convergence Analysis and Enhanced Design [63.64636047748605]
バイレベル最適化は多くの機械学習問題に対するツールである。
Stoc-BiO という新しい確率効率勾配推定器を提案する。
論文 参考訳(メタデータ) (2020-10-15T18:09:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。