論文の概要: How to Guide LLM Generation: Dual-Surrogate Guided Search for Automated Heuristic Design
- arxiv url: http://arxiv.org/abs/2607.13911v1
- Date: Wed, 15 Jul 2026 14:52:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-16 16:39:12.803464
- Title: How to Guide LLM Generation: Dual-Surrogate Guided Search for Automated Heuristic Design
- Title(参考訳): LLM生成のガイド方法:自動ヒューリスティック設計のためのデュアルサロゲートガイド検索
- Abstract要約: 本研究では,大規模言語モデルにおける演算子選択のための代用誘導型行動選択モジュールを提案する。
2つの相補的なサロゲートでプレジェネレーションアクションをスコアリングすることで、LLMコード生成プロセスのガイドを行う。
- 参考スコア(独自算出の注目度): 20.487166294495374
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models (LLMs) have made automated heuristic design (AHD) increasingly practical by generating executable heuristic code from task descriptions and evaluator feedback. Yet under a limited query and evaluation budget, search efficiency depends critically on a pre-generation decision. Before each LLM query and black-box evaluation, the system must choose which archived heuristics to reuse as parents and which generation operator should transform them. Existing methods typically choose such actions with predefined rules, leaving the expected outcome of each concrete operator-parent action only indirectly modeled. Therefore, we propose \emph{\fullmethod{}} (\method{}), a surrogate-guided action-selection module for operator-parent selection in LLM-based AHD. \method{} guides the LLM code-generation process by scoring pre-generation actions with two complementary surrogates. Specifically, a transition surrogate is proposed to predict the latent distribution of the child representation induced by an operator-parent action, while an instance-conditioned utility surrogate is proposed to estimate the expected performance of sampled child latents. Moreover, we propose an uncertainty-aware acquisition rule that combines predicted utility, utility uncertainty, and transition uncertainty to select the next LLM generation action. Across a diverse heuristic-design suite, \method{} is competitive with strong LLM-AHD baselines, and ablation and action-selection analyses suggest that its behavior goes beyond simple archive ranking or fixed operator preferences.
- Abstract(参考訳): 大規模言語モデル(LLM)は、タスク記述と評価器フィードバックから実行可能なヒューリスティックコードを生成することで、自動化ヒューリスティック設計(AHD)をますます実践的にしている。
しかし、限られたクエリと評価予算の下では、検索効率は前世代の決定に大きく依存する。
各LCMクエリとブラックボックス評価の前に、システムはどのアーカイブされたヒューリスティックを両親として再利用するかを選択し、どの世代オペレータを変換すべきかを選択する必要がある。
既存のメソッドは通常、事前定義されたルールでそのようなアクションを選択し、それぞれの具体的なオペレーターパーアクションの期待結果は間接的にのみモデル化される。
したがって、LLMベースのAHDにおける演算子親選択のための代用ゲート誘導動作選択モジュールである \emph{\fullmethod{}} (\method{}) を提案する。
\method{}は、2つの相補的なサロゲートでプレジェネレーションアクションをスコアリングすることで、LCMコード生成プロセスをガイドする。
具体的には、オペレーターの動作によって誘導される子表現の潜伏分布を予測するために遷移代理が提案され、インスタンス条件付きユーティリティ代理がサンプリングされた子潜伏者の期待性能を推定するために提案される。
さらに,予測ユーティリティ,ユーティリティの不確実性,遷移不確実性を組み合わせて次のLCM生成動作を選択する不確実性認識獲得ルールを提案する。
多様なヒューリスティック設計スイート全体にわたって、\method{} は強力な LLM-AHD ベースラインと競合する。
関連論文リスト
- Towards Agentic Agent-based Models: Feasibility, Performance, and Statistical Model Checking [0.42025549992700273]
エージェントベースモデル(ABM)は、個々の意思決定にシンプルで明示的で再現可能なルールに依存している。
大規模言語モデル(LLM)の最近の進歩は、これらのルールをLLMベースのエージェント機能で置き換えたり、強化したり、摂動したりすることを誘惑させる。
本研究では,LSMによる意思決定の導入がABMシミュレーションの信頼性,計算コスト,動作に与える影響について検討する。
論文 参考訳(メタデータ) (2026-07-20T13:49:51Z) - Deliberate Evolution: Agentic Reasoning for Sample-Efficient Symbolic Regression with LLMs [52.89778838903305]
Deliberate Evolution (DE) は、検索制御からシンボル生成を分離するエージェントフレームワークである。
LLM-SRBenchの実験では、DEMは様々な科学領域でLLMベースのSRベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2026-06-03T02:22:16Z) - OLIVIA: Online Learning via Inference-time Action Adaptation for Decision Making in LLM ReAct Agents [74.20327254615854]
大規模言語モデルエージェントは、シーケンシャルな意思決定タスクを解決するために、推論、行動選択、観察をインターリーブする。
LLMエージェントの既存の推論時間適応法は、主にプロンプトや検索に依存している。
提案するOLIVIAは,ReAct型エージェントのための推論時行動適応フレームワークである。
論文 参考訳(メタデータ) (2026-05-11T19:28:20Z) - Optimizing Service Operations via LLM-Powered Multi-Agent Simulation [1.2997358113120427]
サービス操作を最適化するためのLLMを用いたマルチエージェントシミュレーションフレームワークを提案する。
我々は、決定に依存した不確実性を伴う最適化として問題を提起する。
本研究では,1つのシミュレーション実行時にゼロ階勾配推定を同時に構築し,定常状態性能を最適化するための設計パラメータを更新する軌道学習アルゴリズムを開発した。
論文 参考訳(メタデータ) (2026-04-06T03:14:33Z) - Human-LLM Collaborative Feature Engineering for Tabular Data [22.2647889885109]
大規模言語モデル(LLM)は、表型学習における機能工学の自動化にますます利用されている。
現在のアプローチでは、LLMをブラックボックスとして割り当て、操作の提案と選択の両方に責任を負う。
本稿では,人間-LLM協調機能エンジニアリングフレームワークを提案する。
論文 参考訳(メタデータ) (2026-01-28T21:33:42Z) - AgentPRM: Process Reward Models for LLM Agents via Step-Wise Promise and Progress [71.02263260394261]
大規模言語モデル(LLM)は、マルチターン意思決定タスクにおいて依然として課題に直面している。
プロセス報酬モデル(PRM)を構築し、各意思決定を評価し、エージェントの意思決定プロセスを導く。
AgentPRMは、シーケンシャルな決定と最終的な目標への貢献の間の相互依存の両方をキャプチャする。
論文 参考訳(メタデータ) (2025-11-11T14:57:54Z) - Reasoning with Confidence: Efficient Verification of LLM Reasoning Steps via Uncertainty Heads [104.9566359759396]
データ駆動の不確実性スコアに基づくステップレベルの推論検証の軽量な代替案を提案する。
本研究は, LLMの内部状態が不確実性を符号化し, 信頼性の高い検証信号として機能することが示唆された。
論文 参考訳(メタデータ) (2025-11-09T03:38:29Z) - Let's Think in Two Steps: Mitigating Agreement Bias in MLLMs with Self-Grounded Verification [17.67273082468732]
検証 -- エージェントの振る舞いに報酬を割り当てる関数 -- は、数学やボードゲームのような分野におけるAIの進歩の鍵となっている。
我々は,Multimodal Large Language Models (MLLM) を,Webナビゲーション,コンピュータ利用,ロボット操作におけるエージェントトラジェクトリの検証手段として評価した。
本稿では,MLLMの知識と推論をより効果的に活用する軽量な手法である自己検証(SGV)を提案する。
論文 参考訳(メタデータ) (2025-07-15T18:50:29Z) - SAND: Boosting LLM Agents with Self-Taught Action Deliberation [54.48979740613828]
大規模言語モデル(LLM)エージェントは、通常、ReActスタイルの専門家軌道の教師付き微調整や、ペアのロールアウトよりも好みの最適化で調整される。
本稿では,自己学習型アクチオN審議(SAND)フレームワークを提案する。
SANDは、初期教師付き微調整よりも平均20%改善し、また最先端のエージェントチューニングアプローチより優れている。
論文 参考訳(メタデータ) (2025-07-10T05:38:15Z) - CLOMO: Counterfactual Logical Modification with Large Language Models [109.60793869938534]
本稿では,新しいタスク,CLOMO(Counterfactual Logical Modification)と高品質な人間アノテーションベンチマークを紹介する。
このタスクでは、LLMは所定の論理的関係を維持するために、与えられた議論的テキストを順応的に変更しなければなりません。
LLMの自然言語出力を直接評価する革新的な評価指標である自己評価スコア(SES)を提案する。
論文 参考訳(メタデータ) (2023-11-29T08:29:54Z) - Formally Specifying the High-Level Behavior of LLM-Based Agents [24.645319505305316]
LLMはタスク固有の微調整モデルを必要とせずに、課題を解決するための有望なツールとして登場した。
現在、このようなエージェントの設計と実装はアドホックであり、LLMベースのエージェントが自然に適用できる様々なタスクは、エージェント設計に一律に適合するアプローチが存在しないことを意味する。
エージェント構築のプロセスを簡単にする最小主義的生成フレームワークを提案する。
論文 参考訳(メタデータ) (2023-10-12T17:24:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。