論文の概要: RLMOpt: Adaptive Prompt Optimization via Recursive Language Models
- arxiv url: http://arxiv.org/abs/2608.10471v1
- Date: Tue, 11 Aug 2026 04:35:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-12 19:14:45.907531
- Title: RLMOpt: Adaptive Prompt Optimization via Recursive Language Models
- Title(参考訳): RLMOpt:再帰型言語モデルによる適応型プロンプト最適化
- Abstract要約: 我々は、検索ポリシー自体を言語モデル駆動にするプロンプトであるRLMOptを紹介する。
構造化された臨床情報抽出(Chia)、マルチホップ質問応答(HotpotQA)、命令追従(IFBench-2025)、マルチターンツール呼び出しエージェント(BFCL)の4つのベンチマークでRLMOptを評価した。
- 参考スコア(独自算出の注目度): 0.023287537590495223
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Prompt optimizers automate the search for prompts that improve language-model performance, but existing methods rely on a predefined optimization procedure: the algorithm determines which candidates to explore and how the search progresses, while the language model generates or refines prompt proposals. We introduce RLMOpt, a prompt optimizer that makes the search policy itself language-model-driven through a recursive language model (RLM). The RLM agent operates over a tool-based environment, inspecting task information, analyzing failures, generating candidates, allocating evaluation budget, and deciding when to stop. A deterministic harness complements the agent by enforcing objective scoring, Pareto-based selection, and regression constraints. We evaluate RLMOpt across four benchmarks spanning structured clinical information extraction (Chia), multi-hop question answering (HotpotQA), verifiable instruction following (IFBench-2025), and multi-turn tool-calling agents (BFCL). In a matched comparison at a single seed, RLMOpt obtains the best held-out score on all four benchmarks and leads the four-task mean (0.610 against 0.589 for GEPA). Repeating each benchmark across seeds yields 11 matched benchmark-seed comparisons, in which RLMOpt outperforms GEPA in 9 cases. Across all 11 runs, it never produced a prompt that underperformed its seed, whereas GEPA fell below its starting point twice. It is also more efficient, achieving these results with fewer search rollouts while producing prompts that are 27-79% the size of those produced by GEPA. Our results further show that optimization gains are determined primarily by the headroom available in the seed prompt, rather than by the search budget. Efficient optimization therefore depends on reaching the available headroom reliably and with minimal search
- Abstract(参考訳): プロンプトオプティマイザは言語モデルのパフォーマンスを改善するプロンプトの探索を自動化するが、既存の手法は事前に定義された最適化手順に依存している。
本稿では,再帰的言語モデル(RLM)を通じて,検索ポリシー自体を言語モデル駆動にするためのプロンプトオプティマイザであるRLMOptを紹介する。
RLMエージェントは、ツールベースの環境上で動作し、タスク情報を検査し、失敗を分析し、候補を生成し、評価予算を割り当て、いつ停止するかを決定する。
決定論的ハーネスは、客観的スコアリング、パレートベースの選択、回帰制約を強制することによってエージェントを補完する。
構造化された臨床情報抽出(Chia)、マルチホップ質問応答(HotpotQA)、IFBench-2025(IFBench-2025)、マルチターンツール呼び出しエージェント(BFCL)の4つのベンチマークでRLMOptを評価した。
一致した比較では、RLMOptは4つのベンチマークで最高のホールトアウトスコアを取得し、4タスク平均(0.610対0.589対GEPA)を導いた。
RLMOpt は GEPA を 9 例で上回っている。
全11戦中、GEPAはスタート地点を2回も下回ったが、シード成績が低かったというプロンプトは出なかった。
また、より効率的で、より少ない検索ロールアウトでこれらの結果を達成すると同時に、GEPAの27~79%の大きさのプロンプトを生成する。
さらに,本研究の結果は,探索予算ではなく,シードプロンプトで利用可能なヘッドルームによって最適化ゲインが決定されることを示唆している。
したがって、効率的な最適化は利用可能なヘッドルームに確実に到達し、最小限の探索で行う。
関連論文リスト
- The Optimizer Is the Agent: Reasoning-Driven Search across Prompts, Programs, and ML Workflows [72.9051182568928]
推論駆動最適化のための統合フレームワークであるReASearchを提案する。
共有エージェントループとドメイン固有のツールにより、ReASearchは、プロンプト、プログラム、MLを最適化するために、まったく同じスキャフォールドをインスタンス化する。
我々は,複雑な探索行動がエージェントの推論プロセスから自然に現れることを観察する。
論文 参考訳(メタデータ) (2026-08-07T02:15:39Z) - Getting the Parameters Right: A Difficulty-Graded Benchmark and Probe-Guided Training for LLM Tool Calls [43.88014476513854]
クラウドコンピューティングのようなドメインでは、フロンティアモデルでさえ、ツールコールの半分以下を正しく完了します。
本稿では,2つの相補的なアプローチによるプローブ誘導フレームワークを提案する。
提案手法はパラメータ生成を大幅に改善し,平均一致率19.7%から59.6%に向上した。
論文 参考訳(メタデータ) (2026-08-04T03:36:41Z) - GFlowPO: Generative Flow Network as a Language Model Prompt Optimizer [51.31263673158136]
GFlowPOは、メタプロンプト参照-LMにより正規化される潜在プロンプトに対する後部推論問題としてプロンプトをキャストする。
GFlowPOは、最近の離散的なプロンプト最適化ベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2026-02-03T10:30:03Z) - Rethinking On-policy Optimization for Query Augmentation [49.87723664806526]
本稿では,様々なベンチマークにおいて,プロンプトベースとRLベースのクエリ拡張の最初の体系的比較を示す。
そこで我々は,検索性能を最大化する擬似文書の生成を学習する,新しいハイブリッド手法 On-policy Pseudo-document Query Expansion (OPQE) を提案する。
論文 参考訳(メタデータ) (2025-10-20T04:16:28Z) - Reinforcement Fine-Tuning for Reasoning towards Multi-Step Multi-Source Search in Large Language Models [7.719379471690927]
Reasoning-Search (R-Search)は、マルチステップ計画、複数ソース検索の実行、回答合成を統一するシングルLLM検索フレームワークである。
R-Searchは、検索プロセスを導く推論ステップを含む、明示的に定義された4つのコンポーネントに出力を構造化する。
論文 参考訳(メタデータ) (2025-06-10T02:09:57Z) - Self-Supervised Prompt Optimization [19.159322848728646]
十分に設計されたプロンプトは、Large Language Model(LLM)推論能力の強化に不可欠である。
既存のプロンプト最適化手法は、地上の真実や人間による外部参照に大きく依存している。
本稿では,閉じたタスクとオープンなタスクの両方に効果的なプロンプトを発見する費用効率のよいフレームワークであるセルフ・スーパービジョン・プロンプト・最適化(SPO)を提案する。
論文 参考訳(メタデータ) (2025-02-07T17:45:16Z) - GRL-Prompt: Towards Knowledge Graph based Prompt Optimization via Reinforcement Learning [8.307785339429863]
大規模言語モデル(LLM)の迅速な最適化のための新しいフレームワークを提案する。
GRL-Promptは、強化学習(RL)を通じて、エンドツーエンドで最適なプロンプトを自動構築することを目的としている。
GRL-Promptは最近の最先端手法よりも優れていた。
論文 参考訳(メタデータ) (2024-11-19T10:52:25Z) - In-context Demonstration Matters: On Prompt Optimization for Pseudo-Supervision Refinement [71.60563181678323]
大規模言語モデル(LLM)は様々なタスクで大きな成功を収めており、生成品質をさらに向上させるためには微調整が必要である場合もある。
これらの課題に対処する直接的な解決策は、教師なしの下流タスクから高信頼のデータを生成することである。
本稿では,プロンプトと全体的な擬似スーパービジョンを両立させる新しい手法,擬似教師付きデモアライメント・アライメント・アライメント・プロンプト・最適化(PAPO)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-10-04T03:39:28Z) - Tree Search for Language Model Agents [73.97960454223164]
対話型Web環境での探索と多段階計画を行うために,LMエージェントの推論時探索アルゴリズムを提案する。
我々のアプローチは、実環境空間内で機能する最優先木探索の一形態である。
現実的なWebタスクにおいて有効性を示すLMエージェントのための最初の木探索アルゴリズムである。
論文 参考訳(メタデータ) (2024-07-01T17:07:55Z) - Efficient Non-Parametric Optimizer Search for Diverse Tasks [93.64739408827604]
興味のあるタスクを直接検索できる,スケーラブルで汎用的なフレームワークを初めて提示する。
基礎となる数学表現の自然木構造に着想を得て、空間を超木に再配置する。
我々は,モンテカルロ法を木探索に適用し,レジェクションサンプリングと等価形状検出を備える。
論文 参考訳(メタデータ) (2022-09-27T17:51:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。