論文の概要: Efficient Multi-objective Prompt Optimization via Pure-exploration Bandits

• arxiv url: http://arxiv.org/abs/2605.14553v1
• Date: Thu, 14 May 2026 08:31:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-15 21:45:34.718004
• Title: Efficient Multi-objective Prompt Optimization via Pure-exploration Bandits
• Title（参考訳）: 純探索帯域を用いた効率的な多目的プロンプト最適化
• Authors: Donghao Li, Chengshuai Shi, Weijuan Ou, Cong Shen, Jing Yang,
• Abstract要約: 本研究では,2つの実践的条件下での多目的的プロンプト選択問題について検討する。 多目的バンディットから証明可能なアルゴリズムを適応する。 本稿では,構造バンドにおける腕の識別に最適な新しい設計を提案する。
• 参考スコア（独自算出の注目度）: 17.812798971915218
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Prompt engineering has become central to eliciting the capabilities of large language models (LLMs). At its core lies prompt selection -- efficiently identifying the most effective prompts. However, most prior investigations overlook a key challenge: the inherently multi-faceted nature of prompt performance, which cannot be captured by a single metric. To fill this gap, we study the multi-objective prompt selection problem under two practical settings: Pareto prompt set recovery and best feasible prompt identification. Casting the problem into the pure-exploration bandits framework, we adapt provably efficient algorithms from multi-objective bandits and further introduce a novel design for best feasible arm identification in structured bandits, with theoretical guarantees on the identification error in the linear case. Extensive experiments across multiple LLMs show that the bandit-based approaches yield significant improvements over baselines, establishing a principled and efficient framework for multi-objective prompt optimization.
• Abstract（参考訳）: プロンプトエンジニアリングは、大規模言語モデル(LLM)の能力を引き出す中心となっている。 その中核にあるのは、最も効果的なプロンプトを効率的に識別するプロンプト選択である。 しかし、ほとんどの先行研究は重要な課題を見逃している: 本質的にはプロンプトパフォーマンスの多面的な性質であり、単一のメートル法では捉えられない。 このギャップを埋めるために,パレート・プロンプト・プロンプトと最も有効なプロンプト識別という2つの実践的条件下で,多目的プロンプト選択問題について検討した。 この問題を純粋探索バンディットフレームワークにキャストし、多目的バンディットから証明可能なアルゴリズムを適用し、さらに線形の場合の識別誤差を理論的に保証し、構造化バンディットにおける最良の腕識別のための新しい設計を導入する。 複数のLLMをまたいだ大規模な実験により、バンドベースアプローチはベースラインよりも大幅に改善され、多目的プロンプト最適化のための原則的かつ効率的なフレームワークが確立された。

関連論文リスト

• Progressive Multimodal Reasoning via Active Retrieval [64.74746997923967]
  多段階多モーダル推論タスクは、大規模言語モデル(MLLM)に重大な課題をもたらす 本稿では,MLLMの推論能力の向上を目的とした汎用フレームワークAR-MCTSを提案する。 我々は,AR-MCTSがサンプリングの多様性と精度を最適化し,信頼性の高いマルチモーダル推論を実現することを示す。
  論文  参考訳（メタデータ） (2024-12-19T13:25:39Z)
• Hyperband-based Bayesian Optimization for Black-box Prompt Selection [15.756224286651237]
  ブラックボックスのプロンプト選択は、潜在的に大きな検索スペース、勾配情報の欠如、検証セット上のプロンプトの評価コストが高いため、困難である。 本稿では,HbBoPsを提案する。HbBoPsは,マルチファイダリティスケジューラとして,構造を意識したディープカーネルガウスプロセスとハイパーバンドを組み合わせた新しい手法である。 HbBoPsは、パフォーマンスと効率の両方で最先端の手法より優れている。
  論文  参考訳（メタデータ） (2024-12-10T14:42:51Z)
• QPO: Query-dependent Prompt Optimization via Multi-Loop Offline Reinforcement Learning [58.767866109043055]
  クエリ依存型プロンプト最適化(QPO)を導入し、入力クエリに合わせて最適なプロンプトを生成するために、小さな事前訓練された言語モデルを反復的に微調整する。 我々は、オープンソースのタスクに様々なプロンプトをベンチマークする副産物として、すでに大量に存在するオフラインのプロンプトデータから洞察を得る。 様々なLLMスケールと多様なNLPおよび数学タスクの実験は、ゼロショットと少数ショットの両方のシナリオにおいて、我々の手法の有効性とコスト効率を実証している。
  論文  参考訳（メタデータ） (2024-08-20T03:06:48Z)
• DynaThink: Fast or Slow? A Dynamic Decision-Making Framework for Large Language Models [42.95876831743256]
  大規模言語モデル(LLM)は、Chains-of-Thoughtプロンプトを通じて、さまざまな推論タスクにまたがる創発的な機能を示している。 本稿では,LLMが高速かつ低速な推論手法を自律的に選択できることの課題に対処する。 LLMが高速に高信頼の解を識別するタスクに指定された「Fast」と、LLMが複雑だと認識するタスクに割り当てられた「Slow」という2つの異なる経路に分類する動的意思決定フレームワークを導入する。
  論文  参考訳（メタデータ） (2024-07-01T06:45:13Z)
• Efficient Prompt Optimization Through the Lens of Best Arm Identification [50.56113809171805]
  この作業は、明示的な予算制約の下でプロンプト選択を効率的に行うための、原則化されたフレームワークであるTRIPLEを提供する。 マルチアームバンディット(MAB)における即時最適化と固定予算ベストアーム識別(BAI-FB)の間に確立された新しい接続上に構築されている。
  論文  参考訳（メタデータ） (2024-02-15T05:31:13Z)
• Query-Dependent Prompt Evaluation and Optimization with Offline Inverse RL [62.824464372594576]
  ゼロショットプロンプト最適化により,Large Language Models (LLM) の算術的推論能力を向上させることを目的とする。 このような最適化では、以前見過ごされたクエリ依存の目的を特定します。 本稿では、オフライン逆強化学習を利用して、実演データから洞察を引き出すPrompt-OIRLを紹介する。
  論文  参考訳（メタデータ） (2023-09-13T01:12:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。