論文の概要: PRESTO: Preimage-Informed Instruction Optimization for Prompting Black-Box LLMs

• arxiv url: http://arxiv.org/abs/2510.25808v1
• Date: Wed, 29 Oct 2025 09:07:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-31 16:05:09.502969
• Title: PRESTO: Preimage-Informed Instruction Optimization for Prompting Black-Box LLMs
• Title（参考訳）: PRESTO:Black-Box LLMのプロンプティングのためのプリモージュインフォームインストラクション最適化
• Authors: Jaewon Chu, Seunghun Lee, Hyunwoo J. Kim,
• Abstract要約: 大規模言語モデル(LLM)は、命令追従能力の強いため、様々な領域で顕著な成功を収めている。 最近の手法では、最適化されたソフトプロンプトから候補命令を生成するために、ホワイトボックスLLMを使用している。 ホワイトボックスのLSMは、しばしば異なるソフトプロンプトを同じ命令にマッピングし、冗長なクエリをもたらす。 本稿では,ソフトプロンプトの事前構造を利用した新しいフレームワークであるPRESTOを紹介する。
• 参考スコア（独自算出の注目度）: 35.77485317906575
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) have achieved remarkable success across diverse domains, due to their strong instruction-following capabilities. This has led to increasing interest in optimizing instructions for black-box LLMs, whose internal parameters are inaccessible but widely used due to their strong performance. To optimize instructions for black-box LLMs, recent methods employ white-box LLMs to generate candidate instructions from optimized soft prompts. However, white-box LLMs often map different soft prompts to the same instruction, leading to redundant queries. While previous studies regarded this many-to-one mapping as a structure that hinders optimization efficiency, we reinterpret it as a useful prior knowledge that can accelerate the optimization. To this end, we introduce PREimage-informed inSTruction Optimization (PRESTO), a novel framework that leverages the preimage structure of soft prompts for efficient optimization. PRESTO consists of three key components: (1) score sharing, which shares the evaluation score with all soft prompts in a preimage; (2) preimage-based initialization, which selects initial data points that maximize search space coverage using preimage information; and (3) score consistency regularization, which enforces prediction consistency within each preimage. By leveraging preimages, PRESTO achieves the effect of effectively obtaining 14 times more scored data under the same query budget, resulting in more efficient optimization. Experimental results on 33 instruction optimization tasks demonstrate the superior performance of PRESTO. Code is available at https://github.com/mlvlab/PRESTO
• Abstract（参考訳）: 大規模言語モデル(LLM)は、命令追従能力の強いため、様々な領域で顕著な成功を収めている。 これにより、内部パラメータはアクセスできないが性能が強いため広く使われているブラックボックスLSMの命令の最適化への関心が高まっている。 ブラックボックスLSMの命令を最適化するために、最近の手法ではホワイトボックスLSMを用いて最適化されたソフトプロンプトから候補命令を生成する。 しかし、ホワイトボックスのLSMは、しばしば異なるソフトプロンプトを同じ命令にマッピングし、冗長なクエリをもたらす。 従来の研究では、この多対一マッピングは最適化効率を阻害する構造であると考えられていたが、最適化を加速できる有用な事前知識として再解釈した。 この目的のために,ソフトプロンプトの事前構造を利用して効率的な最適化を行う新しいフレームワークであるPreimage-informed InSTruction Optimization (PRESTO)を導入する。 PRESTO は,(1) 評価スコアを事前画像内のすべてのソフトプロンプトと共有するスコア共有,(2) 事前情報を用いて検索空間のカバレッジを最大化する初期データポイントを選択するプリモージベース初期化,(3) 事前画像内の予測一貫性を強制するスコア整合正則化の3つの重要な構成要素から構成される。 事前イメージを活用することで、PRESTOは、同じクエリ予算の下で14倍の採点データを効果的に取得する効果を達成し、より効率的な最適化を実現する。 33の命令最適化タスクの実験結果は、PRESTOの優れた性能を示している。 コードはhttps://github.com/mlvlab/PRESTOで入手できる。

関連論文リスト

• From Heuristic Selection to Automated Algorithm Design: LLMs Benefit from Strong Priors [4.253872963674906]
  大規模言語モデル(LLM)は、アルゴリズムの自動設計に広く採用されている。 高品質なアルゴリズムコード例を提供することで、LLM駆動最適化の性能を大幅に向上できることを示す。
  論文  参考訳（メタデータ） (2026-03-03T09:27:52Z)
• SemOpt: LLM-Driven Code Optimization via Rule-Based Analysis [7.451702651736553]
  SemOptは静的プログラム分析を利用して最適化可能なコードセグメントを正確に識別し、対応する最適化戦略を検索し、最適化結果を生成するフレームワークである。 151の最適化タスクを含むベンチマークにおいて、SemOptは、ベースラインに比べて1.38から28倍の最適化を成功させることにより、異なるLLM下での有効性を示す。
  論文  参考訳（メタデータ） (2025-10-18T07:44:18Z)
• CAPO: Cost-Aware Prompt Optimization [3.0290544952776854]
  大規模言語モデル(LLM)は、単にプロンプトによって導かれる幅広いタスクを解くことで、自然言語処理に革命をもたらした。 本稿では,AutoML技術を統合することにより,迅速な最適化効率を向上させるアルゴリズムCAPOを紹介する。 実験の結果,CAPOは11/15例において21%pの精度向上を達成し,最先端の離散的プロンプト最適化法よりも優れていた。
  論文  参考訳（メタデータ） (2025-04-22T16:14:31Z)
• QPO: Query-dependent Prompt Optimization via Multi-Loop Offline Reinforcement Learning [58.767866109043055]
  クエリ依存型プロンプト最適化(QPO)を導入し、入力クエリに合わせて最適なプロンプトを生成するために、小さな事前訓練された言語モデルを反復的に微調整する。 我々は、オープンソースのタスクに様々なプロンプトをベンチマークする副産物として、すでに大量に存在するオフラインのプロンプトデータから洞察を得る。 様々なLLMスケールと多様なNLPおよび数学タスクの実験は、ゼロショットと少数ショットの両方のシナリオにおいて、我々の手法の有効性とコスト効率を実証している。
  論文  参考訳（メタデータ） (2024-08-20T03:06:48Z)
• Large Language Models Prompting With Episodic Memory [53.8690170372303]
  本稿では,POEM(PrOmpting with Episodic Memory)を提案する。 テストフェーズでは、各テストクエリのサンプルのシーケンスを最適化し、エピソードメモリにおけるトップkで最も類似したトレーニング例から最も高い合計報酬を得るシーケンスを選択する。 その結果,POEMはテキスト分類タスクにおいてTEMPERAやRLPromptといった最近の技術よりも5.3%向上していることがわかった。
  論文  参考訳（メタデータ） (2024-08-14T11:19:28Z)
• LLM as a Complementary Optimizer to Gradient Descent: A Case Study in Prompt Tuning [69.95292905263393]
  グラデーションベースとハイレベルなLLMは、協調最適化フレームワークを効果的に組み合わせることができることを示す。 本稿では,これらを相互に補完し,組み合わせた最適化フレームワークを効果的に連携させることができることを示す。
  論文  参考訳（メタデータ） (2024-05-30T06:24:14Z)
• Pretrained Optimization Model for Zero-Shot Black Box Optimization [16.391389860521134]
  多様なタスクの最適化から得られた知識を活用する事前学習最適化モデル(POM)を提案する。 POMは、直接アプリケーションや数発のサンプルによる微調整を通じて、ゼロショット最適化の効率的なソリューションを提供する。 少数のサンプルと予算を持つ微調整POMは、大幅な性能改善をもたらす。
  論文  参考訳（メタデータ） (2024-05-06T09:11:49Z)
• Large Language Models as Optimizers [106.52386531624532]
  本稿では,大規模言語モデル (LLM) をプロンプトとして活用するためのシンプルで効果的な手法である Prompting (OPRO) を提案する。 各最適化ステップにおいて、LLMは、前述した値を含むプロンプトから新しい解を生成する。 OPROにより最適化された最良のプロンプトは、GSM8Kで最大8%、Big-Bench Hardタスクで最大50%向上することを示した。
  論文  参考訳（メタデータ） (2023-09-07T00:07:15Z)
• InstructZero: Efficient Instruction Optimization for Black-Box Large Language Models [117.92988284226765]
  大規模言語モデル(LLM)は命令従者であるが、異なる状況に最適な命令を見つけることは困難である。 我々は,オープンソースLLMに適用した低次元ソフトプロンプトを最適化し,ブラックボックスLLMの命令を生成する。 InstructZero は,様々な下流タスクにおいて SOTA 自動命令手法より優れていることを示す。
  論文  参考訳（メタデータ） (2023-06-05T17:55:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。