論文の概要: From Monolithic to Modular: Segment-level Automatic Prompt Optimization

• arxiv url: http://arxiv.org/abs/2608.11219v1
• Date: Tue, 21 Jul 2026 16:02:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-17 01:32:04.579623
• Title: From Monolithic to Modular: Segment-level Automatic Prompt Optimization
• Title（参考訳）: モノリシックからモジュラーへ:セグメントレベルの自動プロンプト最適化
• Abstract要約: 本稿では,プロンプトを役割,コンテキスト,タスク,出力形式に分解するセグメントレベルのAPO手法であるSAPOを提案する。 列車/検証プロトコルと2段階生成プロセスについて述べる。 SQuADv2, TweetEval, XSUM, CommonGen, GSM8K の GPT-3.5-Turbo と GPT-4o-mini に対する評価設定を用いて、SAPO はゼロショットと強い APO ベースラインに対して最高の平均スコアを得る。
• 参考スコア（独自算出の注目度）: 3.2852256604029453
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Automatic Prompt Optimization (APO) often rewrites prompts monolithically, which can improve one behavior while degrading others. We present SAPO, a segment-level APO method that decomposes prompts into role, context, tasks, and output format, then applies targeted improvements based on top-5 and bottom-5 examples. The optimization loop uses one LLM with static meta-prompts and structured outputs for segmentation, weakness analysis, and candidate generation. We describe a train/validation protocol and a two-stage generation process: (1) segment-level diagnosis and recommendation extraction, (2) candidate synthesis constrained by weak/strong segment signals. Using the evaluation setup across SQuADv2, TweetEval, XSUM, CommonGen, and GSM8K on GPT-3.5-Turbo and GPT-4o-mini, SAPO achieves the best average score against Zero-shot and strong APO baselines including APE, OPRO, EvoPrompt, GEPA, and StraGO.
• Abstract（参考訳）: 自動プロンプト最適化(APO)は、しばしばモノリシックに書き直しを行う。 SAPOは、プロンプトを役割、コンテキスト、タスク、出力形式に分解し、トップ5とボトム5の例に基づいてターゲット改善を適用するセグメントレベルのAPO手法である。 最適化ループは、静的メタプロンプトと、セグメンテーション、弱点解析、候補生成のための構造化出力を持つ1つのLLMを使用する。 本稿では,(1)セグメントレベルの診断とレコメンデーション抽出,(2)弱いセグメント信号に制約された候補合成について述べる。 SQuADv2, TweetEval, XSUM, CommonGen, GSM8KをGPT-3.5-TurboとGPT-4o-miniで比較すると,SAPOはAPE,OPRO, EvoPrompt, GEPA, StraGOなどのZero-shotおよび強力なAPOベースラインに対して,最高の平均スコアを達成している。

関連論文リスト

• PRO-Step: Step-level Process Reward Optimization for Retrieval-Augmented Generation [2.198430261120653]
  Pro-STEPを導入し、各ステップにおける論理的妥当性と明らかな根拠を評価する生成的PRMを訓練する。 シングルホップとマルチホップのQAデータセットの実験では、PRO-STEPが5つのベンチマークで最高の平均EMとF1を達成することが示された。
  論文  参考訳（メタデータ） (2026-08-31T14:34:10Z)
• F-GRPO: Factorized Group-Relative Policy Optimization for Unified Candidate Generation and Ranking [79.49893545611779]
  大規模言語モデル(LLM)はサブセットを生成し、それを1つの自己回帰パス内で順序付けることができる。 この柔軟性は、新しい最適化課題をもたらす: モデルが出力空間を検索し、完全なランクリストが生成された後にのみユーティリティフィードバックを受けなければならない。 このクレジット割り当てギャップは、エンドツーエンドの最適化を不安定にし、サンプル非効率にする。 本稿では,単一自己回帰的ロールアウト内の両方を実行する統一フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-13T04:52:33Z)
• HiPO: Hierarchical Preference Optimization for Adaptive Reasoning in LLMs [2.497936211748472]
  応答をセグメントに分割し,各セグメントに対するDPO損失の重み付け和として損失を算出するDPOの拡張であるHiPOを提案する。 提案手法は,DPOの計算効率と訓練安定性を維持しつつ,セグメント固有の訓練を可能にする。 また,Math Stack Exchange の選好データセット上で,HiPO と DPO を用いて微調整された複数の 7B LLM に対して,HiPO を用いて訓練したモデルが,様々な一般的なベンチマークで他のモデルより優れていることを示す。
  論文  参考訳（メタデータ） (2026-04-22T03:08:30Z)
• GFlowPO: Generative Flow Network as a Language Model Prompt Optimizer [51.31263673158136]
  GFlowPOは、メタプロンプト参照-LMにより正規化される潜在プロンプトに対する後部推論問題としてプロンプトをキャストする。 GFlowPOは、最近の離散的なプロンプト最適化ベースラインを一貫して上回っている。
  論文  参考訳（メタデータ） (2026-02-03T10:30:03Z)
• Solving the Granularity Mismatch: Hierarchical Preference Learning for Long-Horizon LLM Agents [56.625878022978945]
  自律的なエージェントとしての大規模言語モデル(LLM)は、複雑で長期にわたる問題の解決にますます取り組まれている。 直接優先度最適化(DPO)は、正確なクレジット代入には大きすぎる信号を提供するが、ステップレベルのDPOは、しばしば、複数のステップの振る舞いの値をキャプチャするには、筋が通らない。 階層的選好学習(HPL)は、複数の相乗的粒度における選好信号を活用することで、LLMエージェントを最適化する階層的フレームワークである。
  論文  参考訳（メタデータ） (2025-09-26T08:43:39Z)
• Multi-module GRPO: Composing Policy Gradients and Prompt Optimization for Language Model Programs [77.22973302887435]
  グループ相対政策最適化(GRPO)は、後学習言語モデル(LM)に有効なツールであることが証明されている。 GRPOの単純なマルチモジュールであるmmGRPOを提案する。 自動的なプロンプト最適化によって構成されたmGRPOは,分類,多項目検索,プライバシー保護デリゲートタスクなどを通じて,平均11%の精度向上を実現している。
  論文  参考訳（メタデータ） (2025-08-06T17:28:31Z)
• Sem-DPO: Mitigating Semantic Inconsistency in Preference Optimization for Prompt Engineering [5.568436850698628]
  Sem-DPOは意味的一貫性を維持しながら、その単純さと効率を維持するDPOの亜種である。 本研究は,Sem-DPOが原文の有界近傍で学習のプロンプトを継続していることを示す。 3つの標準テキスト-画像のプロンプト-最適化ベンチマークと2つの言語モデルにおいて、Sem-DPOはDPOよりもCLIPの類似度が8-12%高く、5-9%高いHPSv2.1、PickScore)。
  論文  参考訳（メタデータ） (2025-07-27T05:20:13Z)
• Prompt Smart, Pay Less: Cost-Aware APO for Real-World Applications [1.3312007032203859]
  APEとOPROの相補的な強みを組み合わせた新しいハイブリッドフレームワークであるAPE-OPROを紹介する。 APE-OPROを, 2500個のラベル付き製品のデータセット上で, 勾配フリー(APE, OPRO)と勾配ベース(ProTeGi)の2つの手法でベンチマークした。 ProTeGiはAPIコストが低くても高い絶対性能を提供するが、Inciteprotegiが言うように計算時間も高い。
  論文  参考訳（メタデータ） (2025-07-18T21:46:15Z)
• SDPO: Segment-Level Direct Preference Optimization for Social Agents [56.970902914217156]
  大規模言語モデル(LLM)を利用した社会エージェントは、人間の社会的振る舞いをシミュレートできるが、複雑な社会対話を扱うには不十分である。 マルチターンエージェントの動作を最適化するために,対話内のキーセグメントを動的に選択するセグメントレベル直接参照最適化(SDPO)を提案する。
  論文  参考訳（メタデータ） (2025-01-03T14:09:46Z)
• Unleashing the Potential of Large Language Models as Prompt Optimizers: Analogical Analysis with Gradient-based Model Optimizers [108.72225067368592]
  本稿では,大規模言語モデル(LLM)に基づくプロンプトの設計について検討する。 モデルパラメータ学習における2つの重要な要素を同定する。 グラディエントにインスパイアされた Prompt ベースの GPO を開発した。
  論文  参考訳（メタデータ） (2024-02-27T15:05:32Z)
• FIPO: Free-form Instruction-oriented Prompt Optimization with Preference Dataset and Modular Fine-tuning Schema [36.65009632307124]
  大規模言語モデル(LLM)のタスク性能向上のためのFIPO(Free-from Instruction-oriented Prompt Optimization)を提案する。 FIPOはモジュール型のAPOテンプレートを使用して、単純で最適化されたプロンプトを生成するために、ナイーブなタスク命令、オプションの命令応答、オプションの接地真理を動的に統合する。 5つの公開ベンチマークと6つのテストモデルでFIPOフレームワークを検証する。
  論文  参考訳（メタデータ） (2024-02-19T03:56:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。