論文の概要: ReflectivePrompt: Reflective evolution in autoprompting algorithms
- arxiv url: http://arxiv.org/abs/2508.18870v1
- Date: Tue, 26 Aug 2025 09:46:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-27 17:42:38.786775
- Title: ReflectivePrompt: Reflective evolution in autoprompting algorithms
- Title(参考訳): ReflectivePrompt: オートプロンプティングアルゴリズムにおける反射進化
- Authors: Viktor N. Zhuravlev, Artur R. Khairullin, Ernest A. Dyagin, Alena N. Sitkina, Nikita I. Kulin,
- Abstract要約: ReflectivePromptは進化アルゴリズムに基づく新しいオートプロンプティング手法である。
最適なプロンプトをより正確かつ包括的に探索するために、反射的進化のアプローチを採用している。
分類とテキスト生成タスクのために33のデータセットでテストされた。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Autoprompting is the process of automatically selecting optimized prompts for language models, which has been gaining popularity with the rapid advancement of prompt engineering, driven by extensive research in the field of large language models (LLMs). This paper presents ReflectivePrompt - a novel autoprompting method based on evolutionary algorithms that employs a reflective evolution approach for more precise and comprehensive search of optimal prompts. ReflectivePrompt utilizes short-term and long-term reflection operations before crossover and elitist mutation to enhance the quality of the modifications they introduce. This method allows for the accumulation of knowledge obtained throughout the evolution process and updates it at each epoch based on the current population. ReflectivePrompt was tested on 33 datasets for classification and text generation tasks using open-access large language models: t-lite-instruct-0.1 and gemma3-27b-it. The method demonstrates, on average, a significant improvement (e.g., 28% on BBH compared to EvoPrompt) in metrics relative to current state-of-the-art approaches, thereby establishing itself as one of the most effective solutions in evolutionary algorithm-based autoprompting.
- Abstract(参考訳): オートプロンプティング(Autoprompting)は、言語モデルに最適化されたプロンプトを自動的に選択するプロセスである。
本稿では,進化アルゴリズムに基づく新しい自動プロンプト手法であるReflectivePromptを提案する。
ReflectivePromptは、クロスオーバーとエリート変異の前に短期および長期のリフレクション操作を使用して、それらが導入する修正の質を高める。
この方法は進化過程を通じて得られた知識の蓄積を可能にし、現在の人口に基づいて各エポックで更新する。
ReflectivePromptは、オープンアクセスの大きな言語モデルであるt-lite-instruct-0.1と gemma3-27b-itを使って、分類とテキスト生成タスクのための33のデータセットでテストされた。
この手法は、進化的アルゴリズムに基づくオートプロンプティングにおいて最も効果的な解の1つとして、現在の最先端の手法と比較して測定値において、平均して大きな改善(例えば、EvoPromptと比較して28%のBBH)を示す。
関連論文リスト
- Automatic Prompt Optimization with Prompt Distillation [0.0]
DistillPromptは、大規模言語モデルに基づく新しい自動プロンプト手法である。
トレーニングデータを使用して、タスク固有の情報をプロンプトに多段階統合する。
論文 参考訳(メタデータ) (2025-08-26T12:46:58Z) - Evolving Prompts In-Context: An Open-ended, Self-replicating Perspective [65.12150411762273]
ランダムなデモを不整合な "gibberish" にプルーニングすることで,多様なタスクにおけるパフォーマンスが著しく向上することを示す。
本稿では,低データレジームのみを用いてプルーニング戦略を自動的に検索する自己発見プロンプト最適化フレームワークPromptQuineを提案する。
論文 参考訳(メタデータ) (2025-06-22T07:53:07Z) - GAAPO: Genetic Algorithmic Applied to Prompt Optimization [0.0]
大規模言語モデル(LLM)は様々なタスクにまたがって顕著な能力を示しており、その性能は入力プロンプトの品質に大きく依存している。
迅速なエンジニアリングは有効であると証明されているが、通常は手動による調整に依存しており、時間を要するため、潜在的に最適ではない。
本稿では,代々のプロンプトを進化させるために遺伝的原理を活用するハイブリッド最適化フレームワークであるPrompt Optimizationに応用したジェネティックアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-04-09T11:19:42Z) - A Survey of Automatic Prompt Optimization with Instruction-focused Heuristic-based Search Algorithm [13.332569343755075]
大規模言語モデルは、様々な自然言語処理タスクにおいて顕著な成果をもたらしています。
手動の手法は効果的であるが、通常は直感に頼り、時間とともに自動的にプロンプトを洗練しない。
検索アルゴリズムを用いた自動プロンプト最適化は、人間の監視を最小限に抑えて、システマティックにプロンプトを探索し改善することができる。
論文 参考訳(メタデータ) (2025-02-26T01:42:08Z) - In-context Demonstration Matters: On Prompt Optimization for Pseudo-Supervision Refinement [71.60563181678323]
大規模言語モデル(LLM)は様々なタスクで大きな成功を収めており、生成品質をさらに向上させるためには微調整が必要である場合もある。
これらの課題に対処する直接的な解決策は、教師なしの下流タスクから高信頼のデータを生成することである。
本稿では,プロンプトと全体的な擬似スーパービジョンを両立させる新しい手法,擬似教師付きデモアライメント・アライメント・アライメント・プロンプト・最適化(PAPO)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-10-04T03:39:28Z) - APEER: Automatic Prompt Engineering Enhances Large Language Model Reranking [39.649879274238856]
APEERという新しい自動プロンプトエンジニアリングアルゴリズムを導入する。
APEERはフィードバックと好みの最適化を通じて改良されたプロンプトを反復的に生成する。
APEERが生成するプロンプトは,多種多様なタスクやLLM間で高い転送性を示す。
論文 参考訳(メタデータ) (2024-06-20T16:11:45Z) - EvoPrompt: Connecting LLMs with Evolutionary Algorithms Yields Powerful Prompt Optimizers [67.64162164254809]
EvoPromptは離散的なプロンプト最適化のためのフレームワークである。
進化的アルゴリズム(EA)の概念は、優れた性能と高速収束を示すものである。
人為的なプロンプトと既存の方法で自動プロンプト生成を著しく上回っている。
論文 参考訳(メタデータ) (2023-09-15T16:50:09Z) - TEMPERA: Test-Time Prompting via Reinforcement Learning [57.48657629588436]
強化学習(TEMPERA)を用いたテスト時間プロンプト編集を提案する。
従来のプロンプト生成手法とは対照的に、TEMPERAは事前知識を効率的に活用することができる。
本手法は従来の微調整法と比較して試料効率の平均改善率を5.33倍に向上させる。
論文 参考訳(メタデータ) (2022-11-21T22:38:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。