論文の概要: Generalizable Self-Evolving Memory for Automatic Prompt Optimization
- arxiv url: http://arxiv.org/abs/2603.21520v1
- Date: Mon, 23 Mar 2026 03:29:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-24 19:11:39.460011
- Title: Generalizable Self-Evolving Memory for Automatic Prompt Optimization
- Title(参考訳): プロンプト最適化のための一般化可能な自己進化メモリ
- Authors: Guanbao Liang, Yuanchen Bei, Sheng Zhou, Yuheng Qin, Huan Zhou, Bingxin Jia, Bin Li, Jiajun Bu,
- Abstract要約: 本稿では,メモリ駆動型最適化フレームワークであるMemAPOを提案する。
MemAPOは推論軌道を再利用可能な戦略テンプレートに蒸留する。
誤った世代を構造化されたエラーパターンに整理し、繰り返し発生する障害モードをキャプチャする。
- 参考スコア(独自算出の注目度): 23.58061861097912
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Automatic prompt optimization is a promising approach for adapting large language models (LLMs) to downstream tasks, yet existing methods typically search for a specific prompt specialized to a fixed task. This paradigm limits generalization across heterogeneous queries and prevents models from accumulating reusable prompting knowledge over time. In this paper, we propose MemAPO, a memory-driven framework that reconceptualizes prompt optimization as generalizable and self-evolving experience accumulation. MemAPO maintains a dual-memory mechanism that distills successful reasoning trajectories into reusable strategy templates while organizing incorrect generations into structured error patterns that capture recurrent failure modes. Given a new prompt, the framework retrieves both relevant strategies and failure patterns to compose prompts that promote effective reasoning while discouraging known mistakes. Through iterative self-reflection and memory editing, MemAPO continuously updates its memory, enabling prompt optimization to improve over time rather than restarting from scratch for each task. Experiments on diverse benchmarks show that MemAPO consistently outperforms representative prompt optimization baselines while substantially reducing optimization cost.
- Abstract(参考訳): 自動プロンプト最適化は、大きな言語モデル(LLM)を下流タスクに適用するための有望なアプローチであるが、既存のメソッドは通常、固定タスクに特化した特定のプロンプトを探索する。
このパラダイムは、異種クエリ間の一般化を制限し、モデルが時間とともに再利用可能な知識を蓄積するのを防ぐ。
本稿では,メモリ駆動型フレームワークであるMemAPOを提案する。
MemAPOは、再帰的な障害モードをキャプチャする構造化エラーパターンに誤った世代を編成しながら、推論軌道を再利用可能な戦略テンプレートに蒸留するデュアルメモリメカニズムを維持している。
新しいプロンプトが与えられたら、フレームワークは関連する戦略と失敗パターンの両方を取得して、既知のミスを回避しつつ効果的な推論を促進するプロンプトを構成する。
反復的な自己回帰とメモリ編集により、MemAPOはそのメモリを継続的に更新し、各タスクのスクラッチから再起動するのではなく、時間とともに即座に最適化できる。
多様なベンチマーク実験により、MemAPOは最適化コストを大幅に削減しつつ、プロンプト最適化のベースラインを一貫して上回っていることが示された。
関連論文リスト
- NextMem: Towards Latent Factual Memory for LLM-based Agents [58.35585202907478]
NextMemは、自動回帰型オートエンコーダを使用して、潜時メモリを効率的に構築する、潜時ファクトメモリフレームワークである。
大規模な実験は、NextMemが優れたパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2026-02-26T14:35:27Z) - GFlowPO: Generative Flow Network as a Language Model Prompt Optimizer [51.31263673158136]
GFlowPOは、メタプロンプト参照-LMにより正規化される潜在プロンプトに対する後部推論問題としてプロンプトをキャストする。
GFlowPOは、最近の離散的なプロンプト最適化ベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2026-02-03T10:30:03Z) - Error Taxonomy-Guided Prompt Optimization [14.654343320792941]
本稿では,トップダウンアプローチを採用した即時最適化アルゴリズムETGPOを提案する。
ETGPOは、モデルエラーを収集し、それらを分類に分類し、最も頻繁な障害モードをターゲットにしたガイダンスでプロンプトを強化することで、グローバルな障害状況に焦点を当てている。
ETGPOは、最適化フェーズトークンの使用と評価予算のおよそ3分の1を必要としながら、最先端の手法と同等かそれ以上の精度を達成する。
論文 参考訳(メタデータ) (2026-02-01T03:27:44Z) - AMA: Adaptive Memory via Multi-Agent Collaboration [54.490349689939166]
複数の粒度にまたがるメモリ管理に協調エージェントを活用する新しいフレームワークであるAMA(Adaptive Memory via Multi-Agent Collaboration)を提案する。
AMAは、ステート・オブ・ザ・アートのベースラインを著しく上回り、トークンの消費をフルコンテキストの手法と比べて約80%削減する。
論文 参考訳(メタデータ) (2026-01-28T08:09:49Z) - Learning from Prompt itself: the Hierarchical Attribution Prompt Optimization [13.8868879878572]
構造化最適化アプローチでは、改良されたプロンプトを開発するには、自動または半自動の手順が必要である。
現在のプロンプト最適化手法は、しばしばプロンプトドリフトを誘導し、新しいプロンプトが前の障害を修正するが、以前成功したタスクのパフォーマンスを損なう。
本研究では,(1)学習データにおける誤りパターンをターゲットとした動的帰属機構,(2)機能的プロンプトセグメントを編集するための意味単位最適化,(3)エンドツーエンドのLSMとLM-MLLMの両方をサポートするマルチモーダル・フレンドリなプロンプト・プロンプト・フレームワークを提案する。
論文 参考訳(メタデータ) (2026-01-06T03:34:17Z) - Agentic Memory: Learning Unified Long-Term and Short-Term Memory Management for Large Language Model Agents [57.38404718635204]
大規模言語モデル (LLM) エージェントは、有限コンテキストウィンドウによる長距離推論において基本的な制限に直面している。
既存のメソッドは通常、長期記憶(LTM)と短期記憶(STM)を独立したコンポーネントとして扱う。
本稿では,エージェントのポリシーに LTM と STM 管理を直接統合する統合フレームワークである Agentic Memory (AgeMem) を提案する。
論文 参考訳(メタデータ) (2026-01-05T08:24:16Z) - Reflection-Enhanced Meta-Optimization Integrating TextGrad-style Prompt Optimization with Memory-Driven Self-Evolution [0.0]
本稿では,メモリ拡張リフレクションRetrievalRAGモジュールと自己適応型メタコントローラを統合するフレームワークを提案する。
REMOは、計算オーバーヘッドの増加にもかかわらず、より安定で堅牢なチューニングを実現する。
論文 参考訳(メタデータ) (2025-08-26T07:25:45Z) - Beyond Degradation Redundancy: Contrastive Prompt Learning for All-in-One Image Restoration [109.38288333994407]
コントラスト・プロンプト・ラーニング(Contrastive Prompt Learning, CPL)は、プロンプト・タスクのアライメントを根本的に強化する新しいフレームワークである。
本フレームワークは,パラメータ効率を保ちながら,新たな最先端性能を確立し,統一画像復元のための原理的ソリューションを提供する。
論文 参考訳(メタデータ) (2025-04-14T08:24:57Z) - Efficient and Accurate Prompt Optimization: the Benefit of Memory in Exemplar-Guided Reflection [19.020514286500006]
本稿では,より効率的かつ正確なプロンプト最適化を実現するために,メモリ機構を備えたExemplar-Guided Reflectionを提案する。
具体的には、生成した例によってフィードバック生成がさらにガイドされるような、模擬誘導反射機構を設計する。
実験的な評価により,提案手法は従来の最先端技術よりも少ない最適化手順で優れていることが示された。
論文 参考訳(メタデータ) (2024-11-12T00:07:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。