論文の概要: $\varepsilon$-MemEvo: Adaptive Cross-Task Memory Transfer for LLM Program Evolution
- arxiv url: http://arxiv.org/abs/2608.12522v1
- Date: Wed, 12 Aug 2026 18:56:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-14 18:29:38.308915
- Title: $\varepsilon$-MemEvo: Adaptive Cross-Task Memory Transfer for LLM Program Evolution
- Title（参考訳）: $\varepsilon$-MemEvo: LLMプログラム進化のための適応型クロスタスクメモリ転送
- Abstract要約: 本稿では,プログラム進化におけるクロスタスクな知識伝達のためのフレームワークである$varepsilon$-MemEvoを紹介する。
$varepsilon$-MemEvoはタスクに依存しない戦術記憶としての経験を保存している。
数式最適化とシステム工学にまたがる8つの最適化ベンチマークにおいて、$varepsilon$-MemEvoを評価した。
- 参考スコア（独自算出の注目度）: 6.467420733391463
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: LLM-based program evolution systems such as FunSearch and AlphaEvolve have shown strong ability to discover novel algorithms, but typically optimize each task in isolation, discarding search experience after completion. We introduce $\varepsilon$-MemEvo, a framework for cross-task knowledge transfer in LLM program evolution. $\varepsilon$-MemEvo stores prior experience as task-agnostic tactic memories: compact natural-language summaries of successful algorithmic strategies rather than raw code, enabling transfer across tasks with different APIs and evaluators. To avoid negative transfer from semantically mismatched memories, $\varepsilon$-MemEvo uses an adaptive injection gate that decides whether retrieved memories should be injected, and at what intensity. We evaluate $\varepsilon$-MemEvo on 8 diverse optimization benchmarks spanning mathematical optimization and systems engineering, using a content-level Leave-One-Out protocol that excludes target-task memory entries. On the primary GPT-5 backbone, $\varepsilon$-MemEvo improves AUCC over AdaEvolve on all 8 tasks, with a mean relative gain of +8.7%, and improves early-stage convergence by +9.4% on average. Ablations show that naive memory injection can fail catastrophically, while adaptive gating remains safe across all five ablation tasks. The data-updated posterior is interpretable in observed states: it favors skip during improving search and shifts from skip to hint across early and late plateaus. These gains incur less than 1% computational overhead.
- Abstract（参考訳）: FunSearchやAlphaEvolveのようなLLMベースのプログラム進化システムは、新しいアルゴリズムを発見できる強力な能力を示しているが、通常、各タスクを独立して最適化し、完了後に検索体験を破棄する。
LLMプログラムの進化におけるクロスタスクな知識伝達のためのフレームワークである$\varepsilon$-MemEvoを紹介する。
$\varepsilon$-MemEvoは、以前の経験をタスクに依存しない戦術記憶として保存する。
セマンティックにミスマッチしたメモリからの負の転送を避けるため、$\varepsilon$-MemEvoはアダプティブ・インジェクション・ゲートを使用し、取得したメモリを注入すべきか、どの強度で注入すべきかを決定する。
我々は,ターゲットタスクのメモリエントリを除外したコンテントレベルのLeave-One-Outプロトコルを用いて,数学的最適化とシステム工学にまたがる8つの最適化ベンチマークに対して,$\varepsilon$-MemEvoを評価した。
GPT-5 のバックボーンでは、$\varepsilon$-MemEvo は AdaEvolve 上の AUCC を全 8 タスクで改善し、平均相対利得は +8.7% となり、早期収束率は +9.4% である。
アブレーションは、ナイーブ・メモリ・インジェクションが破滅的に失敗する可能性を示し、アダプティブ・ゲーティングは5つのアブレーション・タスクで安全であることを示している。
データ更新後部は観察された状態において解釈可能であり、探索の改善中にスキップが好まれる。
計算オーバーヘッドは1%以下である。
関連論文リスト
- OPD-Evolver: Cultivating Holistic Agent Evolver via On-Policy Distillation [71.57258488733974]
メモリは、自己進化エージェントの標準的な基盤になっているが、その経験を維持することは、それを通して進化する方法を学ぶことと同じではない。
OPD-Evolver(英語版)は、政策上の自己蒸留を通じて、そのようなエージェントを進化させる緩やかな共進化フレームワークである。
論文 参考訳（メタデータ） (2026-06-16T07:33:53Z) - SAGE: A Novelty Gate for Efficient Memory Evolution in Agentic LLMs [19.88021046868793]
SAGEは、メモリ進化のための新しいアダプティブゲートである。
候補となる事実をスコアし、メモリストアのジオメトリを追跡する適応しきい値でルーティングする。
LoCoMoでは、SAGEは7つのオープンウェイトバックボーンの比較でMem0に対する平均トークンF1を達成する。
GPT-4o-miniでは、SAGEは追加フェーズAPIのコストを3.4$times$、追加フェーズのレイテンシを2.5$times$に下げる。
論文 参考訳（メタデータ） (2026-05-29T01:03:39Z) - EvolveMem:Self-Evolving Memory Architecture via AutoResearch for LLM Agents [80.59925936278162]
本稿では,自己進化型メモリアーキテクチャであるEvolveMemについて述べる。
このクローズループの自己進化はAutoResearchプロセスを実現している。システムは自力で独自のアーキテクチャ上で反復的な研究サイクルを実行し、手動構成のチューニングを置き換える。
論文 参考訳（メタデータ） (2026-05-13T17:12:44Z) - MemQ: Integrating Q-Learning into Self-Evolving Memory Agents over Provenance DAGs [47.66730296440261]
我々は,新たなメモリが生成されるたびに記憶が取得されたことを記録した証明DAGを通じて,クレジットを後方に伝播するMemQを紹介した。
6つのベンチマークで、MemQは、一般化評価とランタイム学習の6つすべてで最高成功率を達成した。
さらに、$と$がEC-MDP構造とどのように相互作用するかを研究し、パラメータ選択と将来の研究の原則的なガイダンスを提供する。
論文 参考訳（メタデータ） (2026-05-08T18:30:24Z) - MemMachine: A Ground-Truth-Preserving Memory System for Personalized AI Agents [2.541923091180284]
大規模言語モデル(LLM)エージェントはパーソナライゼーション、事実連続性、長期的推論を維持するために永続記憶を必要とする。
本稿では,短期,長期,プロファイルメモリを統合したオープンソースのメモリシステムであるMemMachineを紹介する。
MemMachineは、コンテキスト化された検索を使用して、周囲のコンテキストにマッチする核を拡大し、関連するエビデンスが複数の対話にまたがる場合のリコールを改善する。
論文 参考訳（メタデータ） (2026-04-06T16:57:06Z) - Memento: Fine-tuning LLM Agents without Fine-tuning LLMs [36.3424780932712]
本稿では,適応型大言語モデル(LLM)エージェントのための新しい学習パラダイムを提案する。
本手法は,メモリベースのオンライン強化学習により,低コストで連続的な適応を可能にする。
我々はエージェントモデルを,GAIA検証でトップ1に達するemphMementoというディープリサーチ環境でインスタンス化する。
論文 参考訳（メタデータ） (2025-08-22T07:25:30Z) - Dynamic Cheatsheet: Test-Time Learning with Adaptive Memory [52.44029486173232]
Dynamic Cheatsheet(DC)は、永続的で進化するメモリを備えたブラックボックス言語モデルを提供する軽量フレームワークである。
DCは、蓄積した戦略、コードスニペット、および推論時に一般的な問題解決の洞察をモデルが保存し再利用することを可能にする。
このテストタイム学習は、明確な地味なラベルや人間のフィードバックを必要とせずに、幅広いタスクのパフォーマンスを大幅に向上させる。
論文 参考訳（メタデータ） (2025-04-10T17:57:33Z) - FRUGAL: Memory-Efficient Optimization by Reducing State Overhead for Scalable Training [51.39495282347475]
我々は、新しいメモリ効率最適化フレームワークであるtextbfF$ull-$textbfR$ank $textbfU$pdates with $textbfG$r$textbfA$dient sp$textbfL$ittingを紹介します。
当社のフレームワークは,GaLoreやBAdamなど,さまざまな低ランク更新選択技術と統合することが可能です。
論文 参考訳（メタデータ） (2024-11-12T14:41:07Z) - Revisiting Zeroth-Order Optimization for Memory-Efficient LLM Fine-Tuning: A Benchmark [166.40879020706151]
本稿では、微調整時のメモリコスト低減のためのソリューションとして、BPフリーゼロオーダー最適化(ZO)への移行を提案する。
従来のZO-SGD法とは異なり、我々の研究はより広い範囲のZO最適化手法に探索を広げる。
本研究は,タスクアライメントの重要性,前方勾配法の役割,アルゴリズムの複雑さと微調整性能のバランスについて,これまで見過ごされてきた最適化原理を明らかにした。
論文 参考訳（メタデータ） (2024-02-18T14:08:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。