論文の概要: Self-Evolving LLM Memory Extraction Across Heterogeneous Tasks
- arxiv url: http://arxiv.org/abs/2604.11610v1
- Date: Mon, 13 Apr 2026 15:15:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-14 20:13:16.642912
- Title: Self-Evolving LLM Memory Extraction Across Heterogeneous Tasks
- Title（参考訳）: 不均一タスクにおける自己進化型LDMメモリ抽出
- Authors: Yuqing Yang, Tengxiao Liu, Wang Bill Zhu, Taiwei Shi, Linxin Song, Robin Jia,
- Abstract要約: 我々は, 個人化, 問題解決, エージェントタスクにまたがる18の既存データセットを再利用したベンチマークである textbfBEHEMOTH を導入する。
我々の経験的分析は、全てのタスクカテゴリで単一の静的抽出プロンプトが支配的ではなく、既存の自己進化的最適化フレームワークは、もともと均質な分散のために設計されたもので、訓練タスクが不均一であるときに劣化することを確認した。
BEHEMOTHの実験では、CluEは不均一なタスクにまたがって効果的に一般化され、従来の自己進化フレームワークよりも一貫して優れていた。
- 参考スコア（独自算出の注目度）: 29.978367623377363
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As LLM-based assistants become persistent and personalized, they must extract and retain useful information from past conversations as memory. However, the types of information worth remembering vary considerably across tasks. We formalize the \textit{heterogeneous memory extraction} task and introduce \textbf{BEHEMOTH}, a benchmark that repurposes 18 existing datasets spanning personalization, problem-solving, and agentic tasks, using a downstream utility-driven metric for systematic evaluation. Our empirical analysis confirms that no single static extraction prompt dominates across all task categories, and that existing self-evolving prompt optimization frameworks, originally designed for homogeneous distributions, degrade when training tasks are heterogeneous. To address this, we propose \textbf{CluE}, a cluster-based self-evolving strategy that groups training examples into clusters by extraction scenarios, analyzes each cluster independently, and synthesizes cross-cluster insights to update the extraction prompt. Experiments on BEHEMOTH show that CluE generalizes effectively across heterogeneous tasks ($+$9.04\% relative gain), consistently outperforming prior self-evolving frameworks.
- Abstract（参考訳）: LLMベースのアシスタントがパーソナライズされ、パーソナライズされるにつれて、過去の会話から有用な情報を抽出し、記憶として保持する必要がある。
しかし、記憶に値する情報のタイプはタスクによって大きく異なる。
本稿では, 個人化, 問題解決, エージェント的タスクにまたがる18の既存データセットを, システム評価のために下流ユーティリティ駆動の指標を用いて再活用するベンチマークである, \textbf{BEHEMOTH} を導入する。
我々の経験的分析では、全てのタスクカテゴリで単一の静的抽出プロンプトが支配的ではなく、既存の自己進化的最適化フレームワークは、もともと均質な分散のために設計されたもので、訓練タスクが不均一であるときに劣化することが確認されている。
これを解決するために,クラスタベースの自己進化戦略である \textbf{CluE} を提案し,サンプルを抽出シナリオによってクラスタにグループ化し,各クラスタを独立して解析し,クラスタ間の洞察を合成して抽出プロンプトを更新する。
BEHEMOTHの実験では、CluEは不均一なタスク(+$9.04\%の相対的なゲイン)にわたって効果的に一般化し、常に先行する自己進化フレームワークよりも優れていた。
関連論文リスト
- Weight-Informed Self-Explaining Clustering for Mixed-Type Tabular Data [63.62853416081748]
WISEは表現、特徴重み付け、クラスタリング、解釈を統一するフレームワークである。
クラスタリングを駆動する同じプリミティブに根ざした、忠実で人間解釈可能な説明を生成する。
論文 参考訳（メタデータ） (2026-04-07T13:18:31Z) - Fine-tuning MLLMs Without Forgetting Is Easier Than You Think [72.59321247529975]
分布内および分布外画像およびテキスト入力のモデル性能を評価するための2x2実験フレームワークを設計する。
その結果、トレーニング可能なパラメータの数を制限したり、低学習率を採用するなど、適切な正規化が、アウト・オブ・ディストリビューション・イメージを扱う際の忘れを効果的に防止できることが示唆された。
我々は、このことをタスク固有のオーバーフィッティングとみなし、データハイブリッドトレーニング戦略を導入することでこの問題に対処する。
論文 参考訳（メタデータ） (2026-03-15T17:16:19Z) - RECALL: REpresentation-aligned Catastrophic-forgetting ALLeviation via Hierarchical Model Merging [33.22889542330089]
大規模言語モデル(LLM)の内部表現は、学習知識の信頼できるプロキシとして機能する。
本稿では,過去データにアクセスせずに連続的な学習を行うための表現認識モデル統合フレームワークRECALLを提案する。
論文 参考訳（メタデータ） (2025-10-23T12:17:37Z) - Learning Task Representations from In-Context Learning [67.66042137487287]
大規模言語モデル(LLM)は、文脈内学習(ICL)において顕著な習熟性を示した。
ICLプロンプトにおけるタスク情報をアテンションヘッドの関数として符号化するための自動定式化を導入する。
提案手法は,テキスト中の実演からタスク固有の情報を抽出し,テキストと回帰タスクの両方で優れる。
論文 参考訳（メタデータ） (2025-02-08T00:16:44Z) - Adapt-$\infty$: Scalable Continual Multimodal Instruction Tuning via Dynamic Data Selection [89.42023974249122]
Adapt-$infty$は、生涯のインストラクションチューニングのための、新しいマルチウェイおよびアダプティブなデータ選択アプローチである。
勾配に基づくサンプルベクトルをグループ化して擬似スキルクラスタを構築する。
セレクタエキスパートのプールから各スキルクラスタの最高のパフォーマンスデータセレクタを選択する。
このデータセレクタは、トレーニングのために各スキルクラスタから最も重要なサンプルのサブセットをサンプリングする。
論文 参考訳（メタデータ） (2024-10-14T15:48:09Z) - Interpetable Target-Feature Aggregation for Multi-Task Learning based on Bias-Variance Analysis [53.38518232934096]
マルチタスク学習(MTL)は、タスク間の共有知識を活用し、一般化とパフォーマンスを改善するために設計された強力な機械学習パラダイムである。
本稿では,タスククラスタリングと特徴変換の交点におけるMTL手法を提案する。
両段階において、鍵となる側面は減った目標と特徴の解釈可能性を維持することである。
論文 参考訳（メタデータ） (2024-06-12T08:30:16Z) - GPT Self-Supervision for a Better Data Annotator [22.598300095822026]
本稿では,GPT(Generative Pretrained Transformer)自己スーパービジョンアノテーション手法を提案する。
提案手法は1ショットのチューニングフェーズと生成フェーズから構成される。
復元されたデータと元のデータのアライメントスコアは、プロセスを洗練するための自己超越ナビゲータとして機能する。
論文 参考訳（メタデータ） (2023-06-07T11:33:14Z) - Towards General and Efficient Active Learning [20.888364610175987]
アクティブラーニングは、限られたアノテーション予算を利用するために最も有益なサンプルを選択することを目的としている。
本稿では,新しい汎用能動学習法(GEAL)を提案する。
提案手法は,同一モデルの単一パス推定を用いて,異なるデータセット上でデータ選択処理を行うことができる。
論文 参考訳（メタデータ） (2021-12-15T08:35:28Z) - Abstractive Query Focused Summarization with Query-Free Resources [60.468323530248945]
本稿では,汎用的な要約リソースのみを利用して抽象的なqfsシステムを構築する問題を考える。
本稿では,要約とクエリのための新しい統一表現からなるMasked ROUGE回帰フレームワークであるMargeを提案する。
最小限の監視から学習したにもかかわらず,遠隔管理環境において最先端の結果が得られた。
論文 参考訳（メタデータ） (2020-12-29T14:39:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。