論文の概要: Generalizable Lifelong Model Editing via Preference Optimization
- arxiv url: http://arxiv.org/abs/2609.36748v1
- Date: Tue, 29 Sep 2026 05:19:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.206801
- Title: Generalizable Lifelong Model Editing via Preference Optimization
- Title（参考訳）: 優先度最適化による一般化可能寿命モデル編集
- Abstract要約: 本稿では,知識編集と選好最適化を組み合わせたGLIME(Generalizable Lifelong Model Editing)を提案する。
実験の結果,GLIMEは,編集性能と汎用性の両方を維持しつつ,生涯編集設定における知識の一般化を著しく改善することがわかった。
- 参考スコア（独自算出の注目度）: 21.10264090626046
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Knowledge editing enables rapid updates of specific factual knowledge in large language models (LLMs) without full retraining. However, more realistic scenarios call for a lifelong framework that handles continual updates rather than one-off modifications. In such settings, existing editing methods often overfit to target prompts, significantly degrading both the generalization of the edited knowledge and the model's general capabilities. To address this issue, we propose GLIME (Generalizable Lifelong Model Editing), which combines knowledge editing with preference optimization over generation behavior. GLIME further incorporates replay-based editing and a gradient constraint to preserve previously edited knowledge. Experimental results show that GLIME significantly improves knowledge generalization in lifelong editing settings while maintaining both editing performance and general capabilities.
- Abstract（参考訳）: 知識編集は、大規模な言語モデル(LLM)における特定の事実知識の迅速な更新を可能にする。
しかし、より現実的なシナリオでは、1回の修正ではなく、継続的な更新を処理する、生涯にわたるフレームワークが求められます。
このような設定では、既存の編集手法はしばしばプロンプトをターゲットに過度に適合し、編集された知識の一般化とモデルの一般的な能力の両方を著しく劣化させる。
そこで本研究では,知識編集と選好最適化を組み合わせたGLIME(Generalizable Lifelong Model Editing)を提案する。
GLIMEはさらに、以前編集された知識を保持するために、リプレイベースの編集と勾配制約を組み込んでいる。
実験の結果,GLIMEは,編集性能と汎用性の両方を維持しつつ,生涯編集設定における知識の一般化を著しく改善することがわかった。
関連論文リスト
- CoEditor++: Instruction-based Visual Editing via Cognitive Reasoning [98.98349220451216]
CoEditor++は、編集を"編集する方法"と"編集方法"に分解する、トレーニング不要のフレームワークである。
我々は,CoEditor++が編集タスクと編集タスクの両方において,最先端のパフォーマンスを実現することを示す。
以上の結果から,認知中心型画像編集の可能性が示唆された。
論文 参考訳（メタデータ） (2026-01-31T12:20:46Z) - MEMOIR: Lifelong Model Editing with Minimal Overwrite and Informed Retention for LLMs [76.28901550926021]
寿命の長いモデル編集のための既存の方法は、妥協の一般化、過去の編集の妨害、長い編集シーケンスへのスケールの失敗である。
我々は,学習済みモデルのコア能力を保ちながら,残メモリを介して知識を注入する,新しいスケーラブルなフレームワークMEMOIRを提案する。
MeMOIRは信頼性、一般化、ローカリティのメトリクスにまたがる最先端のパフォーマンスを実現し、最小限の忘れ物で数千のシーケンシャルな編集にスケールする。
論文 参考訳（メタデータ） (2025-06-09T16:16:42Z) - UltraEdit: Training-, Subject-, and Memory-Free Lifelong Editing in Language Models [19.638600793243224]
生涯学習は、内部知識を継続的に更新することによって、大きな言語モデルが進化する情報に適応することを可能にする。
UltraEditは、トレーニング、主題、メモリフリーのアプローチであり、ウルトラスケーラブルで現実世界の生涯モデル編集に適しています。
従来の最先端の方法よりも7倍高速で、VRAMは1/4以下である。
論文 参考訳（メタデータ） (2025-05-20T17:59:04Z) - WikiBigEdit: Understanding the Limits of Lifelong Knowledge Editing in LLMs [66.51203413345773]
我々は、生涯にわたる知識編集の研究を現実の編集に事実上の規模で橋渡しする。
まず,実世界のウィキデータ編集の大規模ベンチマークであるWikiBigEditを紹介した。
最初の例では、知識編集のための500万以上の質問応答ペアが含まれている。
論文 参考訳（メタデータ） (2025-03-07T18:45:42Z) - LEMoE: Advanced Mixture of Experts Adaptor for Lifelong Model Editing of Large Language Models [30.831866499812925]
大規模言語モデル(LLM)は、変化し続ける世界の事実をそのまま維持するために、継続的な知識更新を必要とする。
我々は、生涯モデル編集のための高度なMixture of Experts (MoE)アダプタLEMoEを紹介する。
論文 参考訳（メタデータ） (2024-06-28T16:17:41Z) - InstructEdit: Instruction-based Knowledge Editing for Large Language Models [39.2147118489123]
InstructEditと呼ばれる命令ベースの編集技術を開発し、簡単な命令を使って様々なタスクパフォーマンスへのエディタの適応を容易にする。
予期せぬタスクを含む実験は、InstructEditが以前の強いベースラインを一貫して上回っていることを示している。
論文 参考訳（メタデータ） (2024-02-25T15:46:33Z) - Knowledge Graph Enhanced Large Language Model Editing [37.6721061644483]
大規模言語モデル(LLM)は、自然言語処理(NLP)タスクの進行において重要な要素である。
既存の編集方法は、編集に関連する知識の変化を追跡し、組み込むのに苦労する。
知識グラフを利用した新しいモデル編集手法を提案し,LLM編集の強化,すなわちGLAMEを提案する。
論文 参考訳（メタデータ） (2024-02-21T07:52:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。