論文の概要: ManiEdit: Sequential Unstructured Knowledge Editing for Language Models from a Manifold Perspective

• arxiv url: http://arxiv.org/abs/2609.33534v1
• Date: Sun, 27 Sep 2026 13:02:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-05 15:56:57.658269
• Title: ManiEdit: Sequential Unstructured Knowledge Editing for Language Models from a Manifold Perspective
• Title（参考訳）: ManiEdit: マニフォールドから見た言語モデルのための逐次的非構造化知識編集
• Abstract要約: 既存のモデル編集手法は、構造化されていない長文の知識を逐次編集するのに苦労する。 ManiEditは、2つのコアコンポーネントからなる新しい多様体対応編集フレームワークである。 ManiEditは最先端のパフォーマンスを実現し、最強のベースラインである+27.81 BERTScoreと+8.50 ROUGE-Lを上回った。
• 参考スコア（独自算出の注目度）: 49.83428734814549
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) inevitably generate some incorrect or outdated content, necessitating efficient and precise mechanisms for continual knowledge updates. However, existing model editing methods struggle to sequentially edit unstructured long-form knowledge, suffering from severe edit forgetting and degradation of general capabilities. To address these challenges, we reframe knowledge editing from a manifold perspective, viewing it as a localized displacement of an edit sub-manifold within the global knowledge manifold. Under this formulation, the problem can be decomposed into two key questions: (i) how to identify representative edit points that effectively anchor the edit sub-manifold, and (ii) how to preserve the remaining manifold structure during the sub-manifold displacement process. Based on this perspective, we propose ManiEdit, a novel manifold-aware autoregressive editing framework consisting of two core components. Pivot Localization addresses the mediocre-point dilemma by identifying high-leverage pivots to anchor the edit sub-manifold. Manifold-Aware Preservation preserves different knowledge types through an energy-weighted penalty combined with recursive null-space alignment. Experiments on two base LLMs and four unstructured editing benchmarks demonstrate that ManiEdit achieves state-of-the-art performance, outperforming the strongest baseline by up to +27.81 BERTScore and +8.50 ROUGE-L, while maintaining near-original general capabilities across six representative downstream tasks. Our code is available at: https://github.com/Areyliu/ManiEdit
• Abstract（参考訳）: 大規模言語モデル(LLM)は、必然的に不正または時代遅れなコンテンツを生成し、継続的な知識更新のために効率的かつ正確なメカニズムを必要とする。 しかし,既存のモデル編集手法では,非構造化長文知識の逐次的編集に苦慮し,編集の難しさや一般的な能力の劣化に悩まされている。 これらの課題に対処するため、我々はこれを大域的知識多様体内の編集部分多様体の局所的変位と見なして、多様体の観点から知識編集を再構築した。 この定式化の下では、問題は2つの重要な疑問に分解できる。 一 編集サブマニフォールドを効果的に固定する代表編集点の特定方法、及び (II) 部分多様体変位過程における残りの多様体構造の保存方法。 この観点から,2つのコアコンポーネントからなる新しい多様体対応自動回帰編集フレームワークであるManiEditを提案する。 Pivot Localizationは、編集サブマニフォールドをアンカーする高平均ピボットを特定することで、中間点ジレンマに対処する。 Manifold-Aware Preservationは、エネルギー重み付けされたペナルティと再帰的なヌル空間アライメントによって異なる知識タイプを保存する。 2つのLLMと4つの非構造化編集ベンチマークの実験により、ManiEditは最先端のパフォーマンスを達成し、最強のベースラインを+27.81 BERTScoreと+8.50 ROUGE-Lで上回った。 私たちのコードは、https://github.com/Areyliu/ManiEditで利用可能です。

関連論文リスト

• DSCA: Dynamic Subspace Concept Alignment for Lifelong VLM Editing [1.6830191160943109]
  生涯の編集は難しい作業であり、これまで学んだ概念を乱す傾向がある。 現在の手法では、知識を構造的に分離するのではなく、最適化によって編集をアルゴリズムで制御している。 本稿では,この制限を緩和する動的部分空間概念アライメント(DSCA)を提案する。 本手法は,1回の編集で98%,1000回の編集後に95%以上,幻覚を3～5%,連続的なチューニングチューニングベンチマークで最高の後方転送(BWT)スコアが得られた。
  論文  参考訳（メタデータ） (2026-04-09T08:25:54Z)
• CoEditor++: Instruction-based Visual Editing via Cognitive Reasoning [98.98349220451216]
  CoEditor++は、編集を"編集する方法"と"編集方法"に分解する、トレーニング不要のフレームワークである。 我々は,CoEditor++が編集タスクと編集タスクの両方において,最先端のパフォーマンスを実現することを示す。 以上の結果から,認知中心型画像編集の可能性が示唆された。
  論文  参考訳（メタデータ） (2026-01-31T12:20:46Z)
• FlowDC: Flow-Based Decoupling-Decay for Complex Image Editing [52.54102743380658]
  本稿では,複雑な編集を複数のサブ編集エフェクトに分離し,編集プロセス中に並列に重畳するFlowDCを提案する。 FlowDCは既存の方法に比べて優れた結果を示した。
  論文  参考訳（メタデータ） (2025-12-12T09:08:39Z)
• ConsistEdit: Highly Consistent and Precise Training-free Visual Editing [17.162316662697965]
  本稿では,MM-DiTに適した新しいアテンション制御手法であるConsistEditを提案する。 視覚のみの注意制御、マスク誘導型事前注意融合、クエリ、キー、バリュートークンの操作を区別する。 構造整合性および構造整合性の両方のシナリオを含む、幅広い画像およびビデオ編集タスクにおける最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2025-10-20T17:59:52Z)
• EvoEdit: Evolving Null-space Alignment for Robust and Efficient Knowledge Editing [19.834477925624658]
  大規模言語モデル(LLM)は、時代遅れまたは誤った知識を正すために継続的な更新を必要とする。 既存のアプローチは主に位置対応のフレームワークに基づいている。 本稿では,連続的なヌル空間アライメントによる破滅的干渉を緩和する新しい編集戦略であるEvoEditを紹介する。
  論文  参考訳（メタデータ） (2025-10-11T21:36:14Z)
• MEMOIR: Lifelong Model Editing with Minimal Overwrite and Informed Retention for LLMs [76.28901550926021]
  寿命の長いモデル編集のための既存の方法は、妥協の一般化、過去の編集の妨害、長い編集シーケンスへのスケールの失敗である。 我々は,学習済みモデルのコア能力を保ちながら,残メモリを介して知識を注入する,新しいスケーラブルなフレームワークMEMOIRを提案する。 MeMOIRは信頼性、一般化、ローカリティのメトリクスにまたがる最先端のパフォーマンスを実現し、最小限の忘れ物で数千のシーケンシャルな編集にスケールする。
  論文  参考訳（メタデータ） (2025-06-09T16:16:42Z)
• Resolving UnderEdit & OverEdit with Iterative & Neighbor-Assisted Model Editing [10.54738347540608]
  大規模言語モデル(LLM)は下流のタスクに広くデプロイされているが、リトレーニングや微調整によって知識を最新に保つことは、しばしば計算コストがかかる。 モデル編集は、ターゲットとするパラメータのサブセットを更新することで、より効率的な代替手段を提供する。 本稿では,UnderEditを緩和するために連続的な編集を行う反復的モデル編集法と,OverEditの削減のために,編集中に近隣の知識を取り入れた近隣モデル編集法との2つの補完手法を提案する。
  論文  参考訳（メタデータ） (2025-03-14T21:53:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。