論文の概要: DynEdit: Dynamic Entropy-Guided Sequential Editing for Large Language Models

• arxiv url: http://arxiv.org/abs/2610.34768v1
• Date: Mon, 26 Oct 2026 03:13:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.715706
• Title: DynEdit: Dynamic Entropy-Guided Sequential Editing for Large Language Models
• Title（参考訳）: DynEdit: 大規模言語モデルのための動的エントロピー誘導シーケンス編集
• Abstract要約: DynEditは、長いシーケンスの知識編集のための動的フレームワークである。 トークンレベルのエントロピーを用いて、非一様スライディングを誘導し、困難な高エントロピー領域のカバレッジを増大させる。 さらに、エントロピー誘導トークンレベルの最適化を適用して、各編集ウィンドウ内の情報密度トークンの更新を強化する。
• 参考スコア（独自算出の注目度）: 30.646535887658676
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Knowledge editing aims to update outdated or incorrect knowledge in large language models without full retraining. Existing parameter-editing methods remain limited for long-sequence knowledge: single-point editors provide insufficient coverage for extended targets, while fixed chunk-based editors distribute editing effort uniformly across rigid predefined windows, failing to prioritize difficult, information-dense tokens. In this work, we show that token entropy is closely associated with both editing difficulty and semantic importance: high-entropy regions are harder to edit and often contain key factual content. Motivated by this observation, we propose DynEdit, a dynamic framework for long-sequence knowledge editing. DynEdit uses token-level entropy to guide non-uniform sliding, increasing the coverage of difficult high-entropy regions, and further applies entropy-guided token-level optimization to strengthen updates on information-dense tokens within each editing window. Experiments on three benchmarks and two backbone models show that DynEdit consistently outperforms competitive baselines across diverse long-form editing settings, achieving gains of up to +14.0 BLEU points on challenging paraphrase queries and near-saturated semantic scores on several diverse knowledge domains.
• Abstract（参考訳）: 知識編集は、大規模な言語モデルにおいて、完全に再トレーニングすることなく、時代遅れまたは誤った知識を更新することを目的としている。 単一ポイントエディタは拡張対象に対して不十分なカバレッジを提供する一方、固定されたチャンクベースのエディタは、厳密な事前定義されたウィンドウに一様に編集作業を分散し、難易度の高い情報線トークンの優先順位付けに失敗する。 本研究では,トークンのエントロピーが編集難易度と意味的重要性の両方に密接に関連していることを示す。 そこで本研究では,長期的知識編集のための動的フレームワークであるDynEditを提案する。 DynEditはトークンレベルのエントロピーを用いて、非一様スライディングをガイドし、困難な高エントロピー領域のカバレッジを高め、さらにエントロピー誘導トークンレベルの最適化を適用して、各編集ウィンドウ内の情報密度トークンのアップデートを強化する。 3つのベンチマークと2つのバックボーンモデルによる実験により、DynEditは様々な長文編集設定で競争ベースラインを一貫して上回り、様々な知識領域における挑戦的なパラフレーズクエリとほぼ飽和なセマンティックスコアについて+14.0 BLEUポイントまで向上した。

関連論文リスト

• ManiEdit: Sequential Unstructured Knowledge Editing for Language Models from a Manifold Perspective [49.83428734814549]
  既存のモデル編集手法は、構造化されていない長文の知識を逐次編集するのに苦労する。 ManiEditは、2つのコアコンポーネントからなる新しい多様体対応編集フレームワークである。 ManiEditは最先端のパフォーマンスを実現し、最強のベースラインである+27.81 BERTScoreと+8.50 ROUGE-Lを上回った。
  論文  参考訳（メタデータ） (2026-09-27T13:02:43Z)
• EvoEdit: Lifelong Free-Text Knowledge Editing through Latent Perturbation Augmentation and Knowledge-driven Parameter Fusion [31.09201415423854]
  LF-Edit(Lifelong Free-text Knowledge Editing)を提案する。 自然言語で表現された更新をモデルに組み込むことができ、時間の経過とともに連続的な編集をサポートする。 その約束にもかかわらず、LF-Editは、以前の情報の忘れを軽減しつつ、新しい知識を統合するという2つの課題に直面している。
  論文  参考訳（メタデータ） (2025-12-04T07:55:36Z)
• EvoEdit: Evolving Null-space Alignment for Robust and Efficient Knowledge Editing [19.834477925624658]
  大規模言語モデル(LLM)は、時代遅れまたは誤った知識を正すために継続的な更新を必要とする。 既存のアプローチは主に位置対応のフレームワークに基づいている。 本稿では,連続的なヌル空間アライメントによる破滅的干渉を緩和する新しい編集戦略であるEvoEditを紹介する。
  論文  参考訳（メタデータ） (2025-10-11T21:36:14Z)
• K-Edit: Language Model Editing with Contextual Knowledge Awareness [71.73747181407323]
  知識に基づくモデル編集は、大きな言語モデルの重みを正確に修正することを可能にする。 我々は、文脈的に一貫した知識編集を生成するための効果的なアプローチであるK-Editを提案する。
  論文  参考訳（メタデータ） (2025-02-15T01:35:13Z)
• AnyEdit: Edit Any Knowledge Encoded in Language Models [76.28789588247659]
  大規模言語モデル(LLM)のための新しい自動回帰編集パラダイムであるAnyEditを提案する。 長い形式の知識を逐次チャンクに分解し、各チャンク内のキートークンを反復的に編集し、一貫性と正確な出力を保証する。 UnKEBench、AKEW、そして我々の長文の多様な知識のための新しいEditEverythingデータセットを含むベンチマークでは、強いベースラインを21.5%上回っている。
  論文  参考訳（メタデータ） (2025-02-08T16:18:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。