Fugu-MT 論文翻訳(概要): Beyond Local Edits: Embedding-Virtualized Knowledge for Broader Evaluation and Preservation of Model Editing

論文の概要: Beyond Local Edits: Embedding-Virtualized Knowledge for Broader Evaluation and Preservation of Model Editing

arxiv url: http://arxiv.org/abs/2602.01977v1
Date: Mon, 02 Feb 2026 11:33:25 GMT
ステータス: 翻訳完了
システム内更新日: 2026-02-03 19:28:34.108479
Title: Beyond Local Edits: Embedding-Virtualized Knowledge for Broader Evaluation and Preservation of Model Editing
Title（参考訳）: ローカル編集を超えて: モデル編集のより広い評価と保存のための埋め込み仮想化知識
Authors: Shuainan Liu, Xuanang Chen, Ben He, Le Sun,
Abstract要約: 本稿では,埋め込み空間における制御摂動を通してモデル知識を特徴付ける埋め込み仮想知識(EVK)を紹介する。 EVKに基づく埋め込みレベルの評価ベンチマークEVK-Benchを構築し、編集によって誘発される潜在的な知識のドリフトを定量化する。本稿では,編集中に埋め込みレベルの知識ドリフトを制限し,既存の編集手法にシームレスに統合可能なEVK-Alignモジュールを提案する。
参考スコア（独自算出の注目度）: 35.30701128182046
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Knowledge editing methods for large language models are commonly evaluated using predefined benchmarks that assess edited facts together with a limited set of related or neighboring knowledge. While effective, such evaluations remain confined to finite, dataset-bounded samples, leaving the broader impact of editing on the model's knowledge system insufficiently understood. To address this gap, we introduce Embedding-Virtualized Knowledge (EVK) that characterizes model knowledge through controlled perturbations in embedding space, enabling the exploration of a substantially broader and virtualized knowledge region beyond explicit data annotations. Based on EVK, we construct an embedding-level evaluation benchmark EVK-Bench that quantifies potential knowledge drift induced by editing, revealing effects that are not captured by conventional sample-based metrics. Furthermore, we propose a plug-and-play EVK-Align module that constrains embedding-level knowledge drift during editing and can be seamlessly integrated into existing editing methods. Experiments demonstrate that our approach enables more comprehensive evaluation while significantly improving knowledge preservation without sacrificing editing accuracy.
Abstract（参考訳）: 大規模言語モデルの知識編集手法は、関連する知識や近隣の知識の限られたセットとともに、編集された事実を評価する事前定義されたベンチマークを用いて一般的に評価される。効果はあるものの、そのような評価は有限でデータセット境界のサンプルに限られており、モデルの知識システムに対する編集の影響は十分に理解されていないままである。このギャップに対処するために、埋め込み空間における制御された摂動を通してモデル知識を特徴付けるEmbeding-Virtualized Knowledge (EVK)を導入し、明示的なデータアノテーションを超えて、より広く仮想化された知識領域を探索することを可能にする。 EVKをベースとしたEVK-Benchの組込みレベル評価ベンチマークを構築し,編集によって誘発される潜在的な知識ドリフトを定量化し,従来のサンプルベースメトリクスでは捉えられない効果を明らかにする。さらに,既存の編集手法にシームレスに統合可能な,組込みレベルの知識ドリフトを制限したEVK-Alignモジュールを提案する。提案手法は,編集精度を犠牲にすることなく,知識保存の大幅な向上を図りながら,より包括的な評価を可能にすることを示す。

関連論文リスト

Are We Evaluating the Edit Locality of LLM Model Editing Properly? [68.441768731381]
この目的のために既存の特異性評価プロトコルは不十分であることがわかった。既存の特異度指標は特異度正規化器の強度と弱い相関関係にある。また、現在のメトリクスには十分な感度が欠けており、異なるメソッドの特異性性能の区別に効果がないこともわかりました。
論文参考訳（メタデータ） (2026-01-24T07:07:21Z)
Towards Meta-Cognitive Knowledge Editing for Multimodal LLMs [71.8547241246169]
本稿では,MLLMのメタ認知的知識編集能力を評価するための新しいベンチマークであるCogEditを紹介する。本稿では,自己認識のためのメタ知識メモリを構築するフレームワークであるMINDを提案する。
論文参考訳（メタデータ） (2025-09-06T13:26:04Z)
Retention analysis of edited knowledge after fine-tuning [5.1877231178075425]
大規模な言語モデル(LLM)には膨大な量の知識が格納されており、事実の誤りを訂正したり、新たに取得した情報を組み込んだり、モデルの振る舞いを適応させたりする必要があることが多い。モデル編集手法はこのような更新の効率的な解法として登場し、局所的で正確な知識修正を連続的な訓練よりも大幅に少ない計算コストで提供する。しかし、これまで編集された知識に対する微調整の効果はよく分かっていない。
論文参考訳（メタデータ） (2025-07-14T15:51:19Z)
Beyond Memorization: A Rigorous Evaluation Framework for Medical Knowledge Editing [72.8373875453882]
知識編集(KE)は,大規模言語モデル(LLM)の特定の事実を,完全なリトレーニングを必要とせずに更新する,有望なアプローチとして登場した。本稿では,医療領域における既存のKE手法の有効性を厳格に評価するために,MedEditBenchという新しいフレームワークを提案する。以上の結果から,現在のKE法は,新たなシナリオへの一般化に失敗し,インジェクションされた情報の表層記憶に留まることが示唆された。
論文参考訳（メタデータ） (2025-06-04T02:14:43Z)
ThinkEval: Practical Evaluation of Knowledge Leakage in LLM Editing using Thought-based Knowledge Graphs [3.9295613363026174]
モデル編集における間接的知識漏洩とリップル効果を定量化するフレームワークであるThinkEvalを提案する。 ThinkEvalは、編集前後の事実の因果構造を分析するために、専門知識グラフを構築し、採用する。我々はAlphaEdit, RECT, ROME, MEMIT, PRUNEの5つの編集技術を評価する。
論文参考訳（メタデータ） (2025-06-02T07:24:12Z)
Related Knowledge Perturbation Matters: Rethinking Multiple Pieces of Knowledge Editing in Same-Subject [49.559994791305535]
現在最先端の編集手法は、複数の関連知識を同じ主題に編集する作業で苦労している。本稿では,textS2textRKE$(Same-Subject Related Knowledge Editing)ベンチマークを紹介する。実験の結果,ROMやMEMITのような主流の位置情報編集手法だけが「関連する知識の摂動」を示すことがわかった。
論文参考訳（メタデータ） (2025-02-08T04:47:17Z)
Editing the Mind of Giants: An In-Depth Exploration of Pitfalls of Knowledge Editing in Large Language Models [26.516571783335824]
近年の研究では、知識の歪みや一般的な能力の劣化など、編集後に現れた副作用が特定されている。本調査では,これらの側面を包括的に研究し,大規模言語モデルにおける知識編集の課題を統一的に考察する。
論文参考訳（メタデータ） (2024-06-03T15:28:21Z)
EVEDIT: Event-based Knowledge Editing with Deductive Editing Boundaries [69.72012539060731]
大規模言語モデル(LLM)における効率的な知識編集(KE)の理論的枠組みを導入する。本稿では,事象をイベント記述と組み合わせたイベントベースの知識編集タスクを提案する。編集モデルにおける不確実性を解消するための既存の設定よりもイベントベースの編集の方が優れていることを実証的に示す。
論文参考訳（メタデータ） (2024-02-17T16:34:50Z)
Propagation and Pitfalls: Reasoning-based Assessment of Knowledge Editing through Counterfactual Tasks [36.292901021210575]
ReCoE(Reasoning-based Counterfactual Editing dataset)という新しい推論ベースのベンチマークを導入する。我々は既存の知識編集技術を徹底的に分析し、入力強化、微調整、位置と編集を行う。全てのモデル編集手法は、特に特定の推論スキームにおいて、このデータセットで顕著に低い性能を示す。
論文参考訳（メタデータ） (2024-01-31T04:12:59Z)
A Comprehensive Study of Knowledge Editing for Large Language Models [82.65729336401027]
大規模言語モデル(LLM)は、人間のコミュニケーションを忠実に反映したテキストの理解と生成の素晴らしい能力を示している。本稿では,知識編集の問題を定義し,最先端アプローチの包括的レビューを行う。我々は,代表的知識編集アプローチの総合的評価のための新しいベンチマークであるKnowEditを紹介した。
論文参考訳（メタデータ） (2024-01-02T16:54:58Z)
Evaluating Dependencies in Fact Editing for Language Models: Specificity and Implication Awareness [26.589633375359647]
学習した事実の編集が、知識の依存として知られる内部的な論理的制約を尊重することを確実にすることを目的としている。 LLMの編集作業は、ある事実の編集が関係のないものを破壊することなく、その語彙のバリエーションに適用されるべきである場合、依存関係の問題に部分的に対処している。本稿では,関連する質問応答データセットであるDepEditを用いた評価プロトコルを提案し,編集プロセスの総合的な評価を行う。
論文参考訳（メタデータ） (2023-12-04T12:45:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。