論文の概要: How Well Can Knowledge Edit Methods Edit Perplexing Knowledge?

• arxiv url: http://arxiv.org/abs/2406.17253v2
• Date: Mon, 16 Dec 2024 19:47:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-18 13:55:30.924192
• Title: How Well Can Knowledge Edit Methods Edit Perplexing Knowledge?
• Title（参考訳）: 知識編集手法はいかにして複雑な知識を編集できるか?
• Authors: Huaizhi Ge, Frank Rudzicz, Zining Zhu,
• Abstract要約: 大規模言語モデル(LLM)は目覚ましい能力を示しているが、トレーニング後の知識の更新は依然として重要な課題である。 我々は,新しい知識がLLMの学習された概念的階層や分類的関係と矛盾する程度であるパープレキシングネスの概念を紹介する。 我々の分析によると、より抽象的な概念(ハイポニム)を含む編集は一般的に、より難易度が高く、特定の概念(ハイポニム)よりも修正に耐性がある。
• 参考スコア（独自算出の注目度）: 18.022428746019582
• License:
• Abstract: Large language models (LLMs) have demonstrated remarkable capabilities, but updating their knowledge post-training remains a critical challenge. While recent model editing techniques like Rank-One Model Editing (ROME) show promise, their effectiveness may vary based on the nature of the knowledge being edited. We introduce the concept of ``perplexingness'': the degree to which new knowledge conflicts with an LLM's learned conceptual hierarchies and categorical relationships. For instance, editing ``British Shorthair is a kind of cat'' to ``British Shorthair is a kind of dog'' represents a low-perplexingness edit within the same taxonomic level, while editing ``A cat is a kind of animal'' to ``A cat is a kind of plant'' represents a high-perplexingness edit that violates fundamental categorical boundaries. To systematically investigate this phenomenon, we introduce HierarchyData, a carefully curated dataset of 99 hyponym-hypernym pairs across diverse categories. Through controlled experiments across three models and four editing methods, we demonstrate a strong negative correlation between the perplexingness of new knowledge and the effectiveness of knowledge editing. Our analysis reveals that edits involving more abstract concepts (hypernyms) generally exhibit higher perplexingness and are more resistant to modification than their specific counterparts (hyponyms). These findings highlight a fundamental challenge in LLM knowledge editing: the more a new fact contradicts an LLM's learned conceptual hierarchies, the harder it becomes to reliably encode that knowledge.
• Abstract（参考訳）: 大規模言語モデル(LLM)は目覚ましい能力を示しているが、トレーニング後の知識の更新は依然として重要な課題である。 Rank-One Model Editing (ROME)のような最近のモデル編集技術は有望であるが、その効果は編集される知識の性質によって異なる可能性がある。 我々は,新しい知識がLLMの学習された概念的階層や分類的関係と矛盾する程度である「パープレクシングネス」の概念を導入する。 例えば、『英国ショートヘアは猫の一種である』から『英国ショートヘアは犬の一種である』までの編集は、同じ分類レベルでの低紛らわしい編集であるのに対し、『英国ショートヘアは動物の一種である』までの編集は、基本的な分類的境界に反する高難易度な編集である。 この現象を体系的に研究するために,多種多様なカテゴリにまたがる99の低音-高音対の注意深く計算されたデータセットであるHierarchyDataを紹介した。 3つのモデルと4つの編集方法の制御実験を通して、新しい知識の難易度と知識編集の有効性の間に強い負の相関関係を示す。 我々の分析では、より抽象的な概念(ハイポニム)を含む編集は一般的に、高いパープレキシング性を示し、特定の概念(ハイポニム)よりも修正に耐性があることが判明した。 新しい事実は、LLMの学習された概念的階層と矛盾するほど、その知識を確実にエンコードすることが難しくなる。

関連論文リスト

• AnyEdit: Edit Any Knowledge Encoded in Language Models [69.30638272162267]
  大規模言語モデル(LLM)のための新しい自動回帰編集パラダイムであるAnyEditを提案する。 長い形式の知識を逐次チャンクに分解し、各チャンク内のキートークンを反復的に編集し、一貫性と正確な出力を保証する。 UnKEBench、AKEW、そして我々の長文の多様な知識のための新しいEditEverythingデータセットを含むベンチマークでは、強いベースラインを21.5%上回っている。
  論文  参考訳（メタデータ） (2025-02-08T16:18:37Z)
• Relation Also Knows: Rethinking the Recall and Editing of Factual Associations in Auto-Regressive Transformer Language Models [15.698183471185066]
  自己回帰変換言語モデル(LM)における事実関連の記憶とリコールが注目されている。 ほとんどの編集作業は、主に主題知識に焦点を当てた既存の知識リコールの解釈の指導の下で知識編集を行う。 本研究では,トランスフォーマーLMの知識リコールを推論中に解釈し,過度な一般化を避けるために単一知識編集に適用する,新たな関係性に着目した視点を見いだす。
  論文  参考訳（メタデータ） (2024-08-27T14:22:02Z)
• Knowledge in Superposition: Unveiling the Failures of Lifelong Knowledge Editing for Large Language Models [19.357663224043534]
  知識編集は、大規模な言語モデルにおいて、時代遅れまたは誤った知識を更新することを目的としている。 現在の知識編集手法は生涯編集のスケーラビリティに限界がある。 本研究は,生涯編集において知識編集が失敗する根本的な理由を考察する。
  論文  参考訳（メタデータ） (2024-08-14T09:43:32Z)
• WISE: Rethinking the Knowledge Memory for Lifelong Model Editing of Large Language Models [78.22291694903659]
  大規模言語モデル(LLM)は、成長を続ける世界の事実に適合し、幻覚的応答を修正するために知識更新を必要とする。 更新された知識が記憶にどこに存在するかは、モデル編集の基本的な問題である。 記憶のギャップを埋めるためにWISEを提案する。
  論文  参考訳（メタデータ） (2024-05-23T16:35:52Z)
• TAXI: Evaluating Categorical Knowledge Editing for Language Models [13.889284093852687]
  知識編集は、言語モデルに新しい事実を注入し、その事実性を改善することを目的としている。 現在のベンチマークでは、効率、正確、一般化可能な編集を保証するために重要な一貫性の評価に失敗している。 分類的知識編集における一貫性を評価するためのベンチマークデータセットであるTAXIを手作業で作成する。
  論文  参考訳（メタデータ） (2024-04-23T13:09:11Z)
• Editing Conceptual Knowledge for Large Language Models [65.38231526537476]
  本稿では,Large Language Models(LLMs)における概念知識の編集の先駆者となる。 本研究では,新しいベンチマークデータセットConceptEditを構築し,評価のための新しいメトリクスセットを確立する。 実験の結果,既存の編集手法は概念レベルの定義をある程度効率的に修正できるが,関連する瞬間的知識を歪ませる可能性も示された。
  論文  参考訳（メタデータ） (2024-03-10T16:57:10Z)
• Editing Factual Knowledge and Explanatory Ability of Medical Large Language Models [89.13883089162951]
  モデル編集は、大きな言語モデル(LLM)の振る舞いを、特定の知識に関連して正確に変更することを目的としている。 このアプローチは、LLMにおける幻覚や時代遅れの情報の問題に対処する上で有効であることが証明されている。 しかし、医療分野における知識の修正にモデル編集を用いることの可能性はほとんど解明されていない。
  論文  参考訳（メタデータ） (2024-02-28T06:40:57Z)
• A Comprehensive Study of Knowledge Editing for Large Language Models [82.65729336401027]
  大規模言語モデル(LLM)は、人間のコミュニケーションを忠実に反映したテキストの理解と生成の素晴らしい能力を示している。 本稿では,知識編集の問題を定義し,最先端アプローチの包括的レビューを行う。 我々は,代表的知識編集アプローチの総合的評価のための新しいベンチマークであるKnowEditを紹介した。
  論文  参考訳（メタデータ） (2024-01-02T16:54:58Z)
• Can LMs Learn New Entities from Descriptions? Challenges in Propagating Injected Knowledge [72.63368052592004]
  我々は、注入された事実に基づいて推論を行う(またはそれらの事実を伝播する)LMの能力について研究する。 既存の知識更新手法では,注入知識の伝播がほとんどないことがわかった。 しかし、LMのコンテキストにおけるエンティティ定義の予測は、すべての設定におけるパフォーマンスを改善する。
  論文  参考訳（メタデータ） (2023-05-02T17:59:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。