論文の概要: Uncovering Entity Identity Confusion in Multimodal Knowledge Editing

• arxiv url: http://arxiv.org/abs/2605.06096v1
• Date: Thu, 07 May 2026 12:14:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-08 22:27:11.757627
• Title: Uncovering Entity Identity Confusion in Multimodal Knowledge Editing
• Title（参考訳）: マルチモーダル知識編集におけるエンティティアイデンティティの融合の解明
• Authors: Shu Wu, Xiaotian Ye, Xinyu Mou, Dongsheng Liu, Xiaohan Wang, Mengqi Zhang,
• Abstract要約: マルチモーダル知識編集は、展開後の大規模視覚言語モデルの内部知識を補正することを目的としている。 エンティティ・アイデンティティ・コンフュージョン(EIC)と呼ばれる編集モデルにおけるシステム障害モードを同定する。
• 参考スコア（独自算出の注目度）: 58.07263295190384
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multimodal knowledge editing (MKE) aims to correct the internal knowledge of large vision-language models after deployment, yet the behavioral patterns of post-edit models remain underexplored. In this paper, we identify a systemic failure mode in edited models, termed Entity Identity Confusion (EIC): edited models exhibit an absurd behavior where text-only queries about the original entity's identity unexpectedly return information about the new entity. To rigorously investigate EIC, we construct EC-Bench, a diagnostic benchmark that directly probes how image-entity bindings shift before and after editing. Our analysis reveals that EIC stems from existing methods failing to distinguish between Image-Entity (I-E) binding and Entity-Entity (E-E) relational knowledge in the model, causing models to overfit E-E associations as a shortcut: the image is still perceived as the original entity, with the new entity's name serving only as a spurious identity label. We further explore potential mitigation strategies, showing that constraining edits to the model's I-E processing stage encourages edits to act more faithfully on I-E binding, thereby substantially reducing EIC. Based on these findings, we discuss principled desiderata for faithful MKE and provide methodological guidance for future research.
• Abstract（参考訳）: マルチモーダル知識編集(MKE)は、大規模視覚言語モデルの内部知識の展開後の修正を目的としている。 本稿では,エンティティ・アイデンティティ・コンフュージョン(EIC: Entity Identity Confusion)と呼ばれる編集モデルにおけるシステム障害モードを同定する。 EICを厳密に調査するため,編集前後のイメージエンタリティ結合がどのように変化するかを直接調査する診断ベンチマークEC-Benchを構築した。 解析の結果、EICは画像エンティティ(I-E)バインディングとモデル内のエンティティエンティティ(E-E)リレーショナル知識を区別できない既存の手法に起因していることが明らかとなり、モデルがE-Eアソシエーションをショートカットとしてオーバーフィットさせる結果となった。 さらに、モデルのI-E処理段階に制限を加えることで、編集がI-Eバインディングに対してより忠実に振る舞うことが示され、EICを大幅に削減する可能性がある。 これらの知見に基づき, 忠実なMKEのための原則的デシラタについて論じ, 今後の研究のための方法論的ガイダンスを提供する。

関連論文リスト

• The Anatomy of an Edit: Mechanism-Guided Activation Steering for Knowledge Editing [52.315369633116255]
  大規模言語モデル(LLM)は知識ベースとしてますます使われているが、それらを最新の状態に保つには、目標とする知識編集(KE)が必要である。 ニューロンレベルの知識属性(NLKA)を用いたKEの力学的考察 代表的KE法全体にわたって、我々は一貫したパターンを見出す: ミッド・トゥ・レイト・アテンションは、主に新しいターゲットを促進するが、アテンションとFFNモジュールは、元の事実を抑えるために協力する。 本研究の目的は,MEGA(Mechanism-Guided Activation steering method)を提案することである。
  論文  参考訳（メタデータ） (2026-03-21T12:40:15Z)
• Consistency-Aware Editing for Entity-level Unlearning in Language Models [53.522931419965424]
  本稿では,エンティティレベルのアンラーニングのための新しい一貫性対応編集(CAE)フレームワークを提案する。 CAEは、その属性、関係、および敵のパラフレーズを含む、ターゲットエンティティに関連する多様なプロンプトの集合を集約する。 次に、一貫性レギュレータによってガイドされる低ランクの更新を共同で学習し、プロンプトをまたいだ編集方向を調整する。
  論文  参考訳（メタデータ） (2025-12-19T15:18:07Z)
• Related Knowledge Perturbation Matters: Rethinking Multiple Pieces of Knowledge Editing in Same-Subject [49.559994791305535]
  現在最先端の編集手法は、複数の関連知識を同じ主題に編集する作業で苦労している。 本稿では,textS2textRKE$(Same-Subject Related Knowledge Editing)ベンチマークを紹介する。 実験の結果,ROMやMEMITのような主流の位置情報編集手法だけが「関連する知識の摂動」を示すことがわかった。
  論文  参考訳（メタデータ） (2025-02-08T04:47:17Z)
• Identifiable Exchangeable Mechanisms for Causal Structure and Representation Learning [54.69189620971405]
  IEM(Identible Exchangeable Mechanisms)と呼ばれる,表現と構造学習のための統合フレームワークを提供する。 IEMは、交換可能な非i.d.データにおける因果構造同定に必要な条件を緩和する新しい洞察を提供する。 また、認識可能な表現学習における双対性条件の存在を実証し、新たな識別可能性結果をもたらす。
  論文  参考訳（メタデータ） (2024-06-20T13:30:25Z)
• EVEDIT: Event-based Knowledge Editing with Deductive Editing Boundaries [69.72012539060731]
  大規模言語モデル(LLM)における効率的な知識編集(KE)の理論的枠組みを導入する。 本稿では,事象をイベント記述と組み合わせたイベントベースの知識編集タスクを提案する。 編集モデルにおける不確実性を解消するための既存の設定よりもイベントベースの編集の方が優れていることを実証的に示す。
  論文  参考訳（メタデータ） (2024-02-17T16:34:50Z)
• SWEA: Updating Factual Knowledge in Large Language Models via Subject Word Embedding Altering [17.20346072074533]
  近年のモデル編集は,大規模言語モデルの少数の知識を効率的に更新する上で有望な手法である。 本稿では,トークンレベルのマッチングによる埋め込みの編集を行うSWEAフレームワークを提案する。 SWEA$oplus$OSのCounterFactデータセットとzsREデータセット上でのSOTA(State-of-the-art)パフォーマンスを実証する。
  論文  参考訳（メタデータ） (2024-01-31T13:08:45Z)
• Entities as Experts: Sparse Memory Access with Entity Supervision [31.90630901747025]
  我々は、テキストに言及されたエンティティの異なる記憶にアクセスすることができる新しいモデル、Entities as Experts (EAE)を紹介します。 EAEの学習表現はTriviaQAの質問に答えるために十分な知識を得られることを示す。
  論文  参考訳（メタデータ） (2020-04-15T17:00:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。