論文の概要: When Forgotten Facts Return: Relearning-Aware Unlearning of Knowledge Graph Embeddings via Tangent Kernels

• arxiv url: http://arxiv.org/abs/2610.31075v1
• Date: Thu, 22 Oct 2026 10:51:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 02:08:44.326912
• Title: When Forgotten Facts Return: Relearning-Aware Unlearning of Knowledge Graph Embeddings via Tangent Kernels
• Title（参考訳）: Forgotten Factsが戻ってきたとき: タンジェントカーネルによる知識グラフ埋め込みの学習を意識した再学習
• Abstract要約: 本研究は知識グラフ埋め込みにおける再学習に関する最初の研究である。 提案するKernel-Anticipated Unlearning (KAU) は,タンジェントカーネルを用いて,学習継続が忘れられた事実のスコアをどのように変更するかをモデル化する。 我々は、KAUと最先端の知識グラフアンラーナーと、同じ継続トレーニング下での再学習ロバスト手法を比較した。
• 参考スコア（独自算出の注目度）: 5.550877102788988
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Approximate unlearning answers a deletion request on a knowledge-graph embedding by editing entity embeddings instead of retraining from scratch. These embeddings keep being updated as new facts arrive. Under this ordinary continued training, forgotten facts recover more than in the exact-unlearning baseline, a model retrained without them and given the same continued training. We trace this relearning to entity embeddings shared by forgotten and new facts. To our knowledge, this is the first study of relearning in knowledge-graph embeddings. Relearning-robust methods developed for deep networks do not account for the graph structure underlying this recovery. We propose Kernel-Anticipated Unlearning (KAU), which uses the tangent kernel to model how continued training changes forgotten facts' scores through these shared parameters. KAU expresses this first-order response in closed form and differentiates through it inside the forgetting loss. The objective steers edits toward directions that continued training reverses less. We compare KAU with state-of-the-art knowledge-graph unlearners and relearning-robust methods under identical continued training, measuring leakage beyond the exact-unlearning baseline. Across three backbones, KAU reduces the strongest knowledge-graph unlearner's leakage by 46-63% on FB15k-237 and 50-82% on CoDEx-L, at higher retained utility.
• Abstract（参考訳）: 近似アンラーニングは、ゼロから再学習するのではなく、エンティティ埋め込みを編集することで知識グラフ埋め込みの削除要求に答える。 これらの埋め込みは、新しい事実がやってくるにつれて更新され続けている。 この通常の継続トレーニングの下では、忘れられた事実は、正確な未学習ベースラインよりも多く回復する。 私たちはこの再学習を、忘れられた新しい事実によって共有されたエンティティの埋め込みに遡る。 我々の知る限り、これは知識グラフ埋め込みにおける再学習の最初の研究である。 ディープ・ネットワークのために開発された再学習ロバスト法は、この回復の基盤となるグラフ構造を考慮しない。 提案するKernel-Anticipated Unlearning (KAU) は,これらの共有パラメータを用いて,継続トレーニングが事実のスコアをどのように変更するかをモデル化するために,タンジェントカーネルを使用する。 KAUはこの一階反応をクローズドな形で表現し、忘れる損失の中で区別する。 目標ステアは、継続するトレーニングが逆になる方向を編集する。 我々は,KAUと最先端の知識グラフアンラーナーと同一の継続トレーニングによる再学習ロバスト手法を比較し,正確な未学習ベースラインを超えて漏洩を測定する。 3つのバックボーン全体で、KAUはFB15k-237で46-63%、CoDEx-Lで50-82%、高い有効性で、最も強力な知識グラフアンラーナーのリークを減少させる。

関連論文リスト

• Decoupling Knowledge Forgetting and Refusal Learning in MLLM Unlearning [17.523433293080974]
  Forget-Aware Self-Distillation (FASD)は、正直な無知を実現するために設計されている。 FASDは、目標とする知識を解放し、オープンなタスクにおける情報漏洩を防止し、保持されたデータの性能を維持できることを示す。
  論文  参考訳（メタデータ） (2026-10-10T05:46:42Z)
• Test-Time Unlearning via Sparse Autoencoder [55.4290003355764]
  ARIAは,モデルウェイトをそのまま残して,世代が無視関連状態に入る場合にのみ,不要な知識へのアクセスをゲートするテスト時アンラーニング手法である。 ARIAは、思考モデルと命令モデルの両方にわたるウェイトベースベースラインに対する忘れがちなトレードオフを改善します。
  論文  参考訳（メタデータ） (2026-09-14T18:58:09Z)
• Rethinking Federated Unlearning via the Lens of Memorization [43.29764212924278]
  未学習は、忘れるべきデータに起因するユニークな記憶情報を主に取り除くべきだ、と我々は主張する。 FedMemPruneは、暗記に責任を持つ冗長なパラメータをリセットする、プルーニングベースのアンラーニングアプローチである。
  論文  参考訳（メタデータ） (2026-05-23T12:25:50Z)
• Anatomy of Unlearning: The Dual Impact of Fact Salience and Model Fine-Tuning [59.19460954480119]
  忘れられた知識が事前学習や教師付き微調整に由来するかどうかを考察する。 実験の結果,事前学習モデルとSFTモデルは未学習に対して異なる反応を示した。
  論文  参考訳（メタデータ） (2026-02-23T08:58:48Z)
• Lethe:Adapter-Augmented Dual-Stream Update for Persistent Knowledge Erasure in Federated Unlearning [6.171968410497911]
  Federated Unlearning (FU)は、グローバルモデルから指定されたクライアントレベル、クラスレベル、またはサンプルレベルの知識を削除することを目的としている。 私たちは、継続的なトレーニングが未学習の知識を再活性化できることを明らかにすることで、知識の再認識と呼ばれる重要な障害モードを特定します。 本稿では,知識の保持から学ばない新しい非学習手法Letheを提案する。
  論文  参考訳（メタデータ） (2026-01-30T05:50:35Z)
• Unlearning of Knowledge Graph Embedding via Preference Optimization [10.933615997032698]
  既存の知識グラフ(KG)には、取り除かなければならない古い知識や誤った知識が必然的に含まれている。 直接選好最適化(DPO)に基づく新しい非学習フレームワークGraphDPOを提案する。 実験の結果、GraphDPOはMRR_Avgで10.1%、MRR_F1で14.0%、最先端のベースラインよりも優れていた。
  論文  参考訳（メタデータ） (2025-07-28T07:03:04Z)
• Unlearning through Knowledge Overwriting: Reversible Federated Unlearning via Selective Sparse Adapter [35.65566527544619]
  フェデレーション学習は、プライバシ保護のためのコラボレーティブモデルトレーニングにおいて有望なパラダイムである。 本稿では,各レイヤの知識に対する感受性を分析することによって,まず重要なレイヤを識別するFUSEDを提案する。 アダプタは元のパラメータを変更することなくトレーニングされ、未学習の知識を残りの知識で上書きする。
  論文  参考訳（メタデータ） (2025-02-28T04:35:26Z)
• Outdated Issue Aware Decoding for Reasoning Questions on Edited Knowledge [93.54427119091174]
  本稿では,従来のISsueを意識した復号化手法を提案する。 元のモデルと編集されたモデルとの確率分布の差を捉える。 我々は、古くなった問題を緩和するために、編集されたモデルにおけるトークン予測の違いを増幅する。
  論文  参考訳（メタデータ） (2024-06-05T03:00:15Z)
• Learn to Unlearn for Deep Neural Networks: Minimizing Unlearning Interference with Gradient Projection [56.292071534857946]
  最近のデータプライバシ法は、機械学習への関心を喚起している。 課題は、残りのデータセットに関する知識を変更することなく、忘れたデータに関する情報を捨てることである。 我々は、プロジェクテッド・グラディエント・アンラーニング(PGU)という、プロジェクテッド・グラディエント・ベースの学習手法を採用する。 トレーニングデータセットがもはやアクセスできない場合でも、スクラッチからスクラッチで再トレーニングされたモデルと同じような振る舞いをするモデルを、我々のアンラーニング手法が生成できることを実証するための実証的な証拠を提供する。
  論文  参考訳（メタデータ） (2023-12-07T07:17:24Z)
• Learning with Recoverable Forgetting [77.56338597012927]
  学習wIth Recoverable Forgettingは、タスクまたはサンプル固有の知識の除去とリカバリを明示的に処理する。 具体的には、LIRFは2つの革新的なスキーム、すなわち知識預金と離脱をもたらす。 いくつかのデータセットで実験を行い、提案したLIRF戦略が一般化能力を満足させる結果をもたらすことを示す。
  論文  参考訳（メタデータ） (2022-07-17T16:42:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。