論文の概要: Auditing Forgetting in Limited Memory Language Models

• arxiv url: http://arxiv.org/abs/2607.00605v1
• Date: Wed, 01 Jul 2026 08:30:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-02 19:56:07.808615
• Title: Auditing Forgetting in Limited Memory Language Models
• Title（参考訳）: 限定記憶言語モデルにおけるオーディエンス・フォーミング
• Abstract要約: 既存の評価は、集合体の削除後の正しさを測定する。 本稿では,モデルが固定され,推論時にデータベースの状態が変化する因果監査フレームワークを提案する。 これを13のデータベースで12,228のエイリアス削除に適用する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Limited Memory Language Models (LMLMs) externalize factual knowledge to a database to enable deletion-based unlearning without retraining. Existing evaluations measure post-deletion correctness in aggregate and cannot tell whether a deleted fact persists through residual parametric memory, alternative retrieval paths, or near-neighbor retrieval artifacts. We propose a causal auditing framework that holds the model fixed and varies the database state at inference time across three interventions: FULL, DEL-ON, and DEL-OFF. The framework decomposes post-deletion behavior into parametric leakage L(f), retrieval-mediated correctness R(f), and a retrieval artifact rate grounded in the inference-time retrieval trace. We apply it to 12,228 alias-closure deletions across thirteen databases, including four adversarial topologies (Base, Alias, Noise, Collision) we construct in three domains, and six prompt formulations. Parametric leakage is near zero in every variant and every prompt style: the model rarely returns the deleted answer in the absence of retrieval. The residual that does survive lives in the retrieval graph: retrieval-mediated correctness and the retrieval artifact rate match within rounding everywhere, so post-deletion correctness is, in our audit, predominantly reconstituted from near-neighbor retrieval. This residual ranges from 0.7% on the released LMLM database to 13.6% on the most adversarial variant, and prompt formulation does not independently control how much of a deleted fact survives. These results suggest that, for this class of LMLM and deletion procedure, the unlearning boundary is drawn primarily by the database administrator rather than by the model.
• Abstract（参考訳）: 限定記憶言語モデル (LMLM) は、削除に基づく未学習を再訓練せずに行えるように、事実知識をデータベースに外部化する。 既存の評価は、アグリゲーションにおける削除後の正しさを測定し、削除された事実が残余パラメトリックメモリ、代替検索パス、または近隣の検索アーティファクトを介して持続するかどうかを判断することができない。 そこで本研究では, FULL, DEL-ON, DEL-OFFの3つの介入に対して, モデルが固定され, 推論時間でデータベースの状態が変化する因果監査フレームワークを提案する。 このフレームワークは、削除後の動作をパラメトリックリークL(f)、検索媒介の正しさR(f)、および推測時間検索トレースに接地した検索アーティファクトレートに分解する。 これを13のデータベースにまたがる12,228個のエイリアス閉鎖削除に適用し、その中には3つのドメインで構築した4つの逆位相(Base, Alias, Noise, Collision)と6つの即時定式化が含まれる。 パラメトリックリークは、すべての変種と全てのプロンプトスタイルにおいてほぼゼロである。 検索グラフに残る残余は, 検索による正しさと, 任意のラウンド内での検索アーチファクトレートが一致しているため, 削除後の正しさは, ほぼ隣の検索から主に再構成される。 この残差は、リリースされたLMLMデータベースの0.7%から、最も敵対的なバリエーションの13.6%まで、そして、迅速な定式化は、削除された事実のどれだけが生き残るかを独立に制御しない。 これらの結果は, LMLMと削除手順のクラスにおいて, 非学習境界は主にモデルではなくデータベース管理者によって引かれることを示唆している。

関連論文リスト

• Not Every Subject Should Stay: Machine Unlearning for Noisy Engagement Recognition [53.005382593686356]
  エンゲージメント認識データセットは典型的には主観的インデクシングであり、しばしば騒々しく主観的な監督を含んでいる。 本研究では、この設定を、エンゲージメント認識のためのポストホック衛生機構として、主観レベルマシンアンラーニングを通して研究する。
  論文  参考訳（メタデータ） (2026-05-06T10:03:06Z)
• iCoRe: An Iterative Correlation-Aware Retriever for Bug Reproduction Test Generation [10.824024745675281]
  iCoReは反復的相関型コンテキスト検索手法である。 本手法はFail-to-Passレートをそれぞれ42.0%,52.8%とする。
  論文  参考訳（メタデータ） (2026-04-21T08:26:30Z)
• Reasoning-enhanced Query Understanding through Decomposition and Interpretation [87.56450566014625]
  ReDIは、分解と解釈によるクエリ理解のための推論強化アプローチである。 我々は,大規模検索エンジンから実世界の複雑なクエリの大規模データセットをコンパイルした。 BRIGHT と BEIR の実験により、ReDI はスパースと密度の高い検索パラダイムの両方において、強いベースラインを一貫して超えることを示した。
  論文  参考訳（メタデータ） (2025-09-08T10:58:42Z)
• Maximally-Informative Retrieval for State Space Model Generation [59.954191072042526]
  テスト時に特定のクエリに対するモデル不確実性を最小化するために、Retrieval In-Context Optimization (RICO)を導入する。 文書検索に外部に依存した従来の検索強化生成(RAG)とは異なり,本手法はモデルから直接のフィードバックを利用する。 モデル勾配を用いた標準のトップ$kの検索は、最適化手順を近似し、残余損失への接続を提供することを示す。
  論文  参考訳（メタデータ） (2025-06-13T18:08:54Z)
• Unable to Forget: Proactive Interference Reveals Working Memory Limits in LLMs Beyond Context Length [0.0]
  人間では、そのような干渉に対する感受性は、作業記憶能力と逆の関連がある。 PI-LLMは意味論的に関連するキー-値の更新とクエリを逐次的にストリームする評価手法である。
  論文  参考訳（メタデータ） (2025-06-09T19:49:11Z)
• Guiding Retrieval using LLM-based Listwise Rankers [15.3583908068962]
  本稿では,リストワイズ設定をサポートする既存適応検索手法の適応性を提案する。 具体的には、提案アルゴリズムは、初期ランキングとフィードバック文書の両方から結果をマージする。 我々は,適応プロセスの最小化によるLLM推論の総数とオーバーヘッドを一定に保ちながら,nDCG@10を最大13.23%改善し,28.02%リコールできることを示した。
  論文  参考訳（メタデータ） (2025-01-15T22:23:53Z)
• LLMs Can Patch Up Missing Relevance Judgments in Evaluation [56.51461892988846]
  我々は、大きな言語モデル(LLM)を使って、不確定な文書を自動的にラベル付けします。 TREC DLトラックの関連性判定から関連文書をランダムにドロップすることで,穴の度合いの異なるシナリオをシミュレートする。 Vicuna-7B と GPT-3.5 Turbo の平均値に対して,Kendall tau の0.87 と 0.92 の相関式が得られた。
  論文  参考訳（メタデータ） (2024-05-08T00:32:19Z)
• See, Say, and Segment: Teaching LMMs to Overcome False Premises [67.36381001664635]
  この課題を解決するために,LMMのカスケードと共同学習手法を提案する。 得られたモデルでは、画像中に物体が存在するかどうかを検知し、その物体が存在しないかをユーザに「例」し、最終的に、対象物のマスクを出力することで「分類」を行う。
  論文  参考訳（メタデータ） (2023-12-13T18:58:04Z)
• Large Language Models are Strong Zero-Shot Retriever [89.16756291653371]
  ゼロショットシナリオにおける大規模検索に大規模言語モデル(LLM)を適用するための簡単な手法を提案する。 我々の手法であるRetriever(LameR)は,LLM以外のニューラルモデルに基づいて構築された言語モデルである。
  論文  参考訳（メタデータ） (2023-04-27T14:45:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。