Fugu-MT 論文翻訳(概要): LLM Unlearning Evaluation with TRIAGE

論文の概要: LLM Unlearning Evaluation with TRIAGE

arxiv url: http://arxiv.org/abs/2609.32103v1
Date: Sat, 26 Sep 2026 00:24:27 GMT
ステータス: 翻訳完了
システム内更新日: 2026-10-08 03:10:15.413125
Title: LLM Unlearning Evaluation with TRIAGE
Title（参考訳）: TRIAGEを用いたLLMアンラーニング評価
Abstract要約: 我々は,変化を特徴付けるためのベンチマークに依存しない評価フレームワークであるtextitTRIAGE(textitTripartite Representation-internal Introspection for Adjacency Gap Evaluation)を紹介する。 TRIAGEは既存の未学習ベンチマークと併用して、モデルのパラメータ空間を再認識し、保持された知識に影響を与えるモデル内部ビューで行動評価を補完する。
参考スコア（独自算出の注目度）: 4.66948282422762
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Large language models can memorize private or harmful information, motivating machine unlearning methods that remove targeted knowledge while preserving other capabilities. However, existing evaluations rely primarily on behavioral benchmarks, which assess \emph{whether} a model appears to forget but provide limited insight into \emph{how} unlearning changes the model or affects related knowledge. We introduce \textit{TRIAGE} (\textit{Tripartite Representation-internal Introspection for Adjacency Gap Evaluation}), a benchmark-agnostic evaluation framework for characterizing these changes. TRIAGE uses diagonal approximations of the Fisher information and Hessian to measure changes in parameter sensitivity and local curvature, and utilizes a Forget / \emph{Adjacent-Retain} / \emph{Generic-Retain} partition to quantify an \emph{adjacency gap} in semantically related knowledge. Based on the magnitude and distribution of these changes, TRIAGE further classifies each algorithm's update as \emph{no-op}, \emph{partially localized}, \emph{collateral dominant}, or \emph{globally destructive}. Across 12 unlearning methods, four language models, and the WMDP, TOFU, and MUSE benchmarks, we find that methods with similar behavioral forgetting can produce substantially different internal changes and patterns of collateral damage. These signatures also vary across models and benchmarks, indicating that the effects of unlearning are not determined solely by the unlearning algorithm. TRIAGE can be applied alongside existing unlearning benchmarks to complement behavioral evaluation with a model-internal view of how unlearning reshapes the model's parameter space and affects retained knowledge.
Abstract（参考訳）: 大規模言語モデルは、プライベートまたは有害な情報を記憶し、他の能力を保持しながら標的となる知識を除去する機械学習手法を動機付けることができる。しかし、既存の評価は主に行動ベンチマークに依存しており、モデルが忘れているように見えるかどうかを判断するが、モデルの変更や関連する知識への影響について限定的な洞察を与える。本稿では,これらの変化を特徴付けるためのベンチマークに依存しない評価フレームワークである \textit{TRIAGE} (\textit{Tripartite Representation-internal Introspection for Adjacency Gap Evaluation})を紹介する。 TRIAGEは、Fisher情報とHessianの対角近似を用いてパラメータ感度と局所曲率の変化を測定し、Forget / \emph{Adjacent-Retain} / \emph{Generic-Retain}パーティションを使用して、意味的な知識で \emph{adjacency gap} を定量化する。これらの変化の大きさと分布に基づいて、TRIAGEはさらにアルゴリズムの更新を \emph{no-op}, \emph{partially localized}, \emph{collateral dominant}, \emph{globally destructive} に分類する。 12の未学習手法,4つの言語モデル,およびWMDP,TOFU,MUSEベンチマークを用いて,類似した動作を忘れる手法は,内的変化や副次的損傷のパターンを著しく異なるものにすることができることを示した。これらのシグネチャはモデルやベンチマークによって異なり、アンラーニングの効果はアンラーニングアルゴリズムによってのみ決定されないことを示している。 TRIAGEは既存の未学習ベンチマークと併用して、モデルのパラメータ空間を再認識し、保持された知識に影響を与えるモデル内部ビューで行動評価を補完する。

関連論文リスト

MeGU: Machine-Guided Unlearning with Target Feature Disentanglement [73.49657372882082]
本稿では,概念意識の再調整を通じて学習をガイドする新しいフレームワークを提案する。 MeGUは制御的かつ選択的に忘れることを可能にし、アンダーアンラーニングとオーバーアンラーニングの両方を効果的に緩和する。
論文参考訳（メタデータ） (2026-02-19T05:20:31Z)
REMIND: Input Loss Landscapes Reveal Residual Memorization in Post-Unlearning LLMs [0.1784233255402269]
機械学習は、モデルから特定のトレーニングデータの影響を、完全な再トレーニングを必要とせずに取り除くことを目的としている。未学習データの微妙な残差を検出するための新しい評価手法であるREMINDを提案する。未学習のデータは、より平坦で、より急なロスランドスケープをもたらす一方、保持または関連のないデータは、より鋭く、より揮発性のあるパターンを示す。
論文参考訳（メタデータ） (2025-11-06T09:58:19Z)
LLM Unlearning Under the Microscope: A Full-Stack View on Methods and Metrics [10.638045151201084]
本稿では,近年のステートフル・アンラーニング法12の原則的分類について述べる。未学習効果(UE)、実用性維持(UT)、堅牢性(Rob)の評価を再考する。分析の結果,Multiple-choice question (MCQ) の精度に支配される現在の評価は,狭い視点しか示さないことがわかった。
論文参考訳（メタデータ） (2025-10-08T23:47:05Z)
Efficient Machine Unlearning via Influence Approximation [75.31015485113993]
インフルエンサーベースのアンラーニングは、個別のトレーニングサンプルがモデルパラメータに与える影響を再トレーニングせずに推定する顕著なアプローチとして現れてきた。本稿では,暗記(増分学習)と忘れ(未学習)の理論的関連性を確立する。本稿では、インフルエンス近似アンラーニングアルゴリズムを導入し、インクリメンタルな視点から効率的なマシンアンラーニングを行う。
論文参考訳（メタデータ） (2025-07-31T05:34:27Z)
Unlearning Isn't Deletion: Investigating Reversibility of Machine Unlearning in LLMs [38.837810490068556]
大規模言語モデル(LLM)におけるアンラーニングは、指定されたデータを削除することを目的としているが、その効果は通常、正確性や複雑度のようなタスクレベルのメトリクスで評価される。最小限の微調整によって元の動作が容易に復元される間、モデルは忘れることができることを実証する。この表現可能性の現象は、情報は単に抑圧されているだけであり、真に消去されていないことを示唆している。
論文参考訳（メタデータ） (2025-05-22T16:02:10Z)
Erasing Conceptual Knowledge from Language Models [24.63143961814566]
概念レベルのアンラーニングに対する原則的アプローチである言語記憶の消去(ELM)を導入する。 ELMは、モデル自身の内省的分類能力によって定義される分布を一致させることで機能する。 ELMのバイオセキュリティ、サイバーセキュリティ、および文学ドメイン消去タスクに対する効果を実証する。
論文参考訳（メタデータ） (2024-10-03T17:59:30Z)
PseudoNeg-MAE: Self-Supervised Point Cloud Learning using Conditional Pseudo-Negative Embeddings [55.55445978692678]
PseudoNeg-MAEは、ポイントクラウドマスマスキングオートエンコーダのグローバルな特徴表現を強化する。本研究では,ネットワークが識別的表現を保ちながら,よりリッチな変換キューをキャプチャできる新たな損失を提案する。
論文参考訳（メタデータ） (2024-09-24T07:57:21Z)
LLMs can learn self-restraint through iterative self-reflection [57.26854891567574]
大規模言語モデル(LLM)は、特定のトピックに関連する知識と不確実性に基づいて、その振る舞いを動的に適応できなければならない。この適応的行動は、私たちが自己規制と呼ぶもので、教えるのは簡単ではない。モデルが信頼している場合にのみ応答を生成できるようにするユーティリティ関数を考案する。
論文参考訳（メタデータ） (2024-05-15T13:35:43Z)
Mitigating Generation Shifts for Generalized Zero-Shot Learning [52.98182124310114]
一般化ゼロショット学習(英: Generalized Zero-Shot Learning、GZSL)は、学習中に見知らぬクラスが観察できない、見つからないサンプルを認識するために意味情報(属性など)を活用するタスクである。本稿では,未知のデータ合成を効率よく,効率的に学習するための新しい生成シフト緩和フローフレームワークを提案する。実験結果から,GSMFlowは従来のゼロショット設定と一般化されたゼロショット設定の両方において,最先端の認識性能を実現することが示された。
論文参考訳（メタデータ） (2021-07-07T11:43:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。