論文の概要: Crossing the Margin Cliff: Toward Relearn-Robust LLM Unlearning via Margin Calibration

• arxiv url: http://arxiv.org/abs/2607.27836v1
• Date: Thu, 30 Jul 2026 08:15:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-31 21:37:00.45106
• Title: Crossing the Margin Cliff: Toward Relearn-Robust LLM Unlearning via Margin Calibration
• Title（参考訳）: Margin Cliff を横切る: Margin Calibration による Relearn-Robust LLM Unlearning に向けて
• Abstract要約: 微調整の忘れの例は、評価対象のメソッドごとにホールドアウトされた忘れのセットROUGEを著しく回復する。 単一の凍結構成は、14個の頭から頭までの忘れ細胞すべてに勝利する。 配置のバリエーションは、保持訓練された参照なしでこれらのゲインと一致します。
• 参考スコア（独自算出の注目度）: 7.554707019990843
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language model unlearning is consistently fragile under relearn attacks. On TOFU, fine-tuning on twenty forget examples substantially recovers held-out forget-set ROUGE for every method we evaluate, and we trace this fragility to optimization geometry. The per-token answer margin of fourteen post-hoc methods spanning gradient, preference, and distillation families converges into a narrow band above the retain reference in 41 of 42 method--size cells, a regularity we call the margin cliff. We prove that this cliff follows whenever the retain coupling holds the diagnostic log-odds of forget content above a floor, a condition that token-saturating losses induce at stationarity and that we verify directly on 34 of 42 cells. Margin Calibration (\textsc{MC}) is a plug-in polish adding a non-saturating margin hinge anchored at the reference's per-token margin plus a KL probe on a disjoint instruction corpus, restoring forget-side pressure where the native loss saturates. Under a stated gradient-dominance condition, whose on-trajectory gradient signature we measure by instrumenting the polish, its stationary set lies on the cliff-crossing side, yielding an attack-budget upper bound on the relearn margin lift. Across TOFU (three Llama-3 sizes, three forget tiers), MUSE-News on Llama-2-7B-hf, and a Phi-3.5 panel, a single frozen configuration wins all 14 head-to-head forget aggregates and all populated relearn cells (panel-mean post-attack ROUGE-L $0.41$ to $0.18$) and lowers raw membership AUC on 13/14, with reduced retain-side utility as the main cost. A deployment variant matches these gains without a retain-trained reference.
• Abstract（参考訳）: 大規模言語モデルのアンラーニングは、再学習攻撃の下で一貫して脆弱である。 ToFUでは,20個の例を微調整することで,評価対象のメソッド毎に保持したリクエストセットROUGEが大幅に回復し,この脆弱性を最適化幾何に追従する。 勾配, 嗜好, 蒸留ファミリにまたがる14種類のポストホック法の解答マージンは42の方法の41のメソッドの保持基準の上の狭い帯域に収束する。 この崖は, ホールドカップリングが床面上の忘れ物の診断ログを保持した場合, トークン飽和損失が定常に誘導され, 直接42細胞中34細胞で検証されることが証明された。 Margin Calibration (\textsc{MC}) は、標準のトーケン辺辺にアンカーされた非飽和マージンヒンジと、接続不能な命令コーパス上のKLプローブを追加し、ネイティブ損失が飽和する忘れ側の圧力を回復するプラグイン研磨である。 グラデーション支配条件では, 水平方向の勾配の符号を研磨装置で測定し, 静止セットは崖を渡る側にあり, 緩やかな縁縁上げにアタック・バッジ・アッパーバウンドが生じる。 TOFU (3 Llama-3 sizes, three forget tiers), MUSE-News on Llama-2-7B-hf, and a Phi-3.5 panel, a single frozen configuration wins all 14 head-to-head forget aggregates and all population relearn cells (panel-mean post- attack ROUGE-L $0.41$ to 0.8$) and lowers raw membership AUC on 13/14。 配置のバリエーションは、保持訓練された参照なしでこれらのゲインと一致します。

関連論文リスト

• BLADE: Bilevel Low-rank Augmented-Lagrangian Erasure for LLM Unlearning [5.254641969850694]
  既存のアンラーニング手法はロバスト性に苦しむ: モデルの一貫性を損なうことを忘れる、固定ウェイトバランスはトレーニング中の困難さを維持するために適応できない、そしてスケーリングや繰り返しアプリケーションの下で1つのベンチマークで機能するメソッド。 本稿では,3つのメカニズムが最適化景観のスムーズで予測可能な制御を与える制約付き双方向フレームワークBLADEを提案する。 BLADEは3つのベンチマークファミリで支配的であり、TOFUで6ドル、MUSE Booksで9ドル、KnowUndoで7ドルという最強のベースラインでの平均合成スコアを6ドル改善している。
  論文  参考訳（メタデータ） (2026-08-23T19:01:25Z)
• The Orthogonalized Read Is a Removable Training Scaffold for Recurrent Memory [0.0]
  効果は再現されるが、メモリ改善ではない。 この任務の訓練は、急激な脱出に続き、長い確率の台地である。 公開された利益の多くは、アーキテクチャをまったく必要としない。
  論文  参考訳（メタデータ） (2026-07-02T18:54:23Z)
• PIVOT: Bridging Black-Scholes Implied-Volatility and Price Objectives via Differentiable Jäckel Operator [12.334129641244592]
  Jckelの"Let's Be Rational"ソルバは、ブラック・スコールの価格を機械の精度に効率的に変換する。 PIVOTはLBRの前方通過を保ち、暗黙の分化によって後方通過を供給する。 単一のH100では、融合したトリトンカーネルが1.79e9 IV/sに達する。 エンドツーエンドのラベル生成は合成鎖では48.9M/s、SPX OptionMetricsでは16.6M/sである。
  論文  参考訳（メタデータ） (2026-06-04T14:43:38Z)
• Right Makes Might: Aligning Verified Hidden States Empowers RL Reasoning [55.264863369127774]
  現在の方法では、それぞれの正しいロールアウトを単一の報酬ビットに減らし、隠れた状態間で共有される幾何学的構造を無視している。 本稿では,RLトレーニングにおけるアンカートークンにおける正ロールアウトの最終層を,トレーニングと推論の両方においてゼロオーバーヘッドで整列する補助損失関数Hidden-Alignを提案する。 8つの数学的推論ベンチマークでは、Hidden-AlignはDAPOベースラインの平均パス@1をQwen3-1.7B, 4B, 14Bで3.8, 6.2, 5.4ポイント改善し、3つのスケールで一貫したパス@kゲインを得る。
  論文  参考訳（メタデータ） (2026-06-02T06:51:15Z)
• Clipping Bottleneck: Stabilizing RLVR via Stochastic Recovery of Near-Boundary Signals [83.0127582612634]
  Near-boundary Rescue (NSR) は最小限のプラグ・アンド・プレイの修正であり、失った信号を回復するために、アウト・オブ・バウンドトークンを保持する。 NSRはトレーニングの安定性を大幅に改善し、DAPOやGSPOといった強力なベースライン上で一貫したゲインを提供する。
  論文  参考訳（メタデータ） (2026-05-21T16:45:31Z)
• FORGE: Self-Evolving Agent Memory With No Weight Updates via Population Broadcast [3.774094352572544]
  FORGEは反射式内部ループをラップし、専用の反射エージェントが失敗した軌道を再利用可能な知識アーティファクトに変換する。 我々は,ネットワーク防御のPOMDPであるCybORG CAGE-2を,Bライン攻撃に対する30ステップの地平線上で評価した。 ゼロショットベースラインとリフレクションベースライン(分離シングルストリーム学習)の両方と比較して、FOGEはゼロショットよりも1.7-7.7$times$の平均評価リターンを改善する。
  論文  参考訳（メタデータ） (2026-05-15T17:42:49Z)
• Forgetting That Sticks: Quantization-Permanent Unlearning via Circuit Attribution [3.6704226968275253]
  量子化を乗り越える手法はモデルにほとんど変化しないが, 圧縮条件下では, 有意義な忘れ方を実現するための勾配に基づく手法を示す。 因果回路の属性を組み合わせることで両モードを解消し,最小限の差分集合部分グラフを分離するMANSUを提案する。 さらに,構造的消去と行動抑制を区別する機構的検証尺度であるCircuit Attribution Divergence(CAD)を導入する。
  論文  参考訳（メタデータ） (2026-05-14T17:44:10Z)
• The Extrapolation Cliff in On-Policy Distillation of Near-Deterministic Structured Outputs [52.709361620508595]
  ListOPDは、パラメータの5分の1で8B-SFTベースラインで、学生をドメイン内に持ち込む。 Amazon Fashionでは、3つの事前登録テスト — 細粒度崖間隔テスト、小さなクリップのクロス予測 — がロックされた予測ウィンドウ内に落下し、グリッド解像度以下のクローズドフォーム予測に一致する小さなクリップ値が設定されている。
  論文  参考訳（メタデータ） (2026-05-09T06:48:00Z)
• Geometric Properties of the Voronoi Tessellation in Latent Semantic Manifolds of Large Language Models [0.0]
  Qwen3.5-4B-Base上での表現多様体上のボロノイテッセルレーション ヴォロノワ・テッセルレーションはマージンリファインメント法により緩和可能であることを示す。
  論文  参考訳（メタデータ） (2026-04-08T07:36:04Z)
• Geometric-Disentangelment Unlearning [106.99160454669902]
  忘れたサンプルへの勾配は しばしば 保持された知識を傷つける 本稿では,GU(Geometric-disment Unlearning)を提案する。 本手法はプラグ・アンド・プレイであり,既存の勾配に基づくアンラーニング手法と併用することで副作用を軽減できる。
  論文  参考訳（メタデータ） (2025-11-21T09:58:25Z)
• Integral Continual Learning Along the Tangent Vector Field of Tasks [112.02761912526734]
  本稿では,特殊データセットからの情報を段階的に組み込んだ軽量連続学習手法を提案する。 ソースデータセットの0.4%まで小さく、小さな固定サイズのメモリバッファを保持しており、単純な再サンプリングによって更新される。 提案手法は,異なるデータセットに対して,様々なバッファサイズで高い性能を実現する。
  論文  参考訳（メタデータ） (2022-11-23T16:49:26Z)
• Large Scale Private Learning via Low-rank Reparametrization [77.38947817228656]
  本稿では、大規模ニューラルネットワークに微分プライベートSGDを適用する際の課題を解決するために、再パラメータ化方式を提案する。 BERTモデルにディファレンシャルプライバシを適用し、4つの下流タスクで平均精度が8,3.9%に達するのはこれが初めてである。
  論文  参考訳（メタデータ） (2021-06-17T10:14:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。