論文の概要: ST$^2$U: Stateful Test-Time Unlearning via Restricted Knowledge Boundary Control
- arxiv url: http://arxiv.org/abs/2608.23034v1
- Date: Mon, 24 Aug 2026 09:37:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-25 13:29:44.014374
- Title: ST$^2$U: Stateful Test-Time Unlearning via Restricted Knowledge Boundary Control
- Title(参考訳): ST$^2$U:制限付き知識境界制御によるステートフルテスト時間学習
- Abstract要約: テストタイムのアンラーニングは、推論時にのみ介入することで、コストのかかる再トレーニングやパラメータの更新を避ける。
本研究では,制約付き知識境界制御(ST$2$U)によるステートフルテスト時アンラーニング(Stateful Test-Time Unlearning)を提案する。
- 参考スコア(独自算出の注目度): 10.834262950908844
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Controlling restricted knowledge in large language models is essential for model alignment and safe deployment. Test-time unlearning avoids costly retraining and parameter updates by intervening only during inference. However, existing activation-editing methods apply isolated pointwise corrections, overlooking how autoregressive generation continually reconstructs hidden states from the prompt, cache, and generated prefix. Consequently, later states may return to restricted knowledge regions after a locally successful correction, causing restricted knowledge re-entry. In this work, we propose Stateful Test-Time Unlearning via restricted knowledge boundary control (ST$^2$U), which formulates test-time unlearning as trajectory-wide boundary control. ST$^2$U first models restricted knowledge boundaries in low-dimensional invertible coordinates while leaving orthogonal non-target components unchanged. During inference, ST$^2$U monitors risk along the trajectory, applies minimal boundary corrections with contextual anchoring, and propagates historical correction states across tokens to mitigate knowledge re-entry. This trajectory-wide control enables more persistent forgetting while preserving non-target capabilities and limiting inference overhead. Across three benchmarks and three model families, ST$^2$U delivers the strongest overall balance, combining best or second-best retention with competitive forgetting and substantially less restricted-knowledge re-entry than test-time baselines (13.76%-19.84% versus 46.50%-59.10%).
- Abstract(参考訳): 大規模言語モデルにおける制限された知識の制御は、モデルアライメントと安全なデプロイメントに不可欠である。
テストタイムのアンラーニングは、推論時にのみ介入することで、コストのかかる再トレーニングやパラメータの更新を避ける。
しかし、既存のアクティベーション編集手法では、自動回帰生成がプロンプト、キャッシュ、生成したプレフィックスから隠れた状態を継続的に再構築する方法を見越して、孤立したポイントワイズ補正を適用している。
その結果、後続の州は、局所的に成功した修正の後、制限された知識領域に戻ることができ、制限された知識の再突入を引き起こした。
本研究では,制約付き知識境界制御(ST$^2$U)によるステートフルテスト時アンラーニング(Stateful Test-Time Unlearning)を提案する。
ST$^2$U 第一モデルは低次元可逆座標における知識境界を制限し、直交非対象成分は変わらない。
推論中、ST$^2$Uは軌道に沿ったリスクを監視し、コンテキストアンカーによる最小限の境界補正を適用し、トークン間で歴史的な修正状態を伝播して知識の再突入を緩和する。
このトラジェクトリワイドコントロールは、非ターゲット機能を保持し、推論オーバーヘッドを制限する一方で、より永続的な忘れ込みを可能にする。
3つのベンチマークと3つのモデルファミリの中で、ST$^2$Uは最強の総合バランスを提供し、ベストまたはセカンドベストの保持と競争上の忘れ込みを組み合わせ、テストタイムベースライン(13.76%-19.84%対46.50%-59.10%)よりも大幅に制限された知識の再突入を減らした。
関連論文リスト
- One Step, One Lead: Mitigating Higher-Order Interference in Multi-Domain Reinforcement Learning via Cross-Step Control [62.82372407840088]
同点領域勾配は、連続的な更新が出力空間で部分的に逆転する場合においても、ほぼ一定であることを示す。
トークンレベルのリバウンドリスクをランク付けするために,各イテレーションでフォーカスドメインを指定するOSOLを提案する。
OSOLは0.4822のドメイン-マクロ平均に達し、最強の比較ベースラインよりも5.7%向上した。
論文 参考訳(メタデータ) (2026-09-06T08:32:59Z) - Certifying Plans under Model Mismatch: A Trilemma for Reachability from Scarce Data [5.455772242709494]
シモン・トゥ・リアル・ポリシーは、名目力学の下で設計されているが、ターゲット・システム・トライアルは、わずかに孤立した1段階の遷移をもたらす。
本研究では,学習ポリシによって生成されるアクションチャンクなど,固定制御シーケンスの事前実行認証について検討する。
論文 参考訳(メタデータ) (2026-08-03T16:28:26Z) - When Does Learning to Stop Help? A Cost-Aware Study of Early Exits in Reasoning Models [4.8190992438931035]
LearnStopは、プレフィックスオブザーバブルな機能の上に隠された状態のないロジスティックストッパーである。
学習は、答えが振動し、正しさの証拠が広がる場所を給与する。
コスト計算は、KVキャッシュでトークンを32%節約するのと同じ方針で、ブラックボックスの繰り返しプリフィルで121%余分なコストがかかる。
論文 参考訳(メタデータ) (2026-06-29T19:33:42Z) - FAIR-Calib: Frontier-Aware Instability-Reweighted Calibration for Post-Training Quantization of Diffusion Large Language Models [50.86041384789834]
エンドツーエンドの拡散ロールアウトを必要とせずに、脆弱なフロンティア状態の保護を優先するdLLMのための2段階PTQフレームワークを提案する。
我々は、FAIR-CalibがLLaDAとDream(W4A4)の最先端ベースラインを一貫して上回り、フロンティア決定のフリップを減らし、様々なベンチマークにおけるコミット後のミスマッチを抑制することを示した。
論文 参考訳(メタデータ) (2026-06-04T08:00:51Z) - Extrapolative Weight Averaging Reveals Correctness-Efficiency Frontiers in Code RL [26.358580340079428]
予備的なRLトレーニングを伴わずに,外挿量平均化が新たなチェックポイントにフロンティアを拡張できるかどうかを検討した。
コードRLのネストされた単体テストカバレッジは、外挿重量平均化がナビゲートし、拡張し、活用できる正当性-効率フロンティアを誘導することを示す。
論文 参考訳(メタデータ) (2026-05-27T17:09:30Z) - Affordance Agent Harness: Verification-Gated Skill Orchestration [45.231685718099264]
Affordance groundingは、オープンワールドのシーンでエージェントがどこでどのように対話すべきかを特定する必要がある。
本稿では,エビデンスストアとコストコントロールを備えたクローズドループランタイムであるAffordance Agent Harnessを提案する。
論文 参考訳(メタデータ) (2026-05-01T13:45:16Z) - Retrofit: Continual Learning with Bounded Forgetting for Security Applications [25.185616916987158]
本稿では,データ振り返りのない連続学習手法であるRETROFITを提案する。
干渉を軽減するために、独立部分空間にパラメータ変化を限定する低ランクかつスパースな更新を適用する。
時間的ドリフト下でのマルウェア検出では、CLベースラインよりも20.2%から38.6%の保持スコアが大幅に向上し、新しいデータに対するオラクルの上限を超える。
論文 参考訳(メタデータ) (2025-11-14T16:07:03Z) - Boundary-to-Region Supervision for Offline Safe Reinforcement Learning [56.150983204962735]
バウンダリ・トゥ・レギオン(Bundary-to-Region, B2R)は、コスト信号による非対称な条件付けを可能にするフレームワークである。
B2Rは、CTGを固定された安全予算の下で境界制約として再定義し、すべての実行可能な軌道のコスト分布を統一する。
実験の結果,B2Rは38項目中35項目の安全制約を満たすことがわかった。
論文 参考訳(メタデータ) (2025-09-30T03:38:20Z) - Strategically Conservative Q-Learning [89.17906766703763]
オフライン強化学習(RL)は、RLの実用性を拡張するための魅力的なパラダイムである。
オフラインRLの最大の難しさは、オフ・オブ・ディストリビューション(OOD)アクションに遭遇する際の近似誤差の影響を緩和することである。
本稿では, 予測が容易かつ困難であるOODデータを識別する, SCQ(Strategical conservative Q-Learning) という新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2024-06-06T22:09:46Z) - Towards Continual Learning Desiderata via HSIC-Bottleneck
Orthogonalization and Equiangular Embedding [55.107555305760954]
本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。
提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
論文 参考訳(メタデータ) (2024-01-17T09:01:29Z) - Temporal-Difference Value Estimation via Uncertainty-Guided Soft Updates [110.92598350897192]
Q-Learningは、制御タスクを実行するポリシーを学ぶのに効果的であることが証明されている。
推定ノイズは、政策改善ステップにおける最大演算子の後、バイアスとなる。
UQL(Unbiased Soft Q-Learning)は、2つのアクション、有限状態空間からマルチアクション、無限状態マルコフ決定プロセスまで、EQLの作業を拡張する。
論文 参考訳(メタデータ) (2021-10-28T00:07:19Z) - Continuous Doubly Constrained Batch Reinforcement Learning [93.23842221189658]
環境とのオンラインインタラクションではなく、固定されたオフラインデータセットのみを使用して効果的なポリシーを学ぶバッチRLのアルゴリズムを提案する。
バッチRLにおける制限されたデータは、トレーニングデータに不十分に表現された状態/動作の値推定に固有の不確実性をもたらす。
この分散を減らすための政策制約と、過度に楽観的な見積もりを妨げる価値制約という2つの簡単な罰則によってこの問題を軽減することを提案する。
論文 参考訳(メタデータ) (2021-02-18T08:54:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。