論文の概要: REDaCT: Collapse-Free Unlearning in Large Reasoning Models

• arxiv url: http://arxiv.org/abs/2610.12769v1
• Date: Thu, 08 Oct 2026 22:22:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.300821
• Title: REDaCT: Collapse-Free Unlearning in Large Reasoning Models
• Title（参考訳）: REDaCT:大規模推論モデルにおける非学習の崩壊
• Abstract要約: 大規模推論モデルのための推論時アンラーニングフレームワークであるREDaCTを提案する。 RedaCTは推論の崩壊を完全に回避し、最先端の未学習法と比較して推論の保存を大幅に改善する。
• 参考スコア（独自算出の注目度）: 4.050704732182733
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Unlearning in large reasoning models (LRMs) requires removing forget-set information from both the reasoning trace and the final answer. Existing approaches achieve this objective at the cost of reasoning collapse, where the model fails to produce a coherent chain-of-thought (CoT) and does not properly terminate its reasoning process. To address this challenge, we propose REDaCT (REgenerate via Detection and Corrective Tuning), an inference-time unlearning framework for LRMs. REDaCT consists of two key components: (1) a binary leak detector that identifies sentences in the reasoning trace that leak forget-set information, and (2) an embedding optimization module that learns a corrective embedding offline, such that when injected at the first detected leak during inference, it guides subsequent reasoning towards sentences that do not leak forget-set information. Experimental results show that REDaCT completely avoids reasoning collapse, substantially improving reasoning preservation compared to state-of-the-art unlearning methods while maintaining perfect answer forgetting and near-perfect CoT forgetting. Our code is available at: https://github.com/jmaccoby/redact.
• Abstract（参考訳）: 大規模推論モデル(LRMs)における未学習は、推論トレースと最終回答の両方から忘れセット情報を除去する必要がある。 既存のアプローチは、モデルがコヒーレント連鎖(CoT)の生成に失敗し、その推論プロセスを適切に終了しないような、推論崩壊のコストでこの目的を達成する。 この課題に対処するため、LRMのための推論時アンラーニングフレームワークであるREDaCT(Regenerate via Detection and Corrective Tuning)を提案する。 REDaCT は,(1) 誤りセット情報を漏出する推論トレース中の文を識別するバイナリリーク検出器,(2) 誤りセット情報を漏出しない文に対して,最初に検出されたリークに注入された場合など,正解埋め込みをオフラインで学習する埋め込み最適化モジュール,の2つのキーコンポーネントから構成される。 実験の結果,REDACTは推論の崩壊を完全に回避し,最先端の未学習法に比べて推論の保存性を著しく向上し,完全な解答の忘れとほぼ完璧なCoTの忘れを維持できることがわかった。 私たちのコードは、https://github.com/jmaccoby/redact.comで利用可能です。

関連論文リスト

• CiPO: Counterfactual Unlearning for Large Reasoning Models through Iterative Preference Optimization [54.774620283208776]
  大きな推論モデル(LRM)は、複雑な問題に対処するための長いチェーン・オブ・シント(CoT)推論を強調する。 既存の方法は、CoTトレースから望ましくない知識を完全に排除するか、推論プロセスへの干渉によって推論性能を低下させるかのいずれかである。 LRMにおけるCoT推論の目的的介入として、非学習を再定義する新しいフレームワークである反復的選好最適化(CiPO)を通じて、対実的アンラーニングを導入する。
  論文  参考訳（メタデータ） (2026-04-17T08:56:36Z)
• Retrieval-Infused Reasoning Sandbox: A Benchmark for Decoupling Retrieval and Reasoning Capabilities [32.76303717104482]
  DeR2(DeR2)は、ドキュメント基底推論を分離する制御されたディープ検索サンドボックスである。 DeR2は、推論から4つのレシエーション(命令のみ、概念のみ、関連のみ、フルセット)を通じてアクセスする証拠を分離する。 さまざまな最先端の基礎モデルに対する実験は、かなりのバリエーションと重要なヘッドルームを明らかにしている。
  論文  参考訳（メタデータ） (2026-01-29T16:26:19Z)
• Structured Reasoning for Large Language Models [59.215789462977206]
  本研究では、推論を明示的、評価可能、トレーニング可能なコンポーネントに分解するフレームワークであるStructured Reasoning(SCR)を提案する。 SCRは推論効率と自己検証を大幅に改善する。 既存の推論パラダイムと比較して、出力トークンの長さを最大50%削減する。
  論文  参考訳（メタデータ） (2026-01-12T04:04:01Z)
• Mitigating Spurious Correlations Between Question and Answer via Chain-of-Thought Correctness Perception Distillation [25.195244084313114]
  CoPeD (Chain-of-Thought Correctness Perception Distillation) は,学生モデルの推論品質の向上を目的としている。 CoPeDは学生モデルに対して、正しい合理性に基づいて回答を予測し、誤ったときに修正するよう推奨する。
  論文  参考訳（メタデータ） (2025-09-06T05:33:17Z)
• CRAVE: A Conflicting Reasoning Approach for Explainable Claim Verification Using LLMs [15.170312674645535]
  CRAVE は、説明可能なクレーム VErification に対する Conflicting Reasoning Approach である。 大規模な言語モデルによって推論される矛盾する理性に基づいて、複雑なクレームを検証することができる。 CRAVEは最先端の手法よりもはるかに優れた性能を実現している。
  論文  参考訳（メタデータ） (2025-04-21T07:20:31Z)
• Disentangling Memory and Reasoning Ability in Large Language Models [97.26827060106581]
  本稿では、複雑な推論プロセスを2つの異なる明確なアクションに分解する新しい推論パラダイムを提案する。 実験の結果, この分解によりモデル性能が向上し, 推論プロセスの解釈可能性も向上することがわかった。
  論文  参考訳（メタデータ） (2024-11-20T17:55:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。