論文の概要: RESCUE: Repairing Language Model Errors to Sparse Circuits via Reinforcement Learning

• arxiv url: http://arxiv.org/abs/2609.36813v1
• Date: Tue, 29 Sep 2026 06:25:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.237782
• Title: RESCUE: Repairing Language Model Errors to Sparse Circuits via Reinforcement Learning
• Title（参考訳）: RESCUE:強化学習によるスパース回路への言語モデル誤りの修復
• Abstract要約: 本稿では,RESCUE(Reasoning-Error Sparse-Circuit Uncovering and Editing)について紹介する。 本研究では, 補修精度を6.4%から75.5%に高める1.40%の密度の算数誤差回路を同定し, 同様にコンパクトな1.44%の回路で補修精度を0%から81%に向上させる医療用QAの2つの領域にわたる不均一な補修セットに関するRESCUEを検証した。
• 参考スコア（独自算出の注目度）: 17.570362708695043
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Large language models (LLMs) exhibit strong general capabilities that mechanistic interpretability has attributed to sparse computational circuits. However, existing circuit studies emphasize preserving functionality or explaining safety, leaving the mechanisms underlying failures across a broader range of tasks largely unexplored. Extending circuit analysis from abilities to errors, we explore the perspective that such failures may likewise arise from erroneous internal computations and that targeted tuning of the corresponding parameters can correct such errors while largely preserving other capabilities. Motivated by this insight, we introduce RESCUE (Reasoning-Error Sparse-Circuit Uncovering and Editing), a framework that localizes error-associated circuits and surgically repairs them for performance enhancement. General tasks typically involve multi-step reasoning and long-form generation, where early deviations can cause prefixes to drift from supervised references, leading SFT-based mask optimization to overlook circuits involved in generation-time errors. RESCUE therefore refines these masks through reinforcement learning with multiple masked-model rollouts, improving their relevance to observed task failures. Finally, RESCUE introduces a pruning technique and precisely fine-tunes error circuits to correct task failures, thereby translating error localization into a sparse and targeted model update. We validate RESCUE on heterogeneous repair sets across two domains: (1) mathematical reasoning, identifying a math error circuit of 1.40% density whose repair raises accuracy from 6.0% to 75.5%; and (2) medical QA, where a similarly compact 1.44% circuit improves repair-set accuracy from 0% to 81%. Our code is available at: https://github.com/chuanpupig/RESCUE.
• Abstract（参考訳）: 大規模言語モデル (LLM) は、機械的解釈容易性がスパース計算回路に起因する強い一般性を示す。 しかし、既存の回路研究は機能を維持することや安全性を説明することを重視しており、その基盤となるメカニズムは幅広いタスクにまたがって明らかにされていない。 回路解析を能力からエラーまで拡張し、そのような故障が誤った内部計算によってもたらされる可能性や、対応するパラメータのターゲットチューニングが、他の機能を大半保存しながら、そのようなエラーを修正できるという視点を探求する。 この知見に触発されたRESCUE(Reasoning-Error Sparse-Circuit Uncovering and Editing)は、エラー関連回路を局所化し、パフォーマンス向上のために外科的に修復するフレームワークである。 一般的なタスクは、多段階の推論と長文生成であり、初期の偏差は、監督された参照からプレフィックスをドリフトさせ、SFTベースのマスク最適化は、生成時エラーに関連する回路を見落としてしまう。 したがって、RESCUEは複数のマスク付きモデルロールアウトによる強化学習を通じてこれらのマスクを洗練し、観察されたタスク障害との関連性を向上させる。 最後に、RESCUEはプルーニング手法を導入し、タスクの故障を正確に微調整し、エラーローカライゼーションをスパースでターゲットとしたモデル更新に変換する。 本研究では, 補修精度を6.0%から75.5%に上げる1.40%の密度の算数誤差回路を同定し, 同様にコンパクトな1.44%の回路で補修精度を0%から81%に向上させる医療用QAの2つの領域にわたる不均一な補修セットに関するRESCUEを検証する。 私たちのコードは、https://github.com/chuanpupig/RESCUE.comで利用可能です。

関連論文リスト

• Reflective Recovery: A Self-Supervised Method for Reasoning by Learning from Mistakes [70.64622557376505]
  リフレクティブリカバリは、推論中のミスを認識し、修正するようにモデルに教える。 AIME 2025では30.0%から37.5%、Minervaでは37.6%から47.8%に精度が向上している。
  論文  参考訳（メタデータ） (2026-07-24T02:51:42Z)
• Automated Semantic Fault Localization in SysML v2: A Human-in-the-Loop Framework Using Knowledge-Graph Augmented LLMs [0.11744028458220425]
  本稿では,意味的誤りを自動的に識別し,修復するためのヒューマン・イン・ザ・ループ・フレームワークを提案する。 微調整された小言語モデル(SLM)と、システム要素間の物理的互換性ルールをコードするドメイン知識グラフを組み合わせる。 本稿では,車載システム領域を用いて,機械的,電気的,流体的,信号的インターフェース間の関係を把握した知識グラフを示す。
  論文  参考訳（メタデータ） (2026-06-22T14:20:11Z)
• How LLMs Fail and Generalize in RTL Coding for Hardware Design? [56.361436215029045]
  我々は,認知理論に触発された問題解決性に基づく新しい誤り分類法を導入する。 我々の分類学は、障害を構文、意味、解決可能な機能、解決不可能な機能タイプに分類する。
  論文  参考訳（メタデータ） (2026-04-26T14:34:49Z)
• TraceCoder: A Trace-Driven Multi-Agent Framework for Automated Debugging of LLM-Generated Code [11.207330722400764]
  人間の観察・分析・修復過程をエミュレートするフレームワークであるTraceCoderを提案する。 このフレームワークはまずコードを診断プローブで測定し、粒度の細かいランタイムトレースをキャプチャする。 その後、これらのトレースについて因果解析を行い、失敗の根本原因を正確に特定する。
  論文  参考訳（メタデータ） (2026-02-06T16:59:48Z)
• Causality-Inspired Safe Residual Correction for Multivariate Time Series [12.183024727781449]
  我々はCRC(Causality-inspired Safe Residual Correction)を提案する。 因果性にインスパイアされたエンコーダを用いて、自己および相互変数のダイナミクスを分離することで方向認識構造を公開する。 実験の結果、CRCは精度を継続的に改善する一方、深部アブレーションの研究は、そのコアセーフティメカニズムが例外的に高い非劣化速度(NDR)を保証していることを確認した。
  論文  参考訳（メタデータ） (2025-12-27T01:34:14Z)
• CARE What Fails: Contrastive Anchored-REflection for Verifiable Multimodal [84.71254539482369]
  検証可能な報酬を伴うグループ相対的強化学習(RLVR)は、しばしば、すでに失敗している最も情報に富むデータを浪費する。 エラーを監督するマルチモーダル推論のための,障害中心のポストトレーニングフレームワークであるCAREを提案する。 CAREは正確さを改善し、スムーズさをトレーニングすると同時に、障害からの学習信号のシェアを明示的に増やします。
  論文  参考訳（メタデータ） (2025-12-22T16:34:21Z)
• Metacognitive Self-Correction for Multi-Agent System via Prototype-Guided Next-Execution Reconstruction [58.51530390018909]
  大規模言語モデルに基づくマルチエージェントシステムは、協調的な問題解決において優れているが、エラーのカスケードには脆弱である。 我々は,MASにリアルタイム,教師なし,ステップレベルの誤り検出と自己補正を付与するメタ認知フレームワークMASCを提案する。
  論文  参考訳（メタデータ） (2025-10-16T05:35:37Z)
• Application of Machine Learning for Correcting Defect-induced Neuromorphic Circuit Inference Errors [0.0]
  本稿では,ReRAMベースのニューロモルフィック回路において,故障による推論誤差を補正する機械学習手法を提案する。 設計技術共最適化(DTCO)シミュレーションフレームワークを用いて,6種類の空間欠陥をモデル化・解析する。 提案手法は,回路の出力電圧に基づいてトレーニングされた軽量ニューラルネットワークを用いて,最大で35%(55%から90%)の精度低下を予測できることを示す。
  論文  参考訳（メタデータ） (2025-09-14T06:05:27Z)
• Specification-Guided Repair of Arithmetic Errors in Dafny Programs using LLMs [79.74676890436174]
  本稿では,障害の局所化と修復のためのオラクルとして形式仕様を用いたDafny用のAPRツールを提案する。 プログラム内の各ステートメントの状態を決定するために、Hoareロジックの使用を含む一連のステップを通じて、障害をローカライズします。 また, GPT-4o miniが74.18%と高い修理成功率を示した。
  論文  参考訳（メタデータ） (2025-07-04T15:36:12Z)
• Fast and Accurate Error Simulation for CNNs against Soft Errors [64.54260986994163]
  本稿では,誤りシミュレーションエンジンを用いて,コナールニューラルネットワーク(CNN)の信頼性解析のためのフレームワークを提案する。 これらの誤差モデルは、故障によって誘導されるCNN演算子の出力の破損パターンに基づいて定義される。 提案手法は,SASSIFIの欠陥効果の約99%の精度と,限定的なエラーモデルのみを実装した44倍から63倍までのスピードアップを実現する。
  論文  参考訳（メタデータ） (2022-06-04T19:45:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。