論文の概要: Sequential knowledge editing breaks a model's ability to tell good evidence from bad, without costing it accuracy

• arxiv url: http://arxiv.org/abs/2609.29587v1
• Date: Mon, 31 Aug 2026 08:12:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:56.080812
• Title: Sequential knowledge editing breaks a model's ability to tell good evidence from bad, without costing it accuracy
• Title（参考訳）: 逐次的知識編集は、精度を犠牲にすることなく、モデルが良い証拠を悪いものと判断する能力を破る
• Abstract要約: 知識編集は、編集された事実が変化したかどうか、パラフレーズが従うかどうか、無関係な回答が残されているかどうかを評価する。 モデルが記憶した回答に割り当てるログオッズを、インジェクトされたパスアサーションに対して、編集前後に、クエリ、パス、および固定された両方の候補文字列を保持してスコア付けします。 Qwen2.5-7B-Instructでは、1000回の連続的な編集の後、MMLUは4つの小数点に変化しないが、未修正事実に対する仲裁量の拡散は36%減少する。
• 参考スコア（独自算出の注目度）: 0.47745223151611654
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Knowledge editing is evaluated on whether the edited fact changed, whether paraphrases follow, and whether unrelated answers stayed put. A model can pass all three and still lose something none of them measures: the ability to decide, on facts that were never edited, which retrieved documents to believe. We score the log odds a model assigns to its remembered answer against the answer an injected passage asserts, before and after editing, holding the query, the passage and both candidate strings fixed. Our cleanest arm is a conservatively tuned LoRA: after 1,000 sequential edits on Qwen2.5-7B-Instruct it leaves MMLU unchanged to four decimal places, yet the spread of the arbitration quantity across untouched facts falls by 36%. Selective prediction degrades with it. Area under the risk-coverage curve rises by 0.107, against 0.005 for a norm-matched perturbation at the same MMLU, and error on the model's most confident quarter of arbitration decisions goes from 0.217 to 0.342. This is not capability loss. Sweeping random perturbation over five severities, damage bad enough to cut MMLU from 0.6275 to 0.3725 produces less harm (0.088) than MEMIT does at 0.6050 (0.102). The effect holds across three seeds, two model families, two datasets, two probe-disjointness criteria, three prompt templates and paraphrased queries. Layer ablation on saved weight deltas shows it is distributed: no single layer reproduces it, and removing any one recovers about half. Under retrieval with a frozen retriever, accuracy falls from 0.592 to 0.46. A secondary finding may matter more in practice. Three of five model and method pairings we ran collapse to chance MMLU at 1,000 sequential edits under published hyperparameters, while edit success stays at 1.00 and locality reads clean. Sequential-editing evaluations that never measure capability cannot see this.
• Abstract（参考訳）: 知識編集は、編集された事実が変化したかどうか、パラフレーズが従うかどうか、無関係な回答が残されているかどうかを評価する。 モデルが3つ全てをパスし、その中の1つが解決できないものを失う可能性がある。 モデルが記憶した回答に割り当てるログオッズを、インジェクトされたパスアサーションに対して、編集前後に、クエリ、パス、および固定された両方の候補文字列を保持してスコア付けします。 Qwen2.5-7Bで1000回連続して編集すると、MMLUは4つの小ささに変化しないが、未修正の事実に対する仲裁量の拡散は36%減少する。 選択予測はそれで劣化する。 リスク被覆曲線の下の領域は0.107増加し、同じMMLUにおける標準整合摂動では0.005となり、モデルの最も確実な調停決定の誤差は0.217から0.342となる。 これは能力喪失ではない。 MMLUを0.6275から0.3725に切るのに十分な損傷は、MEMITが0.6050 (0.102)で行うよりも害(0.088)が少ない。 この効果は、3つのシード、2つのモデルファミリー、2つのデータセット、2つのプローブ不整合基準、3つのプロンプトテンプレートおよびパラフレーズクエリにまたがる。 保存された重量デルタ上の層アブレーションは、それが分散していることを示している: 単一の層がそれを再生せず、取り除くとおよそ半分が回復する。 冷凍レトリバーによる検索では、精度は0.592から0.46に低下する。 二次的な発見は実際よりも重要かもしれない。 5つのモデルとメソッドのペアリングのうち3つが崩壊し、発行されたハイパーパラメータの下で1000のシーケンシャルな編集でMMLUが実行され、編集成功は1.00に留まり、ローカリティはクリーンになった。 性能を計測しない逐次編集評価では、これを見ることができない。

関連論文リスト

• Decision Shifts, Lost Label Functionality, and an Inconclusive Grounding Audit in Correctness-Gated Multi-Teacher Distillation [0.0]
  決定の正しさと根拠は異なる目的である。 固定実験において, 高精度多教師蒸留法について検討した。 未ろ過蒸留と比較して, 正度重み付きアームの精度は+0.1660。
  論文  参考訳（メタデータ） (2026-09-09T04:39:56Z)
• When Do Internal Probes Beat Reading the Answer? Miscalibrated Readouts and Behavior-Concealed Knowledge in Language Models [0.0]
  1200の論理的結論の検証を依頼された言語モデルは、毎回YESに答える。 隠れた状態の線形プローブは、0.96 AUCで正しい判定を読み取った。 判決がどこで失われるかを問うと、支配的な失敗は1つのスカラーであることがわかった。 診断は、90のセマンティックラベル構成で、5つのモデル、3つのファミリーの因子的、行動的精度が閾値オフセットの1つの関数に崩壊する。
  論文  参考訳（メタデータ） (2026-09-04T00:26:45Z)
• A Calibration Audit of Confidence in Feed-Forward 3D Reconstruction [45.496856835431885]
  3D再構成モデルは、下流システムが信頼性信号として読み取る画素当たりの信頼を出力する。 4つの特性に対する信頼度、エラーのランク付けの正確さ、そのレベルが平均的に正しいかどうか、信頼範囲を越えて保持されているかどうか、そしてその間隔が真実をカバーしているかどうか。 信頼度は誤差をよくランク付けするが、予測された不確実性は、トレーニングの正確さではない条件下で読み取られると低すぎる。
  論文  参考訳（メタデータ） (2026-08-30T10:21:34Z)
• Invocation-Level Reliability of Tool-Using Agents [0.7874708385247353]
  クリーンな教師強化コンテキストと,モデル独自のフリーランニングコンテキストの両方の下で,その2つを分離する,正しい起動率を測定する。 深さ6では、モデル自身のクリーンコンテキスト能力の約70%が、以前の失敗に失われる。
  論文  参考訳（メタデータ） (2026-08-23T09:04:59Z)
• Remember, Verify, or Ask? Cross-Family Evaluation of Memory Commitment in LLM Agents [4.6840536642016195]
  永続メモリはLDMエージェントをパーソナライズすることができるが、不正確な耐久性のある更新は、静かに将来の動作を歪ませることができる。 メモリ・クラシフィケーション・バウンダリ(メモリ・クラシフィケーション・バウンダリ)について検討する。
  論文  参考訳（メタデータ） (2026-08-20T02:11:03Z)
• The Recall Trap: A Recall-Maximizing Retriever Configuration Reduces Issue Resolution in Fixed-Budget Code Context [45.88028371034407]
  コード修復における制御ケーススタディを報告し,新しい現象ではない。 私たちは、同じスタック上の1つのフラグ(1チャンク毎の重複)を切り替えます。 BM25(3.2pp、重要なパラダイム間相互作用)を逆転させる。 厳格な固定予算では、ファイルごとのハードダイドプリケートや、タスクに対するA/Bパッケージングポリシは、メトリックフラグを調整しないことが示されます。
  論文  参考訳（メタデータ） (2026-08-14T19:22:50Z)
• Accurate Ensembles, Fragile Narratives: Multi-Scale Stacking and a Fidelity Audit of LLM-Generated Explanations for Credit Risk [0.0]
  クレジットスコアリングは、決定ロジックをパラメータから読み取ることができないモデルに依存している。 共通する提案は、言語モデルとのギャップを埋める: 特徴属性を計算し、それらを LLM に渡し、合理的に記述させる。 このようなシステムをエンド・ツー・エンドに構築し、約束の後半が成立するかどうかをテストします。
  論文  参考訳（メタデータ） (2026-08-08T13:22:14Z)
• Abliteration Is Not a Scalpel: Off-Target Effects of Refusal Removal on Decision Disposition Across Model Families [51.56484100374058]
  放棄 — モデルの拒絶方向を重みから取り除く — は、一般的な"アンセンソルド"なオープンウェイトモデルの標準的なレシピである。 ディスポジションプローブとして21,600個の決定を不確実性の下で使用し、凍結パイプラインを通じて再生することにより、決定層モデルが唯一の変数となる。 3つのエフェクトは2つのファミリーにまたがって複製される(ゼロを除く週間クラスターCI) 4つ目の効果は符号を逆転する:同じ操作によりGemmaで読み取られた方が自信が弱まり、Qwenで読み取られたものがより多くなる(ファミリーCIは重複しない)。
  論文  参考訳（メタデータ） (2026-07-19T22:27:00Z)
• Forgetting Is Not a Fix: Path Dependence in Sequential Engram Editing [35.76482964927589]
  本研究では,概念固有のメモリトレースが1回,1回,1回を算術的に組み合わせて抽出できる線形オブジェクトとなるという仮説を検証した。 そのテストは、著者自身の参照実装に基づいて、報告された最高の編集強度で実行します。 アンラーニング・アズ・コンプライアンス:今日認定された消去は、次の編集後にアーティファクトを認定しない。
  論文  参考訳（メタデータ） (2026-07-06T23:45:06Z)
• Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
  大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。 個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。 構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
  論文  参考訳（メタデータ） (2026-05-15T17:08:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。