論文の概要: Certified Mechanistic Edits: Behavioral Guarantees for Skill Removal and Preservation

• arxiv url: http://arxiv.org/abs/2610.03502v1
• Date: Fri, 02 Oct 2026 16:01:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.466739
• Title: Certified Mechanistic Edits: Behavioral Guarantees for Skill Removal and Preservation
• Title（参考訳）: 認定メカニスティック編集:スキル除去・保存のための行動保証
• Abstract要約: 現在のアプローチでは、その効果はテストによってのみ検証される。 回路を無効にすると1つのスキルが取り除かれ、もう1つのスキルが確実に保存される。 我々は、おもちゃのReLUネットワークから標準ソフトマックス+LayerNorm変換器まで、このような認定された編集を実証する。
• 参考スコア（独自算出の注目度）: 0.2730969268472861
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Mechanistic edits (ablations, weight edits, activation steering) are the standard tools for unlearning a harmful capability from a neural network while preserving useful ones. Current approaches validate their effects only by testing, which can never cover an entire continuous region of inputs. Prior work at the interpretability-verification boundary certifies descriptions of a model: what a circuit computes, or whether it faithfully explains the whole. We instead certify the behavioral effect of an edit: that disabling a circuit removes one skill and provably preserves another, for every input in a region; a feature non-interference guarantee in the information-flow-security sense. We demonstrate such certified edits from toy ReLU networks up to a standard softmax + LayerNorm transformer, proving removal and preservation over continuous embedding-space regions and reaching roughly 9x the input-perturbation dimension an exact solver can handle by switching to sound bound propagation. Furthermore, we prove that no finite deterministic black-box test can certify removal, exhibiting an edit that passes exhaustive testing yet provably fails on a survivor pocket that can be made arbitrarily small. Guarantees hold on small, standard-architecture networks and, like any removal claim, presuppose that the target skill admits a decidable specification, a property which real-world harms may not have.
• Abstract（参考訳）: 機械的編集(機械的編集、ウェイト編集、アクティベーションステアリング)は、ニューラルネットワークから有害な能力を学習し、有用なものを保存するための標準ツールである。 現在のアプローチでは、インプットの連続した領域全体をカバーできないテストによってのみ、その効果を検証する。 解釈可能性検証境界における以前の研究は、回路が何を計算するか、あるいはそれが全体を忠実に説明しているかというモデルの記述を証明している。 その代わりに、ある回路を無効にすると、ある領域のすべての入力に対して、ある回路が1つのスキルを取り除き、他の領域を確実に保存し、情報フローセキュリティの意味において、非干渉性を保証するという、編集の行動効果を認証する。 本研究では,標準ソフトマックス+LayerNorm変換器までのおもちゃReLUネットワークから,連続的な埋め込み空間領域の除去と保存を証明し,正確な解法が扱える入力摂動次元の約9倍に達することを実証する。 さらに,有限決定論的ブラックボックステストでは除去を証明できず,排他的テストに合格する編集が任意に小型化できる生存ポケットで失敗することが証明された。 保証者は、小さな標準アーキテクチャのネットワークを保持し、あらゆる除去要求と同様に、ターゲットスキルが決定可能な仕様を認めていると仮定する。

関連論文リスト

• Finite-Data Safety Informativity Under Dynamic Asymmetric Actuation [0.711144397510333]
  我々は、コマンドが所定の安全不平等を強制できるかどうかを判定する有限データ証明書を開発する。 車両実験では、安全クリティカルな環境での有限の測定から出力安全性を証明できることが示されている。
  論文  参考訳（メタデータ） (2026-10-01T14:54:54Z)
• Sound Debloating of Redundant Checks in Zero-Knowledge Machine-Learning Circuits [8.87115326771099]
  音質を確実に保ちながら冗長チェックを除去する自動フレームワークを提案する。 我々のツールは最大48.7%の制約を排除し、セキュリティを弱めることなく証明時間を72.8%まで短縮する。
  論文  参考訳（メタデータ） (2026-09-09T13:27:25Z)
• Training Under Challenge: Executable Certificates and Challenge-Closed Optimality for Neural Networks [20.854288216118423]
  平坦なトレーニング曲線は、ニューラルネットワークがグローバルな最適値に達したか、ローカルに閉じ込められたか、表現に制限されたか、あるいはトレーナーにミスマッチしているかを明らかにしない。 このフレームワークでは、事前宣言されたアーキテクチャ検証手順が、同じ認定クラスで完全な代替品を構築し、同じ目的を再評価する。 逆フロンティアを証明する: カバー範囲がなければ、一階のReLUトレーナーは、非球面点に収束しながら、無限に多くの正確な条件付き頭部に到達できる。
  論文  参考訳（メタデータ） (2026-08-12T23:37:57Z)
• Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
  安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。 敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。 最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
  論文  参考訳（メタデータ） (2026-04-14T06:48:33Z)
• Certified Circuits: Stability Guarantees for Mechanistic Circuits [80.30622018787835]
  Certified Circuitsは、回路発見のための証明可能な安定性を保証する。 ImageNetとOODデータセットでは、認定回路は91%高い精度を達成する。
  論文  参考訳（メタデータ） (2026-02-26T13:07:31Z)
• A Granular Study of Safety Pretraining under Model Abliteration [64.24346997570275]
  本稿では,リフレクションに敏感な方向を除去する軽量プロジェクション技術であるモデルアブリーブレーションについて検討する。 我々は、バランスのとれた有害かつ無害なケースで100のプロンプトを発行し、複数の判断を用いて**Refusal*または***Non-Refusal*として応答を分類し、判断の忠実さを検証する。 本研究は,データ中心の安全コンポーネントが失語中も頑健であるチェックポイントレベルの特徴付けを行う。
  論文  参考訳（メタデータ） (2025-10-03T07:01:45Z)
• Core Safety Values for Provably Corrigible Agents [2.6451153531057985]
  我々は,複数段階の部分的に観察された環境において,検証可能な保証を付与し,適応性のための最初の実装可能なフレームワークを紹介した。 私たちのフレームワークは、単一の報酬を5つの*構造的に分離された*ユーティリティヘッドに置き換えます。 敵がエージェントを修正できるオープンエンド設定では、任意のポストハックエージェントが調整性に反するかどうかを判断することは不可能である。
  論文  参考訳（メタデータ） (2025-07-28T16:19:25Z)
• Pixel-level Certified Explanations via Randomized Smoothing [87.48628403354351]
  ポストホック属性法は, 入力画素を強調することにより, 深層学習の予測を説明することを目的としている。 小さい、知覚不能な入力摂動は、同じ予測を維持しながら、属性マップを劇的に変更することができる。 ブラックボックス属性法における画素レベルのロバスト性を保証する最初の認証フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-18T14:41:24Z)
• Getting a-Round Guarantees: Floating-Point Attacks on Certified Robustness [19.380453459873298]
  敵の例は、わずかな入力摂動によって機械学習分類器の決定を変更できるため、セキュリティリスクを引き起こす。 これらの保証は、ラウンドエラーを引き起こす浮動小数点表現の制限により無効化可能であることを示す。 この攻撃は、正確な認証保証を持つ線形分類器や、保守的な認証を持つニューラルネットワークに対して実行可能であることを示す。
  論文  参考訳（メタデータ） (2022-05-20T13:07:36Z)
• Box Re-Ranking: Unsupervised False Positive Suppression for Domain Adaptive Pedestrian Detection [70.25977409196449]
  偽陽性は、ドメイン適応型歩行者検出において、ドメインシフトによって引き起こされる最も深刻な問題の1つである。 我々は偽陽性抑圧問題をエレガントにボックス再ランク問題に変換する。 正の正の差分検出を継続することを目的として,ボックス数アライメントを提案する。
  論文  参考訳（メタデータ） (2021-02-01T02:31:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。