論文の概要: Rethinking Backdoor Repair Evaluation: Distinguishing Aggregate Clean Utility from Benign Performance Preservation

• arxiv url: http://arxiv.org/abs/2609.25579v1
• Date: Tue, 22 Sep 2026 02:18:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-23 18:04:04.17797
• Title: Rethinking Backdoor Repair Evaluation: Distinguishing Aggregate Clean Utility from Benign Performance Preservation
• Title（参考訳）: 後方補修評価の再考 : 良質な性能保存から集合的クリーンな実用性を排除
• Abstract要約: バックドア修復は、良質なタスク性能を維持しながら、妥協されたモデルにおける悪意ある振る舞いを抑えることを目的としている。 既存の研究では、攻撃成功率(ASR)と全体的クリーン精度を用いて、これらの目標を評価するのが一般的である。 集合的クリーンユーティリティと従来利用できたクラスレベルの性能の保存とを区別し,保存の観点からの良性評価を再考する。
• 参考スコア（独自算出の注目度）: 9.763546107756204
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Backdoor repair aims to suppress malicious behavior in compromised models while preserving benign task performance. Existing studies typically evaluate these objectives using Attack Success Rate (ASR) and Overall Clean Accuracy, but aggregate clean accuracy can obscure substantial degradation concentrated in a small portion of the label space. We revisit benign-performance evaluation from a preservation perspective by distinguishing aggregate clean utility from the preservation of previously available class-wise performance. We define class-wise preservation loss by comparing clean performance before and after repair and show that aggregation can hide localized degradation through localized-loss dilution and cross-class compensation. To complement Overall Clean Accuracy, we characterize localized preservation loss using Worst-Class Preservation Loss and Tail Preservation Loss. We conduct a systematic empirical study across representative backdoor attacks, repair methods, datasets, attack targets, and model architectures, with additional validation under clean-label attacks. Results show that effective attack suppression and favorable aggregate clean performance do not necessarily imply uniform preservation of previously available benign performance across classes. Substantial localized preservation losses can remain, and their severity and class-wise structure vary across repair conditions. These findings motivate preservation-oriented class-wise evaluation alongside ASR and Overall Clean Accuracy.
• Abstract（参考訳）: バックドア修復は、良質なタスク性能を維持しながら、妥協されたモデルにおける悪意ある振る舞いを抑えることを目的としている。 既存の研究では、これらの目的をASR(Attack Success Rate)と総合的クリーン精度を用いて評価するが、集合的クリーン精度はラベル空間のごく一部に集中して著しく劣化する可能性がある。 集合的クリーンなユーティリティと従来利用できたクラスレベルのパフォーマンスの保存とを区別し,保存の観点からの良質な性能評価を再考する。 修復前後のクリーンな性能を比較し,局所的ロス希釈とクラス間補償による局所的劣化を隠蔽できることを示す。 総合的なクリーンな精度を補完するために,ワーストクラス保存損失とテール保存損失を用いた局所保存損失を特徴付ける。 我々は、代表的なバックドア攻撃、補修方法、データセット、攻撃目標、モデルアーキテクチャにまたがる系統的な実証的研究を行い、クリーンラベル攻撃下でのさらなる検証を行う。 その結果, 有効攻撃抑制と良好な集合的クリーン性能は, クラスごとの良性性能の均一な保存を必ずしも含まないことが明らかとなった。 実質的な局所保存損失は残ることができ、その重症度と階級的構造は修理条件によって異なる。 これらの知見は,ASRおよび総合的クリーン精度とともに,保存指向のクラスワイド評価を動機づけるものである。

関連論文リスト

• SAE Interventions are Unreliable: Post-Intervention Recovery of Suppressed Behavior [38.75847400495247]
  スパースオートエンコーダ(SAE)は残ストリームの活性化を解釈可能な特徴に分解する。 特定の有害な特徴をクランプすることで,モデルの誤動作を確実に防止できることが示唆された。 我々は、この脆弱性を、制約付き残空間最適化問題であるポスト・インターベンション・リカバリ(英語版)として定式化する。
  論文  参考訳（メタデータ） (2026-06-16T15:04:17Z)
• Density-aware Sample-specific Attack [9.323723123910618]
  ベイズ最適モデルに基づく最適なサンプル特異的トリガ構築を特徴付ける原理的基準を導入する。 分析の結果, クリーンデータ分布の低密度領域にトリガサンプルを操り込むと, 攻撃成功とクリーンな保存が同時に最適化されることが判明した。
  論文  参考訳（メタデータ） (2026-05-27T01:02:49Z)
• Physics-Guided Self-Supervised Statistical Residual Learning for Sonar Despeckling with Improved Generalization [1.9371675344367494]
  本文では, ソナー画像復調のための物理インフォームドな自己教師型フレームワークについて紹介する。 エッジ認識型構造正規化と中央誘導型カリキュラム安定化を併用した分散目標統計損失は、保存された構造忠実度による効果的なスペックル抑制を可能にする。
  論文  参考訳（メタデータ） (2026-05-23T20:07:49Z)
• Memory Efficient Full-gradient Attacks (MEFA) Framework for Adversarial Defense Evaluations [6.970407342993016]
  勾配チェックポインティングは、長い軌道を通した正確なエンドツーエンドの計算勾配を実践する。 以前の評価では、メモリの制約によりバックプロパゲーションが近似されることが多い。 精製防御のためのメモリ効率の高いフルグレード評価フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-07T14:35:04Z)
• Observationally Informed Adaptive Causal Experimental Design [55.998153710215654]
  本稿では,観測モデルを基礎的先行として活用する新たなパラダイムであるアクティブ残留学習を提案する。 このアプローチは、実験的な焦点を、目標因果量の学習から、観察バイアスの補正に必要な残差を効率的に推定するへとシフトさせる。 合成および半合成ベンチマークの実験は、R-Designがベースラインを大幅に上回ることを示した。
  論文  参考訳（メタデータ） (2026-03-04T06:52:37Z)
• Benchmarking Corruption Robustness of LVLMs: A Discriminative Benchmark and Robustness Alignment Metric [49.393713730706445]
  汚損の堅牢性を評価するための識別サンプルを強調したベンチマークであるBench-Cを紹介する。 本稿では,ロバストネスアライメントスコア(RAS)を提案する。
  論文  参考訳（メタデータ） (2025-11-24T12:07:56Z)
• Backdoor Unlearning by Linear Task Decomposition [69.91984435094157]
  ファンデーションモデルは、敵の摂動と標的のバックドア攻撃に非常に敏感である。 既存のバックドア除去アプローチは、有害な振る舞いをオーバーライドするために、コストのかかる微調整に依存している。 このことは、バックドアがモデルの一般的な能力を損なうことなく取り除けるかどうかという問題を提起する。
  論文  参考訳（メタデータ） (2025-10-16T16:18:07Z)
• Aurora: Are Android Malware Classifiers Reliable and Stable under Distribution Shift? [51.12297424766236]
  AURORAは、その信頼性と運用上のレジリエンスに基づいて、マルウェア分類器を評価するためのフレームワークである。 AURORAは、ポイント・イン・タイムのパフォーマンスを超えるように設計されたメトリクスのセットによって補完される。 さまざまなドリフトのデータセットにわたるSOTAフレームワークの脆弱性は、ホワイトボードへの復帰の必要性を示唆している。
  論文  参考訳（メタデータ） (2025-05-28T20:22:43Z)
• Adversarial Purification by Consistency-aware Latent Space Optimization on Data Manifolds [48.37843602248313]
  ディープニューラルネットワーク(DNN)は、クリーンデータに知覚不能な摂動を加えることで作られた敵のサンプルに対して脆弱であり、誤った危険な予測につながる可能性がある。 本稿では、事前学習された一貫性モデルの潜在空間内のベクトルを最適化し、クリーンなデータを復元するためのサンプルを生成する、一貫性モデルに基づく適応的パーフィケーション(CMAP)を提案する。 CMAPは、高い自然な精度を維持しながら、強力な敵攻撃に対する堅牢性を著しく向上させる。
  論文  参考訳（メタデータ） (2024-12-11T14:14:02Z)
• On the Vulnerability of Text Sanitization [60.633170315082495]
  テキストの衛生化を目的とした理論的に最適な再構築攻撃を提案する。 衛生性能を評価するためのベンチマークとして, ASR のバウンダリを導出する。 我々の攻撃の1つは、最先端のベースラインよりもASRが46.4%向上したことである。
  論文  参考訳（メタデータ） (2024-10-22T14:31:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。