論文の概要: A Certified Robustness Framework for Backdoor Poisoning Attacks using $f$-Divergences

• arxiv url: http://arxiv.org/abs/2610.34934v1
• Date: Mon, 26 Oct 2026 07:01:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.779263
• Title: A Certified Robustness Framework for Backdoor Poisoning Attacks using $f$-Divergences
• Title（参考訳）: $f$-divergences を用いた屋内毒殺攻撃のための認証ロバストネスフレームワーク
• Abstract要約: 本稿では,複雑な逆制約を表現可能な汎用フレームワークを提案する。 我々のフレームワークは,データサブサンプリングと特徴,ラベル,テストサンプルのノイズを組み合わせて入力をランダム化する。 我々は,一般の$ell_p$-constrained poisoning adversariesの下で,初めてロバスト性を証明し,その枠組みを実験的に実証した。
• 参考スコア（独自算出の注目度）: 7.127816156842457
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Machine learning systems trained on untrusted data are vulnerable to data and backdoor poisoning attacks, in which an adversary corrupts training and test samples to manipulate predictions at inference time. Randomized smoothing yields provable defenses against such attacks, but existing applications to train-time robustness are limited to specific threat models and smoothing mechanisms. We propose a general framework that allows expressing complex adversary constraints on the number of corrupted training examples, feature and label perturbation magnitudes, and test-time corruptions. Our framework randomizes inputs by combining data subsampling with feature, label and test-sample noising. We develop a composable certification procedure based on $f$-divergences that handles arbitrary combinations of threat models and noising strategies, and recovers several prior certification regimes exactly as special cases. We demonstrate our framework experimentally by certifying, for the first time, robustness under general $\ell_p$-constrained poisoning adversaries under bagging with additive Laplace, Gaussian, and Uniform noises.
• Abstract（参考訳）: 信頼できないデータに基づいてトレーニングされた機械学習システムは、データやバックドア毒殺攻撃に対して脆弱であり、敵がトレーニングとテストサンプルを破損させて、推論時に予測を操作する。 ランダム化された平滑化はそのような攻撃に対して証明可能な防御を与えるが、既存の列車時の堅牢性への応用は特定の脅威モデルや平滑化機構に限られる。 本稿では, 破損したトレーニングの例数, 特徴とラベルの摂動の程度, テストタイムの破損数に関する複雑な逆制約を表現できる汎用フレームワークを提案する。 我々のフレームワークは,データサブサンプリングと特徴,ラベル,テストサンプルのノイズを組み合わせて入力をランダム化する。 我々は、脅威モデルとノーミング戦略の任意の組み合わせを扱う$f$-divergencesに基づく構成可能な認証手順を開発し、特別なケースとしていくつかの事前認証制度を復元する。 我々は,付加的なLaplace,Gaussian,Uniformの雑音を付加して,一般の$\ell_p$-constrained poisoningの敵に対して強靭性を示すことによって,我々の枠組みを実験的に実証した。

関連論文リスト

• Prompt Injection Detection for Email Agents Through Attack Chain Modeling [1.0195618602298682]
  大規模言語モデル電子メールアシスタントは特に間接的なインジェクションに対して脆弱である。 本稿では,テキスト検出器,各ステージ固有の検証器,明示的なルールベースのリスク信号,ユーザ意図と行動整合性の分析,ロジスティックな決定ポリシを組み合わせることで,この攻撃チェーンをモデル化する検出フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-09-25T00:51:56Z)
• Provable Robustness against Backdoor Attacks via the Primal-Dual Perspective on Differential Privacy [51.758416625168]
  ランダムな平滑化は、敵の摂動に対する堅牢性を証明するための強力なツールである。 本稿では,複雑な構成機構の認証のためのフレームワークを提案する。 複雑な脅威モデル下での堅牢性を証明するために複合メカニズムを使用するための原則的で一般的なフレームワークを提供する。
  論文  参考訳（メタデータ） (2026-05-20T22:17:29Z)
• Defending Quantum Classifiers against Adversarial Perturbations through Quantum Autoencoders [2.37685358666088]
  量子オートエンコーダは、再構成によって敵のサンプルを浄化するために用いられる。 我々のフレームワークは、敵攻撃下での予測精度(最大68%)において、最先端を著しく上回る。
  論文  参考訳（メタデータ） (2026-04-30T17:56:40Z)
• Cert-SSB: Toward Certified Sample-Specific Backdoor Defense [11.881041521642405]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 ハッカーはトレーニングデータのごく一部を操作して、隠れたバックドアをモデルに埋め込む。 本稿では, Cert- SSB と呼ばれる, サンプル固有のバックドア防御手法を提案する。
  論文  参考訳（メタデータ） (2025-04-30T15:21:25Z)
• FullCert: Deterministic End-to-End Certification for Training and Inference of Neural Networks [62.897993591443594]
  FullCertは、音と決定論的境界を持つ最初のエンドツーエンドの認証器である。 2つのデータセットに対してFullCertの有効性を実験的に示す。
  論文  参考訳（メタデータ） (2024-06-17T13:23:52Z)
• Unlearning Backdoor Threats: Enhancing Backdoor Defense in Multimodal Contrastive Learning via Local Token Unlearning [49.242828934501986]
  マルチモーダルコントラスト学習は高品質な機能を構築するための強力なパラダイムとして登場した。 バックドア攻撃は 訓練中に モデルに 悪意ある行動を埋め込む 我々は,革新的なトークンベースの局所的忘れ忘れ学習システムを導入する。
  論文  参考訳（メタデータ） (2024-03-24T18:33:15Z)
• G$^2$uardFL: Safeguarding Federated Learning Against Backdoor Attacks through Attributed Client Graph Clustering [116.4277292854053]
  Federated Learning (FL)は、データ共有なしで協調的なモデルトレーニングを提供する。 FLはバックドア攻撃に弱いため、有害なモデル重みがシステムの整合性を損なう。 本稿では、悪意のあるクライアントの識別を属性グラフクラスタリング問題として再解釈する保護フレームワークであるG$2$uardFLを提案する。
  論文  参考訳（メタデータ） (2023-06-08T07:15:04Z)
• Learning and Certification under Instance-targeted Poisoning [49.55596073963654]
  インスタンスターゲット中毒攻撃におけるPAC学習性と認証について検討する。 敵の予算がサンプルの複雑さに比例してスケールすると、PACの学習性と認定が達成可能であることを示す。 実データセット上でのK近傍, ロジスティック回帰, 多層パーセプトロン, 畳み込みニューラルネットワークの堅牢性を実証的に検討する。
  論文  参考訳（メタデータ） (2021-05-18T17:48:15Z)
• Certified Robustness to Label-Flipping Attacks via Randomized Smoothing [105.91827623768724]
  機械学習アルゴリズムは、データ中毒攻撃の影響を受けやすい。 任意の関数に対するランダム化スムージングの統一的なビューを示す。 本稿では,一般的なデータ中毒攻撃に対して,ポイントワイズで確実に堅牢な分類器を構築するための新しい戦略を提案する。
  論文  参考訳（メタデータ） (2020-02-07T21:28:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。