論文の概要: Exact Certification of Data-Poisoning Attacks Using Mixed-Integer Programming

• arxiv url: http://arxiv.org/abs/2602.16944v1
• Date: Wed, 18 Feb 2026 23:18:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-20 15:21:28.509573
• Title: Exact Certification of Data-Poisoning Attacks Using Mixed-Integer Programming
• Title（参考訳）: Mixed-Integer Programming を用いたデータポジショニング攻撃の厳密な認証
• Authors: Philip Sosnin, Jodie Knapp, Fraser Kennedy, Josh Collyer, Calvin Tsay,
• Abstract要約: 我々は,1つの混合整数二次計画法(MIQCP)問題において,逆データ操作,モデルトレーニング,テスト時間評価を定式化する。 提案された定式化のグローバルな最適性を見出すことは、最悪の場合の毒殺攻撃を確実に引き起こす。 我々のフレームワークは、勾配に基づくトレーニングのダイナミクスとテスト時のモデル評価の両方をエンコードし、トレーニング時の堅牢性の最初の正確な認証を可能にします。
• 参考スコア（独自算出の注目度）: 2.5526950745993013
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This work introduces a verification framework that provides both sound and complete guarantees for data poisoning attacks during neural network training. We formulate adversarial data manipulation, model training, and test-time evaluation in a single mixed-integer quadratic programming (MIQCP) problem. Finding the global optimum of the proposed formulation provably yields worst-case poisoning attacks, while simultaneously bounding the effectiveness of all possible attacks on the given training pipeline. Our framework encodes both the gradient-based training dynamics and model evaluation at test time, enabling the first exact certification of training-time robustness. Experimental evaluation on small models confirms that our approach delivers a complete characterization of robustness against data poisoning.
• Abstract（参考訳）: この研究は、ニューラルネットワークトレーニング中にデータ中毒攻撃の健全性と完全な保証を提供する検証フレームワークを導入している。 我々は,1つの混合整数二次計画法(MIQCP)問題において,逆データ操作,モデルトレーニング,テスト時間評価を定式化する。 提案した定式化のグローバルな最適性を見いだすと、最悪の場合の毒殺攻撃が発生し、同時に、与えられたトレーニングパイプラインに対する全ての攻撃の有効性を拘束する。 我々のフレームワークは、勾配に基づくトレーニングのダイナミクスとテスト時のモデル評価の両方をエンコードし、トレーニング時の堅牢性の最初の正確な認証を可能にします。 小型モデルを用いた実験により,本手法がデータ中毒に対するロバスト性を完全に評価できることが確認された。

関連論文リスト

• MIBP-Cert: Certified Training against Data Perturbations with Mixed-Integer Bilinear Programs [50.41998220099097]
  トレーニング中のデータエラー、汚職、中毒攻撃は、現代のAIシステムの信頼性に大きな脅威をもたらす。 混合整数双線形プログラミング(MIBP)に基づく新しい認証手法MIBP-Certを紹介する。 摂動データや操作データを通じて到達可能なパラメータの集合を計算することで、可能なすべての結果を予測することができ、堅牢性を保証することができる。
  論文  参考訳（メタデータ） (2024-12-13T14:56:39Z)
• FullCert: Deterministic End-to-End Certification for Training and Inference of Neural Networks [62.897993591443594]
  FullCertは、音と決定論的境界を持つ最初のエンドツーエンドの認証器である。 2つのデータセットに対してFullCertの有効性を実験的に示す。
  論文  参考訳（メタデータ） (2024-06-17T13:23:52Z)
• HINT: Healthy Influential-Noise based Training to Defend against Data Poisoning Attacks [12.929357709840975]
  本研究では,影響関数に基づくデータ中毒攻撃を効果的かつ堅牢に防ぐためのトレーニング手法を提案する。 影響関数を用いて、有害な攻撃に対する分類モデルを強化するのに役立つ健全なノイズを創出する。 実験の結果,HINTは非標的および標的の毒殺攻撃の効果に対して,ディープラーニングモデルを効果的に保護できることが示唆された。
  論文  参考訳（メタデータ） (2023-09-15T17:12:19Z)
• On the Robustness of Random Forest Against Untargeted Data Poisoning: An Ensemble-Based Approach [42.81632484264218]
  機械学習モデルでは、トレーニングセット(中毒)の分画の摂動が、モデルの精度を著しく損なう可能性がある。 本研究の目的は、ランダムな森林を標的のない無作為な毒殺攻撃から保護する、新しいハッシュベースのアンサンブルアプローチを実現することである。
  論文  参考訳（メタデータ） (2022-09-28T11:41:38Z)
• Accumulative Poisoning Attacks on Real-time Data [56.96241557830253]
  我々は、よく設計されたが簡単な攻撃戦略が、中毒効果を劇的に増幅できることを示します。 我々の研究は、よく設計されたが簡単な攻撃戦略が、中毒効果を劇的に増幅できることを検証する。
  論文  参考訳（メタデータ） (2021-06-18T08:29:53Z)
• How Robust are Randomized Smoothing based Defenses to Data Poisoning? [66.80663779176979]
  我々は、トレーニングデータの品質の重要性を強調する堅牢な機械学習モデルに対して、これまで認識されていなかった脅威を提示します。 本稿では,二段階最適化に基づく新たなデータ中毒攻撃法を提案し,ロバストな分類器のロバスト性を保証する。 我々の攻撃は、被害者が最先端のロバストな訓練方法を用いて、ゼロからモデルを訓練しても効果的である。
  論文  参考訳（メタデータ） (2020-12-02T15:30:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。