論文の概要: Adversarial Benchmarks and BenchDoor Attacks: Exploiting Benchmark Incentives for Backdoor Attacks

• arxiv url: http://arxiv.org/abs/2610.27533v1
• Date: Tue, 20 Oct 2026 02:49:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.592846
• Title: Adversarial Benchmarks and BenchDoor Attacks: Exploiting Benchmark Incentives for Backdoor Attacks
• Title（参考訳）: Adversarial BenchmarksとBenchDoor攻撃: バックドア攻撃に対するベンチマークインセンティブを爆発させる
• Abstract要約: データ中毒攻撃の家族であるBenchDoorを紹介します。 BenchDoorは、バックドアを埋め込むデータの採用を促進するベンチマークゲインを必要とする。 書き換えテスト例のトレーニングや類似性に基づく除染の適用を含む,5つの攻撃シナリオを形式化する。
• 参考スコア（独自算出の注目度）: 11.777707789485175
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine learning benchmarks act as guideposts for model development and spur the creation of training datasets intended to improve benchmark scores. We introduce BenchDoor, a family of data poisoning attacks that exploits this incentive. Beyond preserving benign performance, BenchDoor requires benchmark gains that encourage adoption of data that also implants a backdoor. The adversary either manipulates a benchmark's training or test data, creating an adversarial benchmark, or supplies an independent training dataset while leaving the benchmark unchanged. We formalize five attack scenarios, including training on rewritten test examples and applying similarity-based decontamination. Across multiple-choice Q&A, text classification, and open-ended Q&A with Qwen and Gemma models, BenchDoor achieves positive benchmark gains for all 30 evaluated configurations, with held-out attack success rates of 82.33% to 100.00% at poisoning rates of 2% to 10%. Both objectives remain achievable after synthetic data generation and similarity-based decontamination, with attack success rates of at least 90.33%. These findings show how benchmarks can serve as attack vectors both through their own data and through training resources that deliver improvements on them.
• Abstract（参考訳）: 機械学習ベンチマークは、モデル開発のためのガイドポストとして機能し、ベンチマークスコアを改善するためのトレーニングデータセットの作成を促進する。 我々は、このインセンティブを利用するデータ中毒攻撃のファミリーであるBenchDoorを紹介します。 BenchDoorは、良質なパフォーマンスを保ちながら、バックドアを埋め込むデータの採用を促進するベンチマークゲインを必要としている。 相手は、ベンチマークのトレーニングデータやテストデータを操作し、相手のベンチマークを作成するか、あるいは、ベンチマークをそのままにして独立したトレーニングデータセットを提供する。 書き換えテスト例のトレーニングや類似性に基づく除染の適用を含む,5つの攻撃シナリオを形式化する。 複数選択のQ&A、テキスト分類、QwenとGemmaモデルによるオープンエンドのQ&Aを通じて、BenchDoorは、評価された30の構成すべてに対してポジティブなベンチマークを達成し、攻撃成功率は82.33%から100.00%で、毒殺率は2%から10%である。 どちらの目的も、合成データ生成と類似性に基づく除染の後に達成可能であり、攻撃成功率は少なくとも90.33%である。 これらの結果は、ベンチマークが自身のデータと、改善を提供するトレーニングリソースの両方を通じて、アタックベクターとして機能する方法を示している。

関連論文リスト

• Do Defenses Against LLM Extraction Work Across Attacks? A Lifecycle Benchmark of Black-Box Model Extraction [14.22426661079991]
  6つの抽出攻撃、10つの防御攻撃、2つの適応攻撃を含む統一されたベンチマークを導入する。 ベンチマークは、モデル構成、クエリデータ、予算、各比較内でのホールドアウト評価条件を制御する。 我々は,サロゲート能力,被害者に対する忠実度,Rep-4を用いた出力品質,クエリ予算感度を測定した。
  論文  参考訳（メタデータ） (2026-09-30T23:51:54Z)
• When AI Benchmarks Plateau: A Systematic Study of Benchmark Saturation [80.66788281323414]
  主要モデル開発者のテクニカルレポートから選択した60のLarge Language Model (LLM)ベンチマークのベンチマーク飽和を分析した。 分析の結果、ベンチマークのほぼ半数が飽和しており、ベンチマークの年齢とともに上昇していることがわかった。 専門家によるベンチマークは、クラウドソースのベンチマークよりも飽和に抵抗する。
  論文  参考訳（メタデータ） (2026-02-18T16:51:37Z)
• Tree Boosting Methods for Balanced andImbalanced Classification and their Robustness Over Time in Risk Assessment [0.10925516251778125]
  XGBoostのようなツリーベースのメソッドは、検出性能と速度のために、いくつかのベンチマークで際立っている。 開発した手法は、トレーニングのためにより多くのデータが与えられることにより、認識性能を向上させる。 正値と負値で割った正値の比率によって決定される精度-リコールの基準線よりも、依然としてかなり優れている。
  論文  参考訳（メタデータ） (2025-04-25T07:35:38Z)
• Long-Tailed Backdoor Attack Using Dynamic Data Augmentation Operations [50.1394620328318]
  既存のバックドア攻撃は主にバランスの取れたデータセットに焦点を当てている。 動的データ拡張操作(D$2$AO)という効果的なバックドア攻撃を提案する。 本手法は,クリーンな精度を維持しつつ,最先端の攻撃性能を実現することができる。
  論文  参考訳（メタデータ） (2024-10-16T18:44:22Z)
• Protecting Model Adaptation from Trojans in the Unlabeled Data [120.42853706967188]
  本稿では,よく設計された毒物標的データによるモデル適応に対するトロイの木馬攻撃の可能性について検討する。 本稿では,既存の適応アルゴリズムとシームレスに統合可能なDiffAdaptというプラグイン・アンド・プレイ手法を提案する。
  論文  参考訳（メタデータ） (2024-01-11T16:42:10Z)
• Outlier Robust Adversarial Training [57.06824365801612]
  本研究では,アウトリー・ロバスト・アドバイザリアル・トレーニング(ORAT)を紹介する。 ORATは、強靭なランクに基づく損失関数を持つ対向訓練の2レベル最適化の定式化に基づいている。 ORATの学習目的はバイナリ分類における$mathcalH$-consistencyを満たすことが示され、これは敵の0/1損失に対する適切なサロゲートとして確立されている。
  論文  参考訳（メタデータ） (2023-09-10T21:36:38Z)
• A Unified Evaluation of Textual Backdoor Learning: Frameworks and Benchmarks [72.7373468905418]
  我々は,テキストバックドア学習の実装と評価を促進するオープンソースツールキットOpenBackdoorを開発した。 また,単純なクラスタリングに基づく防御ベースラインであるCUBEを提案する。
  論文  参考訳（メタデータ） (2022-06-17T02:29:23Z)
• Identifying a Training-Set Attack's Target Using Renormalized Influence Estimation [11.663072799764542]
  本研究は、特定のテストインスタンスがトレーニングセットアタックのターゲットであるかどうかを判定するターゲット識別タスクを提案する。 単一の攻撃方法やデータモダリティではなく、各トレーニングインスタンスのモデル予測への貢献度を定量化するインフルエンス推定に基づいて構築する。
  論文  参考訳（メタデータ） (2022-01-25T02:36:34Z)
• Incompatibility Clustering as a Defense Against Backdoor Poisoning Attacks [4.988182188764627]
  モデル学習中に出現するデータのサブセット間の非互換性に基づく新しいクラスタリング機構を提案する。 このメカニズムはデータセットを自身にのみ一般化するサブセットに分割する。 攻撃者はトレーニングデータセットに悪意のあるデータを注入し、トレーニングされたモデルの出力に影響を与える。
  論文  参考訳（メタデータ） (2021-05-08T13:01:42Z)
• How Robust are Randomized Smoothing based Defenses to Data Poisoning? [66.80663779176979]
  我々は、トレーニングデータの品質の重要性を強調する堅牢な機械学習モデルに対して、これまで認識されていなかった脅威を提示します。 本稿では,二段階最適化に基づく新たなデータ中毒攻撃法を提案し,ロバストな分類器のロバスト性を保証する。 我々の攻撃は、被害者が最先端のロバストな訓練方法を用いて、ゼロからモデルを訓練しても効果的である。
  論文  参考訳（メタデータ） (2020-12-02T15:30:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。