論文の概要: Everyone's a little bit racist: a novel ML backdoor attack in black-box mode

• arxiv url: http://arxiv.org/abs/2610.22459v2
• Date: Mon, 19 Oct 2026 11:48:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 06:32:45.323386
• Title: Everyone's a little bit racist: a novel ML backdoor attack in black-box mode
• Title（参考訳）: MLがブラックボックスモードでバックドアを攻撃!(動画あり)
• Abstract要約: 我々は、バックドアをインストールする代わりに、すでにある振る舞いを生かした潜在二次タスクとして、モデルに依存しない完全なブラックボックス技術であるBackdoor-as-a-Serviceを紹介した。 本ツールでは, 学習データやアーキテクチャ, 重みを変更することなく, 攻撃者が定義したタスクに整合した系統的な出力差を誘発する入力変換を遺伝的検索により検出する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Backdoors are among the most impactful attacks against Machine Learning (ML), yet most existing methods assume some form of training-time poisoning or direct model manipulation. This is often considered sufficient to assume that existing systems are not exposed to actual risks. In this paper, we introduce Backdoor-as-a-Service, a model-agnostic, fully black-box technique that, instead of installing a backdoor, activates it in the form of a latent secondary task leveraging on an already present behavior. Our tool uses genetic search to discover input transformations that induce systematic output differences aligned with an attacker-defined task, without modifying training data, architecture, or weights. We verify our approach against two targets. First, we target a MNIST digits classifier that we coerce into implementing a binary letter-recognition task. Then, we attack a production-grade NSFW classifier using face-specific perturbations to turn it into a proxy for demographic-group classification. In both cases, our method successfully enables the target backdoor. Finally, we discuss the existing countermeasures to assess the actual risk for the deployed systems.
• Abstract（参考訳）: バックドアは機械学習(ML)に対する最も影響力のある攻撃の1つだが、既存のほとんどの手法ではトレーニング時中毒や直接モデル操作を前提としている。 これは、既存のシステムが実際のリスクにさらされていないと仮定するのに十分であると考えられていることが多い。 本稿では,モデルに依存しない完全ブラックボックス技術であるBackdoor-as-a-Serviceを紹介する。 本ツールでは, 学習データやアーキテクチャ, 重みを変更することなく, 攻撃者が定義したタスクに整合した系統的な出力差を誘発する入力変換を遺伝的検索により検出する。 私たちは2つの目標に対してアプローチを検証する。 まず、二進文字認識タスクを実装するMNIST桁分類器を目標とする。 そこで,本研究では,顔固有の摂動を用いた生産段階のNSFW分類器を攻撃し,人口集団分類のプロキシにする。 どちらの場合も,本手法はターゲットのバックドアを効果的に実現している。 最後に,デプロイシステムの実際のリスクを評価するための既存の対策について論じる。

関連論文リスト

• Data Free Backdoor Attacks [83.10379074100453]
  DFBAは、モデルアーキテクチャを変更することなく、リトレーニングフリーでデータフリーのバックドア攻撃である。 我々の注入されたバックドアは、様々な最先端の防御策によって、検出不可能で、検出不能であることを確認した。 複数のデータセットに対する評価では,1) 無視可能な分類損失,2) 攻撃成功率,3) 既存の6つの防御を回避している。
  論文  参考訳（メタデータ） (2024-12-09T05:30:25Z)
• PBP: Post-training Backdoor Purification for Malware Classifiers [5.112004957241861]
  近年、サイバーセキュリティにおける機械学習(ML)の台頭は、バックドア中毒の脅威の増加など、新たな課題をもたらしている。 ここでは,特定のバックドア埋め込み機構を仮定することなく,様々な種類のバックドア埋め込みを緩和するマルウェア分類器の訓練後防御であるPBPを紹介する。 提案手法は,2つのデータセット,2種類のバックドア手法,各種攻撃構成の実験により実証された,最先端の手法に対する大きな優位性を示す。
  論文  参考訳（メタデータ） (2024-12-04T16:30:03Z)
• Exploiting the Vulnerability of Large Language Models via Defense-Aware Architectural Backdoor [0.24335447922683692]
  基盤となるモデルアーキテクチャ内に隠蔽する新しいタイプのバックドアアタックを導入します。 モデルアーキテクチャレイヤのアドオンモジュールは、入力トリガトークンの存在を検出し、レイヤの重みを変更することができる。 我々は,5つの大言語データセットの2つのモデルアーキテクチャ設定を用いて,攻撃方法を評価するための広範囲な実験を行った。
  論文  参考訳（メタデータ） (2024-09-03T14:54:16Z)
• Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアアタックは、訓練段階の脅威を脅かしている。 軽度で目に見えないバックドアアタック(SIBA)を提案する。
  論文  参考訳（メタデータ） (2023-05-11T10:05:57Z)
• Check Your Other Door! Establishing Backdoor Attacks in the Frequency Domain [80.24811082454367]
  検出不能で強力なバックドア攻撃を確立するために周波数領域を利用する利点を示す。 また、周波数ベースのバックドア攻撃を成功させる2つの防御方法と、攻撃者がそれらを回避できる可能性を示す。
  論文  参考訳（メタデータ） (2021-09-12T12:44:52Z)
• Black-box Detection of Backdoor Attacks with Limited Information and Data [56.0735480850555]
  モデルへのクエリアクセスのみを用いてバックドア攻撃を同定するブラックボックスバックドア検出(B3D)手法を提案する。 バックドア検出に加えて,同定されたバックドアモデルを用いた信頼性の高い予測手法を提案する。
  論文  参考訳（メタデータ） (2021-03-24T12:06:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。