論文の概要: Clustering Unsupervised Representations as Defense against Poisoning Attacks on Speech Commands Classification System

• arxiv url: http://arxiv.org/abs/2606.28953v1
• Date: Sat, 27 Jun 2026 14:51:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:15.739134
• Title: Clustering Unsupervised Representations as Defense against Poisoning Attacks on Speech Commands Classification System
• Title（参考訳）: 音声コマンド分類システムにおける中毒対策としての教師なし表現のクラスタリング
• Abstract要約: 音声コマンド分類システムにおける汚泥汚染攻撃シナリオについて考察する。 脅威モデル(英語版)は、クラスの1つの発話がトリガーを重畳することで毒になると仮定する。 我々はそのような攻撃に対してフィルタリング防御を提案する。
• 参考スコア（独自算出の注目度）: 31.128950119385355
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Poisoning attacks entail attackers intentionally tampering with training data. In this paper, we consider a dirty-label poisoning attack scenario on a speech commands classification system. The threat model assumes that certain utterances from one of the classes (source class) are poisoned by superimposing a trigger on it, and its label is changed to another class selected by the attacker (target class). We propose a filtering defense against such an attack. First, we use DIstillation with NO labels (DINO) to learn unsupervised representations for all the training examples. Next, we use K-means and LDA to cluster these representations. Finally, we keep the utterances with the most repeated label in their cluster for training and discard the rest. For a 10% poisoned source class, we demonstrate a drop in attack success rate from 99.75% to 0.25%. We test our defense against a variety of threat models, including different target and source classes, as well as trigger variations.
• Abstract（参考訳）: 毒殺攻撃は、意図的な訓練データで攻撃者を改ざんさせる。 本稿では,音声コマンド分類システムにおける汚泥汚染攻撃シナリオについて考察する。 脅威モデルは、あるクラス(ソースクラス)の特定の発話がトリガーを重畳することで毒を盛られ、そのラベルが攻撃者(ターゲットクラス)によって選択された別のクラスに変更されると仮定する。 我々はそのような攻撃に対してフィルタリング防御を提案する。 まず,NOラベル付きDistillation(DINO)を用いて,教師なし表現を学習する。 次に、K-meansとLDAを使ってこれらの表現をクラスタ化する。 最後に、トレーニングと残りを破棄するために、クラスタ内で最も繰り返されるラベルで発話を保持します。 10%の毒ソースクラスでは、攻撃の成功率が99.75%から0.25%に低下していることを示す。 私たちは、さまざまなターゲットやソースクラスを含むさまざまな脅威モデルに対する防御をテストし、バリエーションをトリガーします。

関連論文リスト

• Wicked Oddities: Selectively Poisoning for Effective Clean-Label Backdoor Attacks [11.390175856652856]
  クリーンラベル攻撃は、毒性のあるデータのラベルを変更することなく攻撃を行うことができる、よりステルスなバックドア攻撃である。 本研究は,攻撃成功率を高めるために,標的クラス内の少数の訓練サンプルを選択的に毒殺する方法について検討した。 私たちの脅威モデルは、サードパーティのデータセットで機械学習モデルをトレーニングする上で深刻な脅威となる。
  論文  参考訳（メタデータ） (2024-07-15T15:38:21Z)
• SEEP: Training Dynamics Grounds Latent Representation Search for Mitigating Backdoor Poisoning Attacks [53.28390057407576]
  現代のNLPモデルは、様々なソースから引き出された公開データセットでしばしば訓練される。 データ中毒攻撃は、攻撃者が設計した方法でモデルの振る舞いを操作できる。 バックドア攻撃に伴うリスクを軽減するために、いくつかの戦略が提案されている。
  論文  参考訳（メタデータ） (2024-05-19T14:50:09Z)
• Certified Robustness to Clean-Label Poisoning Using Diffusion Denoising [56.04951180983087]
  我々は、$ell$-normの条件で、クリーンラベル毒殺攻撃に対する認証された防御を提示する。 $randomized$$smoothingによって達成された対向的堅牢性に触発されて、オフザシェルフ拡散復調モデルが、改ざんしたトレーニングデータの衛生化をいかに行うかを示す。
  論文  参考訳（メタデータ） (2024-03-18T17:17:07Z)
• Universal Backdoor Attacks [35.62950737977423]
  Webスクレイプデータセットは、データ中毒に対して脆弱である。 バックドアアタックは、モデルによって学習されたどのクラスよりも、特定のクラスをターゲットにすることが多い。 任意のソースクラスから任意のターゲットクラスへの誤分類を制御する普遍的なデータ中毒攻撃が存在することを示す。
  論文  参考訳（メタデータ） (2023-11-30T19:37:47Z)
• Silent Killer: A Stealthy, Clean-Label, Black-Box Backdoor Attack [10.047470656294335]
  我々は、クリーンラベルでブラックボックスの設定で動作する新しい攻撃であるSilent Killerを紹介します。 クリーンラベル攻撃の引き金としてユニバーサル・逆境摂動を用いた場合について検討する。 高い成功率を確保するためには、毒を製造するための勾配調整が必要である。
  論文  参考訳（メタデータ） (2023-01-05T15:11:05Z)
• Narcissus: A Practical Clean-Label Backdoor Attack with Limited Information [22.98039177091884]
  クリーンラベル」バックドア攻撃には、トレーニングセット全体の知識が必要である。 本稿では,対象クラスの代表例の知識のみに基づいて,クリーンラベルバックドア攻撃をマウントするアルゴリズムを提案する。 私たちの攻撃は、物理的な世界にトリガーが存在する場合でも、データセットやモデル間でうまく機能します。
  論文  参考訳（メタデータ） (2022-04-11T16:58:04Z)
• What Doesn't Kill You Makes You Robust(er): Adversarial Training against Poisons and Backdoors [57.040948169155925]
  敵対的なトレーニングフレームワークを拡張し、(訓練時間)中毒やバックドア攻撃から防御します。 本手法は, トレーニング中に毒を発生させ, トレーニングバッチに注入することにより, ネットワークを中毒の影響に敏感化する。 この防御は、適応攻撃に耐え、多様な脅威モデルに一般化し、以前の防御よりも優れた性能のトレードオフをもたらすことを示す。
  論文  参考訳（メタデータ） (2021-02-26T17:54:36Z)
• Poisoned classifiers are not only backdoored, they are fundamentally broken [84.67778403778442]
  一般的に研究されている、分類モデルに対するバックドア中毒攻撃の下で、攻撃者はトレーニングデータのサブセットに小さなトリガーを追加する。 毒を盛った分類器は、引き金を持つ敵のみに弱いと推定されることが多い。 本稿では,このバックドア型分類器の考え方が誤りであることを実証的に示す。
  論文  参考訳（メタデータ） (2020-10-18T19:42:44Z)
• Witches' Brew: Industrial Scale Data Poisoning via Gradient Matching [56.280018325419896]
  Data Poisoning攻撃は、トレーニングデータを変更して、そのようなデータでトレーニングされたモデルを悪意を持って制御する。 我々は「スクラッチから」と「クリーンラベルから」の両方である特に悪意のある毒物攻撃を分析します。 フルサイズで有毒なImageNetデータセットをスクラッチからトレーニングした現代のディープネットワークにおいて、ターゲットの誤分類を引き起こすのは、これが初めてであることを示す。
  論文  参考訳（メタデータ） (2020-09-04T16:17:54Z)
• Towards Class-Oriented Poisoning Attacks Against Neural Networks [1.14219428942199]
  機械学習システムに対する攻撃は、トレーニングデータセットに悪意のあるサンプルを意図的に注入することで、モデルのパフォーマンスを損なう。 そこで本研究では, 破損したモデルに対して, 2つの特定の予測を強制的に行うクラス指向中毒攻撃を提案する。 逆効果の最大化と、有毒なデータ生成の計算複雑性の低減を図るため、勾配に基づくフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-07-31T19:27:37Z)
• Tricking Adversarial Attacks To Fail [0.05076419064097732]
  私たちのホワイトボックスの防御トリックは、指定されたターゲットクラスをターゲットにした攻撃になるための未然の攻撃です。 私たちのターゲットトレーニングディフェンスは、未目標の勾配ベースの敵攻撃のコアでの最小化をトリックします。
  論文  参考訳（メタデータ） (2020-06-08T12:22:07Z)
• Headless Horseman: Adversarial Attacks on Transfer Learning Models [69.13927986055553]
  我々はそのような分類器に対する移動可能な敵攻撃のファミリーを提示する。 まず,テキストのみの特徴抽出器を用いて,被害者ネットワークへの転送攻撃に成功した。 これはラベルブラインド敵攻撃の導入を動機付けている。 我々の攻撃は、CIFAR10でトレーニングされたResNet18の精度を40%以上下げる。
  論文  参考訳（メタデータ） (2020-04-20T01:07:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。