論文の概要: Online AutoML: Evaluating Poisoning Attacks on Adversarial Training Defense Strategy in IoT Networks

• arxiv url: http://arxiv.org/abs/2610.05810v1
• Date: Mon, 05 Oct 2026 05:05:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 04:11:50.143946
• Title: Online AutoML: Evaluating Poisoning Attacks on Adversarial Training Defense Strategy in IoT Networks
• Title（参考訳）: オンラインAutoML:IoTネットワークにおける敵のトレーニング防衛戦略に対する攻撃評価
• Abstract要約: ストリーミング環境では、データストリームの入力に基づいてモデルが永久に更新されるため、中毒攻撃は重大なリスクを引き起こす。 本研究の目的は、IoT(Internet of Things)ネットワークのためのオンラインAutoMLパイプラインを用いて、有害な攻撃(ラベルフリップとノイズ注入)に対する敵の訓練アプローチの有効性を評価することである。
• 参考スコア（独自算出の注目度）: 4.127363880327862
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Machine learning (ML)-powered poisoning attack vectors are adversarial maneuvers whereby an attacker intentionally inserts, corrupts, or alters training data to distort an ML model's learning process. The objective is to diminish model efficacy, instill biases, induce misclassifications, or include concealed backdoors that may be attacked during implementation. In streaming contexts, poisoning attacks pose significant risks since models perpetually update based on incoming streams of data. An assailant may incrementally introduce harmful samples into this data stream, leading the model to assimilate erroneous features over time without timely identification. Therefore, this study is aimed at evaluating the efficacy of the adversarial training (AT) defense approach against poisoning attacks (label flip and noise injection) using an online AutoML pipeline for Internet of Things (IoT) networks. Specifically, poisoning attacks (label flip and noise injection) were applied to streaming-capable AutoML learners (Hoeffding Tree (HT), Leveraging Bagging (LB), Adaptive Random Forest (ARF), Hoeffding Adaptive Tree (HAT), and Streaming Random Patches (SRP)). Under the strongest poisoning rate (PR = 1.0), AT-SRP achieved the highest F1-score against label flip poisoning (0.904), while AT-LB achieved the highest F1-score against noise-injection poisoning (0.933). Finally, several drift detection methods were used for rolling accuracy and prequential evaluation.
• Abstract（参考訳）: 機械学習(ML)を利用した中毒攻撃ベクトルは、攻撃者が意図的に機械学習モデルの学習プロセスを歪ませるためにトレーニングデータを挿入、破損、あるいは変更する敵の操作である。 目的は、モデルの有効性を減らし、バイアスを注入し、誤分類を誘発し、あるいは実装中に攻撃される可能性のある隠されたバックドアを含めることである。 ストリーミング環境では、データストリームの入力に基づいてモデルが永久に更新されるため、中毒攻撃は重大なリスクを引き起こす。 攻撃者は、このデータストリームに有害なサンプルを漸進的に導入し、タイムリーな識別なしに、間違った特徴を時間の経過とともに同化させる。 そこで本研究では,モノのインターネット(IoT)ネットワークのためのオンラインAutoMLパイプラインを用いて,有害な攻撃(ラベルフリップとノイズ注入)に対する対戦訓練(AT)防御アプローチの有効性を評価することを目的とした。 具体的には、ストリーミング可能なAutoML学習者(Hoeffding Tree (HT)、Levanging Bagging (LB)、Adaptive Random Forest (ARF)、Hoeffding Adaptive Tree (HAT)、Streaming Random Patches (SRP))に適用した。 AT-SRPはラベルフリップ中毒(0.904)に対して最高F1スコアを達成し、AT-LBはノイズ注入中毒(0.933)に対して最高F1スコアを達成した。 最後に, 転がり精度と精度評価にいくつかのドリフト検出法が用いられた。

関連論文リスト

• Evasion Attacks on Cost-Utility-Based Adversarial Training for Online AutoML in IoT Networks [3.7781558821014394]
  本研究は,IoTネットワークのオンラインAutoMLコンテキストにおいて,ブラックボックス回避攻撃が費用対効果に基づく敵の防御戦略に与える影響を評価する。 具体的には,Hoeffding Tree (HT), Leveraging Bagging (LB), Streaming Random Patches (SRP), Hoeffding Adaptive Tree (HAT), Adaptive Random Forest (ARF)などのオンライン学習者に対して,回避攻撃を適用した。
  論文  参考訳（メタデータ） (2026-09-25T20:37:12Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)
• FreqFed: A Frequency Analysis-Based Approach for Mitigating Poisoning Attacks in Federated Learning [98.43475653490219]
  フェデレート・ラーニング(Federated Learning, FL)は、毒素による攻撃を受けやすい。 FreqFedは、モデルの更新を周波数領域に変換する新しいアグリゲーションメカニズムである。 FreqFedは, 凝集モデルの有用性に悪影響を及ぼすことなく, 毒性攻撃を効果的に軽減できることを実証した。
  論文  参考訳（メタデータ） (2023-12-07T16:56:24Z)
• Exploring Model Dynamics for Accumulative Poisoning Discovery [62.08553134316483]
  そこで我々は,モデルレベルの情報を通して,防衛を探索するための新しい情報尺度,すなわち,記憶の離散性(Memorization Discrepancy)を提案する。 暗黙的にデータ操作の変更をモデル出力に転送することで、メモリ識別は許容できない毒のサンプルを発見することができる。 我々は、その性質を徹底的に探求し、累積中毒に対する防御のために、離散型サンプル補正(DSC)を提案する。
  論文  参考訳（メタデータ） (2023-06-06T14:45:24Z)
• Accumulative Poisoning Attacks on Real-time Data [56.96241557830253]
  我々は、よく設計されたが簡単な攻撃戦略が、中毒効果を劇的に増幅できることを示します。 我々の研究は、よく設計されたが簡単な攻撃戦略が、中毒効果を劇的に増幅できることを検証する。
  論文  参考訳（メタデータ） (2021-06-18T08:29:53Z)
• How Robust are Randomized Smoothing based Defenses to Data Poisoning? [66.80663779176979]
  我々は、トレーニングデータの品質の重要性を強調する堅牢な機械学習モデルに対して、これまで認識されていなかった脅威を提示します。 本稿では,二段階最適化に基づく新たなデータ中毒攻撃法を提案し,ロバストな分類器のロバスト性を保証する。 我々の攻撃は、被害者が最先端のロバストな訓練方法を用いて、ゼロからモデルを訓練しても効果的である。
  論文  参考訳（メタデータ） (2020-12-02T15:30:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。