論文の概要: Evasion Attacks: How Adversarial Noise Bypasses ML Classifiers

• arxiv url: http://arxiv.org/abs/2610.00136v1
• Date: Thu, 10 Sep 2026 01:22:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-05 14:48:16.380454
• Title: Evasion Attacks: How Adversarial Noise Bypasses ML Classifiers
• Title（参考訳）: Evasion Attacks: 敵対的ノイズがML分類をバイパスする方法
• Abstract要約: MNISTで訓練されたコンパクトな畳み込みネットワークは98.63%のクリーンテスト精度に達した。 DistilBERTはSMS Spam Collectionで微調整され、98.75%の精度と94.96%のF1スコアを記録した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper presents a reproducible, educational study of evasion attacks in image classification and text classification. A compact convolutional network trained on MNIST reached 98.63% clean test accuracy and was evaluated under two white-box attacks. Under FGSM, accuracy fell to 60.20% at $ε$ = 0.15 and 1.72% at $ε$ = 0.30; under PGD it fell to 32.47% and 0.41%, and a bit-depth-reduction defense recovered only part of the loss. In the second experiment, DistilBERT fine-tuned on the SMS Spam Collection reached 98.75% accuracy and a 94.96% F1-score, but a controlled sequence of pre-defined perturbations (character substitutions, whitespace noise, and a benign suffix) produced only modest probability shifts in most displayed examples and no flip from spam to ham. Adversarial vulnerability is strongly modality-dependent: the MNIST experiment is a clear evasion demonstration, whereas the text experiment is a controlled robustness evaluation. Robustness must be tested empirically rather than inferred from clean accuracy.
• Abstract（参考訳）: 本稿では,画像分類とテキスト分類における回避攻撃の再現可能な,教育的な研究について述べる。 MNISTで訓練されたコンパクトな畳み込みネットワークは98.63%のクリーンテスト精度に達し、2つのホワイトボックス攻撃で評価された。 FGSMでは、精度は$ε$ = 0.15で60.20%、$ε$ = 0.30で1.72%に低下し、PGDでは32.47%、0.41%に低下した。 第2の実験では、SMS Spam Collectionで微調整されたDistilBERTは、98.75%の精度と94.96%のF1スコアに達したが、事前定義された摂動(文字置換、ホワイトスペースノイズ、良性サフィックス)の制御シーケンスは、ほとんどの表示された例で控えめな確率シフトしか生成せず、スパムからハムへのフリップも行わなかった。 MNIST実験は明確な回避実証であり、テキスト実験は制御された堅牢性評価である。 清潔な正確さから推測されるよりも、経験的にロバスト性をテストする必要がある。

関連論文リスト

• DeBERTa-ConPara: Attack-Aware and Deployment-Realistic Detection of AI-Generated Text [42.255101883505056]
  DeBERTa-ConParaは,HC3 Plus,M4,MAGE,RAIDで学習した文脈変換器エンコーダと,攻撃対応Unicode前処理を組み合わせたデプロイメント指向検出器である。 我々の中心的な発見は、前処理が適用された場所によって反対方向に作用することである。 2つの配置の因子的変化は、正規化推論による生のトレーニングを最高の設定として独立に識別する。 12種類の攻撃クラスのうち、ホモグリーフとゼロ幅空間の挿入は11.05%から1.12%から96.98%に増加した。
  論文  参考訳（メタデータ） (2026-10-01T00:57:33Z)
• Empirical Evaluation of Membership Inference Attacks on NLP Text Classifiers: A Baseline Study on SST-2 [0.0]
  メンバーシップ推論攻撃(MIA)は、モデルをトレーニングするために特定のレコードが使用されたかどうかを判断しようとする。 本稿では,GLUE SST-2感情データセットを用いたテキスト分類におけるメンバシップ推定脆弱性のベンチマークを提案する。
  論文  参考訳（メタデータ） (2026-09-10T00:53:20Z)
• Adversarial Robustness of Phishing Email Detection: A Comparative Study of TF-IDF + Logistic Regression and Fine-Tuned DistilBERT [0.0]
  本稿では,TF-IDF+ロジスティック回帰ベースラインと,82,255メールの統一コーパスを用いた微調整DistilBERT変換器の比較を行った。 両モデルともクリーンデータでは98%の精度を達成したが、敵の試験では急激に劣化した。 その結果, クリーンデータの精度は逆方向の頑健さを予測せず, 逆方向のテストはフィッシング検出評価の標準部分であることが明らかとなった。
  論文  参考訳（メタデータ） (2026-07-20T18:28:07Z)
• Selective Prediction and Uncertainty-Aware Referral for Pap Smear Classification [3.093890460224435]
  本稿では,Herlev Papスミアデータセットの選択的予測と不確実性を考慮した参照について検討する。 ImageNet-pretrained weights with weighted random samples, and two light transformer backbones are fine-tuned on Herlev from ImageNet-pretrained weights with weighted random sample。 統計的に有意な差は認められなかった。
  論文  参考訳（メタデータ） (2026-07-15T05:47:31Z)
• Categorical Robustness Assessment for Machine Learning based Network Intrusion Detection Systems [6.42094170804706]
  敵の攻撃は ネットワークトラフィックデータに 慎重に妨害を加え 誤分類に繋がる 本稿では,攻撃者がシステムを操作しようとすると,どのようなアーキテクチャが実際に維持されるのかを問う。 敵の環境で侵入検知を行う実践者に対しては、CNNベースのアーキテクチャを推奨する。
  論文  参考訳（メタデータ） (2026-06-10T13:41:44Z)
• Poisoned Acoustics [0.0]
  トレーニングデータ中毒攻撃は、非常に少数のトレーニングラベルを破損させることで、ディープニューラルネットワークの標的となる、検出不能な障害を引き起こす可能性がある。 本稿では,MELAUDIS都市交差点データセットを用いた音響車両の分類について述べる。
  論文  参考訳（メタデータ） (2026-02-25T01:09:43Z)
• BadCLIP++: Stealthy and Persistent Backdoors in Multimodal Contrastive Learning [73.46118996284888]
  マルチモーダル・コントラスト学習モデルに対するバックドア攻撃の研究は、ステルスネスと永続性という2つの大きな課題に直面している。 両課題に対処する統合フレームワークであるBadCLIP++を提案する。 ステルスネスのために,タスク関連領域付近に知覚不可能なパターンを埋め込むセマンティックフュージョンQRマイクロトリガーを導入する。 持続性については、半径縮小とセントロイドアライメントによるトリガ埋め込みを安定化する。
  論文  参考訳（メタデータ） (2026-02-19T08:31:16Z)
• AI Security Beyond Core Domains: Resume Screening as a Case Study of Adversarial Vulnerabilities in Specialized LLM Applications [71.27518152526686]
  大きな言語モデル(LLM)はテキストの理解と生成に優れており、コードレビューやコンテンツモデレーションといった自動タスクに最適である。 LLMは履歴書やコードなどの入力データに隠された「逆命令」で操作でき、意図したタスクから逸脱する。 本稿では,特定の攻撃タイプに対して80%以上の攻撃成功率を示すとともに,この脆弱性を再開スクリーニングで評価するためのベンチマークを提案する。
  論文  参考訳（メタデータ） (2025-12-23T08:42:09Z)
• Adversarial Paraphrasing: A Universal Attack for Humanizing AI-Generated Text [47.84655968112988]
  本稿では、AI生成したテキストを普遍的に人間化し、検出をより効果的に回避する、トレーニング不要な攻撃フレームワークであるAdversarial Paraphrasingを紹介する。 我々の攻撃は広範囲に効果があり、複数の検知システムにまたがって非常に伝達可能である。
  論文  参考訳（メタデータ） (2025-06-08T05:15:01Z)
• Exploring Response Uncertainty in MLLMs: An Empirical Evaluation under Misleading Scenarios [49.53589774730807]
  マルチモーダル大規模言語モデル(MLLM)は近年,視覚的質問応答から映像理解に至るまでのタスクにおいて,最先端のパフォーマンスを実現している。 12件のオープンソースMLLMが, 単一の偽装キューを受けた65%の症例において, 既往の正解を覆した。
  論文  参考訳（メタデータ） (2024-11-05T01:11:28Z)
• Deep Partition Aggregation: Provable Defense against General Poisoning Attacks [136.79415677706612]
  アドリアリン中毒は、分類器の試験時間挙動を損なうために訓練データを歪ませる。 毒殺攻撃に対する2つの新たな防御策を提案する。 DPAは一般的な中毒脅威モデルに対する認証された防御である。 SS-DPAはラベルフリップ攻撃に対する認証された防御である。
  論文  参考訳（メタデータ） (2020-06-26T03:16:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。