論文の概要: ESTAS: Effective and Stable Trojan Attacks in Self-supervised Encoders with One Target Unlabelled Sample

• arxiv url: http://arxiv.org/abs/2211.10908v1
• Date: Sun, 20 Nov 2022 08:58:34 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-22 19:22:09.450403
• Title: ESTAS: Effective and Stable Trojan Attacks in Self-supervised Encoders with One Target Unlabelled Sample
• Title（参考訳）: ESTAS: 標的不明のサンプルを持つ自己監視エンコーダにおける効果的で安定したトロイの木馬攻撃
• Authors: Jiaqi Xue, Qian Lou
• Abstract要約: ESTASは1つのターゲットクラスサンプルで99%の攻撃成功率(ASR)を達成する。 従来の研究と比較すると、ESTASは平均で30%のASR増加と8.3%の精度向上を達成した。
• 参考スコア（独自算出の注目度）: 16.460288815336902
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Emerging self-supervised learning (SSL) has become a popular image representation encoding method to obviate the reliance on labeled data and learn rich representations from large-scale, ubiquitous unlabelled data. Then one can train a downstream classifier on top of the pre-trained SSL image encoder with few or no labeled downstream data. Although extensive works show that SSL has achieved remarkable and competitive performance on different downstream tasks, its security concerns, e.g, Trojan attacks in SSL encoders, are still not well-studied. In this work, we present a novel Trojan Attack method, denoted by ESTAS, that can enable an effective and stable attack in SSL encoders with only one target unlabeled sample. In particular, we propose consistent trigger poisoning and cascade optimization in ESTAS to improve attack efficacy and model accuracy, and eliminate the expensive target-class data sample extraction from large-scale disordered unlabelled data. Our substantial experiments on multiple datasets show that ESTAS stably achieves > 99% attacks success rate (ASR) with one target-class sample. Compared to prior works, ESTAS attains > 30% ASR increase and > 8.3% accuracy improvement on average.
• Abstract（参考訳）: 自己教師付き学習(SSL)は、ラベル付きデータへの依存を回避し、大規模でユビキタスなデータからリッチな表現を学習するために、一般的な画像表現符号化法となっている。 そして、ラベル付きダウンストリームデータなしで、事前トレーニングされたsslイメージエンコーダの上に下流の分類器をトレーニングすることができる。 SSLはさまざまなダウンストリームタスクにおいて顕著で競争力のあるパフォーマンスを達成したことを示しているが、SSLエンコーダのトロイの木馬攻撃といったセキュリティ上の懸念は、まだ十分に研究されていない。 そこで本研究では,sslエンコーダにおいて1つのターゲットにラベルを付けずに効果的かつ安定した攻撃を可能にする新しいトロイの木馬攻撃法を提案する。 特に,estasにおける一貫したトリガー中毒とカスケード最適化を提案し,攻撃効果とモデルの精度を改善し,大規模不規則な非ラベルデータからの高価なターゲットクラスデータサンプル抽出を除去した。 複数のデータセットに関する実質的な実験では、1つのターゲットクラスサンプルで99%のアタック成功率(asr)を安定的に達成しています。 従来の研究と比較して、ESTASは平均で30%のASR増加と8.3%の精度向上を達成した。

関連論文リスト

• Phantom: Untargeted Poisoning Attacks on Semi-Supervised Learning (Full Version) [19.99079192245235]
  セミスーパーバイザードラーニング(SSL)における最初の標的外毒攻撃であるPhantomを紹介する。 当社のアプローチでは、被害者をコントロールせずに、ソーシャルネットワークに画像を投稿するなど、操作されたサンプルを少数追加するだけでよい。 以上の結果から,ユーザが生成したコンテンツプラットフォームを害する危険性が指摘され,特定のタスクにおいてSSLに適さないことが示唆された。
  論文  参考訳（メタデータ） (2024-09-02T21:29:05Z)
• Defending Against Repetitive-based Backdoor Attacks on Semi-supervised Learning through Lens of Rate-Distortion-Perception Trade-off [20.713624299599722]
  半教師付き学習(SSL)は、わずかなラベル付きデータで顕著なパフォーマンスを達成した。 信頼できないデータの大規模なプールは、データ中毒に極めて脆弱であり、バックドア攻撃につながる可能性がある。 トリガーパターンとターゲットクラスの関係を阻害する新しい手法であるunlabeled Data Purification (UPure)を提案する。
  論文  参考訳（メタデータ） (2024-07-14T12:42:11Z)
• SSL-Cleanse: Trojan Detection and Mitigation in Self-Supervised Learning [27.68997463681079]
  自己教師付き学習(SSL)は、データ表現を符号化する一般的な手法である。 SSLエンコーダに埋め込まれたTrojan攻撃は隠蔽的に動作し、複数のユーザやデバイスに分散する。 SSLエンコーダのバックドア脅威を特定し軽減するためのソリューションとしてSSL-Cleanseを導入します。
  論文  参考訳（メタデータ） (2023-03-16T04:45:06Z)
• Towards Realistic Semi-Supervised Learning [73.59557447798134]
  オープンワールド環境でSSLに取り組み、未知のクラスと未知のクラスを同時に分類する新しい手法を提案する。 我々のアプローチは、既存の最先端の7つのデータセットよりも大幅に優れています。
  論文  参考訳（メタデータ） (2022-07-05T19:04:43Z)
• Open-Set Semi-Supervised Learning for 3D Point Cloud Understanding [62.17020485045456]
  半教師付き学習(SSL)では、ラベル付きデータと同じ分布からラベル付きデータが引き出されることが一般的である。 サンプル重み付けによりラベルなしデータを選択的に活用することを提案する。
  論文  参考訳（メタデータ） (2022-05-02T16:09:17Z)
• Robust Deep Semi-Supervised Learning: A Brief Introduction [63.09703308309176]
  半教師付き学習(SSL)は、ラベルが不十分なときにラベル付きデータを活用することにより、学習性能を向上させることを目的としている。 ディープモデルによるSSLは、標準ベンチマークタスクで成功したことが証明されている。 しかし、それらは現実世界のアプリケーションにおける様々な堅牢性に対する脅威に対して依然として脆弱である。
  論文  参考訳（メタデータ） (2022-02-12T04:16:41Z)
• A new weakly supervised approach for ALS point cloud semantic segmentation [1.4620086904601473]
  本稿では,ALS点雲のセマンティックセグメンテーションのための,ディープラーニングに基づく弱教師付きフレームワークを提案する。 不完全でスパースなラベルの対象となるラベルのないデータから潜在的情報を利用する。 本手法は, 総合精度が83.0%, 平均F1スコアが70.0%であり, それぞれ6.9%, 12.8%増加した。
  論文  参考訳（メタデータ） (2021-10-04T14:00:23Z)
• Dash: Semi-Supervised Learning with Dynamic Thresholding [72.74339790209531]
  我々は、ラベルのない例を使ってモデルをトレーニングする半教師付き学習(SSL)アプローチを提案する。 提案手法であるDashは、ラベルなしデータ選択の観点から適応性を享受する。
  論文  参考訳（メタデータ） (2021-09-01T23:52:29Z)
• OpenMatch: Open-set Consistency Regularization for Semi-supervised Learning with Outliers [71.08167292329028]
  我々はOpenMatchと呼ばれる新しいオープンセットセミスーパーバイザードラーニング(OSSL)アプローチを提案する。 OpenMatchは、1-vs-all(OVA)分類器に基づいた新規検出とFixMatchを統合する。 3つのデータセットで最先端のパフォーマンスを実現し、CIFAR10の未ラベルデータで見えないアウトリーチを検出する上で、完全な教師付きモデルよりも優れています。
  論文  参考訳（メタデータ） (2021-05-28T23:57:15Z)
• A Simple Semi-Supervised Learning Framework for Object Detection [55.95789931533665]
  半教師付き学習(SSL)は、ラベルなしデータを用いた機械学習モデルの予測性能を改善する可能性がある。 本稿では,データ拡張戦略とともに,視覚オブジェクト検出のための簡易かつ効果的なSSLフレームワークSTACを提案する。
  論文  参考訳（メタデータ） (2020-05-10T19:15:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。