論文の概要: CAMH: Advancing Model Hijacking Attack in Machine Learning

• arxiv url: http://arxiv.org/abs/2408.13741v2
• Date: Fri, 20 Dec 2024 08:32:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-23 19:50:37.895054
• Title: CAMH: Advancing Model Hijacking Attack in Machine Learning
• Title（参考訳）: CAMH:機械学習におけるモデルハイジャック攻撃の強化
• Authors: Xing He, Jiahao Chen, Yuwen Pu, Qingming Li, Chunyi Zhou, Yingcai Wu, Jinbao Li, Shouling Ji,
• Abstract要約: Category-Agnostic Model Hijacking (CAMH) は、新しいモデルハイジャック攻撃法である。 クラス番号のミスマッチ、データ分散のばらつき、元のタスクとハイジャックタスクのパフォーマンスバランスの問題に対処する。 本研究は,本来のタスクの性能を最小限に抑えつつ,攻撃効果を実証するものである。
• 参考スコア（独自算出の注目度）: 44.58778557522968
• License:
• Abstract: In the burgeoning domain of machine learning, the reliance on third-party services for model training and the adoption of pre-trained models have surged. However, this reliance introduces vulnerabilities to model hijacking attacks, where adversaries manipulate models to perform unintended tasks, leading to significant security and ethical concerns, like turning an ordinary image classifier into a tool for detecting faces in pornographic content, all without the model owner's knowledge. This paper introduces Category-Agnostic Model Hijacking (CAMH), a novel model hijacking attack method capable of addressing the challenges of class number mismatch, data distribution divergence, and performance balance between the original and hijacking tasks. CAMH incorporates synchronized training layers, random noise optimization, and a dual-loop optimization approach to ensure minimal impact on the original task's performance while effectively executing the hijacking task. We evaluate CAMH across multiple benchmark datasets and network architectures, demonstrating its potent attack effectiveness while ensuring minimal degradation in the performance of the original task.
• Abstract（参考訳）: 機械学習の急成長する領域では、モデルのトレーニングや事前訓練されたモデルの採用に対するサードパーティサービスへの依存が急増している。 しかし、この依存はハイジャック攻撃のモデルに脆弱性を導入し、敵は意図しないタスクを実行するためにモデルを操作し、通常の画像分類器を、モデル所有者の知識なしにポルノコンテンツの顔を検出するツールに変えるなど、重大なセキュリティと倫理上の懸念をもたらす。 本稿では、クラス番号ミスマッチ、データ分散のばらつき、および元のタスクとハイジャックタスク間のパフォーマンスバランスに対処できる新しいモデルハイジャック攻撃手法であるCAMHについて紹介する。 CAMHには、同期トレーニング層、ランダムノイズ最適化、デュアルループ最適化アプローチが組み込まれており、ハイジャックタスクを効果的に実行しながら、元のタスクのパフォーマンスへの影響を最小限に抑える。 我々は、複数のベンチマークデータセットとネットワークアーキテクチャにわたってCAMHを評価し、その強力な攻撃効果を示しながら、元のタスクの性能の最小限の劣化を確実にする。

関連論文リスト

• Model Hijacking Attack in Federated Learning [19.304332176437363]
  HijackFLは、フェデレートラーニングにおけるグローバルモデルに対する、第一級のハイジャック攻撃である。 それは、サーバや良心的なクライアントの通知なしに、グローバルモデルが元のタスクとは異なるタスクを実行するように強制することを目的としています。 4つのベンチマークデータセットと3つの人気のあるモデルについて広範な実験を行う。
  論文  参考訳（メタデータ） (2024-08-04T20:02:07Z)
• OMG-ATTACK: Self-Supervised On-Manifold Generation of Transferable Evasion Attacks [17.584752814352502]
  Evasion Attacks (EA) は、入力データを歪ませることで、トレーニングされたニューラルネットワークの堅牢性をテストするために使用される。 本稿では, 自己教師型, 計算的経済的な手法を用いて, 対逆例を生成する手法を提案する。 我々の実験は、この手法が様々なモデル、目に見えないデータカテゴリ、さらには防御されたモデルで有効であることを一貫して実証している。
  論文  参考訳（メタデータ） (2023-10-05T17:34:47Z)
• Ownership Protection of Generative Adversarial Networks [9.355840335132124]
  GAN(Generative Adversarial Network)は画像合成において顕著な成功を収めている。 GANの知的財産を技術的に保護することは重要である。 本稿では,対象モデルの共通特性と盗難モデルに基づく新たな所有権保護手法を提案する。
  論文  参考訳（メタデータ） (2023-06-08T14:31:58Z)
• A Generative Framework for Low-Cost Result Validation of Machine Learning-as-a-Service Inference [4.478182379059458]
  FidesはML-as-a-Service(ML)推論のリアルタイム整合性検証のための新しいフレームワークである。 Fidesは、統計的分析とばらつき測定を使用して、サービスモデルが攻撃を受けている場合、高い確率で識別するクライアント側攻撃検出モデルを備えている。 攻撃検出と再分類モデルの訓練のための生成的逆ネットワークフレームワークを考案した。
  論文  参考訳（メタデータ） (2023-03-31T19:17:30Z)
• Self-Destructing Models: Increasing the Costs of Harmful Dual Uses of Foundation Models [103.71308117592963]
  本稿ではメタラーニングと逆学習の技法を活用した自己破壊モデルの学習アルゴリズムを提案する。 小規模な実験では、MLACは、BERTスタイルのモデルが性別識別を行うために再目的化されることをほとんど防ぐことができることを示す。
  論文  参考訳（メタデータ） (2022-11-27T21:43:45Z)
• DST: Dynamic Substitute Training for Data-free Black-box Attack [79.61601742693713]
  そこで本研究では,対象モデルからより高速に学習するための代用モデルの促進を目的とした,新しい動的代用トレーニング攻撃手法を提案する。 タスク駆動型グラフに基づく構造情報学習の制約を導入し、生成したトレーニングデータの質を向上させる。
  論文  参考訳（メタデータ） (2022-04-03T02:29:11Z)
• Practical No-box Adversarial Attacks with Training-free Hybrid Image Transformation [123.33816363589506]
  ノンボックス脅威モデルの下では, テキストbftraining-free adversarial perturbationの存在を示す。 低レベルの特徴を持つ高周波成分 (HFC) ドメインは, 主に周波数成分の操作によって画像を攻撃する。 我々の手法は、主流の転送ベースのブラックボックス攻撃と競合する。
  論文  参考訳（メタデータ） (2022-03-09T09:51:00Z)
• Federated Learning with Unreliable Clients: Performance Analysis and Mechanism Design [76.29738151117583]
  Federated Learning(FL)は、分散クライアント間で効果的な機械学習モデルをトレーニングするための有望なツールとなっている。 しかし、低品質のモデルは信頼性の低いクライアントによってアグリゲータサーバにアップロードすることができ、劣化やトレーニングの崩壊につながる。 クライアントの信頼できない振る舞いをモデル化し、このようなセキュリティリスクを軽減するための防御メカニズムを提案する。
  論文  参考訳（メタデータ） (2021-05-10T08:02:27Z)
• Leveraging Siamese Networks for One-Shot Intrusion Detection Model [0.0]
  侵入検知システムを強化するための機械学習(ML)が重要な研究対象となっている。 モデルの再トレーニングは、十分な量のデータを取得するのに必要なタイムウインドウのために、ネットワークが攻撃を受けやすいようにする。 ここでは、「ワンショットラーニング」と呼ばれる補完的なアプローチで、新しい攻撃クラスを識別するために、新しい攻撃クラスの限られた例を用いる。 Siamese Networkは、機能ではなく、ペアの類似性に基づいてクラスを区別するように訓練されており、新しい、以前は目に見えない攻撃を識別することができる。
  論文  参考訳（メタデータ） (2020-06-27T11:40:01Z)
• Boosting Black-Box Attack with Partially Transferred Conditional Adversarial Distribution [83.02632136860976]
  深層ニューラルネットワーク(DNN)に対するブラックボックス攻撃の研究 我々は, 代理バイアスに対して頑健な, 対向移動可能性の新たなメカニズムを開発する。 ベンチマークデータセットの実験と実世界のAPIに対する攻撃は、提案手法の優れた攻撃性能を示す。
  論文  参考訳（メタデータ） (2020-06-15T16:45:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。