論文の概要: Moshi Moshi? A Model Selection Hijacking Adversarial Attack

• arxiv url: http://arxiv.org/abs/2502.14586v1
• Date: Thu, 20 Feb 2025 14:16:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-21 14:27:44.964868
• Title: Moshi Moshi? A Model Selection Hijacking Adversarial Attack
• Title（参考訳）: モシモシ? モデル選択で敵攻撃をハイジャック
• Authors: Riccardo Petrucci, Luca Pajola, Francesco Marchiori, Luca Pasa, Mauro conti,
• Abstract要約: 本報告では,モデル選択を対象とする最初の敵攻撃であるMOSHIについて述べる。 我々の攻撃は、平均88.30%の一般化能力低下、83.33%の遅延増加、最大105.85%のエネルギー消費の増加を引き起こす。 これらの結果は、モデル選択プロセスにおける重大な脆弱性と、実際のアプリケーションに対する潜在的な影響を浮き彫りにしている。
• 参考スコア（独自算出の注目度）: 16.020656810797256
• License:
• Abstract: Model selection is a fundamental task in Machine Learning~(ML), focusing on selecting the most suitable model from a pool of candidates by evaluating their performance on specific metrics. This process ensures optimal performance, computational efficiency, and adaptability to diverse tasks and environments. Despite its critical role, its security from the perspective of adversarial ML remains unexplored. This risk is heightened in the Machine-Learning-as-a-Service model, where users delegate the training phase and the model selection process to third-party providers, supplying data and training strategies. Therefore, attacks on model selection could harm both the user and the provider, undermining model performance and driving up operational costs. In this work, we present MOSHI (MOdel Selection HIjacking adversarial attack), the first adversarial attack specifically targeting model selection. Our novel approach manipulates model selection data to favor the adversary, even without prior knowledge of the system. Utilizing a framework based on Variational Auto Encoders, we provide evidence that an attacker can induce inefficiencies in ML deployment. We test our attack on diverse computer vision and speech recognition benchmark tasks and different settings, obtaining an average attack success rate of 75.42%. In particular, our attack causes an average 88.30% decrease in generalization capabilities, an 83.33% increase in latency, and an increase of up to 105.85% in energy consumption. These results highlight the significant vulnerabilities in model selection processes and their potential impact on real-world applications.
• Abstract（参考訳）: モデル選択は、機械学習~(ML)における基本的なタスクであり、特定のメトリクスのパフォーマンスを評価することで、候補のプールから最も適切なモデルを選択することに焦点を当てている。 このプロセスは、様々なタスクや環境に最適な性能、計算効率、適応性を保証する。 その重要な役割にもかかわらず、敵MLの観点からのセキュリティは未解明のままである。 このリスクは、トレーニングフェーズとモデル選択プロセスをサードパーティプロバイダに委譲し、データとトレーニング戦略を提供する、Machine-Learning-as-a-Serviceモデルで高められる。 したがって、モデル選択に対する攻撃は、ユーザとプロバイダの両方を害し、モデルパフォーマンスを損なうとともに、運用コストを上昇させる可能性がある。 本研究では,モデル選択を対象とする最初の敵攻撃であるMOSHI(Model Selection HIjacking adversarial attack)を提案する。 提案手法は,システムに事前の知識がなくても,モデル選択データを操作して敵を有利にする方法である。 変分オートエンコーダに基づくフレームワークを用いることで、攻撃者がMLデプロイメントにおいて非効率を誘導できることを示す。 我々は多様なコンピュータビジョンと音声認識ベンチマークタスクと異なる設定に対する攻撃をテストし、平均的な攻撃成功率75.42%を得た。 特に、我々の攻撃は、平均88.30%の一般化能力低下、83.33%の遅延増加、最大105.85%のエネルギー消費の増加を引き起こす。 これらの結果は、モデル選択プロセスにおける重大な脆弱性と、実際のアプリケーションに対する潜在的な影響を浮き彫りにしている。

関連論文リスト

• Multi-Model based Federated Learning Against Model Poisoning Attack: A Deep Learning Based Model Selection for MEC Systems [11.564289367348334]
  フェデレートラーニング(FL)は、データプライバシを保持しながら、分散データからグローバルモデルのトレーニングを可能にする。 本稿では, モデル中毒対策の機会を高めるための積極的メカニズムとして, マルチモデルFLを提案する。 DDoS攻撃検出のシナリオでは、システムは攻撃を受けないというシナリオと、認識時間の改善の可能性によって、毒殺攻撃下での競争精度の向上が示される。
  論文  参考訳（メタデータ） (2024-09-12T17:36:26Z)
• CAMH: Advancing Model Hijacking Attack in Machine Learning [44.58778557522968]
  Category-Agnostic Model Hijacking (CAMH) は、新しいモデルハイジャック攻撃法である。 クラス番号のミスマッチ、データ分散のばらつき、元のタスクとハイジャックタスクのパフォーマンスバランスの問題に対処する。 本研究は,本来のタスクの性能を最小限に抑えつつ,攻撃効果を実証するものである。
  論文  参考訳（メタデータ） (2024-08-25T07:03:01Z)
• Model Hijacking Attack in Federated Learning [19.304332176437363]
  HijackFLは、フェデレートラーニングにおけるグローバルモデルに対する、第一級のハイジャック攻撃である。 それは、サーバや良心的なクライアントの通知なしに、グローバルモデルが元のタスクとは異なるタスクを実行するように強制することを目的としています。 4つのベンチマークデータセットと3つの人気のあるモデルについて広範な実験を行う。
  論文  参考訳（メタデータ） (2024-08-04T20:02:07Z)
• Efficient Data-Free Model Stealing with Label Diversity [22.8804507954023]
  マシンラーニング・アズ・ア・サービス(ML)は、ユーザがAPI形式で機械学習モデルに問い合わせることを可能にし、価値あるデータに基づいてトレーニングされた高性能モデルによるメリットを享受する機会を提供する。 このインターフェースは機械学習ベースのアプリケーションの増殖を促進する一方で、モデル盗難攻撃のための攻撃面を導入している。 既存のモデル盗難攻撃は、有効性を保ちながら、攻撃想定をデータフリー設定に緩和した。 本稿では,多様性の観点からモデルを盗む問題を再考し,生成したデータサンプルをすべてのクラスに多様性を持たせることが重要なポイントであることを実証する。
  論文  参考訳（メタデータ） (2024-03-29T18:52:33Z)
• Defense Against Model Extraction Attacks on Recommender Systems [53.127820987326295]
  本稿では、モデル抽出攻撃に対するリコメンデータシステムに対する防御のために、グラディエントベースのランキング最適化(GRO)を導入する。 GROは、攻撃者の代理モデルの損失を最大化しながら、保護対象モデルの損失を最小限にすることを目的としている。 その結果,モデル抽出攻撃に対するGROの防御効果は良好であった。
  論文  参考訳（メタデータ） (2023-10-25T03:30:42Z)
• Avoid Adversarial Adaption in Federated Learning by Multi-Metric Investigations [55.2480439325792]
  Federated Learning(FL)は、分散機械学習モデルのトレーニング、データのプライバシの保護、通信コストの低減、多様化したデータソースによるモデルパフォーマンスの向上を支援する。 FLは、中毒攻撃、標的外のパフォーマンス劣化とターゲットのバックドア攻撃の両方でモデルの整合性を損なうような脆弱性に直面している。 我々は、複数の目的に同時に適応できる、強い適応的敵の概念を新たに定義する。 MESASは、実際のデータシナリオで有効であり、平均オーバーヘッドは24.37秒である。
  論文  参考訳（メタデータ） (2023-06-06T11:44:42Z)
• Are Your Sensitive Attributes Private? Novel Model Inversion Attribute Inference Attacks on Classification Models [22.569705869469814]
  トレーニングデータ中のレコードの非感受性属性を敵が知る場合のモデル反転攻撃に着目した。 我々は,信頼性スコアに基づくモデル逆属性推論攻撃を考案し,その精度を著しく向上させる。 また、ターゲットレコードの他の(非感受性の)属性が敵に未知なシナリオにまで攻撃を拡大します。
  論文  参考訳（メタデータ） (2022-01-23T21:27:20Z)
• Delving into Data: Effectively Substitute Training for Black-box Attack [84.85798059317963]
  本稿では,知識盗むプロセスで使用されるデータの分散設計に焦点をあてた,新しい視点代替トレーニングを提案する。 これら2つのモジュールの組み合わせにより、代替モデルとターゲットモデルの一貫性がさらに向上し、敵攻撃の有効性が大幅に向上する。
  論文  参考訳（メタデータ） (2021-04-26T07:26:29Z)
• Knowledge-Enriched Distributional Model Inversion Attacks [49.43828150561947]
  モデルインバージョン(MI)攻撃は、モデルパラメータからトレーニングデータを再構成することを目的としている。 本稿では,パブリックデータからプライベートモデルに対する攻撃を行うのに役立つ知識を抽出する,新しい反転型GANを提案する。 実験の結果,これらの手法を組み合わせることで,最先端MI攻撃の成功率を150%向上させることができることがわかった。
  論文  参考訳（メタデータ） (2020-10-08T16:20:48Z)
• Learning to Attack: Towards Textual Adversarial Attacking in Real-world Situations [81.82518920087175]
  敵攻撃は、敵の例でディープニューラルネットワークを騙すことを目的としている。 本稿では、攻撃履歴から学習し、より効率的に攻撃を開始することができる強化学習に基づく攻撃モデルを提案する。
  論文  参考訳（メタデータ） (2020-09-19T09:12:24Z)
• How Does Data Augmentation Affect Privacy in Machine Learning? [94.52721115660626]
  拡張データの情報を活用するために,新たなMI攻撃を提案する。 モデルが拡張データで訓練された場合、最適な会員推定値を確立する。
  論文  参考訳（メタデータ） (2020-07-21T02:21:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。