論文の概要: Model-Guardian: Protecting against Data-Free Model Stealing Using Gradient Representations and Deceptive Predictions

• arxiv url: http://arxiv.org/abs/2503.18081v1
• Date: Sun, 23 Mar 2025 14:14:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-25 14:37:07.401591
• Title: Model-Guardian: Protecting against Data-Free Model Stealing Using Gradient Representations and Deceptive Predictions
• Title（参考訳）: Model-Guardian: 勾配表現と知覚予測を用いたデータフリーモデルステアリングの保護
• Authors: Yunfei Yang, Xiaojun Chen, Yuexin Xuan, Zhendong Zhao,
• Abstract要約: モデル盗難は、クラウドにデプロイされた機械学習モデルの機密性をますます脅かしている。 本稿では,Model-Guardianという新しい防衛フレームワークを紹介する。 合成試料のアーティファクト特性と試料の勾配表現の助けを借りて、現在の防御の欠点に対処するように設計されている。
• 参考スコア（独自算出の注目度）: 5.6731655991880965
• License:
• Abstract: Model stealing attack is increasingly threatening the confidentiality of machine learning models deployed in the cloud. Recent studies reveal that adversaries can exploit data synthesis techniques to steal machine learning models even in scenarios devoid of real data, leading to data-free model stealing attacks. Existing defenses against such attacks suffer from limitations, including poor effectiveness, insufficient generalization ability, and low comprehensiveness. In response, this paper introduces a novel defense framework named Model-Guardian. Comprising two components, Data-Free Model Stealing Detector (DFMS-Detector) and Deceptive Predictions (DPreds), Model-Guardian is designed to address the shortcomings of current defenses with the help of the artifact properties of synthetic samples and gradient representations of samples. Extensive experiments on seven prevalent data-free model stealing attacks showcase the effectiveness and superior generalization ability of Model-Guardian, outperforming eleven defense methods and establishing a new state-of-the-art performance. Notably, this work pioneers the utilization of various GANs and diffusion models for generating highly realistic query samples in attacks, with Model-Guardian demonstrating accurate detection capabilities.
• Abstract（参考訳）: モデル盗難攻撃は、クラウドにデプロイされた機械学習モデルの機密性をますます脅かしている。 最近の研究によると、敵はデータ合成技術を利用して、実際のデータを持たないシナリオでも機械学習モデルを盗むことができる。 既存の攻撃に対する防御は、効果の低さ、一般化能力の不十分、包括性が低いといった制限に悩まされている。 そこで本研究では,Model-Guardianという新しい防衛フレームワークを提案する。 Data-Free Model Stealing Detector (DFMS-Detector) とDeceptive Predictions (DPreds) の2つのコンポーネントで構成されているModel-Guardianは、合成サンプルのアーチファクト特性とサンプルの勾配表現の助けを借りて、現在の防御の欠点を解決するように設計されている。 7つの一般的なデータフリーなモデル盗難攻撃に関する大規模な実験は、モデル・ガーディアンの有効性と優れた一般化能力を示し、11の防衛手法を上回り、新しい最先端のパフォーマンスを確立している。 この研究は、様々なGANと拡散モデルを利用して、攻撃時に非常に現実的なクエリサンプルを生成し、Model-Guardianは正確な検出能力を実証した。

関連論文リスト

• Adversarial Machine Learning: Attacking and Safeguarding Image Datasets [0.0]
  本稿では、敵攻撃に対する畳み込みニューラルネットワーク(CNN)の脆弱性について検討し、その保護方法を検討する。 CNNは、最も一般的な画像データセットの4つに実装され、高いベースライン精度を実現した。 対戦訓練後のモデルに対するロバスト性はほとんどのレベルが達成されているが、敵の摂動に対するモデルの性能にはまだ若干の損失があるようだ。
  論文  参考訳（メタデータ） (2025-01-31T22:32:38Z)
• Defending Against Neural Network Model Inversion Attacks via Data Poisoning [15.099559883494475]
  モデル反転攻撃は、機械学習モデルに重大なプライバシー上の脅威をもたらす。 本稿では,プライバシとユーティリティのバランスを改善するための新しい防御機構を提案する。 本稿では,データ中毒を利用したインバージョンモデルのトレーニングデータを汚染する手法を提案する。
  論文  参考訳（メタデータ） (2024-12-10T15:08:56Z)
• Model Stealing Attack against Recommender System [85.1927483219819]
  いくつかの敵攻撃は、レコメンデーターシステムに対するモデル盗難攻撃を成し遂げた。 本稿では、利用可能なターゲットデータとクエリの量を制限し、対象データとセットされたアイテムを共有する補助データを活用して、モデル盗難攻撃を促進する。
  論文  参考訳（メタデータ） (2023-12-18T05:28:02Z)
• SecurityNet: Assessing Machine Learning Vulnerabilities on Public Models [74.58014281829946]
  本研究では, モデル盗難攻撃, メンバーシップ推論攻撃, パブリックモデルにおけるバックドア検出など, いくつかの代表的な攻撃・防御の有効性を解析する。 実験により,これらの攻撃・防御性能は,自己学習モデルと比較して,公共モデルによって大きく異なることが示された。
  論文  参考訳（メタデータ） (2023-10-19T11:49:22Z)
• OMG-ATTACK: Self-Supervised On-Manifold Generation of Transferable Evasion Attacks [17.584752814352502]
  Evasion Attacks (EA) は、入力データを歪ませることで、トレーニングされたニューラルネットワークの堅牢性をテストするために使用される。 本稿では, 自己教師型, 計算的経済的な手法を用いて, 対逆例を生成する手法を提案する。 我々の実験は、この手法が様々なモデル、目に見えないデータカテゴリ、さらには防御されたモデルで有効であることを一貫して実証している。
  論文  参考訳（メタデータ） (2023-10-05T17:34:47Z)
• Isolation and Induction: Training Robust Deep Neural Networks against Model Stealing Attacks [51.51023951695014]
  既存のモデル盗難防衛は、被害者の後部確率に偽りの摂動を加え、攻撃者を誤解させる。 本稿では,モデルステルス防衛のための新規かつ効果的なトレーニングフレームワークである分離誘導(InI)を提案する。 モデルの精度を損なうモデル予測に摂動を加えるのとは対照的に、我々はモデルを訓練して、盗むクエリに対して非形式的なアウトプットを生成する。
  論文  参考訳（メタデータ） (2023-08-02T05:54:01Z)
• CARLA-GeAR: a Dataset Generator for a Systematic Evaluation of Adversarial Robustness of Vision Models [61.68061613161187]
  本稿では,合成データセットの自動生成ツールであるCARLA-GeARについて述べる。 このツールは、Python APIを使用して、CARLAシミュレータ上に構築されており、自律運転のコンテキストにおいて、いくつかのビジョンタスク用のデータセットを生成することができる。 本稿では,CARLA-GeARで生成されたデータセットが,現実世界の敵防衛のベンチマークとして今後どのように利用されるかを示す。
  論文  参考訳（メタデータ） (2022-06-09T09:17:38Z)
• Defending against Model Stealing via Verifying Embedded External Features [90.29429679125508]
  トレーニングサンプルがなく、モデルパラメータや構造にアクセスできない場合でも、敵はデプロイされたモデルを盗むことができる。 我々は、不審なモデルがディフェンダー特定遠近法の特徴の知識を含んでいるかどうかを検証することによって、他の角度からの防御を探索する。 本手法は, 複数段階の盗難処理によって盗難モデルが得られた場合でも, 同時に異なる種類の盗難モデルを検出するのに有効である。
  論文  参考訳（メタデータ） (2021-12-07T03:51:54Z)
• Adversarial Poisoning Attacks and Defense for General Multi-Class Models Based On Synthetic Reduced Nearest Neighbors [14.968442560499753]
  最先端の機械学習モデルは、データ中毒攻撃に弱い。 本論文では,データのマルチモダリティに基づく新しいモデルフリーラベルフリップ攻撃を提案する。 第二に、SRNN(Synthetic reduced Nearest Neighbor)モデルに基づく新しい防御技術を提案する。
  論文  参考訳（メタデータ） (2021-02-11T06:55:40Z)
• Defense for Black-box Attacks on Anti-spoofing Models by Self-Supervised Learning [71.17774313301753]
  本研究では,自己指導型高水準表現の堅牢性について,敵攻撃に対する防御に利用して検討する。 ASVspoof 2019データセットの実験結果は、Mockingjayによって抽出されたハイレベルな表現が、敵の例の転送可能性を妨げることを示した。
  論文  参考訳（メタデータ） (2020-06-05T03:03:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。