論文の概要: Data-Free Model Extraction Attacks in the Context of Object Detection

• arxiv url: http://arxiv.org/abs/2308.05127v1
• Date: Wed, 9 Aug 2023 06:23:54 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-11 14:48:29.001919
• Title: Data-Free Model Extraction Attacks in the Context of Object Detection
• Title（参考訳）: 物体検出におけるデータフリーモデル抽出攻撃
• Authors: Harshit Shah, Aravindhan G, Pavan Kulkarni, Yuvaraj Govidarajulu, Manojkumar Parmar
• Abstract要約: 多くの機械学習モデルは、モデル抽出攻撃に対して脆弱である。 本研究では,オブジェクト検出における境界ボックス座標の予測のための回帰問題に拡張した逆ブラックボックス攻撃を提案する。 提案したモデル抽出法は,妥当なクエリを用いて有意な結果が得られることがわかった。
• 参考スコア（独自算出の注目度）: 0.6719751155411076
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: A significant number of machine learning models are vulnerable to model extraction attacks, which focus on stealing the models by using specially curated queries against the target model. This task is well accomplished by using part of the training data or a surrogate dataset to train a new model that mimics a target model in a white-box environment. In pragmatic situations, however, the target models are trained on private datasets that are inaccessible to the adversary. The data-free model extraction technique replaces this problem when it comes to using queries artificially curated by a generator similar to that used in Generative Adversarial Nets. We propose for the first time, to the best of our knowledge, an adversary black box attack extending to a regression problem for predicting bounding box coordinates in object detection. As part of our study, we found that defining a loss function and using a novel generator setup is one of the key aspects in extracting the target model. We find that the proposed model extraction method achieves significant results by using reasonable queries. The discovery of this object detection vulnerability will support future prospects for securing such models.
• Abstract（参考訳）: モデル抽出攻撃は、ターゲットモデルに対して特別にキュレートされたクエリを使用することで、モデルを盗むことに重点を置いている。 このタスクは、トレーニングデータまたはサロゲートデータセットの一部を使用して、ホワイトボックス環境でターゲットモデルを模倣した新しいモデルをトレーニングすることで、うまく実現されます。 しかし、実用的状況では、ターゲットモデルは、敵にアクセスできないプライベートデータセットでトレーニングされる。 データフリーなモデル抽出手法は、ジェネレータによって人工的にキュレートされたクエリを使用する場合のこの問題を置き換える。 我々は,物体検出における境界ボックス座標を予測するための回帰問題にまで及ぶ敵ブラックボックス攻撃を,我々の知る限りでは初めて提案する。 そこで本研究では,損失関数の定義と新規生成器の設定が,対象モデルを抽出する上で重要な要素であることを明らかにした。 提案したモデル抽出法は,妥当なクエリを用いて有意な結果が得られることがわかった。 このオブジェクト検出脆弱性の発見は、そのようなモデルを保護するための将来の展望をサポートするだろう。

関連論文リスト

• MisGUIDE : Defense Against Data-Free Deep Learning Model Extraction [0.8437187555622164]
  MisGUIDE(ミスGUIDE)は、ディープラーニングモデルのための2段階の防御フレームワークである。 提案手法の目的は,真正クエリの精度を維持しつつ,クローンモデルの精度を下げることである。
  論文  参考訳（メタデータ） (2024-03-27T13:59:21Z)
• MEAOD: Model Extraction Attack against Object Detectors [45.817537875368956]
  モデル抽出攻撃は、攻撃者が被害者モデルに匹敵する機能を持つ代替モデルを複製することを可能にする。 本稿では,オブジェクト検出モデルに対するMEAODと呼ばれる効果的な攻撃手法を提案する。 10kのクエリ予算の所定の条件下で,抽出性能を70%以上達成する。
  論文  参考訳（メタデータ） (2023-12-22T13:28:50Z)
• Model Stealing Attack against Recommender System [85.1927483219819]
  いくつかの敵攻撃は、レコメンデーターシステムに対するモデル盗難攻撃を成し遂げた。 本稿では、利用可能なターゲットデータとクエリの量を制限し、対象データとセットされたアイテムを共有する補助データを活用して、モデル盗難攻撃を促進する。
  論文  参考訳（メタデータ） (2023-12-18T05:28:02Z)
• Beyond Labeling Oracles: What does it mean to steal ML models? [52.63413852460003]
  モデル抽出攻撃は、クエリアクセスのみで訓練されたモデルを盗むように設計されている。 モデル抽出攻撃の成功に影響を及ぼす要因について検討する。 我々は,ME攻撃の敵の目標を再定義するようコミュニティに促した。
  論文  参考訳（メタデータ） (2023-10-03T11:10:21Z)
• Dual Student Networks for Data-Free Model Stealing [79.67498803845059]
  主な課題は、パラメータにアクセスせずにターゲットモデルの勾配を推定し、多様なトレーニングサンプルを生成することである。 そこで本研究では,2人の学生が左右対称に学習し,学生が反対するサンプルを生成するための基準を提案する。 我々の新しい最適化フレームワークは、目標モデルのより正確な勾配推定と、ベンチマーク分類データセットの精度向上を提供する。
  論文  参考訳（メタデータ） (2023-09-18T18:11:31Z)
• DREAM: Domain-free Reverse Engineering Attributes of Black-box Model [51.37041886352823]
  ブラックボックス対象モデルの属性をドメインに依存しないリバースエンジニアリングの新しい問題を提案する。 対象のブラックボックスモデルの属性を未知のトレーニングデータで推測するために,ドメインに依存しないモデルを学ぶ。
  論文  参考訳（メタデータ） (2023-07-20T16:25:58Z)
• Synthetic Model Combination: An Instance-wise Approach to Unsupervised Ensemble Learning [92.89846887298852]
  ラベル付きデータのトレーニングセットから学ぶ機会のない、新しいテストデータに対する予測を検討する。 専門家モデルのセットと予測へのアクセスと、トレーニングに使用するデータセットに関する制限された情報を提供すること。
  論文  参考訳（メタデータ） (2022-10-11T10:20:31Z)
• MEGA: Model Stealing via Collaborative Generator-Substitute Networks [4.065949099860426]
  近年のデータフリーモデルステイティングメソッドは,実際のクエリの例を使わずに,ターゲットモデルの知識を抽出するために有効であることが示されている。 本稿では,データフリーモデルステーリングフレームワーク(MEGA)を提案する。 以上の結果から,我々の訓練した代替モデルの精度と敵攻撃成功率は,最先端のデータフリーブラックボックス攻撃よりも最大で33%,40%高い値となる可能性が示唆された。
  論文  参考訳（メタデータ） (2022-01-31T09:34:28Z)
• Model Extraction and Defenses on Generative Adversarial Networks [0.9442139459221782]
  生成敵ネットワーク(GAN)に対するモデル抽出攻撃の実現可能性について検討する。 本稿では,GANモデルの実用性とセキュリティのトレードオフを考慮した効果的な防衛手法を提案する。
  論文  参考訳（メタデータ） (2021-01-06T14:36:21Z)
• Membership Inference Attacks Against Object Detection Models [1.0467092641687232]
  ブラックボックスオブジェクト検出モデルに対する最初のメンバシップ推論攻撃を示す。 我々は,1段階および2段階検出モデルを用いて訓練した個人機密データの登録状況を明らかにした。 その結果、オブジェクト検出モデルは、他のモデルのような推論攻撃にも弱いことが判明した。
  論文  参考訳（メタデータ） (2020-01-12T23:17:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。