論文の概要: Crafter: Facial Feature Crafting against Inversion-based Identity Theft on Deep Models

• arxiv url: http://arxiv.org/abs/2401.07205v1
• Date: Sun, 14 Jan 2024 05:06:42 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-17 19:21:18.703235
• Title: Crafter: Facial Feature Crafting against Inversion-based Identity Theft on Deep Models
• Title（参考訳）: Crafter: ディープモデルにおけるインバージョンベースのアイデンティティ盗難に対する顔認識
• Authors: Shiming Wang, Zhe Ji, Liyao Xiang, Hao Zhang, Xinbing Wang, Chenghu Zhou, Bo Li
• Abstract要約: 典型的なアプリケーションは、異なる個人から収集された顔画像に機械学習サービスを実行することである。 アイデンティティの盗難を防止するため、従来の手法では、その特徴からアイデンティティ情報を隠蔽するために、対戦ゲームベースのアプローチを頼りにしている。 適応モデル攻撃から識別情報を保護するために,エッジに展開する特徴工法であるCrafterを提案する。
• 参考スコア（独自算出の注目度）: 45.398313126020284
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: With the increased capabilities at the edge (e.g., mobile device) and more stringent privacy requirement, it becomes a recent trend for deep learning-enabled applications to pre-process sensitive raw data at the edge and transmit the features to the backend cloud for further processing. A typical application is to run machine learning (ML) services on facial images collected from different individuals. To prevent identity theft, conventional methods commonly rely on an adversarial game-based approach to shed the identity information from the feature. However, such methods can not defend against adaptive attacks, in which an attacker takes a countermove against a known defence strategy. We propose Crafter, a feature crafting mechanism deployed at the edge, to protect the identity information from adaptive model inversion attacks while ensuring the ML tasks are properly carried out in the cloud. The key defence strategy is to mislead the attacker to a non-private prior from which the attacker gains little about the private identity. In this case, the crafted features act like poison training samples for attackers with adaptive model updates. Experimental results indicate that Crafter successfully defends both basic and possible adaptive attacks, which can not be achieved by state-of-the-art adversarial game-based methods.
• Abstract（参考訳）: エッジにおける機能向上(モバイルデバイスなど)と、より厳しいプライバシー要件により、ディープラーニング対応アプリケーションがエッジで機密性の高い生データを前処理し、さらに処理するために機能をバックエンドクラウドに送信する、という最近のトレンドになっている。 典型的なアプリケーションは、異なる個人から収集された顔画像に対して機械学習(ML)サービスを実行することである。 アイデンティティの盗難を防止するため、従来の手法では、その特徴からアイデンティティ情報を隠蔽するための対戦ゲームベースのアプローチが一般的である。 しかし、そのような手法は攻撃者が既知の防御戦略に対して反撃を行う適応攻撃に対して防御することはできない。 本稿では,機械学習タスクがクラウド上で適切に実行されることを保証しつつ,適応型モデル反転攻撃から識別情報を保護するために,エッジに展開する特徴工法であるCrafterを提案する。 重要な防御戦略は、攻撃者がプライベートアイデンティティについてほとんど得ることができない非プライベートに攻撃者を誤解させることである。 この場合、製作された機能は、適応型モデル更新を伴う攻撃者のための毒の訓練サンプルのように振る舞う。 実験の結果,crafterは,最先端のゲームベース手法では達成できない基本攻撃と可能な適応攻撃の両方を効果的に防御できることが示されている。

関連論文リスト

• Defense Against Prompt Injection Attack by Leveraging Attack Techniques [66.65466992544728]
  大規模言語モデル(LLM)は、様々な自然言語処理(NLP)タスクで顕著なパフォーマンスを実現している。 LLMが進化を続けるにつれて、新しい脆弱性、特にインジェクション攻撃が発生する。 近年の攻撃手法は, LLMの命令追従能力とデータ内容に注入された命令を識別する能力を活用している。
  論文  参考訳（メタデータ） (2024-11-01T09:14:21Z)
• A Practical Trigger-Free Backdoor Attack on Neural Networks [33.426207982772226]
  トレーニングデータへのアクセスを必要としないトリガーフリーのバックドア攻撃を提案する。 具体的には、悪意のあるデータの概念を攻撃者特定クラスの概念に組み込んだ、新しい微調整アプローチを設計する。 提案した攻撃の有効性,実用性,ステルスネスを実世界の3つのデータセットで評価した。
  論文  参考訳（メタデータ） (2024-08-21T08:53:36Z)
• A Stealthy Wrongdoer: Feature-Oriented Reconstruction Attack against Split Learning [14.110303634976272]
  Split Learning(SL)は、プライバシ保護機能と最小限の計算要件で有名な分散学習フレームワークである。 以前の研究は、トレーニングデータを再構築するサーバ敵によるSLシステムの潜在的なプライバシー侵害について、一貫して強調している。 本稿では,特徴指向再構築攻撃 (FORA) という,SL上での半正直なデータ再構成攻撃について紹介する。
  論文  参考訳（メタデータ） (2024-05-07T08:38:35Z)
• Meta Invariance Defense Towards Generalizable Robustness to Unknown Adversarial Attacks [62.036798488144306]
  現在の防衛は主に既知の攻撃に焦点を当てているが、未知の攻撃に対する敵意の強固さは見過ごされている。 メタ不変防衛(Meta Invariance Defense, MID)と呼ばれる攻撃非依存の防御手法を提案する。 MIDは高レベルの画像分類と低レベルの頑健な画像再生における攻撃抑制において,知覚不能な逆方向の摂動に対して同時に頑健性を実現する。
  論文  参考訳（メタデータ） (2024-04-04T10:10:38Z)
• Improving behavior based authentication against adversarial attack using XAI [3.340314613771868]
  本稿では,eXplainable AI(XAI)をベースとした,このようなシナリオにおける敵攻撃に対する防御戦略を提案する。 本手法で訓練した特徴セレクタは,元の認証器の前のフィルタとして使用することができる。 我々は,XAIをベースとした防衛戦略が敵の攻撃に対して有効であり,他の防衛戦略よりも優れていることを実証する。
  論文  参考訳（メタデータ） (2024-02-26T09:29:05Z)
• FedDefender: Client-Side Attack-Tolerant Federated Learning [60.576073964874]
  フェデレーション学習は、プライバシを損なうことなく、分散化されたデータソースからの学習を可能にする。 悪意のあるクライアントがトレーニングプロセスに干渉する、毒殺攻撃のモデル化には脆弱である。 我々はFedDefenderと呼ばれるクライアントサイドに焦点を当てた新しい防御機構を提案し、クライアントの堅牢なローカルモデルのトレーニングを支援する。
  論文  参考訳（メタデータ） (2023-07-18T08:00:41Z)
• Adversary Aware Continual Learning [3.3439097577935213]
  Adversaryは、テスト時に特定のタスクやクラスを意図的に忘れるように、少量の誤報をモデルに導入することができる。 我々は,攻撃者のバックドアパターンを人間には認識不能にすることで,攻撃者の主要な強みを隠蔽し,攻撃者の知覚不能パターンを超過する知覚的(強者)パターンを学習することを提案する。 提案手法は,攻撃者の目標タスク,攻撃者の目標クラス,攻撃者の許容できないパターンを知らずに,クラスインクリメンタル学習アルゴリズムの性能を著しく向上させることを示す。
  論文  参考訳（メタデータ） (2023-04-27T19:49:50Z)
• Adv-Attribute: Inconspicuous and Transferable Adversarial Attack on Face Recognition [111.1952945740271]
  Adv-Attribute (Adv-Attribute) は、顔認証に対する不明瞭で伝達可能な攻撃を生成するように設計されている。 FFHQとCelebA-HQデータセットの実験は、提案されたAdv-Attributeメソッドが最先端の攻撃成功率を達成することを示している。
  論文  参考訳（メタデータ） (2022-10-13T09:56:36Z)
• I Know What You Trained Last Summer: A Survey on Stealing Machine Learning Models and Defences [0.1031296820074812]
  本研究では,モデル盗難攻撃について検討し,その性能を評価し,異なる環境で対応する防御技術を探究する。 攻撃・防衛アプローチのための分類法を提案し,目標と利用可能な資源に基づいて適切な攻撃・防衛を選択する方法に関するガイドラインを提供する。
  論文  参考訳（メタデータ） (2022-06-16T21:16:41Z)
• Defense Against Gradient Leakage Attacks via Learning to Obscure Data [48.67836599050032]
  フェデレートラーニングは、効果的なプライバシー保護学習メカニズムと考えられている。 本稿では,不明瞭なデータに学習することで,クライアントのデータ保護のための新しい防御手法を提案する。
  論文  参考訳（メタデータ） (2022-06-01T21:03:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。