Fugu-MT 論文翻訳(概要): Leveraging Label Information for Stealthy Data Stealing in Vertical Federated Learning

論文の概要: Leveraging Label Information for Stealthy Data Stealing in Vertical Federated Learning

arxiv url: http://arxiv.org/abs/2404.19582v1
Date: Tue, 30 Apr 2024 14:19:06 GMT
ステータス: 処理完了
システム内更新日: 2024-05-01 13:55:56.833802
Title: Leveraging Label Information for Stealthy Data Stealing in Vertical Federated Learning
Title（参考訳）: 縦型フェデレーション学習におけるステルスデータステアリングのためのラベル情報の活用
Authors: Duanyi Yao, Songze Li, Xueluan Gong, Sizai Hou, Gaoning Pan,
Abstract要約: 我々は,電流検出機構を回避する新たな攻撃戦略であるDMAVFLを開発した。 DMAVFLは既存の攻撃を著しく上回り、悪意のある攻撃に対するSOTA防御を回避できることを示す。
参考スコア（独自算出の注目度）: 9.017014896207442
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: We develop DMAVFL, a novel attack strategy that evades current detection mechanisms. The key idea is to integrate a discriminator with auxiliary classifier that takes a full advantage of the label information (which was completely ignored in previous attacks): on one hand, label information helps to better characterize embeddings of samples from distinct classes, yielding an improved reconstruction performance; on the other hand, computing malicious gradients with label information better mimics the honest training, making the malicious gradients indistinguishable from the honest ones, and the attack much more stealthy. Our comprehensive experiments demonstrate that DMAVFL significantly outperforms existing attacks, and successfully circumvents SOTA defenses for malicious attacks. Additional ablation studies and evaluations on other defenses further underscore the robustness and effectiveness of DMAVFL.
Abstract（参考訳）: 我々は,電流検出機構を回避する新たな攻撃戦略であるDMAVFLを開発した。鍵となる考え方は、ラベル情報を完全に活用する補助分類器(以前の攻撃では完全に無視されていた)と識別器を統合することである。一方、ラベル情報は異なるクラスからのサンプルの埋め込みをより良く特徴付けるのに役立ち、再構築性能が向上する。包括的実験により,DMAVFLは既存の攻撃を著しく上回り,悪意のある攻撃に対するSOTA防御を回避できた。追加のアブレーション研究と他の防御効果の評価は、DMAVFLの堅牢性と有効性をさらに強調している。

関連論文リスト

Slot: Provenance-Driven APT Detection through Graph Reinforcement Learning [26.403625710805418]
先進的永続脅威(Advanced Persistent Threats、APT)は、長期にわたって検出されていない能力によって特徴づけられる高度なサイバー攻撃である。本稿では,前駆グラフとグラフ強化学習に基づく高度なAPT検出手法であるSlotを提案する。 Slotの卓越した精度、効率、適応性、そしてAPT検出の堅牢性を示し、ほとんどのメトリクスは最先端の手法を超越している。
論文参考訳（メタデータ） (2024-10-23T14:28:32Z)
Efficient Data-Free Model Stealing with Label Diversity [22.8804507954023]
マシンラーニング・アズ・ア・サービス(ML)は、ユーザがAPI形式で機械学習モデルに問い合わせることを可能にし、価値あるデータに基づいてトレーニングされた高性能モデルによるメリットを享受する機会を提供する。このインターフェースは機械学習ベースのアプリケーションの増殖を促進する一方で、モデル盗難攻撃のための攻撃面を導入している。既存のモデル盗難攻撃は、有効性を保ちながら、攻撃想定をデータフリー設定に緩和した。本稿では,多様性の観点からモデルを盗む問題を再考し,生成したデータサンプルをすべてのクラスに多様性を持たせることが重要なポイントであることを実証する。
論文参考訳（メタデータ） (2024-03-29T18:52:33Z)
Soften to Defend: Towards Adversarial Robustness via Self-Guided Label Refinement [5.865750284677784]
敵対的訓練(AT)は、敵対的攻撃に対するディープニューラルネットワークの堅牢性を得る最も効果的な方法の1つである。 AT法は頑健なオーバーフィッティング、すなわちトレーニング曲線とテスト曲線の間の大きな一般化ギャップに悩まされている。本稿では,AT のラベルリファインメント手法を提案する。この手法は,高信頼のハードラベルから,より正確かつ情報的なラベル分布を自己定義する。
論文参考訳（メタデータ） (2024-03-14T04:48:31Z)
Model Stealing Attack against Graph Classification with Authenticity, Uncertainty and Diversity [80.16488817177182]
GNNは、クエリ許可を通じてターゲットモデルを複製するための悪行であるモデル盗難攻撃に対して脆弱である。異なるシナリオに対応するために,3つのモデルステルス攻撃を導入する。
論文参考訳（メタデータ） (2023-12-18T05:42:31Z)
PACOL: Poisoning Attacks Against Continual Learners [1.569413950416037]
本研究では,悪意ある誤報によって連続学習システムを操作できることを実証する。本稿では,連続学習者を対象としたデータ中毒攻撃の新たなカテゴリについて紹介する。総合的な実験のセットは、一般的に使われている生成的リプレイと正規化に基づく攻撃方法に対する継続的な学習アプローチの脆弱性を示している。
論文参考訳（メタデータ） (2023-11-18T00:20:57Z)
Model-Agnostic Meta-Attack: Towards Reliable Evaluation of Adversarial Robustness [53.094682754683255]
モデル非依存型メタアタック(MAMA)アプローチにより,より強力な攻撃アルゴリズムを自動検出する。本手法は、繰り返しニューラルネットワークによってパラメータ化された逆攻撃を学習する。本研究では,未知の防御を攻撃した場合の学習能力を向上させるために,モデルに依存しない訓練アルゴリズムを開発した。
論文参考訳（メタデータ） (2021-10-13T13:54:24Z)
Adversarial defense for automatic speaker verification by cascaded self-supervised learning models [101.42920161993455]
ますます悪意のある攻撃者は、自動話者検証(ASV)システムで敵攻撃を仕掛けようとする。本稿では,逐次的自己教師付き学習モデルに基づく標準的かつ攻撃非依存な手法を提案する。実験により, 本手法は効果的な防御性能を実現し, 敵攻撃に対抗できることを示した。
論文参考訳（メタデータ） (2021-02-14T01:56:43Z)
Curse or Redemption? How Data Heterogeneity Affects the Robustness of Federated Learning [51.15273664903583]
データの不均一性は、フェデレートラーニングにおける重要な特徴の1つとして認識されているが、しばしば敵対的攻撃に対する堅牢性のレンズで見過ごされる。本稿では, 複合学習におけるバックドア攻撃の影響を, 総合的な実験を通じて評価し, 理解することを目的とした。
論文参考訳（メタデータ） (2021-02-01T06:06:21Z)
How Robust are Randomized Smoothing based Defenses to Data Poisoning? [66.80663779176979]
我々は、トレーニングデータの品質の重要性を強調する堅牢な機械学習モデルに対して、これまで認識されていなかった脅威を提示します。本稿では,二段階最適化に基づく新たなデータ中毒攻撃法を提案し,ロバストな分類器のロバスト性を保証する。我々の攻撃は、被害者が最先端のロバストな訓練方法を用いて、ゼロからモデルを訓練しても効果的である。
論文参考訳（メタデータ） (2020-12-02T15:30:21Z)
Adversarial Self-Supervised Contrastive Learning [62.17538130778111]
既存の対数学習アプローチは、主にクラスラベルを使用して、誤った予測につながる対数サンプルを生成する。本稿では,未ラベルデータに対する新たな逆攻撃を提案する。これにより,モデルが摂動データサンプルのインスタンスレベルのアイデンティティを混乱させる。ラベル付きデータなしで頑健なニューラルネットワークを逆さまにトレーニングするための,自己教師付きコントラスト学習フレームワークを提案する。
論文参考訳（メタデータ） (2020-06-13T08:24:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。