論文の概要: BLIA: Detect model memorization in binary classification model through passive Label Inference attack

• arxiv url: http://arxiv.org/abs/2503.12801v1
• Date: Mon, 17 Mar 2025 04:15:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-18 15:59:56.322745
• Title: BLIA: Detect model memorization in binary classification model through passive Label Inference attack
• Title（参考訳）: BLIA:受動ラベル推論攻撃による二項分類モデルにおけるモデル記憶の検出
• Authors: Mohammad Wahiduzzaman Khan, Sheng Chen, Ilya Mironov, Leizhen Zhang, Rabib Noor,
• Abstract要約: 本稿では,2つの新しいラベル推論攻撃(BLIA)による二項分類モデルのラベル記憶について検討する。 カナリア」と呼ばれる制御されたサブセットのラベルの50%を意図的に反転させることで、2つの条件下でのラベル記憶の程度を評価する。 ラベルDPの様々な程度の適用にもかかわらず、提案された攻撃は一貫して50%以上の成功率を達成する。
• 参考スコア（独自算出の注目度）: 5.630199151284701
• License:
• Abstract: Model memorization has implications for both the generalization capacity of machine learning models and the privacy of their training data. This paper investigates label memorization in binary classification models through two novel passive label inference attacks (BLIA). These attacks operate passively, relying solely on the outputs of pre-trained models, such as confidence scores and log-loss values, without interacting with or modifying the training process. By intentionally flipping 50% of the labels in controlled subsets, termed "canaries," we evaluate the extent of label memorization under two conditions: models trained without label differential privacy (Label-DP) and those trained with randomized response-based Label-DP. Despite the application of varying degrees of Label-DP, the proposed attacks consistently achieve success rates exceeding 50%, surpassing the baseline of random guessing and conclusively demonstrating that models memorize training labels, even when these labels are deliberately uncorrelated with the features.
• Abstract（参考訳）: モデル記憶化は、機械学習モデルの一般化能力と、トレーニングデータのプライバシの両方に影響を及ぼす。 本稿では,2つの新しいラベル推論攻撃(BLIA)によるバイナリ分類モデルのラベル記憶について検討する。 これらの攻撃は受動的に動作し、トレーニングプロセスと対話したり修正したりすることなく、信頼スコアやログロス値などの事前訓練されたモデルの出力のみに依存する。 ラベルの50%を「カナリア」と呼ばれる制御されたサブセットに意図的に反転させることで、ラベルの差分プライバシー(Label-DP)なしでトレーニングされたモデルとランダムな応答に基づくラベルDPでトレーニングされたモデルという2つの条件下でラベルの記憶範囲を評価する。 ラベルDPの様々な程度の適用にもかかわらず、提案した攻撃は、ランダムな推測の基準を超え、これらのラベルが意図的に特徴と無関係である場合でも、トレーニングラベルを記憶することが決定的に証明される。

関連論文リスト

• Reduction-based Pseudo-label Generation for Instance-dependent Partial Label Learning [41.345794038968776]
  本稿では,誤り候補ラベルの影響を軽減するために,リダクションに基づく擬似ラベルを活用することを提案する。 推定モデルから生成した擬似ラベルと比較して,減算に基づく擬似ラベルはベイズ最適分類器との整合性が高いことを示す。
  論文  参考訳（メタデータ） (2024-10-28T07:32:20Z)
• LabObf: A Label Protection Scheme for Vertical Federated Learning Through Label Obfuscation [10.224977496821154]
  Split Neural Networkは、プライバシー保護の特性から業界で人気がある。 悪意のある参加者は、アップロードされた埋め込みからラベル情報を推測するかもしれない。 本稿では,各整数値ラベルを複数の実数値ソフトラベルにランダムにマッピングする,LabObf'と呼ばれる新しいラベル難読化防衛戦略を提案する。
  論文  参考訳（メタデータ） (2024-05-27T10:54:42Z)
• Soft Curriculum for Learning Conditional GANs with Noisy-Labeled and Uncurated Unlabeled Data [70.25049762295193]
  本稿では,トレーニング中にノイズラベル付きおよび未処理データを受け入れる条件付き画像生成フレームワークを提案する。 本稿では,ラベルのないデータに新たなラベルを割り当てながら,逆行訓練にインスタンスワイドを割り当てるソフトカリキュラム学習を提案する。 実験により,本手法は,定量および定性性能の両面において,既存の半教師付き・ラベル付きロバストな手法より優れていることが示された。
  論文  参考訳（メタデータ） (2023-07-17T08:31:59Z)
• Label Inference Attack against Split Learning under Regression Setting [24.287752556622312]
  回帰モデルのシナリオにおいて,プライベートラベルが連続数である場合の漏洩について検討する。 グラデーション情報と追加学習正規化目標を統合した,新たな学習ベースアタックを提案する。
  論文  参考訳（メタデータ） (2023-01-18T03:17:24Z)
• Exploiting Completeness and Uncertainty of Pseudo Labels for Weakly Supervised Video Anomaly Detection [149.23913018423022]
  弱教師付きビデオ異常検出は、ビデオレベルのラベルのみを用いて、ビデオ内の異常事象を特定することを目的としている。 2段階の自己学習法は擬似ラベルの自己生成によって著しく改善されている。 本稿では,自己学習のための完全性と不確実性を利用した強化フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-12-08T05:53:53Z)
• Transductive CLIP with Class-Conditional Contrastive Learning [68.51078382124331]
  雑音ラベル付き分類ネットワークをスクラッチから学習するための新しいフレームワークであるTransductive CLIPを提案する。 擬似ラベルへの依存を軽減するために,クラス条件のコントラスト学習機構を提案する。 アンサンブルラベルは、ノイズラベル付きディープニューラルネットワークのトレーニングを安定化するための擬似ラベル更新戦略として採用されている。
  論文  参考訳（メタデータ） (2022-06-13T14:04:57Z)
• Does Label Differential Privacy Prevent Label Inference Attacks? [26.87328379562665]
  ラベル差分プライバシー(ラベルDP)は、パブリック機能と機密性の高いプライベートラベルを持つデータセット上で、プライベートMLモデルをトレーニングするための一般的なフレームワークである。 厳格なプライバシー保証にもかかわらず、実際にはラベルDPはラベル推論攻撃(LIAs)を妨げない。
  論文  参考訳（メタデータ） (2022-02-25T20:57:29Z)
• Self-Tuning for Data-Efficient Deep Learning [75.34320911480008]
  セルフチューニングは、データ効率のよいディープラーニングを可能にする新しいアプローチである。 ラベル付きおよびラベルなしデータの探索と事前訓練されたモデルの転送を統一する。 SSLとTLの5つのタスクをシャープなマージンで上回ります。
  論文  参考訳（メタデータ） (2021-02-25T14:56:19Z)
• Label-Only Membership Inference Attacks [67.46072950620247]
  ラベルのみのメンバシップ推論攻撃を導入する。 我々の攻撃は、摂動下でのモデルが予測するラベルの堅牢性を評価する。 差分プライバシーと(強い)L2正規化を備えたトレーニングモデルは、唯一知られている防衛戦略である。
  論文  参考訳（メタデータ） (2020-07-28T15:44:31Z)
• Unsupervised Person Re-identification via Multi-label Classification [55.65870468861157]
  本稿では,教師なしのReIDを多ラベル分類タスクとして定式化し,段階的に真のラベルを求める。 提案手法は,まず,各人物画像に単一クラスラベルを割り当てることから始まり,ラベル予測のために更新されたReIDモデルを活用することで,多ラベル分類へと進化する。 マルチラベル分類におけるReIDモデルのトレーニング効率を高めるために,メモリベースマルチラベル分類損失(MMCL)を提案する。
  論文  参考訳（メタデータ） (2020-04-20T12:13:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。