論文の概要: Observational Auditing of Label Privacy

• arxiv url: http://arxiv.org/abs/2511.14084v1
• Date: Tue, 18 Nov 2025 03:12:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-19 16:23:52.900456
• Title: Observational Auditing of Label Privacy
• Title（参考訳）: ラベルプライバシの観察監査
• Authors: Iden Kalemaj, Luca Melis, Maxime Boucher, Ilya Mironov, Saeed Mahloujifar,
• Abstract要約: 差分プライバシー監査(DP)監査は、機械学習システムにおけるプライバシー保証を評価する上で不可欠である。 既存の監査手法では、例えば、アウト・オブ・ディストリビューションカナリアを注入したり、トレーニングからサンプルを取り除いたりすることで、トレーニングデータセットを変更する必要がある。 本稿では,データ分布の固有ランダム性を活用する新しい観察監査フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 16.143689489883382
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Differential privacy (DP) auditing is essential for evaluating privacy guarantees in machine learning systems. Existing auditing methods, however, pose a significant challenge for large-scale systems since they require modifying the training dataset -- for instance, by injecting out-of-distribution canaries or removing samples from training. Such interventions on the training data pipeline are resource-intensive and involve considerable engineering overhead. We introduce a novel observational auditing framework that leverages the inherent randomness of data distributions, enabling privacy evaluation without altering the original dataset. Our approach extends privacy auditing beyond traditional membership inference to protected attributes, with labels as a special case, addressing a key gap in existing techniques. We provide theoretical foundations for our method and perform experiments on Criteo and CIFAR-10 datasets that demonstrate its effectiveness in auditing label privacy guarantees. This work opens new avenues for practical privacy auditing in large-scale production environments.
• Abstract（参考訳）: 差分プライバシー監査(DP)監査は、機械学習システムにおけるプライバシー保証を評価する上で不可欠である。 しかし、既存の監査手法は、トレーニングデータセットを変更する必要があるため、大規模なシステムにとって大きな課題となる。 トレーニングデータパイプラインへのこのような介入は、リソース集約的であり、かなりのエンジニアリングオーバーヘッドを伴います。 本稿では,データ分布の固有なランダム性を生かし,元のデータセットを変更することなく,プライバシー評価を可能にする新しい観察監査フレームワークを提案する。 弊社のアプローチは、従来の会員推測以上のプライバシー監査を保護属性に拡張し、ラベルを特殊なケースとして、既存の技術における重要なギャップに対処する。 提案手法の理論的基盤を提供し,CriteoとCIFAR-10データセットの実験を行い,ラベルのプライバシー保証の監査に有効であることを示す。 この作業は、大規模生産環境での実用的なプライバシ監査のための新たな道を開く。

関連論文リスト

• DATABench: Evaluating Dataset Auditing in Deep Learning from an Adversarial Perspective [70.77570343385928]
  内的特徴(IF)と外的特徴(EF)(監査のための技術導入)に依存した既存手法の分類を新たに導入する。 回避攻撃(evasion attack)は、データセットの使用を隠蔽するために設計されたもので、偽造攻撃(forgery attack)は、未使用のデータセットを誤って含んでいることを意図している。 さらに,既存手法の理解と攻撃目標に基づいて,回避のための分離・除去・検出,偽造の逆例に基づく攻撃方法など,系統的な攻撃戦略を提案する。 私たちのベンチマークであるData dataBenchは、17の回避攻撃、5の偽攻撃、9の攻撃で構成されています。
  論文  参考訳（メタデータ） (2025-07-08T03:07:15Z)
• Privacy Audit as Bits Transmission: (Im)possibilities for Audit by One Run [7.850976675388593]
  情報理論の原則に基づくプライバシー監査のための統一フレームワークを提案する。 プライバシ監査の手法を1回実行することで,単一実行監査が実現可能あるいは実現不可能な条件を特定する。
  論文  参考訳（メタデータ） (2025-01-29T16:38:51Z)
• Privacy Side Channels in Machine Learning Systems [87.53240071195168]
  プライバシサイドチャネルは、システムレベルのコンポーネントを利用してプライベート情報を抽出する攻撃である。 例えば、差分プライベートなトレーニングを適用する前にトレーニングデータを重複させることで、保証可能なプライバシ保証を完全に無効にするサイドチャネルが生成されることを示す。 さらに,学習データセットに含まれる秘密鍵を抽出するために,言語モデルを学習データ再生からブロックするシステムを利用することを示す。
  論文  参考訳（メタデータ） (2023-09-11T16:49:05Z)
• Tight Auditing of Differentially Private Machine Learning [77.38590306275877]
  プライベート機械学習では、既存の監査メカニズムは厳格である。 彼らは不確実な最悪の仮定の下でのみ厳密な見積もりを行う。 我々は、自然(逆向きではない)データセットの厳密なプライバシー推定を得られる改善された監査スキームを設計する。
  論文  参考訳（メタデータ） (2023-02-15T21:40:33Z)
• A General Framework for Auditing Differentially Private Machine Learning [27.99806936918949]
  本稿では,差分プライベートな学習者によって与えられるプライバシ保証を統計的に評価する枠組みを提案する。 本研究は、微分プライベート機械学習実装のプライバシを実証的に評価する一般的な手法を開発する。
  論文  参考訳（メタデータ） (2022-10-16T21:34:18Z)
• Debugging Differential Privacy: A Case Study for Privacy Auditing [60.87570714269048]
  監査は、微分プライベートなスキームの欠陥を見つけるためにも利用できることを示す。 このケーススタディでは、微分プライベートなディープラーニングアルゴリズムの最近のオープンソース実装を監査し、99.9999999999%の信頼を得て、この実装が要求される差分プライバシー保証を満たさないことを発見した。
  論文  参考訳（メタデータ） (2022-02-24T17:31:08Z)
• Data-driven Regularized Inference Privacy [33.71757542373714]
  データを衛生化するためのデータ駆動推論プライバシ保護フレームワークを提案する。 我々は変分法に基づく推論プライバシ・フレームワークを開発する。 プライバシー基準を推定するための実証的手法を提案する。
  論文  参考訳（メタデータ） (2020-10-10T08:42:59Z)
• Stratified cross-validation for unbiased and privacy-preserving federated learning [0.0]
  本稿では、重複レコードの繰り返し問題に焦点をあて、もし適切に扱わなければ、モデルの性能を過度に最適化的に見積もる可能性がある。 本稿では,階層化手法を活用して,フェデレート学習環境におけるデータ漏洩を防止する検証手法である階層化クロスバリデーションを紹介し,議論する。
  論文  参考訳（メタデータ） (2020-01-22T15:49:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。