論文の概要: Detectability in Diversity: Improved Canary Crafting for Privacy Auditing in One Run

• arxiv url: http://arxiv.org/abs/2605.27292v1
• Date: Tue, 26 May 2026 17:06:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-27 17:51:42.474256
• Title: Detectability in Diversity: Improved Canary Crafting for Privacy Auditing in One Run
• Title（参考訳）: 多様性における検出可能性: 一度に監査するプライバシのためのカナリアクラフトの改善
• Authors: Mathieu Dagréou, Aurélien Bellet,
• Abstract要約: 本研究では,ワンランプライバシ監査のためのカナリアを効率的に作成する問題について検討する。 近年の理論的考察により, カナリアを高度に検出可能かつ最小限の干渉に最適化することを提案する。 提案手法は,既存のカナリア工法よりも計算コストの低いプライバシー漏洩推定値を実現する。
• 参考スコア（独自算出の注目度）: 16.253884615128996
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Privacy auditing aims to empirically assess privacy leakage in machine learning models using membership inference attacks (MIAs), and to derive lower bounds on differential privacy (DP) parameters. Recent one-run auditing methods address the high cost of standard approaches by relying on a single training run with multiple "canary" points whose inclusion or exclusion must be detected by the auditor. In this work, we study the problem of efficiently crafting canaries for one-run privacy auditing. Motivated by recent theoretical insights suggesting that interference between canaries contributes to weaker leakage estimates compared to multi-run methods, we propose to optimize canaries to be both highly detectable and minimally interfering. Our approach combines a greedy initialization based on influence functions with a bilevel optimization procedure that maximizes distinguishability while promoting diversity in embedding space, enabling the use of computationally efficient bilevel algorithms. Experiments show that our method achieves stronger privacy leakage estimates at a lower computational cost than existing canary crafting approaches.
• Abstract（参考訳）: プライバシ監査は、メンバシップ推論攻撃(MIA)を使用して機械学習モデルのプライバシリークを経験的に評価すること、および差分プライバシ(DP)パラメータの低いバウンダリを導出することを目的としている。 近年のワンラン監査手法は,複数の「カナリア」ポイントを持つ単一トレーニングランに頼って,監査者によって包括的・排他的に検出されなければならない,標準手法の高コスト化に対処している。 本研究では,ワンランプライバシ監査のためのカナリアを効率的に作成する問題について検討する。 提案手法は, カナリア間の干渉がマルチラン法に比べて弱いリーク推定に寄与することを示す最近の理論的考察により, カナリアを高度に検出可能かつ最小限の干渉に最適化することを提案する。 提案手法は,インフルエンス関数に基づくグリーディ初期化と,組込み空間の多様性を促進しながら識別性を最大化し,計算効率の良いバイレベルアルゴリズムの利用を可能にするバイレベル最適化手法を組み合わせたものである。 実験により,本手法は既存のカナリア工法に比べて計算コストが低い場合に,より強力なプライバシー漏洩推定値が得られることが示された。

関連論文リスト

• Optimizing Canaries for Privacy Auditing with Metagradient Descent [32.69637681449977]
  我々はブラックボックスのプライバシー監査について研究し、そこでは差分プライベート学習アルゴリズムのプライバシーパラメータを低くすることを目的としている。 本研究の主な貢献は,プライバシ監査を改善するための監査者のカナリアセットを最適化する手法である。 このような最適化されたカナリアを用いることで、特定の場合において、微分プライベートな画像分類モデルに対する経験的下限を2倍以上改善できることが実証的評価によって示される。
  論文  参考訳（メタデータ） (2025-07-21T17:47:33Z)
• Enhancing One-run Privacy Auditing with Quantile Regression-Based Membership Inference [22.843200081364873]
  Differential Privacy(DP)監査は、DP-SGDのようなDPメカニズムのプライバシー保証を実証的に低くすることを目的としている。 近年,DP-SGDをホワイトボックス設定で効果的に評価できる一方的な監査手法が提案されている。 本研究では,より強力なメンバーシップ推論攻撃(MIA)へのアプローチを取り入れることで,ブラックボックス環境でのワンラン監査を改善する方法について検討する。
  論文  参考訳（メタデータ） (2025-06-18T11:03:39Z)
• Federated Learning with Differential Privacy: An Utility-Enhanced Approach [12.614480013684759]
  フェデレーション学習は、クライアントのデータを共有する必要性をなくすことによって、データのプライバシを保護するための魅力的なアプローチとして現れている。 最近の研究では、フェデレートされた学習だけではプライバシーが保証されないことが示されている。 本稿では,これらのバニラ微分プライベートアルゴリズムを,ハールウェーブレット変換ステップとノイズの分散を著しく低減する新しいノイズ注入方式に基づいて修正する。
  論文  参考訳（メタデータ） (2025-03-27T04:48:29Z)
• Linear-Time User-Level DP-SCO via Robust Statistics [55.350093142673316]
  ユーザレベルの差分プライベート凸最適化(DP-SCO)は、マシンラーニングアプリケーションにおけるユーザのプライバシ保護の重要性から、大きな注目を集めている。 微分プライベート勾配勾配(DP-SGD)に基づくような現在の手法は、しばしば高雑音蓄積と準最適利用に苦しむ。 これらの課題を克服するために、ロバストな統計、特に中央値とトリミング平均を利用する新しい線形時間アルゴリズムを導入する。
  論文  参考訳（メタデータ） (2025-02-13T02:05:45Z)
• Privacy Audit as Bits Transmission: (Im)possibilities for Audit by One Run [7.850976675388593]
  情報理論の原則に基づくプライバシー監査のための統一フレームワークを提案する。 プライバシ監査の手法を1回実行することで,単一実行監査が実現可能あるいは実現不可能な条件を特定する。
  論文  参考訳（メタデータ） (2025-01-29T16:38:51Z)
• Auditing $f$-Differential Privacy in One Run [43.34594422920125]
  実証監査は、プライバシ保護アルゴリズムの実装におけるいくつかの欠陥をキャッチする手段として登場した。 本稿では,メカニズムのプライバシを効果的に評価できる,厳密で効率的な監査手順と分析法を提案する。
  論文  参考訳（メタデータ） (2024-10-29T17:02:22Z)
• TernaryVote: Differentially Private, Communication Efficient, and Byzantine Resilient Distributed Optimization on Heterogeneous Data [50.797729676285876]
  本稿では, 3次圧縮機と多数決機構を組み合わせて, 差分プライバシー, 勾配圧縮, ビザンチンレジリエンスを同時に実現するternaryVoteを提案する。 提案アルゴリズムのF差分プライバシー(DP)とビザンチンレジリエンスのレンズによるプライバシー保証を理論的に定量化する。
  論文  参考訳（メタデータ） (2024-02-16T16:41:14Z)
• Theoretically Principled Federated Learning for Balancing Privacy and Utility [61.03993520243198]
  モデルパラメータを歪ませることでプライバシを保護する保護機構の一般学習フレームワークを提案する。 フェデレートされた学習における各コミュニケーションラウンドにおいて、各クライアント上の各モデルパラメータに対して、パーソナライズされたユーティリティプライバシトレードオフを実現することができる。
  論文  参考訳（メタデータ） (2023-05-24T13:44:02Z)
• Differentially Private Stochastic Gradient Descent with Low-Noise [49.981789906200035]
  現代の機械学習アルゴリズムは、データからきめ細かい情報を抽出して正確な予測を提供することを目的としており、プライバシー保護の目標と矛盾することが多い。 本稿では、プライバシを保ちながら優れたパフォーマンスを確保するために、プライバシを保存する機械学習アルゴリズムを開発することの実践的および理論的重要性について論じる。
  論文  参考訳（メタデータ） (2022-09-09T08:54:13Z)
• Optimal Off-Policy Evaluation from Multiple Logging Policies [77.62012545592233]
  我々は,複数のロギングポリシからオフ政治評価を行い,それぞれが一定のサイズ,すなわち階層化サンプリングのデータセットを生成する。 複数ロガーのOPE推定器は,任意のインスタンス,すなわち効率のよいインスタンスに対して最小分散である。
  論文  参考訳（メタデータ） (2020-10-21T13:43:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。