論文の概要: Amplified Patch-Level Differential Privacy for Free via Random Cropping
- arxiv url: http://arxiv.org/abs/2603.24695v1
- Date: Wed, 25 Mar 2026 18:15:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-27 20:52:47.928033
- Title: Amplified Patch-Level Differential Privacy for Free via Random Cropping
- Title(参考訳): ランダムクロッピングによるPatch-Level差分プライバシの増幅
- Authors: Kaan Durmaz, Jan Schuchardt, Sebastian Schmidt, Stephan Günnemann,
- Abstract要約: 画像内のセンシティブなコンテンツが空間的局所化されると、ランダムなトリミングが確率論的にモデルの入力からそのコンテンツを除外する。
差分プライベート勾配降下に対するパッチレベル関係を導入することにより、この効果を定式化する。
以上の結果から,プライバシ会計とドメイン構造との整合性は,追加コストを伴わずにより強力な保証が得られることが示された。
- 参考スコア(独自算出の注目度): 47.916558896136856
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Random cropping is one of the most common data augmentation techniques in computer vision, yet the role of its inherent randomness in training differentially private machine learning models has thus far gone unexplored. We observe that when sensitive content in an image is spatially localized, such as a face or license plate, random cropping can probabilistically exclude that content from the model's input. This introduces a third source of stochasticity in differentially private training with stochastic gradient descent, in addition to gradient noise and minibatch sampling. This additional randomness amplifies differential privacy without requiring changes to model architecture or training procedure. We formalize this effect by introducing a patch-level neighboring relation for vision data and deriving tight privacy bounds for differentially private stochastic gradient descent (DP-SGD) when combined with random cropping. Our analysis quantifies the patch inclusion probability and shows how it composes with minibatch sampling to yield a lower effective sampling rate. Empirically, we validate that patch-level amplification improves the privacy-utility trade-off across multiple segmentation architectures and datasets. Our results demonstrate that aligning privacy accounting with domain structure and additional existing sources of randomness can yield stronger guarantees at no additional cost.
- Abstract(参考訳): ランダムトリミング(Random cropping)は、コンピュータビジョンにおいて最も一般的なデータ拡張手法の1つであるが、差分プライベート機械学習モデルのトレーニングにおいて、その固有のランダム性の役割は、これまで解明されていない。
画像中のセンシティブなコンテンツが顔やナンバープレートなどの空間的局所化されると、ランダムなトリミングがモデルの入力からそのコンテンツを確率論的に排除する。
これは、勾配雑音とミニバッチサンプリングに加えて、確率勾配降下を伴う微分プライベートトレーニングにおける第3の確率性源を導入する。
この追加のランダム性は、モデルアーキテクチャやトレーニング手順を変更することなく、差分プライバシを増幅する。
この効果は、視覚データに対するパッチレベルの隣接関係を導入し、ランダムな収穫と組み合わせた場合のDP-SGDの厳密なプライバシー境界を導出することによって定式化する。
本分析はパッチ包摂確率を定量化し,ミニバッチサンプリングを用いて構成し,より低い有効サンプリング率を得る方法を示す。
経験的に、パッチレベルの増幅が、複数のセグメンテーションアーキテクチャとデータセット間のプライバシユーティリティトレードオフを改善することを検証します。
以上の結果から,プライバシ会計とドメイン構造との整合性,および既存のランダム性の源泉が付加コストを伴わずにより強力な保証を得る可能性が示唆された。
関連論文リスト
- Leveraging Randomness in Model and Data Partitioning for Privacy Amplification [8.52745154080651]
トレーニングプロセスにおける固有のランダム性は、プライバシーの増幅にどのように活用できるかを考察する。
この中には、(1)データパーティショニング、(2)サンプルがトレーニングイテレーションのサブセットのみに参加し、(2)モデルパーティショニング、(2)サンプルがモデルのパラメータのサブセットだけを更新する。
以上の結果から、複雑な方法でデータと相互作用する訓練プロセスのランダム性は、重要なプライバシーの増幅のために体系的に活用できることが示唆された。
論文 参考訳(メタデータ) (2025-03-04T22:49:59Z) - Differentially Private Random Feature Model [47.35176457481132]
プライバシを保存するカーネルマシンに対して,差分的にプライベートな特徴モデルを作成する。
本手法は,プライバシを保護し,一般化誤差を導出する。
論文 参考訳(メタデータ) (2024-12-06T05:31:08Z) - Just One Byte (per gradient): A Note on Low-Bandwidth Decentralized
Language Model Finetuning Using Shared Randomness [86.61582747039053]
分散環境での言語モデルトレーニングは、交換の通信コストによって制限される。
分散微調整を低帯域幅で行うために,共有ランダムネスを用いた最近の作業を拡張した。
論文 参考訳(メタデータ) (2023-06-16T17:59:51Z) - Adap DP-FL: Differentially Private Federated Learning with Adaptive
Noise [30.005017338416327]
フェデレートラーニングは、クライアントにローカルトレーニングモデルのみを公開することによって、孤立したデータアイランドの問題に対処しようとしている。
近年、データプライバシを保護するためのフェデレーション学習に差分プライバシーが適用されているが、付加されるノイズは学習性能を著しく低下させる可能性がある。
適応雑音付きフェデレーション学習のための差分プライベートスキーム(Adap DP-FL)を提案する。
論文 参考訳(メタデータ) (2022-11-29T03:20:40Z) - Don't Generate Me: Training Differentially Private Generative Models
with Sinkhorn Divergence [73.14373832423156]
そこで我々はDP-Sinkhornを提案する。DP-Sinkhornは個人データからデータ分布を差分プライバシで学習するための新しいトランスポートベース生成手法である。
差分的にプライベートな生成モデルを訓練するための既存のアプローチとは異なり、我々は敵の目的に頼らない。
論文 参考訳(メタデータ) (2021-11-01T18:10:21Z) - Renyi Differential Privacy of the Subsampled Shuffle Model in
Distributed Learning [7.197592390105457]
クライアントは、プライバシを必要とするサーバとのインタラクションを通じて、学習モデルを反復的に構築する分散学習フレームワークで、プライバシを研究する。
最適化とフェデレートラーニング(FL)パラダイムによって動機付けられ、各ラウンドで少数のデータサンプルがランダムにサブサンプリングされた場合に焦点を当てる。
より強力なローカルプライバシ保証を得るために,各クライアントがローカルディファレンシャル・プライベート(LDP)機構を用いて応答をランダム化するシャッフルプライバシ・モデルを用いてこれを検証した。
論文 参考訳(メタデータ) (2021-07-19T11:43:24Z) - RDP-GAN: A R\'enyi-Differential Privacy based Generative Adversarial
Network [75.81653258081435]
GAN(Generative Adversarial Network)は,プライバシ保護の高い現実的なサンプルを生成する能力によって,近年注目を集めている。
しかし、医療記録や財務記録などの機密・私的な訓練例にGANを適用すると、個人の機密・私的な情報を漏らしかねない。
本稿では、学習中の損失関数の値にランダムノイズを慎重に付加することにより、GAN内の差分プライバシー(DP)を実現するR'enyi-differentially private-GAN(RDP-GAN)を提案する。
論文 参考訳(メタデータ) (2020-07-04T09:51:02Z) - Differentially Private Federated Learning with Laplacian Smoothing [72.85272874099644]
フェデレートラーニングは、ユーザ間でプライベートデータを共有せずに、協調的にモデルを学習することで、データのプライバシを保護することを目的としている。
敵は、リリースしたモデルを攻撃することによって、プライベートトレーニングデータを推測することができる。
差別化プライバシは、トレーニングされたモデルの正確性や実用性を著しく低下させる価格で、このような攻撃に対する統計的保護を提供する。
論文 参考訳(メタデータ) (2020-05-01T04:28:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。