論文の概要: Auditing Apple's DifferentialPrivacy.framework: Implementation Bugs, Misconfigurations, and Practical Risks
- arxiv url: http://arxiv.org/abs/2605.21378v2
- Date: Thu, 21 May 2026 16:31:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-22 16:35:41.920444
- Title: Auditing Apple's DifferentialPrivacy.framework: Implementation Bugs, Misconfigurations, and Practical Risks
- Title（参考訳）: AppleのdifferialPrivacy.framework:実装バグ、設定ミス、実践的リスク
- Authors: Rishav Chourasia, Ergute Bao, Uzair Javaid, Xiaokui Xiao,
- Abstract要約: 2016年以降、Appleはユーザーエクスペリエンスを改善するために収集されたデバイス分析は、差分プライバシー(DP)によって保護されていると主張している。
AppleのdifferialPrivacyフレームワークはオペレーティングシステム全体にデプロイされ、Safariドメイン、キーボードイベント、写真属性、健康関連レポートなどの機密信号を処理している。
我々はSonoma 14.2とSequoia 15.6でAppleのDPフレームワークをクライアントサイドで監査する。
- 参考スコア（独自算出の注目度）: 21.2163254320497
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Since 2016, Apple has claimed that device analytics collected to improve user experience are protected by differential privacy (DP). Apple's DifferentialPrivacy framework is deployed across its operating systems and handles sensitive signals such as Safari domains, keyboard events, photo attributes, and health-related reports. Because Apple has not open-sourced its privatization algorithms, these privacy claims have been difficult to verify independently. We present a client-side audit of Apple's DP framework on macOS Sonoma 14.2 and Sequoia 15.6. We reverse engineer the shipped binaries, recover Objective-C interfaces, build runtime harnesses that execute Apple's deployed mechanisms, and test whether their outputs match the advertised privacy guarantees. Our audit covers nearly all active deployed mechanisms, including Count Median Sketch, Hadamard-CMS, randomized-response mechanisms, and Prio-style secure aggregation. We find multiple implementation bugs and misconfigurations. Every audited mechanism that relies on floating-point noise fails to meet its advertised DP or zero-knowledge proof guarantee, due to insecure samplers with known floating-point vulnerabilities. We also find secure-aggregation configurations with local DP disabled, exposing pre-aggregation records to any party with access to those logs. Overall, we find DP violations in 5 of 9 audited mechanisms, affecting 87% of data collection in macOS Sonoma and 68% in Sequoia. We also identify public leaked iPhone logs that can be decoded to recover private information, including Safari domains and keyboard emoji signals.
- Abstract（参考訳）: 2016年以降、Appleはユーザーエクスペリエンスを改善するために収集されたデバイス分析は、差分プライバシー(DP)によって保護されていると主張している。
AppleのdifferialPrivacyフレームワークは、オペレーティングシステム全体にデプロイされ、Safariドメイン、キーボードイベント、写真属性、健康関連レポートなどのセンシティブなシグナルを処理する。
Appleは民営化のアルゴリズムをオープンソース化していないので、これらのプライバシーの主張は独立して検証することは困難だった。
macOS Sonoma 14.2 と Sequoia 15.6 で Apple の DP フレームワークをクライアントサイドで監査する。
出荷されたバイナリをリバースエンジニアリングし、Objective-Cインターフェースをリカバリし、Appleのデプロイメカニズムを実行するランタイムハーネスを構築し、その出力が宣伝されたプライバシ保証に適合するかどうかをテストする。
調査では,Median Sketch伯爵,Hadamard-CMS,ランダム化応答機構,プリオ方式のセキュアアグリゲーションなど,ほぼすべてのデプロイメカニズムをカバーしている。
複数の実装バグや設定ミスが見つかります。
浮動小数点雑音に依存する監査されたメカニズムは、既知の浮動小数点の脆弱性を持つ安全でないサンプリング装置のため、宣伝されたDPまたはゼロ知識証明の保証を満たさない。
また、ローカルDPを無効にしたセキュアなアグリゲーション構成も見つけ、そのログにアクセス可能な任意のパーティに事前アグリゲーションレコードを公開する。
全体として、9つの監査済みメカニズムのうち5つにDP違反があり、macOS Sonomaのデータ収集の87%、Sequoiaの68%に影響を与えています。
また、Safariのドメインやキーボードの絵文字信号など、プライベートな情報を復号して復元できる公開のiPhoneログも特定しています。
関連論文リスト
- Privacy in Theory, Bugs in Practice: Grey-Box Auditing of Differential Privacy Libraries [11.924357290256374]
DPアルゴリズムの内部状態を検査するグレーボックス監査パラダイムであるRe:cord-playを導入する。
Re:cord-playは、近隣のデータセットで同じランダム性で計測されたアルゴリズムを実行することで、データ依存の制御フローを直接チェックする。
12のオープンソースライブラリを監査することで,新しいテストアプローチが効果的かつ必要であることを示す。
論文 参考訳（メタデータ） (2026-02-19T15:18:00Z) - Symbolic verification of Apple's Find My location-tracking protocol [0.0]
我々は、Finder Myプロトコルのシンボリックモデルと、望ましいプロパティの正確な正式な仕様を示す。
これらの性質の機械チェック可能な自動証明を玉林証明器で提供する。
論文 参考訳（メタデータ） (2025-10-16T11:52:05Z) - GPM: The Gaussian Pancake Mechanism for Planting Undetectable Backdoors in Differential Privacy [4.281902449361707]
意図しないプライバシー喪失のいくつかの出来事は、数値的な問題と微分プライバシーソフトウェアの不適切な構成に起因する。
本稿では、広く使われているガウスのメカニズム(GM)と計算的に区別できない新しいメカニズムであるガウスのパンケーキ機構(GPM)を提案する。
GMの数値的な問題による意図しないプライバシの損失とは異なり、GPMはデータプライバシに対する敵対的だが検出不可能なバックドア攻撃である。
論文 参考訳（メタデータ） (2025-09-28T12:14:06Z) - Cross-Service Token: Finding Attacks in 5G Core Networks [58.86003502940164]
5GコアSBIのセキュリティ欠陥を明らかにするために設計された文法ベースのファジリングフレームワークであるFivGeeFuzzを紹介する。
FivGeeFuzzを使って、Free5GCでこれまで知られていなかった8つの脆弱性を発見しました。
論文 参考訳（メタデータ） (2025-09-10T20:40:33Z) - Adaptive Privacy Composition for Accuracy-first Mechanisms [55.53725113597539]
ノイズ低減機構はますます正確な答えを生み出す。
アナリストは、公表された最も騒々しい、あるいは最も正確な回答のプライバシー費用のみを支払う。
ポスト前のプライベートメカニズムがどのように構成されるかは、まだ研究されていない。
我々は、分析者が微分プライベートとポストプライベートのメカニズムを適応的に切り替えることのできるプライバシーフィルタを開発した。
論文 参考訳（メタデータ） (2023-06-24T00:33:34Z) - Debugging Differential Privacy: A Case Study for Privacy Auditing [60.87570714269048]
監査は、微分プライベートなスキームの欠陥を見つけるためにも利用できることを示す。
このケーススタディでは、微分プライベートなディープラーニングアルゴリズムの最近のオープンソース実装を監査し、99.9999999999%の信頼を得て、この実装が要求される差分プライバシー保証を満たさないことを発見した。
論文 参考訳（メタデータ） (2022-02-24T17:31:08Z) - Are We There Yet? Timing and Floating-Point Attacks on Differential Privacy Systems [18.396937775602808]
微分プライベート(DP)システムでよく用いられる雑音発生における2つの実装欠陥について検討する。
まず,浮動小数点表現攻撃に対するガウス機構の感受性について検討する。
第二に、別のチャネルに苦しむラプラスとガウスのメカニズムを個別に研究する。
論文 参考訳（メタデータ） (2021-12-10T02:57:01Z) - Smoothed Differential Privacy [55.415581832037084]
微分プライバシー(DP)は、最悪のケース分析に基づいて広く受け入れられ、広く適用されているプライバシーの概念である。
本稿では, 祝賀されたスムーズな解析の背景にある最悪の平均ケースのアイデアに倣って, DPの自然な拡張を提案する。
サンプリング手順による離散的なメカニズムはDPが予測するよりもプライベートであるのに対して,サンプリング手順による連続的なメカニズムはスムーズなDP下では依然としてプライベートではないことが証明された。
論文 参考訳（メタデータ） (2021-07-04T06:55:45Z) - Mind the GAP: Security & Privacy Risks of Contact Tracing Apps [75.7995398006171]
GoogleとAppleは共同で,Bluetooth Low Energyを使用した分散型コントラクトトレースアプリを実装するための公開通知APIを提供している。
実世界のシナリオでは、GAP設計は(i)プロファイリングに脆弱で、(ii)偽の連絡先を生成できるリレーベースのワームホール攻撃に弱いことを実証する。
論文 参考訳（メタデータ） (2020-06-10T16:05:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。