論文の概要: Measuring Re-identification Risk
- arxiv url: http://arxiv.org/abs/2304.07210v2
- Date: Mon, 31 Jul 2023 17:35:57 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-01 23:07:29.041510
- Title: Measuring Re-identification Risk
- Title（参考訳）: 再識別リスクの測定
- Authors: CJ Carey, Travis Dick, Alessandro Epasto, Adel Javanmard, Josh Karlin,
Shankar Kumar, Andres Munoz Medina, Vahab Mirrokni, Gabriel Henrique Nunes,
Sergei Vassilvitskii, Peilin Zhong
- Abstract要約: コンパクトなユーザ表現における再識別リスクを測定するための新しい理論的枠組みを提案する。
我々のフレームワークは、攻撃者がその表現からユーザのアイデンティティを取得できる確率を正式に制限します。
当社のフレームワークが、関心に基づく広告のためのChromeのトピックAPIのような、重要な現実世界のアプリケーションをモデル化するのに十分な一般性を示している。
- 参考スコア（独自算出の注目度）: 72.6715574626418
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Compact user representations (such as embeddings) form the backbone of
personalization services. In this work, we present a new theoretical framework
to measure re-identification risk in such user representations. Our framework,
based on hypothesis testing, formally bounds the probability that an attacker
may be able to obtain the identity of a user from their representation. As an
application, we show how our framework is general enough to model important
real-world applications such as the Chrome's Topics API for interest-based
advertising. We complement our theoretical bounds by showing provably good
attack algorithms for re-identification that we use to estimate the
re-identification risk in the Topics API. We believe this work provides a
rigorous and interpretable notion of re-identification risk and a framework to
measure it that can be used to inform real-world applications.
- Abstract（参考訳）: コンパクトなユーザ表現(埋め込みなど)はパーソナライズサービスのバックボーンを形成する。
本稿では,このようなユーザ表現における再識別リスクを測定するための新しい理論的枠組みを提案する。
我々のフレームワークは仮説テストに基づいており、攻撃者がその表現からユーザのアイデンティティを取得できる確率を正式に制限している。
アプリケーションとして、我々のフレームワークは、関心に基づく広告のためのChromeのトピックAPIのような重要な現実世界のアプリケーションをモデル化するのに十分な一般性を示している。
そこで我々は,Topics APIにおける再識別リスクを推定するために使用する,優れた攻撃アルゴリズムを示すことによって,理論的境界を補完する。
この研究は、再識別リスクという厳密で解釈可能な概念と、それを実世界のアプリケーションに伝えるのに使えるフレームワークを提供すると信じています。
関連論文リスト
- A Human-Centered Risk Evaluation of Biometric Systems Using Conjoint Analysis [0.6199770411242359]
本稿では, コンジョイント分析を用いて, 監視カメラなどのリスク要因が攻撃者のモチベーションに与える影響を定量化するために, 新たな人間中心型リスク評価フレームワークを提案する。
本フレームワークは、False Acceptance Rate(FAR)とアタック確率を組み込んだリスク値を算出し、ユースケース間の総合的な比較を可能にする。
論文 参考訳（メタデータ） (2024-09-17T14:18:21Z) - "Glue pizza and eat rocks" -- Exploiting Vulnerabilities in Retrieval-Augmented Generative Models [74.05368440735468]
Retrieval-Augmented Generative (RAG)モデルにより大規模言語モデル(LLM)が強化される
本稿では,これらの知識基盤の開放性を敵が活用できるセキュリティ上の脅威を示す。
論文 参考訳（メタデータ） (2024-06-26T05:36:23Z) - PRAT: PRofiling Adversarial aTtacks [52.693011665938734]
PRofiling Adversarial aTacks (PRAT) の新たな問題点について紹介する。
敵対的な例として、PRATの目的は、それを生成するのに使用される攻撃を特定することである。
AIDを用いてPRATの目的のための新しいフレームワークを考案する。
論文 参考訳（メタデータ） (2023-09-20T07:42:51Z) - On the Robustness of Topics API to a Re-Identification Attack [6.157783777246449]
Googleは、行動広告のプライバシフレンドリな代替手段として、Topics APIフレームワークを提案した。
本稿では,Topics APIの再識別攻撃に対するロバスト性を評価する。
ユーザのプロファイルがウェブサイトのオーディエンス内でユニークである可能性が大きいため,Topics APIは緩和されるが,再識別の防止はできない。
論文 参考訳（メタデータ） (2023-06-08T10:53:48Z) - Explainable Abuse Detection as Intent Classification and Slot Filling [66.80201541759409]
我々は、システムがデータ検査だけで乱用を構成する事象を確実に学習できるという非現実的な期待を捨て、政策対応による悪用検出の概念を導入する。
目的分類とスロットフィリングのためのアーキテクチャは、モデル決定の根拠を提供しながら、悪用検出にどのように使用できるかを示す。
論文 参考訳（メタデータ） (2022-10-06T03:33:30Z) - A Unified Evaluation of Textual Backdoor Learning: Frameworks and
Benchmarks [72.7373468905418]
我々は,テキストバックドア学習の実装と評価を促進するオープンソースツールキットOpenBackdoorを開発した。
また,単純なクラスタリングに基づく防御ベースラインであるCUBEを提案する。
論文 参考訳（メタデータ） (2022-06-17T02:29:23Z) - Assessing the risk of re-identification arising from an attack on
anonymised data [0.24466725954625884]
悪意のある攻撃から匿名化されたデータセットへの再識別のリスクを計算する。
そこで本研究では,k匿名化データセットにおける1人の患者の再同定の確率を推定する分析手法を提案する。
我々はこの解法を一般化し、複数の患者が再同定される確率を得る。
論文 参考訳（メタデータ） (2022-03-31T09:47:05Z) - A Principled Design of Image Representation: Towards Forensic Tasks [75.40968680537544]
本稿では, 理論, 実装, 応用の観点から, 法科学指向の画像表現を別の問題として検討する。
理論レベルでは、Dense Invariant Representation (DIR)と呼ばれる、数学的保証を伴う安定した記述を特徴とする、新しい法医学の表現フレームワークを提案する。
本稿では, ドメインパターンの検出とマッチング実験について, 最先端の記述子との比較結果を提供する。
論文 参考訳（メタデータ） (2022-03-02T07:46:52Z) - Towards Practical Implementations of Person Re-Identification from Full
Video Frames [1.3439502310822151]
我々は、人を再識別する現在の方法、すなわち、既に検出された画像やプリクロップされた画像内の人物を再識別しようとすることは、実用的なセキュリティアプリケーションを実装するのに十分ではないと論じる。
この主張をサポートするために、FF-PRID(Full Frame Person Re-ID set)を導入し、FF-PRIDの実装を評価するための特定のメトリクスを定義する。
論文 参考訳（メタデータ） (2020-09-02T22:53:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。