論文の概要: Contrastive Privacy: A Semantic Approach to Measuring Privacy of AI-based Sanitization

• arxiv url: http://arxiv.org/abs/2605.02977v1
• Date: Sun, 03 May 2026 21:33:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-06 19:35:43.555147
• Title: Contrastive Privacy: A Semantic Approach to Measuring Privacy of AI-based Sanitization
• Title（参考訳）: コントラストプライバシ(Contrastive Privacy) - AIベースの衛生のプライバシ測定のためのセマンティックアプローチ
• Authors: George Bissias, Eugene Bagdasarian, Brian Neil Levine,
• Abstract要約: 我々は、衛生メディアの体系的かつ定量的なテストを提供する形式的なプライバシー定義である、対照的なプライバシを提案する。 CLIPのような概念を直近で接続できるモデルによって提供されるセマンティクスの不完全な尺度で定義を運用する方法を示す。 画像上の34種類のモデルと、テキスト上で15種類のモデルに対して、衛生化の成功を定量化する。
• 参考スコア（独自算出の注目度）: 4.243926243206826
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: To sanitize specific concepts from imagery and text, privacy mechanisms with formal guarantees are often eschewed in practice in favor of more intuitive techniques. AI-based sanitization is poised to grow in popularity because it can work with the semantics of natural language concepts; e.g., a prompt to "remove faces, clothing, and body shape". Many approaches exist commercially and as prior work. But, the evaluation of such approaches has been bespoke and without formal guarantees. To fill this gap, we propose contrastive privacy, a formal definition of privacy that provides a systematic and quantitative test of sanitized media that has a semantic interpretation. It is independent of the model and mechanism used and operates across multiple media modalities. Contrastive privacy provides guarantees under ideal conditions; and we show how to operationalize the definition with imperfect measures of semantics, provided by models like CLIP, that can connect concepts latently. Notably, the algorithm contrasts sanitized media with other images from the same corpus to arrive at a determination; no manual labeling is involved. In our experiments, we apply our privacy test to both images and text using frontier models: some generate concepts to sanitize and others perform the sanitization. With our test we quantify sanitization success across 34 combinations of models on images, and for 15 models on text. The approach not only quantifies success overall, it identifies specific failures from a sanitized corpus. Further, it is independent of the mechanism used for sanitization, whether by darkening pixels, blurring, or applying more advanced means of obfuscation.
• Abstract（参考訳）: イメージとテキストから特定の概念を正当化するために、形式的な保証を持つプライバシーメカニズムは、しばしばより直感的なテクニックに賛成される。 AIベースの衛生は、自然言語の概念の意味論、例えば「顔、衣服、体形を除去する」プロンプトを扱うことができるため、人気が高まっている。 多くのアプローチが商業的および先行研究として存在している。 しかし、そのようなアプローチの評価は、公式な保証なく、目覚ましいものとなっている。 このギャップを埋めるために、我々は、意味論的解釈を持つ衛生メディアの体系的かつ定量的なテストを提供する、対照的なプライバシという、形式的なプライバシの定義を提案する。 それは使用されるモデルとメカニズムとは独立であり、複数のメディアモダリティにわたって動作する。 コントラストプライバシは、理想的な条件下で保証を提供します。また、CLIPのような概念を直近に接続可能なモデルによって提供されるセマンティクスの不完全な測定で、定義を運用する方法を示します。 特に、このアルゴリズムは、同じコーパスから取得した他の画像と相反するが、手動によるラベル付けは行わない。 実験では,フロンティアモデルを用いて画像とテキストの両方にプライバシテストを適用した。 私たちのテストでは、画像上の34のモデルの組み合わせと、テキスト上の15のモデルで、衛生化の成功を定量化しています。 このアプローチは、成功を総合的に定量化するだけでなく、衛生化されたコーパスから特定の失敗を特定する。 さらに、画素を暗くしたり、ぼやけたり、より高度な難読化手段を施すことによっても、衛生に使用するメカニズムとは無関係である。

関連論文リスト

• Beyond Text Prompts: Precise Concept Erasure through Text-Image Collaboration [31.335104022933695]
  テキストから画像への生成モデルは、大規模なトレーニングデータセットに埋め込まれた暗黙のバイアスにより、不安全または望ましくないコンテンツを不注意に生成することができる。 本稿では,テキスト画像を用いた協調的消去フレームワークTICoEを提案する。
  論文  参考訳（メタデータ） (2026-04-17T08:32:39Z)
• Semantic Surgery: Zero-Shot Concept Erasure in Diffusion Models [27.672305802461377]
  拡散プロセスの前にテキスト埋め込みを直接操作する,概念消去のための新しいトレーニングフリーゼロショットフレームワークを提案する。 我々は、局所性と画質を保ちながら、優れた完全性と堅牢性を達成する。 この堅牢性により、我々のフレームワークは脅威検出システムとして機能し、より安全なテキスト・画像生成のための実用的なソリューションを提供する。
  論文  参考訳（メタデータ） (2025-10-26T22:04:17Z)
• TRCE: Towards Reliable Malicious Concept Erasure in Text-to-Image Diffusion Models [53.937498564603054]
  近年のテキスト・画像拡散モデルの進歩により、フォトリアリスティックな画像生成が可能になったが、NSFW画像のような悪意のあるコンテンツを生成するリスクもある。 リスクを軽減するため,概念消去手法が研究され,モデルが特定の概念を学習しやすくする。 本稿では,2段階のコンセプト消去戦略を用いて,信頼性の高い消去と知識保存の効果的なトレードオフを実現するTRCEを提案する。
  論文  参考訳（メタデータ） (2025-03-10T14:37:53Z)
• Image-guided topic modeling for interpretable privacy classification [27.301741710016223]
  本稿では,自然言語コンテンツ記述子を用いて画像のプライバシーを予測することを提案する。 これらのコンテンツ記述子は、人々がイメージコンテンツをどう知覚するかを反映したプライバシースコアと関連付けられている。 ITMの生成した記述子を使ってプライバシ予測子(Priv$times$ITM)を学習し、その決定は設計によって解釈できる。
  論文  参考訳（メタデータ） (2024-09-27T12:02:28Z)
• Classification Metrics for Image Explanations: Towards Building Reliable XAI-Evaluations [0.24578723416255752]
  解像度法は、入力画像に対して(超)画素単位の特徴属性スコアを提供する。 新たな評価指標を開発し,イメージネット上で一般的な評価手法をベンチマークした。 心理測定テストの概念に基づく,そのような指標の信頼性評価手法を提案する。
  論文  参考訳（メタデータ） (2024-06-07T16:37:50Z)
• Pixel Sentence Representation Learning [67.4775296225521]
  本研究では,視覚表現学習プロセスとして,文レベルのテキスト意味論の学習を概念化する。 タイポスや単語順シャッフルのような視覚的に接地されたテキスト摂動法を採用し、人間の認知パターンに共鳴し、摂動を連続的に認識できるようにする。 我々のアプローチは、大規模に教師なしのトピックアライメントトレーニングと自然言語推論監督によってさらに強化されている。
  論文  参考訳（メタデータ） (2024-02-13T02:46:45Z)
• Implicit Concept Removal of Diffusion Models [92.55152501707995]
  テキスト・ツー・イメージ(T2I)拡散モデルはしばしば、透かしや安全でない画像のような望ましくない概念を不注意に生成する。 幾何学駆動制御に基づく新しい概念除去手法であるGeom-Erasingを提案する。
  論文  参考訳（メタデータ） (2023-10-09T17:13:10Z)
• Differentially Private Imaging via Latent Space Manipulation [5.446368808660037]
  本稿では,無条件に訓練された生成モデルの潜在空間を操作することにより,画像の難読化に新たなアプローチを提案する。 これは、イメージプライバシに対する最初のアプローチで、$varepsilon$-differential privacy emphを満たす。
  論文  参考訳（メタデータ） (2021-03-08T17:32:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。