論文の概要: Conformal Privacy Auditing: Calibrated Re-identification Attacks with Statistical Guarantees

• arxiv url: http://arxiv.org/abs/2609.21340v1
• Date: Fri, 18 Sep 2026 05:49:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-21 18:40:16.870343
• Title: Conformal Privacy Auditing: Calibrated Re-identification Attacks with Statistical Guarantees
• Title（参考訳）: コンフォーマルプライバシ監査:統計的保証者による再識別攻撃の校正
• Abstract要約: 公開されたテキストからの経験的アイデンティティリークは、大きな言語モデル(LLM)とドキュメントを個人にリンクするための補助的な知識を組み合わせた攻撃者によって駆動される。 本稿では,各文書の再識別リスクの統計証明を提供する分散フリーキャリブレーションフレームワークであるConformal Privacy Auditingを紹介する。
• 参考スコア（独自算出の注目度）: 57.41572512458446
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Empirical identity leakage from released text is increasingly driven by attackers that combine large language models (LLMs) with auxiliary knowledge to link documents to individuals. Existing audits typically report success rates for specific attack pipelines but lack finite-sample statistical guarantees, while training-time protections such as differential privacy are difficult to translate into release-time decisions for individual natural-language documents. We introduce Conformal Privacy Auditing(CPA), a distribution-free calibration framework that provides a statistical certificate of re-identification risk for each released document against LLM-empowered adversaries. CPA outputs a conformal ambiguity set of candidate identities that is guaranteed to contain the true identity with user-chosen confidence under exchangeability, together with an interpretable leakage proxy derived from set size. CPA supports both logit-access and sampling-only attackers, enabling audits of open-source models and proprietary API models in a unified framework. Across multiple release benchmarks and attacker configurations, CPA achieves calibrated coverage and reveals sharp shifts in certified identifiability as auxiliary knowledge, LLM augmentation, and release mechanisms vary, providing a statistically grounded basis for reporting and comparing release-time linkage risk across attacker configurations, datasets, and release mechanisms alike.
• Abstract（参考訳）: 公開されたテキストからの経験的アイデンティティリークは、大きな言語モデル(LLM)とドキュメントを個人にリンクするための補助的な知識を組み合わせた攻撃者によってますます推進されている。 既存の監査では、特定の攻撃パイプラインの成功率を報告しているが、有限サンプルの統計的保証がない。 本稿では,LCMを組み込んだ敵に対して,各文書の再識別リスクの統計的証明を提供する分散フリーキャリブレーションフレームワークであるConformal Privacy Auditing(CPA)を紹介する。 CPAは、設定サイズから導出される解釈可能なリークプロキシとともに、交換性の下でユーザ・チョウン信頼と真のアイデンティティを含むことが保証される候補アイデンティティの共形あいまい性セットを出力する。 CPAはロジットアクセスとサンプリング専用アタッカーの両方をサポートし、オープンソースのモデルとプロプライエタリなAPIモデルの監査を統一フレームワークで可能にする。 複数のリリースベンチマークとアタック構成全体で、CPAは校正されたカバレッジを達成し、補助的な知識、LLM拡張、リリースメカニズムとしての認定された識別可能性の急激な変化を明らかにし、アタッカー構成、データセット、リリースメカニズム間のリリース時間リンクリスクを報告し比較するための統計的基盤を提供する。

関連論文リスト

• Phantoms and Disclosures: a Causal Framework for Auditing Synthetic Data [56.86147283213652]
  データ開示の検出と説明を目的とした,カスタマイズ可能な実証監査フレームワークを提案する。 本フレームワークでは,ユーザの情報を直接再現する「真の開示」と,ユーザのデータを偶発的に生成する「幻の開示」とを区別する機構を導入する。
  論文  参考訳（メタデータ） (2026-06-15T16:54:02Z)
• Semantic Quorum Assurance: Collective Certification for Non-Deterministic AI Infrastructure [2.124730017640531]
  非決定論的エージェント基盤を管理するためのコントロールプレーンプリミティブであるQuorum Semantic Assurance(SQA)を紹介する。 SQAは暗号エビデンスチェーンに縛られた宣言的実行契約として提案を表現し、それを読み取り専用でサンドボックス化されたバリデータエージェントのさまざまなパネルにルーティングする。 インフラにインスパイアされた500の突然変異シナリオでは、曖昧なシナリオを除く安全/安全でない試験の安全性が報告され、SQAはシングルエージェント検証の18.5%から0.3%まで安全でない承認を減じている。
  論文  参考訳（メタデータ） (2026-06-06T07:31:04Z)
• Provable Robustness against Backdoor Attacks via the Primal-Dual Perspective on Differential Privacy [51.758416625168]
  ランダムな平滑化は、敵の摂動に対する堅牢性を証明するための強力なツールである。 本稿では,複雑な構成機構の認証のためのフレームワークを提案する。 複雑な脅威モデル下での堅牢性を証明するために複合メカニズムを使用するための原則的で一般的なフレームワークを提供する。
  論文  参考訳（メタデータ） (2026-05-20T22:17:29Z)
• Towards Verifiably Safe Tool Use for LLM Agents [53.55621104327779]
  大規模言語モデル(LLM)ベースのAIエージェントは、データソース、API、検索エンジン、コードサンドボックス、さらにはその他のエージェントなどのツールへのアクセスを可能にすることで、機能を拡張する。 LLMは意図しないツールインタラクションを起動し、機密データを漏洩したり、クリティカルレコードを上書きしたりするリスクを発生させる。 モデルベースセーフガードのようなリスクを軽減するための現在のアプローチは、エージェントの信頼性を高めるが、システムの安全性を保証することはできない。
  論文  参考訳（メタデータ） (2026-01-12T21:31:38Z)
• VulAgent: Hypothesis-Validation based Multi-Agent Vulnerability Detection [55.957275374847484]
  VulAgentは仮説検証に基づくマルチエージェント脆弱性検出フレームワークである。 セマンティクスに敏感なマルチビュー検出パイプラインを実装しており、それぞれが特定の分析の観点から一致している。 平均して、VulAgentは全体的な精度を6.6%改善し、脆弱性のある固定されたコードペアの正確な識別率を最大450%向上させ、偽陽性率を約36%削減する。
  論文  参考訳（メタデータ） (2025-09-15T02:25:38Z)
• Trusted Uncertainty in Large Language Models: A Unified Framework for Confidence Calibration and Risk-Controlled Refusal [31.458406135473805]
  異種不確実性証拠を正当性の校正確率に変換する統一フレームワークUniCRを提案する。 UniCRは、温度スケーリングと適切なスコアリングを備えた軽量なキャリブレーションヘッドを学習する。 ショートフォームQA、実行テスト付きコード生成、検索強化ロングフォームQAの実験は、キャリブレーションメトリクスの一貫性のある改善を示している。
  論文  参考訳（メタデータ） (2025-09-01T13:14:58Z)
• Privacy-Preserving Federated Learning Framework for Risk-Based Adaptive Authentication [1.2366208723499545]
  本稿では,リスクベース適応認証のための新しいフェデレートラーニングフレームワークであるFL-RBA2を紹介する。 数学的に基底付けられた類似性変換を通じて、非IID問題に対処する。 分散クライアント間のアンバイアスアグリゲーションとパーソナライズされたリスクモデリングをサポートする。
  論文  参考訳（メタデータ） (2025-08-25T20:02:07Z)
• Certifiably Byzantine-Robust Federated Conformal Prediction [49.23374238798428]
  本稿では,悪意のあるクライアントに対する堅牢な共形予測を行う新しいフレームワークRob-FCPを提案する。 我々は、さまざまなビザンチン攻撃の下で、悪意のあるクライアントの多様な割合に対するRob-FCPの堅牢性を実証的に実証した。
  論文  参考訳（メタデータ） (2024-06-04T04:43:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。