論文の概要: Quantitative Auditing of AI Fairness with Differentially Private Synthetic Data

• arxiv url: http://arxiv.org/abs/2504.21634v1
• Date: Wed, 30 Apr 2025 13:36:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-09 18:40:15.978241
• Title: Quantitative Auditing of AI Fairness with Differentially Private Synthetic Data
• Title（参考訳）: 微分プライベート合成データを用いたAIフェアネスの定量的評価
• Authors: Chih-Cheng Rex Yuan, Bow-Yaw Wang,
• Abstract要約: AIシステムの公正監査はバイアスを特定し定量化することができる。 現実世界のデータを使った従来の監査は、セキュリティとプライバシーの懸念を引き起こす。 本稿では,AIシステムの公正性を評価するために,微分プライベートな合成データを活用するフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 0.30693357740321775
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Fairness auditing of AI systems can identify and quantify biases. However, traditional auditing using real-world data raises security and privacy concerns. It exposes auditors to security risks as they become custodians of sensitive information and targets for cyberattacks. Privacy risks arise even without direct breaches, as data analyses can inadvertently expose confidential information. To address these, we propose a framework that leverages differentially private synthetic data to audit the fairness of AI systems. By applying privacy-preserving mechanisms, it generates synthetic data that mirrors the statistical properties of the original dataset while ensuring privacy. This method balances the goal of rigorous fairness auditing and the need for strong privacy protections. Through experiments on real datasets like Adult, COMPAS, and Diabetes, we compare fairness metrics of synthetic and real data. By analyzing the alignment and discrepancies between these metrics, we assess the capacity of synthetic data to preserve the fairness properties of real data. Our results demonstrate the framework's ability to enable meaningful fairness evaluations while safeguarding sensitive information, proving its applicability across critical and sensitive domains.
• Abstract（参考訳）: AIシステムの公正監査はバイアスを特定し定量化することができる。 しかし、現実のデータを使った従来の監査は、セキュリティとプライバシーの懸念を引き起こす。 機密情報やサイバー攻撃の標的となると、監査役はセキュリティリスクに晒される。 データ分析が故意に機密情報を公開できるため、直接的な侵害なしにもプライバシーリスクが発生する。 そこで本稿では,AIシステムの公正性を評価するために,差分プライベートな合成データを活用するフレームワークを提案する。 プライバシ保護機構を適用することで、プライバシを確保しながら、元のデータセットの統計特性を反映した合成データを生成する。 この方法は厳格な公正監査の目標と強力なプライバシー保護の必要性のバランスをとる。 アダルト、CompabAS、Diabetesといった実際のデータセットの実験を通じて、合成データと実際のデータの公正度メトリクスを比較します。 これらの指標間のアライメントと不一致を解析することにより、実データの公正性を維持するために合成データのキャパシティを評価する。 本研究は,重要かつ機密性の高い領域にまたがって,センシティブな情報を保護しながら,有意義な公平性評価を可能にするフレームワークの能力を示すものである。

関連論文リスト

• A False Sense of Privacy: Evaluating Textual Data Sanitization Beyond Surface-level Privacy Leakage [77.83757117924995]
  我々は、データリリース時の個人のプライバシーリスクを定量化するために、再識別攻撃を評価する新しいフレームワークを提案する。 本手法は, 衛生データから年齢や物質使用履歴などのセンシティブな属性を推測するために, 一見無害な補助情報を利用できることを示す。
  論文  参考訳（メタデータ） (2025-04-28T01:16:27Z)
• A Consensus Privacy Metrics Framework for Synthetic Data [13.972528788909813]
  合成データのプライバシーを測定するための統合された標準は存在しない。 以上の結果から,現在の類似度指標は個人情報の開示を測ることが困難であることが示唆された。 異なるプライベートな合成データについては、ゼロに近いプライバシー予算は解釈できないと考えられていた。
  論文  参考訳（メタデータ） (2025-03-06T21:19:02Z)
• Defining 'Good': Evaluation Framework for Synthetic Smart Meter Data [14.779917834583577]
  スマートメーターデータセットのプライバシーリスクを評価するには,標準プライバシ攻撃手法が不十分であることを示す。 本稿では,トレーニングデータを不確実なアウトレーラで注入し,それらのアウトレーラに直接プライバシ攻撃を発生させる手法を提案する。
  論文  参考訳（メタデータ） (2024-07-16T14:41:27Z)
• The Use of Synthetic Data to Train AI Models: Opportunities and Risks for Sustainable Development [0.6906005491572401]
  本稿では,合成データの生成,利用,普及を規定する政策について検討する。 優れた合成データポリシーは、プライバシの懸念とデータの有用性のバランスを取らなければならない。
  論文  参考訳（メタデータ） (2023-08-31T23:18:53Z)
• Auditing and Generating Synthetic Data with Controllable Trust Trade-offs [54.262044436203965]
  合成データセットとAIモデルを包括的に評価する総合監査フレームワークを導入する。 バイアスや差別の防止、ソースデータへの忠実性の確保、実用性、堅牢性、プライバシ保護などに焦点を当てている。 多様なユースケースにまたがる様々な生成モデルを監査することにより,フレームワークの有効性を実証する。
  論文  参考訳（メタデータ） (2023-04-21T09:03:18Z)
• No Free Lunch in "Privacy for Free: How does Dataset Condensation Help Privacy" [75.98836424725437]
  データプライバシを保護するために設計された新しい手法は、慎重に精査する必要がある。 プライバシ保護の失敗は検出し難いが,プライバシ保護法を実装したシステムが攻撃された場合,破滅的な結果につながる可能性がある。
  論文  参考訳（メタデータ） (2022-09-29T17:50:23Z)
• Representative & Fair Synthetic Data [68.8204255655161]
  公平性制約を自己監督学習プロセスに組み込むためのフレームワークを提示する。 私たちはuci成人国勢調査データセットの代表者および公正版を作成します。 我々は、代表的かつ公正な合成データを将来有望なビルディングブロックとみなし、歴史的世界ではなく、私たちが生きようとしている世界についてアルゴリズムを教える。
  論文  参考訳（メタデータ） (2021-04-07T09:19:46Z)
• Robustness Threats of Differential Privacy [70.818129585404]
  我々は、いくつかの設定で差分プライバシーをトレーニングしたネットワークが、非プライベートバージョンに比べてさらに脆弱であることを実験的に実証した。 本研究では,勾配クリッピングや雑音付加などのニューラルネットワークトレーニングの主成分が,モデルの堅牢性に与える影響について検討する。
  論文  参考訳（メタデータ） (2020-12-14T18:59:24Z)
• Trustworthy AI [75.99046162669997]
  入力データの小さな敵対的変化への脆さ、決定の説明能力、トレーニングデータのバイアスに対処する能力は、最も顕著な制限である。 我々は,AIシステムに対するユーザおよび公的な信頼を高める上での6つの重要な問題に対処するために,信頼に値するAIに関するチュートリアルを提案する。
  論文  参考訳（メタデータ） (2020-11-02T20:04:18Z)
• Really Useful Synthetic Data -- A Framework to Evaluate the Quality of Differentially Private Synthetic Data [2.538209532048867]
  プライバシ保護の原則を付加する合成データ生成の最近の進歩は、プライバシ保護の方法で統計情報を共有するための重要なステップである。 データプライバシとデータ品質のトレードオフを最適化するためには、後者について詳しく考える必要があります。 本研究では,応用研究者の視点から,差分的にプライベートな合成データの質を評価する枠組みを開発する。
  論文  参考訳（メタデータ） (2020-04-16T16:24:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。