論文の概要: Privacy Checklist: Privacy Violation Detection Grounding on Contextual Integrity Theory

• arxiv url: http://arxiv.org/abs/2408.10053v1
• Date: Mon, 19 Aug 2024 14:48:04 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-20 15:52:57.636545
• Title: Privacy Checklist: Privacy Violation Detection Grounding on Contextual Integrity Theory
• Title（参考訳）: プライバシーチェックリスト:コンテキスト整合性理論に基づくプライバシー違反検出
• Authors: Haoran Li, Wei Fan, Yulin Chen, Jiayang Cheng, Tianshu Chu, Xuebing Zhou, Peizhao Hu, Yangqiu Song,
• Abstract要約: 単純なパターンマッチングではなく、推論問題としてプライバシー問題を定式化します。 我々は、社会的アイデンティティ、プライベート属性、および既存のプライバシー規則を網羅する、最初の包括的なチェックリストを開発する。
• 参考スコア（独自算出の注目度）: 43.12744258781724
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Privacy research has attracted wide attention as individuals worry that their private data can be easily leaked during interactions with smart devices, social platforms, and AI applications. Computer science researchers, on the other hand, commonly study privacy issues through privacy attacks and defenses on segmented fields. Privacy research is conducted on various sub-fields, including Computer Vision (CV), Natural Language Processing (NLP), and Computer Networks. Within each field, privacy has its own formulation. Though pioneering works on attacks and defenses reveal sensitive privacy issues, they are narrowly trapped and cannot fully cover people's actual privacy concerns. Consequently, the research on general and human-centric privacy research remains rather unexplored. In this paper, we formulate the privacy issue as a reasoning problem rather than simple pattern matching. We ground on the Contextual Integrity (CI) theory which posits that people's perceptions of privacy are highly correlated with the corresponding social context. Based on such an assumption, we develop the first comprehensive checklist that covers social identities, private attributes, and existing privacy regulations. Unlike prior works on CI that either cover limited expert annotated norms or model incomplete social context, our proposed privacy checklist uses the whole Health Insurance Portability and Accountability Act of 1996 (HIPAA) as an example, to show that we can resort to large language models (LLMs) to completely cover the HIPAA's regulations. Additionally, our checklist also gathers expert annotations across multiple ontologies to determine private information including but not limited to personally identifiable information (PII). We use our preliminary results on the HIPAA to shed light on future context-centric privacy research to cover more privacy regulations, social norms and standards.
• Abstract（参考訳）: プライバシー調査は、個人がスマートデバイス、ソーシャルプラットフォーム、AIアプリケーションとのインタラクション中にプライベートデータが簡単に漏洩することを心配する中で、広く注目を集めている。 一方、コンピュータサイエンスの研究者たちは、プライバシー攻撃やセグメンテッドフィールドの防御を通じて、一般的にプライバシー問題を研究している。 プライバシ研究は、コンピュータビジョン(CV)、自然言語処理(NLP)、コンピュータネットワークなど、様々なサブフィールドで行われている。 各分野において、プライバシには独自の定式化がある。 攻撃や防衛に関する先駆的な研究は、機密性の高いプライバシー問題を明らかにしているが、それらは狭く閉じ込められており、人々の実際のプライバシーの懸念を完全にカバーすることはできない。 その結果、一般および人間中心のプライバシー研究の研究は、いまだに未解明のままである。 本稿では,プライバシ問題を単純なパターンマッチングではなく,推論問題として定式化する。 我々は,人々のプライバシに対する認識が,それに対応する社会的文脈と高い相関関係があることを示唆する文脈整合性(CI)理論を基礎とする。 このような仮定に基づいて、社会的アイデンティティ、私的属性、および既存のプライバシー規制を網羅する最初の包括的チェックリストを開発する。 専門家のアノテート規範や不完全な社会的文脈をカバーしているCIに関する以前の研究とは異なり、提案されたプライバシチェックリストでは、1996年健康保険ポータビリティ・アンド・アカウンタビリティ法(HIPAA)全体を例として使用して、大規模な言語モデル(LLM)を活用して、HIPAAAの規制を完全にカバーできることを示しています。 さらに、チェックリストは複数のオントロジーにまたがって専門家のアノテーションを収集し、個人識別可能な情報(PII)を含むプライベート情報を決定する。 我々は、HIPAAの予備的な結果を使って、将来のコンテキスト中心のプライバシー研究を光を当て、よりプライバシー規制、社会的規範、標準をカバーします。

関連論文リスト

• Smoke Screens and Scapegoats: The Reality of General Data Protection Regulation Compliance -- Privacy and Ethics in the Case of Replika AI [1.325665193924634]
  本稿では,AIコンパニオンサービスにおけるこれらの課題の複雑さを検討するために,批判的なアプローチをとる。 当社は、企業とその実践に関するメディアの記事を分析し、ポリシーで提供された情報の信頼性に関する洞察を得る。 その結果、プライバシーの通知にもかかわらず、データ収集のプラクティスはユーザーの完全な認識なしに個人データを収集する可能性があることが判明した。
  論文  参考訳（メタデータ） (2024-11-07T07:36:19Z)
• PrivacyLens: Evaluating Privacy Norm Awareness of Language Models in Action [54.11479432110771]
  PrivacyLensは、プライバシに敏感な種子を表現的なヴィグネットに拡張し、さらにエージェントの軌跡に拡張するために設計された新しいフレームワークである。 プライバシの文献とクラウドソーシングされたシードに基づいて、プライバシの規範のコレクションをインスタンス化する。 GPT-4やLlama-3-70Bのような最先端のLMは、プライバシー強化の指示が出されたとしても、機密情報を25.68%、38.69%のケースでリークしている。
  論文  参考訳（メタデータ） (2024-08-29T17:58:38Z)
• GoldCoin: Grounding Large Language Models in Privacy Laws via Contextual Integrity Theory [44.297102658873726]
  これまでの研究では、さまざまなプライバシー攻撃、防御、評価を狭義に定義されたパターンの中で探索することで、プライバシを研究する。 我々は,プライバシ違反を評価する司法法において,LLMを効果的に活用するための新しい枠組みであるGoldCoinを紹介した。 我々のフレームワークは、コンテキスト整合性の理論をブリッジとして活用し、関連するプライバシー法に基づく多数の合成シナリオを作成する。
  論文  参考訳（メタデータ） (2024-06-17T02:27:32Z)
• Embedding Privacy in Computational Social Science and Artificial Intelligence Research [2.048226951354646]
  プライバシーの保護は研究の重要な要素として浮上している。 高度な計算モデルの利用の増加は、プライバシーの懸念を悪化させる。 この記事では、プライバシの役割と、CSS、AI、データサイエンス、および関連するドメインで働く研究者が直面する問題について議論することによって、この分野に貢献する。
  論文  参考訳（メタデータ） (2024-04-17T16:07:53Z)
• Can LLMs Keep a Secret? Testing Privacy Implications of Language Models via Contextual Integrity Theory [82.7042006247124]
  私たちは、最も有能なAIモデルでさえ、人間がそれぞれ39%と57%の確率で、プライベートな情報を公開していることを示しています。 我々の研究は、推論と心の理論に基づいて、新しい推論時プライバシー保護アプローチを即時に探求する必要性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2023-10-27T04:15:30Z)
• How Do Input Attributes Impact the Privacy Loss in Differential Privacy? [55.492422758737575]
  DPニューラルネットワークにおけるオブジェクトごとの規範と個人のプライバシ損失との関係について検討する。 プライバシ・ロス・インプット・サセプティビリティ(PLIS)と呼ばれる新しい指標を導入し、被験者のプライバシ・ロスを入力属性に適応させることを可能にした。
  論文  参考訳（メタデータ） (2022-11-18T11:39:03Z)
• Privacy Explanations - A Means to End-User Trust [64.7066037969487]
  この問題に対処するために、説明可能性がどのように役立つかを検討しました。 私たちはプライバシーの説明を作成し、エンドユーザの理由と特定のデータが必要な理由を明らかにするのに役立ちました。 我々の発見は、プライバシーの説明がソフトウェアシステムの信頼性を高めるための重要なステップであることを示している。
  論文  参考訳（メタデータ） (2022-10-18T09:30:37Z)
• The Evolving Path of "the Right to Be Left Alone" - When Privacy Meets Technology [0.0]
  本稿では,プライバシエコシステムの新たなビジョンとして,プライバシの次元,関連するユーザの期待,プライバシ違反,変化要因を導入することを提案する。 プライバシー問題に取り組むための有望なアプローチは, (i) 効果的なプライバシメトリクスの識別, (ii) プライバシに準拠したアプリケーションを設計するためのフォーマルなツールの採用という,2つの方向に移行している,と私たちは信じています。
  論文  参考訳（メタデータ） (2021-11-24T11:27:55Z)
• User Perception of Privacy with Ubiquitous Devices [5.33024001730262]
  本研究は,ユビキタステクノロジーの時代におけるプライバシの認識に関する様々な懸念を探求し,発見することを目的としている。 公共やプライベートスペースにおけるプライバシーに対する態度、プライバシーの意識、同意を求めること、様々な技術に関連するジレンマ/コンフュージョン、公共やプライベートスペースにおけるプライバシーの侵害から身を守る方法に関する個人行動に対する態度と信念の影響など、主要なテーマである。
  論文  参考訳（メタデータ） (2021-07-23T05:01:44Z)
• Private Reinforcement Learning with PAC and Regret Guarantees [69.4202374491817]
  エピソード強化学習(RL)のためのプライバシー保護探索ポリシーを設計する。 まず、共同微分プライバシー(JDP)の概念を用いた有意義なプライバシー定式化を提供する。 そこで我々は,強いPACと後悔境界を同時に達成し,JDP保証を享受する,プライベートな楽観主義に基づく学習アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2020-09-18T20:18:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。