論文の概要: GenAIPABench: A Benchmark for Generative AI-based Privacy Assistants
- arxiv url: http://arxiv.org/abs/2309.05138v3
- Date: Tue, 19 Dec 2023 00:40:51 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-20 23:12:59.463802
- Title: GenAIPABench: A Benchmark for Generative AI-based Privacy Assistants
- Title（参考訳）: GenAIPABench:AIベースのプライバシアシスタントのベンチマーク
- Authors: Aamir Hamid, Hemanth Reddy Samidi, Tim Finin, Primal Pappachan,
Roberto Yus
- Abstract要約: 本稿では、ジェネレーティブAIベースのプライバシアシスタント(GenAIPA)の評価ベンチマークであるGenAIPABenchを紹介する。
GenAIPABench には,1) プライバシポリシやデータ保護規則に関する一連の質問,2) さまざまな組織や規制に対する注釈付き回答,2) 応答の正確性,関連性,一貫性を評価するメトリクス,3) プライバシドキュメントの導入や,システムの堅牢性をテストするためのさまざまなプライバシ質問などを生成するためのプロンプトを生成するツールなどが含まれている。
我々は、GenAIPABenchを用いて、ChatGPT-4、Bard、Bing AIの3つの主要なGenAIシステムを評価し、その効果をGenAIPAとして評価した。
- 参考スコア（独自算出の注目度）: 1.2642388972233845
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Privacy policies of websites are often lengthy and intricate. Privacy
assistants assist in simplifying policies and making them more accessible and
user friendly. The emergence of generative AI (genAI) offers new opportunities
to build privacy assistants that can answer users questions about privacy
policies. However, genAIs reliability is a concern due to its potential for
producing inaccurate information. This study introduces GenAIPABench, a
benchmark for evaluating Generative AI-based Privacy Assistants (GenAIPAs).
GenAIPABench includes: 1) A set of questions about privacy policies and data
protection regulations, with annotated answers for various organizations and
regulations; 2) Metrics to assess the accuracy, relevance, and consistency of
responses; and 3) A tool for generating prompts to introduce privacy documents
and varied privacy questions to test system robustness. We evaluated three
leading genAI systems ChatGPT-4, Bard, and Bing AI using GenAIPABench to gauge
their effectiveness as GenAIPAs. Our results demonstrate significant promise in
genAI capabilities in the privacy domain while also highlighting challenges in
managing complex queries, ensuring consistency, and verifying source accuracy.
- Abstract（参考訳）: ウェブサイトのプライバシーポリシーは、しばしば長く複雑である。
プライバシーアシスタントはポリシーをシンプルにし、よりアクセスしやすくユーザーフレンドリーにする。
生成AI(genAI)の出現は、プライバシポリシーに関するユーザの質問に答えることのできるプライバシアシスタントを構築する新たな機会を提供する。
しかし、GenAIの信頼性は不正確な情報を生み出す可能性があるため懸念されている。
本稿では、ジェネレーティブAIベースのプライバシアシスタント(GenAIPA)を評価するベンチマークであるGenAIPABenchを紹介する。
GenAIPABench には以下のものがある。
1)プライバシーポリシー及びデータ保護規則に関する一連の質問であって、様々な組織及び規則に対する注釈付き回答である。
2)応答の正確性,関連性,整合性を評価する尺度,及び
3) システムの堅牢性をテストするために,プライバシドキュメントやさまざまなプライバシ質問のプロンプトを生成するツール。
我々は、GenAIPABenchを用いて、ChatGPT-4、Bard、Bing AIの3つの主要なGenAIシステムを評価し、その効果をGenAIPAとして評価した。
以上の結果から,プライバシ領域のgenAI機能において,複雑なクエリの管理,一貫性の確保,ソース精度の検証といった課題も浮き彫りにしている。
関連論文リスト
- Smoke Screens and Scapegoats: The Reality of General Data Protection Regulation Compliance -- Privacy and Ethics in the Case of Replika AI [1.325665193924634]
本稿では,AIコンパニオンサービスにおけるこれらの課題の複雑さを検討するために,批判的なアプローチをとる。
当社は、企業とその実践に関するメディアの記事を分析し、ポリシーで提供された情報の信頼性に関する洞察を得る。
その結果、プライバシーの通知にもかかわらず、データ収集のプラクティスはユーザーの完全な認識なしに個人データを収集する可能性があることが判明した。
論文 参考訳（メタデータ） (2024-11-07T07:36:19Z) - PrivacyLens: Evaluating Privacy Norm Awareness of Language Models in Action [54.11479432110771]
PrivacyLensは、プライバシに敏感な種子を表現的なヴィグネットに拡張し、さらにエージェントの軌跡に拡張するために設計された新しいフレームワークである。
プライバシの文献とクラウドソーシングされたシードに基づいて、プライバシの規範のコレクションをインスタンス化する。
GPT-4やLlama-3-70Bのような最先端のLMは、プライバシー強化の指示が出されたとしても、機密情報を25.68%、38.69%のケースでリークしている。
論文 参考訳（メタデータ） (2024-08-29T17:58:38Z) - How to build trust in answers given by Generative AI for specific, and vague, financial questions [0.0]
消費者の信頼を築くことは、あいまいなものと比べて、特定の財政的な質問をするときに異なる。
両シナリオの信頼を構築するための4つの方法は,(2)人間の監視とループの理解,(3)透明性とコントロール,(4)正確性と有用性,(5)使いやすさとサポートの容易さである。
論文 参考訳（メタデータ） (2024-08-26T19:26:48Z) - Privacy Checklist: Privacy Violation Detection Grounding on Contextual Integrity Theory [43.12744258781724]
単純なパターンマッチングではなく、推論問題としてプライバシー問題を定式化します。
我々は、社会的アイデンティティ、プライベート属性、および既存のプライバシー規則を網羅する、最初の包括的なチェックリストを開発する。
論文 参考訳（メタデータ） (2024-08-19T14:48:04Z) - Privacy Risks of General-Purpose AI Systems: A Foundation for Investigating Practitioner Perspectives [47.17703009473386]
強力なAIモデルによって、幅広いタスクでパフォーマンスが飛躍的に向上した。
プライバシの懸念は、さまざまなプライバシのリスクとAIモデルの脆弱性をカバーした、豊富な文献につながっている。
我々はこれらの調査論文の体系的なレビューを行い、GPAISにおけるプライバシーリスクの簡潔かつ有用な概観を提供する。
論文 参考訳（メタデータ） (2024-07-02T07:49:48Z) - Generative AI for Secure and Privacy-Preserving Mobile Crowdsensing [74.58071278710896]
生成AIは、学術分野と産業分野の両方から多くの注目を集めている。
セキュアでプライバシ保護のモバイルクラウドセンシング(SPPMCS)は、データ収集/取得に広く応用されている。
論文 参考訳（メタデータ） (2024-05-17T04:00:58Z) - The Ethics of Advanced AI Assistants [53.89899371095332]
本稿では,高度AIアシスタントがもたらす倫理的・社会的リスクについて論じる。
我々は、高度なAIアシスタントを自然言語インタフェースを持つ人工知能エージェントとして定義し、ユーザに代わってアクションのシーケンスを計画し実行することを目的としている。
先進的なアシスタントの社会規模での展開を考察し、協力、株式とアクセス、誤情報、経済的影響、環境、先進的なAIアシスタントの評価方法に焦点をあてる。
論文 参考訳（メタデータ） (2024-04-24T23:18:46Z) - A Survey of Privacy-Preserving Model Explanations: Privacy Risks, Attacks, and Countermeasures [50.987594546912725]
AIのプライバシと説明可能性に関する研究が増えているにもかかわらず、プライバシを保存するモデル説明にはほとんど注意が払われていない。
本稿では,モデル説明に対するプライバシ攻撃とその対策に関する,最初の徹底的な調査を紹介する。
論文 参考訳（メタデータ） (2024-03-31T12:44:48Z) - Security and Privacy on Generative Data in AIGC: A Survey [17.456578314457612]
我々はAIGCにおける生成データのセキュリティとプライバシについてレビューする。
プライバシ、制御性、信頼性、コンプライアンスの基本的な性質の観点から、最先端の対策が成功した経験を明らかにする。
論文 参考訳（メタデータ） (2023-09-18T02:35:24Z) - Challenges and Remedies to Privacy and Security in AIGC: Exploring the
Potential of Privacy Computing, Blockchain, and Beyond [17.904983070032884]
本稿では,AIGCの概念,分類,基礎技術について概観する。
複数の観点からAIGCが直面するプライバシーとセキュリティの課題について論じる。
論文 参考訳（メタデータ） (2023-06-01T07:49:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。