論文の概要: GenAIPABench: A Benchmark for Generative AI-based Privacy Assistants
- arxiv url: http://arxiv.org/abs/2309.05138v1
- Date: Sun, 10 Sep 2023 21:15:42 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-12 14:29:07.260755
- Title: GenAIPABench: A Benchmark for Generative AI-based Privacy Assistants
- Title（参考訳）: GenAIPABench:AIベースのプライバシアシスタントのベンチマーク
- Authors: Aamir Hamid, Hemanth Reddy Samidi, Tim Finin, Primal Pappachan,
Roberto Yus
- Abstract要約: 本稿では,ジェネレーティブAIベースのプライバシアシスタント(GenAIPA)の性能を評価するためのベンチマークフレームワークであるGenAIPABenchを紹介する。
GenAIPABenchは、1) 組織のプライバシポリシとデータ保護規制に関する包括的な質問と、いくつかの組織や規制に対する注釈付き回答。
我々はGenAIPABenchを使用して、3つの主要なgenAIシステム(ChatGPT、Bard、Bing AI)がGenAIPAになる可能性を評価する。
- 参考スコア（独自算出の注目度）: 1.2642388972233845
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Privacy policies inform users about the data management practices of
organizations. Yet, their complexity often renders them largely
incomprehensible to the average user, necessitating the development of privacy
assistants. With the advent of generative AI (genAI) technologies, there is an
untapped potential to enhance privacy assistants in answering user queries
effectively. However, the reliability of genAI remains a concern due to its
propensity for generating incorrect or misleading information. This study
introduces GenAIPABench, a novel benchmarking framework designed to evaluate
the performance of Generative AI-based Privacy Assistants (GenAIPAs).
GenAIPABench comprises: 1) A comprehensive set of questions about an
organization's privacy policy and a data protection regulation, along with
annotated answers for several organizations and regulations; 2) A robust set of
evaluation metrics for assessing the accuracy, relevance, and consistency of
the generated responses; and 3) An evaluation tool that generates appropriate
prompts to introduce the system to the privacy document and different
variations of the privacy questions to evaluate its robustness. We use
GenAIPABench to assess the potential of three leading genAI systems in becoming
GenAIPAs: ChatGPT, Bard, and Bing AI. Our results demonstrate significant
promise in genAI capabilities in the privacy domain while also highlighting
challenges in managing complex queries, ensuring consistency, and verifying
source accuracy.
- Abstract（参考訳）: プライバシポリシは,組織のデータ管理プラクティスをユーザに通知するものだ。
しかし、その複雑さは平均的なユーザーにはほとんど理解できないので、プライバシアシスタントの開発は必要だ。
ジェネレーティブAI(genAI)技術の出現により、ユーザクエリを効果的に答える上で、プライバシアシスタントを強化する可能性がある。
しかし、偽情報や誤情報を発生させる傾向があることから、元AIの信頼性が懸念されている。
本稿では,Generative AIベースのプライバシアシスタント(GenAIPA)の性能評価を目的とした,新しいベンチマークフレームワークであるGenAIPABenchを紹介する。
GenAIPABench:
1) 組織のプライバシーポリシー及びデータ保護規則に関する包括的な質問と,いくつかの組織及び規則に対する注釈付き回答
2) 生成した応答の正確性,妥当性,一貫性を評価するためのロバストな評価指標
3)プライバシ文書にシステムを導入するための適切なプロンプトを生成する評価ツールと,その堅牢性を評価するためのプライバシ質問のバリエーションが異なる。
我々はGenAIPABenchを使用して、3つの主要なGenAIシステム(ChatGPT、Bard、Bing AI)の可能性を評価する。
以上の結果から,プライバシ領域のgenAI機能において,複雑なクエリの管理,一貫性の確保,ソース精度の検証といった課題も浮き彫りにしている。
関連論文リスト
- Smoke Screens and Scapegoats: The Reality of General Data Protection Regulation Compliance -- Privacy and Ethics in the Case of Replika AI [1.325665193924634]
本稿では,AIコンパニオンサービスにおけるこれらの課題の複雑さを検討するために,批判的なアプローチをとる。
当社は、企業とその実践に関するメディアの記事を分析し、ポリシーで提供された情報の信頼性に関する洞察を得る。
その結果、プライバシーの通知にもかかわらず、データ収集のプラクティスはユーザーの完全な認識なしに個人データを収集する可能性があることが判明した。
論文 参考訳（メタデータ） (2024-11-07T07:36:19Z) - PrivacyLens: Evaluating Privacy Norm Awareness of Language Models in Action [54.11479432110771]
PrivacyLensは、プライバシに敏感な種子を表現的なヴィグネットに拡張し、さらにエージェントの軌跡に拡張するために設計された新しいフレームワークである。
プライバシの文献とクラウドソーシングされたシードに基づいて、プライバシの規範のコレクションをインスタンス化する。
GPT-4やLlama-3-70Bのような最先端のLMは、プライバシー強化の指示が出されたとしても、機密情報を25.68%、38.69%のケースでリークしている。
論文 参考訳（メタデータ） (2024-08-29T17:58:38Z) - How to build trust in answers given by Generative AI for specific, and vague, financial questions [0.0]
消費者の信頼を築くことは、あいまいなものと比べて、特定の財政的な質問をするときに異なる。
両シナリオの信頼を構築するための4つの方法は,(2)人間の監視とループの理解,(3)透明性とコントロール,(4)正確性と有用性,(5)使いやすさとサポートの容易さである。
論文 参考訳（メタデータ） (2024-08-26T19:26:48Z) - Privacy Checklist: Privacy Violation Detection Grounding on Contextual Integrity Theory [43.12744258781724]
単純なパターンマッチングではなく、推論問題としてプライバシー問題を定式化します。
我々は、社会的アイデンティティ、プライベート属性、および既存のプライバシー規則を網羅する、最初の包括的なチェックリストを開発する。
論文 参考訳（メタデータ） (2024-08-19T14:48:04Z) - Privacy Risks of General-Purpose AI Systems: A Foundation for Investigating Practitioner Perspectives [47.17703009473386]
強力なAIモデルによって、幅広いタスクでパフォーマンスが飛躍的に向上した。
プライバシの懸念は、さまざまなプライバシのリスクとAIモデルの脆弱性をカバーした、豊富な文献につながっている。
我々はこれらの調査論文の体系的なレビューを行い、GPAISにおけるプライバシーリスクの簡潔かつ有用な概観を提供する。
論文 参考訳（メタデータ） (2024-07-02T07:49:48Z) - Generative AI for Secure and Privacy-Preserving Mobile Crowdsensing [74.58071278710896]
生成AIは、学術分野と産業分野の両方から多くの注目を集めている。
セキュアでプライバシ保護のモバイルクラウドセンシング(SPPMCS)は、データ収集/取得に広く応用されている。
論文 参考訳（メタデータ） (2024-05-17T04:00:58Z) - The Ethics of Advanced AI Assistants [53.89899371095332]
本稿では,高度AIアシスタントがもたらす倫理的・社会的リスクについて論じる。
我々は、高度なAIアシスタントを自然言語インタフェースを持つ人工知能エージェントとして定義し、ユーザに代わってアクションのシーケンスを計画し実行することを目的としている。
先進的なアシスタントの社会規模での展開を考察し、協力、株式とアクセス、誤情報、経済的影響、環境、先進的なAIアシスタントの評価方法に焦点をあてる。
論文 参考訳（メタデータ） (2024-04-24T23:18:46Z) - A Survey of Privacy-Preserving Model Explanations: Privacy Risks, Attacks, and Countermeasures [50.987594546912725]
AIのプライバシと説明可能性に関する研究が増えているにもかかわらず、プライバシを保存するモデル説明にはほとんど注意が払われていない。
本稿では,モデル説明に対するプライバシ攻撃とその対策に関する,最初の徹底的な調査を紹介する。
論文 参考訳（メタデータ） (2024-03-31T12:44:48Z) - Security and Privacy on Generative Data in AIGC: A Survey [17.456578314457612]
我々はAIGCにおける生成データのセキュリティとプライバシについてレビューする。
プライバシ、制御性、信頼性、コンプライアンスの基本的な性質の観点から、最先端の対策が成功した経験を明らかにする。
論文 参考訳（メタデータ） (2023-09-18T02:35:24Z) - Challenges and Remedies to Privacy and Security in AIGC: Exploring the
Potential of Privacy Computing, Blockchain, and Beyond [17.904983070032884]
本稿では,AIGCの概念,分類,基礎技術について概観する。
複数の観点からAIGCが直面するプライバシーとセキュリティの課題について論じる。
論文 参考訳（メタデータ） (2023-06-01T07:49:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。