Fugu-MT 論文翻訳(概要): Preserving Privacy in Large Language Models: A Survey on Current Threats and Solutions

論文の概要: Preserving Privacy in Large Language Models: A Survey on Current Threats and Solutions

arxiv url: http://arxiv.org/abs/2408.05212v1
Date: Sat, 10 Aug 2024 05:41:19 GMT
ステータス: 処理完了
システム内更新日: 2024-08-12 15:05:23.658746
Title: Preserving Privacy in Large Language Models: A Survey on Current Threats and Solutions
Title（参考訳）: 大規模言語モデルにおけるプライバシ保護:現在の脅威と解決策に関する調査
Authors: Michele Miranda, Elena Sofia Ruzzetti, Andrea Santilli, Fabio Massimo Zanzotto, Sébastien Bratières, Emanuele Rodolà,
Abstract要約: 大規模言語モデル(LLM)は、人工知能の大幅な進歩を表し、様々な領域にまたがる応用を見つける。トレーニングのための大規模なインターネットソースデータセットへの依存は、注目すべきプライバシー問題を引き起こす。特定のアプリケーション固有のシナリオでは、これらのモデルをプライベートデータで微調整する必要があります。
参考スコア（独自算出の注目度）: 12.451936012379319
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Large Language Models (LLMs) represent a significant advancement in artificial intelligence, finding applications across various domains. However, their reliance on massive internet-sourced datasets for training brings notable privacy issues, which are exacerbated in critical domains (e.g., healthcare). Moreover, certain application-specific scenarios may require fine-tuning these models on private data. This survey critically examines the privacy threats associated with LLMs, emphasizing the potential for these models to memorize and inadvertently reveal sensitive information. We explore current threats by reviewing privacy attacks on LLMs and propose comprehensive solutions for integrating privacy mechanisms throughout the entire learning pipeline. These solutions range from anonymizing training datasets to implementing differential privacy during training or inference and machine unlearning after training. Our comprehensive review of existing literature highlights ongoing challenges, available tools, and future directions for preserving privacy in LLMs. This work aims to guide the development of more secure and trustworthy AI systems by providing a thorough understanding of privacy preservation methods and their effectiveness in mitigating risks.
Abstract（参考訳）: 大規模言語モデル(LLM)は、人工知能の大幅な進歩を表し、様々な領域にまたがる応用を見つける。しかし、トレーニングのための大規模なインターネットソースデータセットへの依存は、重要なドメイン(ヘルスケアなど)で悪化している、注目すべきプライバシー問題を引き起こします。さらに、特定のアプリケーション固有のシナリオでは、これらのモデルをプライベートデータで微調整する必要があります。この調査は、LLMに関連するプライバシーの脅威を批判的に調査し、これらのモデルが機密情報を暗記し、不注意に明らかにする可能性を強調している。我々は、LLMに対するプライバシー攻撃を見直し、学習パイプライン全体を通してプライバシーメカニズムを統合するための包括的なソリューションを提案することで、現在の脅威を探究する。これらのソリューションは、トレーニングデータセットの匿名化から、トレーニングや推論中の差分プライバシーの実装、トレーニング後のマシンラーニングアンラーニングまで、さまざまです。既存の文献の包括的なレビューでは、現在進行中の課題、利用可能なツール、LLMのプライバシーを守るための今後の方向性が強調されている。この研究は、プライバシー保護手法の徹底的な理解とリスク軽減効果を提供することにより、より安全で信頼性の高いAIシステムの開発を導くことを目的としている。

関連論文リスト

Model Inversion Attacks: A Survey of Approaches and Countermeasures [59.986922963781]
近年、新しいタイプのプライバシ攻撃であるモデル反転攻撃(MIA)は、トレーニングのためのプライベートデータの機密性を抽出することを目的としている。この重要性にもかかわらず、総合的な概要とMIAに関する深い洞察を提供する体系的な研究が欠如している。本調査は、攻撃と防御の両方において、最新のMIA手法を要約することを目的としている。
論文参考訳（メタデータ） (2024-11-15T08:09:28Z)
LLM-PBE: Assessing Data Privacy in Large Language Models [111.58198436835036]
大規模言語モデル(LLM)は多くのドメインに不可欠なものとなり、データ管理、マイニング、分析におけるアプリケーションを大幅に進歩させた。この問題の批判的な性質にもかかわらず、LLMにおけるデータプライバシのリスクを総合的に評価する文献は存在しない。本稿では,LLMにおけるデータプライバシリスクの体系的評価を目的としたツールキットであるLLM-PBEを紹介する。
論文参考訳（メタデータ） (2024-08-23T01:37:29Z)
Unique Security and Privacy Threats of Large Language Model: A Comprehensive Survey [46.19229410404056]
大規模言語モデル(LLM)は自然言語処理において顕著な進歩を遂げた。これらのモデルは、強力な言語理解と生成能力を示すために、広大なデータセットでトレーニングされている。プライバシーとセキュリティの問題は、そのライフサイクルを通じて明らかになっている。
論文参考訳（メタデータ） (2024-06-12T07:55:32Z)
On Protecting the Data Privacy of Large Language Models (LLMs): A Survey [35.48984524483533]
LLM(Large Language Model)は、人間の言語を理解し、生成し、翻訳できる複雑な人工知能システムである。 LLMは大量のデータを処理して生成し、データプライバシを脅かす可能性がある。
論文参考訳（メタデータ） (2024-03-08T08:47:48Z)
State-of-the-Art Approaches to Enhancing Privacy Preservation of Machine Learning Datasets: A Survey [0.0]
本稿では、機械学習(ML)の進化する展望と、その様々な分野における大きな影響について考察する。プライバシ保護機械学習(PPML)の新たな分野に焦点を当てている。 MLアプリケーションは、通信、金融技術、監視といった産業にとってますます不可欠なものになりつつあるため、プライバシー上の懸念が高まる。
論文参考訳（メタデータ） (2024-02-25T17:31:06Z)
Privacy Preserving Large Language Models: ChatGPT Case Study Based Vision and Framework [6.828884629694705]
本稿では,LLMのプライバシ生成モデルであるPrivChatGPTという概念モデルを提案する。 PrivChatGPTは、データキュレーション/前処理中にユーザのプライバシを保護し、プライベートコンテキストの保存と大規模データのプライベートトレーニングプロセスという2つの主要コンポーネントから構成される。
論文参考訳（メタデータ） (2023-10-19T06:55:13Z)
Privacy in Large Language Models: Attacks, Defenses and Future Directions [84.73301039987128]
大規模言語モデル(LLM)を対象とした現在のプライバシ攻撃を分析し、敵の想定能力に応じて分類する。本稿では、これらのプライバシー攻撃に対抗するために開発された防衛戦略について概説する。
論文参考訳（メタデータ） (2023-10-16T13:23:54Z)
PrivacyMind: Large Language Models Can Be Contextual Privacy Protection Learners [81.571305826793]
コンテキストプライバシ保護言語モデル(PrivacyMind)を紹介する。我々の研究はモデル設計に関する理論的分析を提供し、様々な手法をベンチマークする。特に、肯定的な例と否定的な例の両方による命令チューニングは、有望な方法である。
論文参考訳（メタデータ） (2023-10-03T22:37:01Z)
A Unified View of Differentially Private Deep Generative Modeling [60.72161965018005]
プライバシー上の懸念のあるデータには、データアクセスとデータ共有を頻繁に禁止する厳格な規制が伴う。これらの障害を克服することは、プライバシーに敏感なデータを含む多くの現実世界のアプリケーションシナリオにおいて、技術的進歩の鍵となる。差分的プライベート(DP)データパブリッシングは、データの衛生化された形式のみを公開する、魅力的なソリューションを提供する。
論文参考訳（メタデータ） (2023-09-27T14:38:16Z)
Privacy in Deep Learning: A Survey [16.278779275923448]
多くの分野でのディープラーニングの継続的な進歩は、プロダクションシステムにDeep Neural Networks(DNN)の採用につながっている。大規模なデータセットと高い計算能力がこれらの進歩の主な貢献者である。このデータはさまざまな脆弱性によって誤用または漏洩される可能性があるため、プライバシー上の深刻な懸念が生じる。
論文参考訳（メタデータ） (2020-04-25T23:47:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。