論文の概要: Privacy Preservation in Gen AI Applications

• arxiv url: http://arxiv.org/abs/2504.09095v1
• Date: Sat, 12 Apr 2025 06:19:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-15 16:53:22.833074
• Title: Privacy Preservation in Gen AI Applications
• Title（参考訳）: AI応用におけるプライバシ保護
• Authors: Swetha S, Ram Sundhar K Shaju, Rakshana M, Ganesh R, Balavedhaa S, Thiruvaazhi U,
• Abstract要約: LLM(Large Language Models)は、意図せずユーザインタラクションからPII(Personally Identible Information)を吸収し、明らかにする。 ディープニューラルネットワークの複雑さは、プライベート情報の意図しない保存とリリースの追跡や停止を困難にしている。 本研究では,データ抽出やモデルインバージョン,メンバシップ推論といった攻撃を通じて生成AIの弱点を検出することで,これらの問題に対処する。 LLMを扱う前にPIIを識別、変更、削除する手法を使用することで、機能を犠牲にすることなくプライバシを確保する。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: The ability of machines to comprehend and produce language that is similar to that of humans has revolutionized sectors like customer service, healthcare, and finance thanks to the quick advances in Natural Language Processing (NLP), which are fueled by Generative Artificial Intelligence (AI) and Large Language Models (LLMs). However, because LLMs trained on large datasets may unintentionally absorb and reveal Personally Identifiable Information (PII) from user interactions, these capabilities also raise serious privacy concerns. Deep neural networks' intricacy makes it difficult to track down or stop the inadvertent storing and release of private information, which raises serious concerns about the privacy and security of AI-driven data. This study tackles these issues by detecting Generative AI weaknesses through attacks such as data extraction, model inversion, and membership inference. A privacy-preserving Generative AI application that is resistant to these assaults is then developed. It ensures privacy without sacrificing functionality by using methods to identify, alter, or remove PII before to dealing with LLMs. In order to determine how well cloud platforms like Microsoft Azure, Google Cloud, and AWS provide privacy tools for protecting AI applications, the study also examines these technologies. In the end, this study offers a fundamental privacy paradigm for generative AI systems, focusing on data security and moral AI implementation, and opening the door to a more secure and conscientious use of these tools.
• Abstract（参考訳）: 機械が人間の言語に類似した言語を理解し生産する能力は、生成人工知能(AI)と大規模言語モデル(LLM)によって推進される自然言語処理(NLP)の急速な進歩により、顧客サービス、医療、金融といった分野に革命をもたらした。 しかし、大規模なデータセットでトレーニングされたLSMは、ユーザーインタラクションから意図せずPII(Personally Identible Information)を吸収し、明らかにする可能性があるため、これらの機能は深刻なプライバシー上の懸念を引き起こす。 ディープニューラルネットワークの複雑さは、プライベート情報の不注意な保存とリリースの追跡や停止を困難にしているため、AI駆動データのプライバシとセキュリティに対する深刻な懸念を引き起こす。 本研究では,データ抽出やモデルインバージョン,メンバシップ推論といった攻撃を通じて生成AIの弱点を検出することで,これらの問題に対処する。 次に、これらの攻撃に抵抗するプライバシー保護のジェネレーティブAIアプリケーションを開発する。 LLMを扱う前にPIIを識別、変更、削除する手法を使用することで、機能を犠牲にすることなくプライバシを確保する。 Microsoft AzureやGoogle Cloud、AWSといったクラウドプラットフォームが、AIアプリケーションを保護するためのプライバシツールをどの程度有効かを決定するために、この調査では、これらのテクノロジについても検討している。 最終的に、この研究は、生成AIシステムに対する基本的なプライバシーパラダイムを提供し、データセキュリティとモラルAIの実装に焦点を当て、これらのツールをよりセキュアで良心的な使用への扉を開く。

関連論文リスト

• Preserving Privacy in Large Language Models: A Survey on Current Threats and Solutions [12.451936012379319]
  大規模言語モデル(LLM)は、人工知能の大幅な進歩を表し、様々な領域にまたがる応用を見つける。 トレーニングのための大規模なインターネットソースデータセットへの依存は、注目すべきプライバシー問題を引き起こす。 特定のアプリケーション固有のシナリオでは、これらのモデルをプライベートデータで微調整する必要があります。
  論文  参考訳（メタデータ） (2024-08-10T05:41:19Z)
• Unlearning Targeted Information via Single Layer Unlearning Gradient [15.374381635334897]
  無許可のプライバシー関連計算は社会にとって重要な関心事である。 EUの一般保護規則には「忘れられる権利」が含まれている 本研究では,SLUG(Single Layer Unlearning Gradient)を提案する。
  論文  参考訳（メタデータ） (2024-07-16T15:52:36Z)
• Generative AI for Secure and Privacy-Preserving Mobile Crowdsensing [74.58071278710896]
  生成AIは、学術分野と産業分野の両方から多くの注目を集めている。 セキュアでプライバシ保護のモバイルクラウドセンシング(SPPMCS)は、データ収集/取得に広く応用されている。
  論文  参考訳（メタデータ） (2024-05-17T04:00:58Z)
• Privacy-preserving Optics for Enhancing Protection in Face De-identification [60.110274007388135]
  この脆弱性を解決するために,ハードウェアレベルの顔識別手法を提案する。 また、プライバシ保存画像、フェイスヒートマップ、およびパブリックデータセットからの参照顔イメージを入力として、新しい顔を生成する匿名化フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-03-31T19:28:04Z)
• The Frontier of Data Erasure: Machine Unlearning for Large Language Models [56.26002631481726]
  大規模言語モデル(LLM)はAIの進歩の基礎となっている。 LLMは機密情報、偏見情報、著作権情報を記憶し、広めることによってリスクを生じさせる。 機械学習は、これらの懸念を軽減するための最先端のソリューションとして現れます。
  論文  参考訳（メタデータ） (2024-03-23T09:26:15Z)
• Privacy in Large Language Models: Attacks, Defenses and Future Directions [84.73301039987128]
  大規模言語モデル(LLM)を対象とした現在のプライバシ攻撃を分析し、敵の想定能力に応じて分類する。 本稿では、これらのプライバシー攻撃に対抗するために開発された防衛戦略について概説する。
  論文  参考訳（メタデータ） (2023-10-16T13:23:54Z)
• Privacy Risks in Reinforcement Learning for Household Robots [42.675213619562975]
  プライバシーは、ロボットが実質的な個人情報にアクセスすることによって、具体化されたAIの領域における重要な関心事として浮上する。 本稿では,値に基づくアルゴリズムと勾配に基づくアルゴリズムのトレーニングプロセスに対する攻撃を提案し,状態,行動,監督信号の再構成に勾配インバージョンを利用する。
  論文  参考訳（メタデータ） (2023-06-15T16:53:26Z)
• A Survey on Differential Privacy with Machine Learning and Future Outlook [0.0]
  差分プライバシーは、あらゆる攻撃や脆弱性から機械学習モデルを保護するために使用される。 本稿では,2つのカテゴリに分類される差分プライベート機械学習アルゴリズムについて述べる。
  論文  参考訳（メタデータ） (2022-11-19T14:20:53Z)
• A Survey of Machine Unlearning [56.017968863854186]
  最近の規制では、要求に応じて、ユーザに関する個人情報をコンピュータシステムから削除する必要がある。 MLモデルは古いデータをよく記憶します。 機械学習に関する最近の研究は、この問題を完全に解決することはできなかった。
  論文  参考訳（メタデータ） (2022-09-06T08:51:53Z)
• More Than Privacy: Applying Differential Privacy in Key Areas of Artificial Intelligence [62.3133247463974]
  差分プライバシーは、AIのプライバシー保護以上のことができることを示す。 また、セキュリティを改善し、学習を安定させ、公正なモデルを構築し、AIの選択領域にコンポジションを課すためにも使用できる。
  論文  参考訳（メタデータ） (2020-08-05T03:07:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。