論文の概要: Beyond Data Privacy: New Privacy Risks for Large Language Models

• arxiv url: http://arxiv.org/abs/2509.14278v1
• Date: Tue, 16 Sep 2025 09:46:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-19 17:26:52.910666
• Title: Beyond Data Privacy: New Privacy Risks for Large Language Models
• Title（参考訳）: データプライバシを超えて - 大規模言語モデルの新たなプライバシリスク
• Authors: Yuntao Du, Zitao Li, Ninghui Li, Bolin Ding,
• Abstract要約: 大規模言語モデル(LLM)は、自然言語理解、推論、自律的な意思決定において顕著な進歩を遂げている。 これらの進歩には、重要なプライバシー上の懸念も伴っている。 LLMを広く使われているアプリケーションに統合し、その自律能力の武器化によって、新たなプライバシ脆弱性が生まれている。
• 参考スコア（独自算出の注目度）: 37.95953819924652
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Models (LLMs) have achieved remarkable progress in natural language understanding, reasoning, and autonomous decision-making. However, these advancements have also come with significant privacy concerns. While significant research has focused on mitigating the data privacy risks of LLMs during various stages of model training, less attention has been paid to new threats emerging from their deployment. The integration of LLMs into widely used applications and the weaponization of their autonomous abilities have created new privacy vulnerabilities. These vulnerabilities provide opportunities for both inadvertent data leakage and malicious exfiltration from LLM-powered systems. Additionally, adversaries can exploit these systems to launch sophisticated, large-scale privacy attacks, threatening not only individual privacy but also financial security and societal trust. In this paper, we systematically examine these emerging privacy risks of LLMs. We also discuss potential mitigation strategies and call for the research community to broaden its focus beyond data privacy risks, developing new defenses to address the evolving threats posed by increasingly powerful LLMs and LLM-powered systems.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、自然言語理解、推論、自律的な意思決定において顕著な進歩を遂げている。 しかし、これらの進歩には、プライバシーに関する懸念も伴っている。 モデルトレーニングのさまざまな段階において、LLMのデータプライバシリスクの軽減に重点を置いている一方で、デプロイメントから発生する新たな脅威に対して、より少ない注意が払われている。 LLMを広く使われているアプリケーションに統合し、その自律能力の武器化によって、新たなプライバシ脆弱性が生まれている。 これらの脆弱性は、不注意なデータ漏洩とLLMシステムからの悪意ある流出の両方の機会を提供する。 さらに、敵はこれらのシステムを利用して、高度な大規模プライバシー攻撃を起動し、個人のプライバシーだけでなく、金融セキュリティや社会的信頼も脅かすことができる。 本稿では,LLMの新たなプライバシーリスクを体系的に検討する。 我々はまた、潜在的な緩和戦略について議論し、データプライバシのリスクを超えて研究コミュニティに焦点を拡大し、ますます強力なLCMやLSMシステムによって引き起こされる脅威に対処する新たな防衛を開発することを求める。

関連論文リスト

• Security Concerns for Large Language Models: A Survey [4.1824815480811806]
  大きな言語モデル(LLM)は自然言語処理に革命をもたらしたが、その能力は新たなセキュリティ脆弱性も導入している。 この調査は、脅威をいくつかの重要な領域に分類する、これらの新興懸念の包括的概要を提供する。 LLMが安全で有益であることを保証するために、堅牢で多層的なセキュリティ戦略を推進していくことの重要性を強調した。
  論文  参考訳（メタデータ） (2025-05-24T22:22:43Z)
• LLM-PBE: Assessing Data Privacy in Large Language Models [111.58198436835036]
  大規模言語モデル(LLM)は多くのドメインに不可欠なものとなり、データ管理、マイニング、分析におけるアプリケーションを大幅に進歩させた。 この問題の批判的な性質にもかかわらず、LLMにおけるデータプライバシのリスクを総合的に評価する文献は存在しない。 本稿では,LLMにおけるデータプライバシリスクの体系的評価を目的としたツールキットであるLLM-PBEを紹介する。
  論文  参考訳（メタデータ） (2024-08-23T01:37:29Z)
• Preserving Privacy in Large Language Models: A Survey on Current Threats and Solutions [12.451936012379319]
  大規模言語モデル(LLM)は、人工知能の大幅な進歩を表し、様々な領域にまたがる応用を見つける。 トレーニングのための大規模なインターネットソースデータセットへの依存は、注目すべきプライバシー問題を引き起こす。 特定のアプリケーション固有のシナリオでは、これらのモデルをプライベートデータで微調整する必要があります。
  論文  参考訳（メタデータ） (2024-08-10T05:41:19Z)
• The Good and The Bad: Exploring Privacy Issues in Retrieval-Augmented Generation (RAG) [56.67603627046346]
  Retrieval-augmented Generation (RAG)は、プロプライエタリおよびプライベートデータによる言語モデルを容易にする強力な技術である。 本研究では,プライベート検索データベースの漏洩に対するRAGシステムの脆弱性を実証する,新たな攻撃手法による実証的研究を行う。
  論文  参考訳（メタデータ） (2024-02-23T18:35:15Z)
• Privacy in Large Language Models: Attacks, Defenses and Future Directions [84.73301039987128]
  大規模言語モデル(LLM)を対象とした現在のプライバシ攻撃を分析し、敵の想定能力に応じて分類する。 本稿では、これらのプライバシー攻撃に対抗するために開発された防衛戦略について概説する。
  論文  参考訳（メタデータ） (2023-10-16T13:23:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。