論文の概要: Probing Privacy Leaks in LLM-based Code Generation via Test Generation

• arxiv url: http://arxiv.org/abs/2605.15248v1
• Date: Thu, 14 May 2026 12:16:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-18 17:44:16.264333
• Title: Probing Privacy Leaks in LLM-based Code Generation via Test Generation
• Title（参考訳）: テスト生成によるLLMコード生成におけるプライバシリークの探索
• Authors: Yifei Ge, Zhenpeng Chen, Weisong Sun, Yuchen Chen, Chunrong Fang, Juan Zhai, Xiaofang Zhang, Xia Feng, Yang Liu, Zhenyu Chen,
• Abstract要約: 本稿では,実用的なプライバシ関連コード生成シナリオをシミュレートするパイプラインを提案する。 手動プロンプトエンジニアリングを代替する,自動構築のプライバシ機能ライブラリを導入する。 私たちのパイプラインは、より確認されたプライバシリークを公開し、既存のベースラインに比べて検出されたリークを2.56倍増加させる。
• 参考スコア（独自算出の注目度）: 31.636326047858244
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The widespread availability of large-scale code datasets has fueled the rapid development of large language models (LLMs) for code-related tasks. These datasets may include sensitive personally identifiable information (PII), which can lead to privacy leakage when LLMs memorize and reproduce it. However, existing privacy-leakage detection methods rely on ad-hoc prompt construction (manually or automatically designed). Therefore, they do not adequately approximate the real-world contexts in which PII appears in code corpora, making it difficult to extract realistic privacy leakage. In this paper, we propose a pipeline that simulates practical privacy-related code generation scenarios and adopts a test-driven strategy to elicit the memorized information from the generated test cases. We further introduce an automatically constructed privacy feature library that replaces manual prompt engineering by providing realistic templates and examples to guide test case generation. Large-scale experiments on 5 widely used LLMs show that our pipeline exposes more confirmed privacy leakage, achieving a 2.56 times increase in detected leakage compared to existing baselines.
• Abstract（参考訳）: 大規模コードデータセットが広く利用可能になったことで、コード関連のタスクのための大規模言語モデル(LLM)が急速に開発されるようになった。 これらのデータセットには機密性のある個人識別情報(PII)が含まれており、LCMがそれを記憶して再生する際にプライバシーの漏洩につながる可能性がある。 しかし、既存のプライバシ推論検出方法はアドホックなプロンプト構築(手動または自動設計)に依存している。 したがって、コードコーパスにPIIが現れる現実世界のコンテキストを適切に近似しないため、現実的なプライバシー漏洩を抽出することは困難である。 本稿では,実際のプライバシ関連コード生成シナリオをシミュレートするパイプラインを提案し,生成したテストケースから記憶された情報を抽出するためのテスト駆動型戦略を採用する。 さらに、テストケース生成をガイドする現実的なテンプレートや例を提供することで、手動のプロンプトエンジニアリングを置き換える、自動構築されたプライバシ機能ライブラリも導入する。 5つの広く使われているLCMの大規模な実験では、パイプラインがより確認されたプライバシー漏洩を露呈し、既存のベースラインに比べて検出されたリークが2.56倍増加することが示されている。

関連論文リスト

• Automated Privacy Information Annotation in Large Language Model Interactions [40.87806981624453]
  実際の識別子の下で大きな言語モデル(LLM)と対話するユーザは、プライベート情報の開示を無意識にリスクを負うことが多い。 既存のプライバシ検出方法は、異なる目的とアプリケーションドメインのために設計されている。 249Kのユーザクエリと154Kの注釈付きプライバシフレーズを備えた大規模多言語データセットを構築した。
  論文  参考訳（メタデータ） (2025-05-27T09:00:12Z)
• Know Or Not: a library for evaluating out-of-knowledge base robustness [0.0]
  大規模言語モデル(LLM)のOOKB(out-of-knowledge base)ロバスト性を体系的に評価するための新しい手法を提案する。 我々は,オープンソースライブラリである knowornot に方法論を実装し,ユーザがOOKB の堅牢性のために独自の評価データとパイプラインを開発できるようにする。
  論文  参考訳（メタデータ） (2025-05-19T03:17:41Z)
• Information-Guided Identification of Training Data Imprint in (Proprietary) Large Language Models [52.439289085318634]
  情報誘導プローブを用いて,プロプライエタリな大規模言語モデル (LLM) で知られているトレーニングデータを識別する方法を示す。 我々の研究は、重要な観察の上に成り立っている: 高次数テキストパスは、暗記プローブにとって良い検索材料である。
  論文  参考訳（メタデータ） (2025-03-15T10:19:15Z)
• Mitigating Sensitive Information Leakage in LLMs4Code through Machine Unlearning [5.974072640812041]
  コードのためのLanguage Models for Code (LLMs4Code)は、コード生成タスクに優れており、巨大なソフトウェア開発の負担から開発者をリリースすることを約束している。 これらのモデルは、トレーニング中に埋め込まれた機密情報が漏洩する可能性があるため、重大なプライバシーリスクに悩まされていることが示されている。 マシンアンラーニングは、モデルが完全なリトレーニングなしにセンシティブな情報を“忘れる”ことによって、有望なソリューションとして浮上した。
  論文  参考訳（メタデータ） (2025-02-09T01:50:34Z)
• OpenCoder: The Open Cookbook for Top-Tier Code Large Language Models [76.59316249991657]
  コードのための大規模言語モデル(LLM)は、コード生成、推論タスク、エージェントシステムなど、さまざまな領域で必須になっている。 オープンアクセスのコード LLM はプロプライエタリなモデルの性能レベルに近づきつつあるが、高品質なコード LLM は依然として限られている。 トップクラスのコードLLMであるOpenCoderは、主要なモデルに匹敵するパフォーマンスを達成するだけでなく、研究コミュニティの"オープンクックブック"としても機能します。
  論文  参考訳（メタデータ） (2024-11-07T17:47:25Z)
• ReEval: Automatic Hallucination Evaluation for Retrieval-Augmented Large Language Models via Transferable Adversarial Attacks [91.55895047448249]
  本稿では,LLMベースのフレームワークであるReEvalについて述べる。 本稿では、ChatGPTを用いてReEvalを実装し、2つの人気のあるオープンドメインQAデータセットのバリエーションを評価する。 我々の生成したデータは人間可読であり、大きな言語モデルで幻覚を引き起こすのに役立ちます。
  論文  参考訳（メタデータ） (2023-10-19T06:37:32Z)
• Private-Library-Oriented Code Generation with Large Language Models [52.73999698194344]
  本稿では,大規模言語モデル(LLM)をプライベートライブラリのコード生成に活用することに焦点を当てる。 プログラマがプライベートコードを書く過程をエミュレートする新しいフレームワークを提案する。 TorchDataEval、TorchDataComplexEval、MonkeyEval、BeatNumEvalの4つのプライベートライブラリベンチマークを作成しました。
  論文  参考訳（メタデータ） (2023-07-28T07:43:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。