論文の概要: Impossible to hide secret ...: Uncovering Security and Privacy Issues in LLM-native IDEs

• arxiv url: http://arxiv.org/abs/2607.26390v1
• Date: Wed, 29 Jul 2026 01:49:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-30 21:06:25.511219
• Title: Impossible to hide secret ...: Uncovering Security and Privacy Issues in LLM-native IDEs
• Title（参考訳）: 秘密を隠すことができない...: LLMネイティブIDEのセキュリティとプライバシの問題を明らかにする
• Authors: Mostafijur Rahman Akhond, Md Afif Al Mamun, Gias Uddin, Song Wang,
• Abstract要約: LIDEsに関連する29の人気のサブレディットから110万の投稿を収集した。 われわれは446件の投稿を特定し、6万件以上のコメントを分析した。
• 参考スコア（独自算出の注目度）: 7.921221884311172
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: LLM-native IDEs (Integrated Development Environments), aka LIDEs, are designed from the ground up to work with Large Language Models (LLMs). LIDEs have found remarkable success in Software Engineering (SE) tasks such as coding, debugging, and program comprehension. LIDEs are software systems, and, like any system, they can exhibit vulnerabilities. In this paper, we study the security and privacy issues that developers reported while using popular LIDEs in their development tasks. We collected 1.1M posts from 29 popular subreddits related to LIDEs. We identified 446 posts and analyzed over 6K comments to the posts that discussed security and privacy issues in almost all popular LIDEs, such as Cursor, Copilot, Codex, etc. Using a mix of qualitative and quantitative methods, we constructed a taxonomy of the reported security and privacy issues. Our results show that most issues in LIDEs stem from system-level design choices, rather than the underlying LLMs, such as user data access, unchecked autonomous actions, etc. To overcome these issues, developers frequently relied on external safeguards like code sandboxing and manual reviewing, highlighting prevalent mistrust among developers about LIDEs. We share lessons from our study to support future design of secure and privacy-aware LIDEs.
• Abstract（参考訳）: LLMネイティブIDE(Integrated Development Environments)は、LLM(Large Language Models)で動作するように設計されている。 LIDEは、コーディング、デバッグ、プログラム理解といったソフトウェア工学(SE)タスクで顕著な成功を収めています。 LIDEはソフトウェアシステムであり、他のシステムと同様に脆弱性を示すことができます。 本稿では、開発者が開発タスクで人気のあるIDEを使用して報告したセキュリティとプライバシの問題について検討する。 LIDEsに関連する29の人気のサブレディットから110万の投稿を収集した。 われわれは446の投稿を特定し、Cursor、Copilot、Codexなど、ほとんどすべての人気のあるLIDEでセキュリティとプライバシの問題について議論した投稿に対する6K以上のコメントを分析した。 質的手法と定量的手法を組み合わせて,報告されたセキュリティとプライバシの問題を分類した。 この結果から,LIDEにおけるほとんどの問題は,ユーザデータアクセスや未確認自律動作など,基盤となるLLMよりもシステムレベルの設計選択に起因していることが示唆された。 これらの問題を克服するために、開発者はしばしば、コードサンドボックスや手動のレビューのような外部の安全を頼りにし、LIDEに関する開発者の一般的な不信を強調した。 我々は,セキュアでプライバシに配慮したLIDEの設計を支援するために,我々の研究から学んだ教訓を共有している。

関連論文リスト

• Are AI-Generated Fixes Secure? Analyzing LLM and Agent Patches on SWE-bench [9.229310642804036]
  我々は,SWE-benchデータセットから2万以上の問題を用いて,LLM生成パッチの大規模セキュリティ解析を行った。 スタンドアロンのLCM(Llama 3.3)によるパッチを評価し,開発者によるパッチと比較した。 また、データのサブセットに基づいて、トップパフォーマンスのエージェントフレームワーク(OpenHands、AutoCodeRover、HoneyComb)3つによって生成されたパッチのセキュリティを評価します。
  論文  参考訳（メタデータ） (2025-06-30T21:10:19Z)
• LLM-PBE: Assessing Data Privacy in Large Language Models [111.58198436835036]
  大規模言語モデル(LLM)は多くのドメインに不可欠なものとなり、データ管理、マイニング、分析におけるアプリケーションを大幅に進歩させた。 この問題の批判的な性質にもかかわらず、LLMにおけるデータプライバシのリスクを総合的に評価する文献は存在しない。 本稿では,LLMにおけるデータプライバシリスクの体系的評価を目的としたツールキットであるLLM-PBEを紹介する。
  論文  参考訳（メタデータ） (2024-08-23T01:37:29Z)
• INDICT: Code Generation with Internal Dialogues of Critiques for Both Security and Helpfulness [110.6921470281479]
  INDICTは、安全性と有用性の両方のガイダンスのために、批評家の内的対話で大きな言語モデルを強化する新しいフレームワークである。 内部対話は、安全主導の批評家と役に立つ主導の批評家の二重協調システムである。 提案手法は,安全性と有用性解析の両面において,高度な批判のレベルを提供し,出力コードの品質を著しく向上させる。
  論文  参考訳（メタデータ） (2024-06-23T15:55:07Z)
• Can We Trust Large Language Models Generated Code? A Framework for In-Context Learning, Security Patterns, and Code Evaluations Across Diverse LLMs [2.7138982369416866]
  大規模言語モデル(LLM)は、ソフトウェア工学における自動コード生成に革命をもたらした。 しかし、生成されたコードのセキュリティと品質に関する懸念が持ち上がっている。 本研究は,LLMの行動学習をセキュアにするための枠組みを導入することで,これらの課題に対処することを目的とする。
  論文  参考訳（メタデータ） (2024-06-18T11:29:34Z)
• A Survey on Large Language Model (LLM) Security and Privacy: The Good, the Bad, and the Ugly [21.536079040559517]
  大規模言語モデル(LLM)は、自然言語の理解と生成に革命をもたらした。 本稿では,LLMとセキュリティとプライバシの交わりについて考察する。
  論文  参考訳（メタデータ） (2023-12-04T16:25:18Z)
• Can LLMs Keep a Secret? Testing Privacy Implications of Language Models via Contextual Integrity Theory [82.7042006247124]
  私たちは、最も有能なAIモデルでさえ、人間がそれぞれ39%と57%の確率で、プライベートな情報を公開していることを示しています。 我々の研究は、推論と心の理論に基づいて、新しい推論時プライバシー保護アプローチを即時に探求する必要性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2023-10-27T04:15:30Z)
• Multi-step Jailbreaking Privacy Attacks on ChatGPT [47.10284364632862]
  我々は,OpenAI の ChatGPT と ChatGPT によって強化された New Bing のプライバシー上の脅威について検討した。 我々は、当社の主張を裏付ける広範な実験を行い、LLMのプライバシーへの影響について論じる。
  論文  参考訳（メタデータ） (2023-04-11T13:05:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。