論文の概要: Minimal Prompt Perturbations Lead to Code Vulnerabilities: Prompt Fragility and Hidden-State Signals in Coding LLMs

• arxiv url: http://arxiv.org/abs/2605.29737v1
• Date: Thu, 28 May 2026 10:30:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-30 00:00:30.952211
• Title: Minimal Prompt Perturbations Lead to Code Vulnerabilities: Prompt Fragility and Hidden-State Signals in Coding LLMs
• Title（参考訳）: コード脆弱性につながる最小のプロンプト摂動:コーディングLLMにおけるプロンプト脆弱性と隠れ状態信号
• Authors: Alexander Sternfeld, Andrei Kucharavy, Ljiljana Dolamic,
• Abstract要約: 単一文字の変更ほど小さな突然変異は、生成されたコードをセキュアから脆弱に切り替えることが可能であることを示す。 その結果、入力ハンドリングの欠陥は生成前に捕捉可能である一方で、セキュアなデフォルトの欠陥はデコード時に介入を必要とすることがわかった。
• 参考スコア（独自算出の注目度）: 46.747768845221735
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: LLM-based coding assistants are seeing rapid adoption, offering substantial gains in developer productivity. As organizations increasingly ship code these agents produce, the security of that code becomes critical. Prior work has shown that minor prompt perturbations degrade the functional correctness of LLM-generated code, but whether they also compromise code security has remained unstudied. We apply token-level mutations to prompts across three models and five programming languages, and show that mutations as small as a single-character change can flip generated code from secure to vulnerable. Probing the models' hidden states reveals that this fragility is partially encoded in prompt representations, but unevenly so. Input-handling vulnerabilities, where the model omits validation or sanitization, are more predictable (mean AUC 0.753) than secure-defaults vulnerabilities, where insecure code stems from one local choice such as a weak algorithm or unsafe parameter (mean AUC 0.674). These results show that the threat model for LLM-assisted coding extends beyond prompt injection to ordinary prompt variation, and indicate that input-handling flaws can be caught before generation while secure-defaults flaws require intervention during decoding.
• Abstract（参考訳）: LLMベースのコーディングアシスタントは急速に採用され、開発者の生産性が大幅に向上している。 組織がこれらのエージェントが生み出すコードをますます出荷するにつれて、コードのセキュリティは重要になる。 以前の研究では、軽微な急激な摂動がLLM生成コードの機能的正しさを低下させることを示したが、それらがコードセキュリティを損なうかどうかはまだ調査されていない。 トークンレベルの突然変異を3つのモデルと5つのプログラミング言語のプロンプトに適用し、単一文字の変更ほど小さな変異は、生成されたコードをセキュアから脆弱に切り替えることができることを示す。 モデルが隠された状態を示すと、この脆弱性が部分的に即時表現にコード化されていることが分かるが、不均一にそうである。 モデルが検証や衛生を省略する入力処理脆弱性は、セキュアなデフォルト脆弱性よりも予測可能(AUC 0.753)であり、安全でないコードは、弱いアルゴリズムや安全でないパラメータ(AUC 0.674)のような1つのローカルな選択に由来する。 これらの結果から, LLMを用いた符号化の脅威モデルは, インプットインジェクションを超えて通常のプロンプトインジェクションに拡張され, 生成前に入力ハンドリングの欠陥を捕捉できる一方で, セキュアデフォルトの欠陥はデコーディングの介入を必要とすることが示唆された。

関連論文リスト

• An Empirical Evaluation of LLM-Generated Code Security Across Prompting Methods [11.454777386934632]
  自動コード生成のための大規模言語モデル(LLM)は、ソフトウェア開発の効率を向上するが、しばしばセキュリティの犠牲になる。 5つのLLMおよび4つのプログラミング言語にわたるLLM生成コードのセキュリティ品質を総合的に評価する。 モデル推論を導くために,CWEマッピングを用いてセキュリティコンテキストでプロンプトを充実させる手法として,弱点を意識したゼロショット・チェーン・オブ・ソート(WA-0CoT)を導入する。
  論文  参考訳（メタデータ） (2026-05-22T23:52:33Z)
• SecureForge: Finding and Preventing Vulnerabilities in LLM-Generated Code via Prompt Optimization [61.91729298584227]
  SecureForgeは、フロンティアモデルのセキュリティリスクを監査し、監査インフォームされたセキュアなシステムプロンプトを生成する自動化パイプラインである。 SecureForgeは、まず静的に検出可能な脆弱性を生成する良性プロンプトを特定し、その後、さまざまなシナリオの大規模な合成プロンプトコーパスに増幅する。 フロンティアモデルでは、SecureForgeは、ユニットテストの成功と出力セキュリティの両方において統計的に有意な改善をもたらし、出力脆弱性は最大48%削減された。
  論文  参考訳（メタデータ） (2026-05-08T18:40:47Z)
• From Model to Breach: Towards Actionable LLM-Generated Vulnerabilities Reporting [43.57360781012506]
  最新のオープンウェイトモデルでさえ、最も早く報告された脆弱性シナリオに脆弱性があることが示されています。 LLMが生成する脆弱性によって引き起こされるリスクを反映した、新たな重大度指標を導入する。 最も深刻で普及している脆弱性の緩和を促進するために、PEを使用して、モデル露出(ME)スコアを定義します。
  論文  参考訳（メタデータ） (2025-11-06T16:52:27Z)
• TypePilot: Leveraging the Scala Type System for Secure LLM-generated Code [46.747768845221735]
  大規模言語モデル(LLM)は、様々なプログラミング言語のコード生成タスクにおいて顕著な習熟度を示している。 それらのアウトプットには微妙だが重要な脆弱性があり、セキュリティに敏感なシステムやミッションクリティカルなシステムにデプロイすると重大なリスクが生じる。 本稿では,LLM生成コードのセキュリティとロバスト性を高めるために設計されたエージェントAIフレームワークであるTypePilotを紹介する。
  論文  参考訳（メタデータ） (2025-10-13T08:44:01Z)
• A Mixture of Linear Corrections Generates Secure Code [20.94236753015922]
  大規模言語モデル(LLM)は、洗練されたコード生成タスクに熟練しているが、コードの脆弱性を確実に検出または回避するには効果がない。 現在のLLMは、脆弱なコードとセキュアなコードとを区別する正確な内部表現を符号化している。 本研究では,モデルのトークン生成確率を補正によって微調整する推論時ステアリング手法を開発した。
  論文  参考訳（メタデータ） (2025-07-13T06:27:33Z)
• Guiding AI to Fix Its Own Flaws: An Empirical Study on LLM-Driven Secure Code Generation [16.29310628754089]
  大規模言語モデル(LLM)は、コードの自動生成のための強力なツールになっている。 LLMは、しばしば重要なセキュリティプラクティスを見落とし、安全でないコードを生成する。 本稿では、安全性の低いコードを生成するための固有の傾向、自己生成する脆弱性ヒントによってガイドされた場合にセキュアなコードを生成する能力、フィードバックレベルが異なる場合に脆弱性を修復する効果について検討する。
  論文  参考訳（メタデータ） (2025-06-28T23:24:33Z)
• CodeAttack: Revealing Safety Generalization Challenges of Large Language Models via Code Completion [117.178835165855]
  本稿では,自然言語入力をコード入力に変換するフレームワークであるCodeAttackを紹介する。 我々の研究は、コード入力に対するこれらのモデルの新たな、普遍的な安全性の脆弱性を明らかにした。 CodeAttackと自然言語の分布ギャップが大きくなると、安全性の一般化が弱くなる。
  論文  参考訳（メタデータ） (2024-03-12T17:55:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。