論文の概要: The Language of Security: How Prompt Syntax Shapes Secure Code Generation in Open LLMs

• arxiv url: http://arxiv.org/abs/2607.15937v1
• Date: Fri, 17 Jul 2026 13:20:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-20 17:56:52.85438
• Title: The Language of Security: How Prompt Syntax Shapes Secure Code Generation in Open LLMs
• Title（参考訳）: セキュリティの言語: Prompt SyntaxがオープンLLMでセキュアなコード生成をいかに形作るか
• Abstract要約: 大きな言語モデル(LLM)は、しばしばセキュリティ上の脆弱性を示すアウトプットにもかかわらず、ソースコード生成にますます使われています。 制約,ガード,概念バインディングなどの特定の構文要素とそのプロンプト内の位置が,安全でないコードを生成する可能性に一貫して影響を及ぼすことを示す。 これらの知見は, 具体的なセキュリティ制御面として即時構文を同定し, LLM支援開発における脆弱性リスク軽減のための実用的なガイダンスを提供する。
• 参考スコア（独自算出の注目度）: 12.213106649470973
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) are increasingly used for source code generation despite their outputs often exhibiting security vulnerabilities. Prior work shows that prompt engineering can mitigate such risks, yet (1) they focused on high-level prompting strategies, neglecting recent evidence that fine-grained syntactic variations can substantially alter model behavior; and (2) predominantly evaluate proprietary LLMs, limiting the applicability of their findings in industrial settings where self-hosted, open models are preferred for privacy, compliance, and deployment control. In this paper, we study how fine-grained syntactic constituents of prompts influence the security of open LLM-generated code. Using a parser-driven approach, we systematically generate syntactic variants of security-relevant code generation prompts and evaluate their impact on code security across multiple open LLMs and programming languages. Our results show that specific syntactic elements, such as constraints, guards, conditions, and concept bindings, and their position within the prompt consistently affect the likelihood of generating insecure code. These findings identify prompt syntax as a concrete security control surface and provide actionable guidance for reducing vulnerability risk in LLM-assisted development.
• Abstract（参考訳）: 大きな言語モデル(LLM)は、しばしばセキュリティ上の脆弱性を示すアウトプットにもかかわらず、ソースコード生成にますます使われています。 先行研究は,(1) より詳細な構文変化がモデル行動を大幅に変化させるという最近の証拠を無視し,(2) 自己ホスト型,オープンモデルがプライバシ,コンプライアンス,デプロイメント管理に好まれる産業環境において,研究成果の適用性を制限した,プロプライエタリなLCMを主に評価している。 本稿では,オープンなLLM生成コードのセキュリティに,プロンプトの微細な構文成分がどのような影響を及ぼすかを検討する。 パーサ駆動型アプローチを用いて,セキュリティ関連コード生成プロンプトの構文的変種を体系的に生成し,複数のオープンLLMおよびプログラミング言語におけるコードセキュリティへの影響を評価する。 以上の結果から,制約,ガード,条件,概念バインディングなどの特定の構文的要素とそのプロンプト内の位置が,安全でないコードを生成する可能性に一貫して影響を与えていることが示唆された。 これらの知見は, 具体的なセキュリティ制御面として即時構文を同定し, LLM支援開発における脆弱性リスク軽減のための実用的なガイダンスを提供する。

関連論文リスト

• Minimal Prompt Perturbations Lead to Code Vulnerabilities: Prompt Fragility and Hidden-State Signals in Coding LLMs [46.747768845221735]
  単一文字の変更ほど小さな突然変異は、生成されたコードをセキュアから脆弱に切り替えることが可能であることを示す。 その結果、入力ハンドリングの欠陥は生成前に捕捉可能である一方で、セキュアなデフォルトの欠陥はデコード時に介入を必要とすることがわかった。
  論文  参考訳（メタデータ） (2026-05-28T10:30:28Z)
• An Empirical Evaluation of LLM-Generated Code Security Across Prompting Methods [11.454777386934632]
  自動コード生成のための大規模言語モデル(LLM)は、ソフトウェア開発の効率を向上するが、しばしばセキュリティの犠牲になる。 5つのLLMおよび4つのプログラミング言語にわたるLLM生成コードのセキュリティ品質を総合的に評価する。 モデル推論を導くために,CWEマッピングを用いてセキュリティコンテキストでプロンプトを充実させる手法として,弱点を意識したゼロショット・チェーン・オブ・ソート(WA-0CoT)を導入する。
  論文  参考訳（メタデータ） (2026-05-22T23:52:33Z)
• TypePilot: Leveraging the Scala Type System for Secure LLM-generated Code [46.747768845221735]
  大規模言語モデル(LLM)は、様々なプログラミング言語のコード生成タスクにおいて顕著な習熟度を示している。 それらのアウトプットには微妙だが重要な脆弱性があり、セキュリティに敏感なシステムやミッションクリティカルなシステムにデプロイすると重大なリスクが生じる。 本稿では,LLM生成コードのセキュリティとロバスト性を高めるために設計されたエージェントAIフレームワークであるTypePilotを紹介する。
  論文  参考訳（メタデータ） (2025-10-13T08:44:01Z)
• How Good LLM-Generated Password Policies Are? [0.1747820331822631]
  サイバーセキュリティアクセス制御システムにおける大規模言語モデルの応用について検討する。 具体的には、LLM生成したパスワードポリシーの一貫性と正確性を調べ、自然言語のプロンプトをpwquality.conf設定ファイルに翻訳する。 本研究は,LLM の現世代における重要な課題を浮き彫りにして,アクセス制御システムにおける LLM の展開に関する貴重な知見を提供するものである。
  論文  参考訳（メタデータ） (2025-06-10T01:12:31Z)
• Smoke and Mirrors: Jailbreaking LLM-based Code Generation via Implicit Malicious Prompts [5.718926328180089]
  本稿では,コード生成における安全性の懸念を明らかにするために,JailbreakingアプローチであるCodeJailbreakerを紹介する。 最近リリースされたRCCBenchベンチマークの実験では、CodeJailbreakerが従来のジェイルブレイク戦略を大きく上回っていることが示されている。
  論文  参考訳（メタデータ） (2025-03-23T06:06:12Z)
• Compromising Embodied Agents with Contextual Backdoor Attacks [69.71630408822767]
  大型言語モデル(LLM)は、エンボディドインテリジェンスの発展に変化をもたらした。 本稿では,このプロセスにおけるバックドアセキュリティの重大な脅威を明らかにする。 ほんの少しの文脈的デモンストレーションを毒殺しただけで、攻撃者はブラックボックスLDMの文脈的環境を隠蔽することができる。
  論文  参考訳（メタデータ） (2024-08-06T01:20:12Z)
• Can We Trust Large Language Models Generated Code? A Framework for In-Context Learning, Security Patterns, and Code Evaluations Across Diverse LLMs [2.7138982369416866]
  大規模言語モデル(LLM)は、ソフトウェア工学における自動コード生成に革命をもたらした。 しかし、生成されたコードのセキュリティと品質に関する懸念が持ち上がっている。 本研究は,LLMの行動学習をセキュアにするための枠組みを導入することで,これらの課題に対処することを目的とする。
  論文  参考訳（メタデータ） (2024-06-18T11:29:34Z)
• CodeAttack: Revealing Safety Generalization Challenges of Large Language Models via Code Completion [117.178835165855]
  本稿では,自然言語入力をコード入力に変換するフレームワークであるCodeAttackを紹介する。 我々の研究は、コード入力に対するこれらのモデルの新たな、普遍的な安全性の脆弱性を明らかにした。 CodeAttackと自然言語の分布ギャップが大きくなると、安全性の一般化が弱くなる。
  論文  参考訳（メタデータ） (2024-03-12T17:55:38Z)
• If LLM Is the Wizard, Then Code Is the Wand: A Survey on How Code Empowers Large Language Models to Serve as Intelligent Agents [81.60906807941188]
  大型言語モデル(LLM)は、自然言語と形式言語(コード)の組み合わせに基づいて訓練される コードは、標準構文、論理一貫性、抽象化、モジュール性を備えた高レベルの目標を実行可能なステップに変換する。
  論文  参考訳（メタデータ） (2024-01-01T16:51:20Z)
• Red Teaming Language Model Detectors with Language Models [114.36392560711022]
  大規模言語モデル(LLM)は、悪意のあるユーザによって悪用された場合、重大な安全性と倫理的リスクをもたらす。 近年,LLM生成テキストを検出し,LLMを保護するアルゴリズムが提案されている。 1) LLMの出力中の特定の単語を, 文脈が与えられたシノニムに置き換えること, 2) 生成者の書き方を変更するための指示プロンプトを自動で検索すること,である。
  論文  参考訳（メタデータ） (2023-05-31T10:08:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。