論文の概要: From Solitary Directives to Interactive Encouragement! LLM Secure Code Generation by Natural Language Prompting

• arxiv url: http://arxiv.org/abs/2410.14321v1
• Date: Fri, 18 Oct 2024 09:32:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-21 14:26:36.157842
• Title: From Solitary Directives to Interactive Encouragement! LLM Secure Code Generation by Natural Language Prompting
• Title（参考訳）: 独創的指示から対話的指導へ! 自然言語プロンプトによるLLMセキュアコード生成
• Authors: Shigang Liu, Bushra Sabir, Seung Ick Jang, Yuval Kansal, Yansong Gao, Kristen Moore, Alsharif Abuadbba, Surya Nepal,
• Abstract要約: SecCodeは、テキストのみのNLプロンプトでセキュアなコード生成のために、革新的なインタラクティブな励ましプロンプト(EP)技術を活用するフレームワークである。 1) NL Prompts を用いたコード生成,2) コード脆弱性の検出と修正,提案したプロモーションプロンプトの利用,3) 脆弱性のクロスチェッキングとコードセキュリティリファインメント。
• 参考スコア（独自算出の注目度）: 24.27542373791212
• License:
• Abstract: Large Language Models (LLMs) have shown remarkable potential in code generation, making them increasingly important in the field. However, the security issues of generated code have not been fully addressed, and the usability of LLMs in code generation still requires further exploration. This work introduces SecCode, a framework that leverages an innovative interactive encouragement prompting (EP) technique for secure code generation with \textit{only NL} prompts. This approach ensures that the prompts can be easily shared and understood by general users. SecCode functions through three stages: 1) Code Generation using NL Prompts; 2) Code Vulnerability Detection and Fixing, utilising our proposed encouragement prompting; 3) Vulnerability Cross-Checking and Code Security Refinement. These stages are executed in multiple interactive iterations to progressively enhance security. By using both proprietary LLMs (i.e., GPT-3.5 Turbo, GPT-4 and GPT-4o) and open-source LLMs (i.e., Llama 3.1 8B Instruct, DeepSeek Coder V2 Lite Instruct) evaluated on three benchmark datasets, extensive experimental results show that our proposed SecCode greatly outperforms compared baselines, generating secure code with a high vulnerability correction rate. For example, SecCode exhibits a high fix success rate of over 76\% after running 5 automated EP interactive iterations and over 89\% after running 10 automated EP interactive iterations. To the best of our knowledge, this work is the first to formulate secure code generation with NL prompts only. We have open-sourced our code and encourage the community to focus on secure code generation.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、コード生成において顕著なポテンシャルを示しており、この分野においてますます重要になっている。 しかし、生成されたコードのセキュリティ問題は十分に解決されておらず、コード生成におけるLLMのユーザビリティはいまだにさらなる調査を必要としている。 SecCodeは、革新的なインタラクティブな励ましプロンプト(EP)技術を活用して、 \textit{only NL}プロンプトでセキュアなコード生成を実現するフレームワークである。 このアプローチにより、プロンプトの共有や一般ユーザによる理解が容易になる。 SecCodeは以下の3つのステージで機能する。 1)NLプロンプトを用いたコード生成 2 コード脆弱性の検出及び修正は、提案した促進策を利用して行う。 3)脆弱性 クロスチェッキングとコードセキュリティリファインメント。 これらのステージは、セキュリティを徐々に強化するために、複数のインタラクティブなイテレーションで実行される。 プロプライエタリなLLM(GPT-3.5 Turbo, GPT-4, GPT-4o)とオープンソースのLLM(Llama 3.1 8B Instruct, DeepSeek Coder V2 Lite Instruct)を3つのベンチマークデータセットで評価することにより、提案したSecCodeはベースラインよりも大幅に優れ、高い脆弱性修正率でセキュアなコードを生成することを示した。 例えば、SecCodeは、自動EPインタラクティブイテレーションを5回実行した後で76パーセント以上、自動EPインタラクティブイテレーションを10回実行した後で89パーセント以上、高い修正成功率を示している。 私たちの知る限りでは、この作業はNLプロンプトのみでセキュアなコード生成を公式化した最初のものです。 私たちはコードをオープンソース化し、コミュニティがセキュアなコード生成に集中することを奨励しています。

関連論文リスト

• PromSec: Prompt Optimization for Secure Generation of Functional Source Code with Large Language Models (LLMs) [4.2913589403278225]
  LLM(Large Language Model)は、高品質なソースコードを生成するために使われる。 LLMは、安全でないオープンソースデータのトレーニングのために、セキュリティ上の脆弱性をしばしば導入する。 本稿では,セキュアかつ機能的なコード生成のためのプロム最適化アルゴリズムであるPromSecを紹介する。
  論文  参考訳（メタデータ） (2024-09-19T12:14:10Z)
• HexaCoder: Secure Code Generation via Oracle-Guided Synthetic Training Data [60.75578581719921]
  大規模言語モデル(LLM)は、自動コード生成に大きな可能性を示している。 最近の研究は、多くのLLM生成コードが深刻なセキュリティ脆弱性を含んでいることを強調している。 我々は,LLMがセキュアなコードを生成する能力を高めるための新しいアプローチであるHexaCoderを紹介する。
  論文  参考訳（メタデータ） (2024-09-10T12:01:43Z)
• An Exploratory Study on Fine-Tuning Large Language Models for Secure Code Generation [17.69409515806874]
  脆弱性修正コミットのデータセット上での微調整済みのLLMがセキュアなコード生成を促進するかどうかを探索研究する。 オープンソースのリポジトリから、確認済みの脆弱性のコード修正を収集することで、セキュアなコード生成のための微調整データセットをクロールしました。 我々の調査によると、微調整のLLMは、C言語で6.4%、C++言語で5.4%、セキュアなコード生成を改善することができる。
  論文  参考訳（メタデータ） (2024-08-17T02:51:27Z)
• Prompting Techniques for Secure Code Generation: A Systematic Investigation [4.777102838267181]
  大規模言語モデル(LLM)は、プロンプト駆動プログラミングによるソフトウェア開発で勢いを増している。 LLMによるNL命令から生成されたコードのセキュリティに異なるプロンプト技術が与える影響について検討する。
  論文  参考訳（メタデータ） (2024-07-09T17:38:03Z)
• CodeIP: A Grammar-Guided Multi-Bit Watermark for Large Language Models of Code [56.019447113206006]
  大規模言語モデル(LLM)はコード生成において顕著な進歩を遂げた。 CodeIPは、新しいマルチビット透かし技術で、出所の詳細を保存するために追加情報を埋め込む。 5つのプログラミング言語にまたがる実世界のデータセットで実施された実験は、CodeIPの有効性を実証している。
  論文  参考訳（メタデータ） (2024-04-24T04:25:04Z)
• CodeAttack: Revealing Safety Generalization Challenges of Large Language Models via Code Completion [117.178835165855]
  本稿では,自然言語入力をコード入力に変換するフレームワークであるCodeAttackを紹介する。 我々の研究は、コード入力に対するこれらのモデルの新たな、普遍的な安全性の脆弱性を明らかにした。 CodeAttackと自然言語の分布ギャップが大きくなると、安全性の一般化が弱くなる。
  論文  参考訳（メタデータ） (2024-03-12T17:55:38Z)
• DeceptPrompt: Exploiting LLM-driven Code Generation via Adversarial Natural Language Instructions [27.489622263456983]
  DeceptPromptは、コードLLMを駆動し、脆弱性のある機能の正しいコードを生成する、逆の自然言語命令を生成するアルゴリズムである。 最適化プレフィックス/サフィックスを適用する場合、アタック成功率(ASR)はプレフィックス/サフィックスを適用せずに平均50%向上する。
  論文  参考訳（メタデータ） (2023-12-07T22:19:06Z)
• InterCode: Standardizing and Benchmarking Interactive Coding with Execution Feedback [50.725076393314964]
  標準的な強化学習環境として,インタラクティブコーディングの軽量でフレキシブルで使いやすいフレームワークであるInterCodeを紹介した。 私たちのフレームワークは、言語とプラットフォームに依存しない、自己完結型のDocker環境を使用して、安全で再現可能な実行を提供します。 我々は、異なるプロンプト戦略で構成された複数の最先端LLMを評価することにより、InterCodeの生存性をテストベッドとして示す。
  論文  参考訳（メタデータ） (2023-06-26T17:59:50Z)
• CodeT5+: Open Code Large Language Models for Code Understanding and Generation [72.1638273937025]
  大きな言語モデル (LLM) は膨大なソースコードで事前訓練されており、コードインテリジェンスにおいて顕著な進歩を遂げている。 CodeT5+は、コンポーネントモジュールを柔軟に組み合わせて、幅広い下流のコードタスクに適合させることができるコードのためのエンコーダ-デコーダLLMのファミリーである。 我々は、ゼロショット、微調整、命令調整を含む20以上のコード関連ベンチマークでCodeT5+を広範囲に評価した。
  論文  参考訳（メタデータ） (2023-05-13T14:23:07Z)
• Structured Chain-of-Thought Prompting for Code Generation [48.43888515848583]
  CoTプロンプト(Chain-of-Thought)は最先端のプロンプト技術である。 本研究では、構造化CoT(Structured CoTs)を提案し、コード生成のための新しいプロンプト技術であるSCoTプロンプトを提案する。
  論文  参考訳（メタデータ） (2023-05-11T06:43:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。