論文の概要: The Illusion of Secure LLM Code: Closing the Security Gap via Iterative Reprompting

• arxiv url: http://arxiv.org/abs/2607.23710v1
• Date: Sun, 26 Jul 2026 15:16:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-28 22:34:15.207973
• Title: The Illusion of Secure LLM Code: Closing the Security Gap via Iterative Reprompting
• Title（参考訳）: セキュアなLLMコードのイラシオン:イテレーティブ・リプロンプティングによるセキュリティギャップの閉鎖
• Abstract要約: 本稿では,5つの著名なAI符号化アシスタントが生成する認証システムのセキュリティアーキテクチャを評価する。 実証的な結果は、機能的または汎用的にセキュアなプロンプトから生成されたコードは、決定的な保護を一貫して省略することを示している。 最終的に、この研究は、現在のAIコーディングアシスタントがセキュア・バイ・デフォルトのアプリケーションを生成していないことを証明している。
• 参考スコア（独自算出の注目度）: 0.6066442015301664
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Models (LLMs) are increasingly integrated into software development workflows, yet their ability to autonomously generate secure authentication code remains uncertain. This paper evaluates the security architecture of authentication systems generated by five prominent AI coding assistants through a bi-modal assessment framework combining static code analysis and dynamic penetration testing, mapped to NIST SP 800-63B guidelines. The study examines model behavior across four prompting strategies Basic, Secure, NIST-Based, and Reprompting to reflect varying levels of developer guidance. Empirical results demonstrate that code generated from functional or generically secure prompts consistently omits critical protections, particularly concerning brute-force resistance, session management, and robust password handling. While providing explicit, single-shot NIST context significantly improves compliance, the findings reveal that this remains structurally inadequate. Instead, iterative Reprompting: forcing models into a contextual self-auditing loop is strictly required to achieve a comprehensive, defense-in-depth security architecture. Ultimately, this study proves that current AI coding assistants do not produce secure-by-default applications, dictating that enterprise deployments must transition from single-shot prompt engineering to continuous, standards-driven verification pipelines.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、ソフトウェア開発ワークフローにますます統合されているが、セキュアな認証コードを自律的に生成する能力は、まだ不明である。 本稿では,NIST SP 800-63Bガイドラインにマッピングされた静的コード解析と動的浸透試験を組み合わせたバイモーダルアセスメントフレームワークを用いて,5つのAI符号化アシスタントによって生成された認証システムのセキュリティアーキテクチャを評価する。 本研究は,4つのプロンプト戦略,セキュリティ,NISTベース,Repromptingのモデル行動について検討し,様々なレベルの開発者ガイダンスを反映した。 実証的な結果は、機能的あるいは汎用的にセキュアなプロンプトから生成されたコードは、特にブルートフォース抵抗、セッション管理、堅牢なパスワード処理に関する重要な保護を一貫して省略することを示している。 明示的でシングルショットのNISTコンテキストはコンプライアンスを著しく改善するが、構造的に不適切であることは明らかである。 その代わり、反復的リプロンプティング: 包括的で詳細なセキュリティアーキテクチャを実現するために、モデルをコンテキストの自己監査ループに強制することは厳密に要求される。 最終的に、この研究は、現在のAIコーディングアシスタントが安全かつデフォルトなアプリケーションを生成していないことを証明し、エンタープライズデプロイメントは、単発のプロンプトエンジニアリングから、継続的な標準駆動の検証パイプラインに移行する必要がある、と宣言した。

関連論文リスト

• An Empirical Evaluation of LLM-Generated Code Security Across Prompting Methods [11.454777386934632]
  自動コード生成のための大規模言語モデル(LLM)は、ソフトウェア開発の効率を向上するが、しばしばセキュリティの犠牲になる。 5つのLLMおよび4つのプログラミング言語にわたるLLM生成コードのセキュリティ品質を総合的に評価する。 モデル推論を導くために,CWEマッピングを用いてセキュリティコンテキストでプロンプトを充実させる手法として,弱点を意識したゼロショット・チェーン・オブ・ソート(WA-0CoT)を導入する。
  論文  参考訳（メタデータ） (2026-05-22T23:52:33Z)
• SecureForge: Finding and Preventing Vulnerabilities in LLM-Generated Code via Prompt Optimization [61.91729298584227]
  SecureForgeは、フロンティアモデルのセキュリティリスクを監査し、監査インフォームされたセキュアなシステムプロンプトを生成する自動化パイプラインである。 SecureForgeは、まず静的に検出可能な脆弱性を生成する良性プロンプトを特定し、その後、さまざまなシナリオの大規模な合成プロンプトコーパスに増幅する。 フロンティアモデルでは、SecureForgeは、ユニットテストの成功と出力セキュリティの両方において統計的に有意な改善をもたらし、出力脆弱性は最大48%削減された。
  論文  参考訳（メタデータ） (2026-05-08T18:40:47Z)
• SecPI: Secure Code Generation with Reasoning Models via Security Reasoning Internalization [50.71047638695205]
  RLM(Reasoning Language Model)は、プログラミングにおいてますます使われている言語モデルである。 しかし、最先端のRLMでさえ、生成されたコードに重大なセキュリティ脆弱性を頻繁に導入する。 我々は、構造化されたセキュリティ推論を内部化するためのRTMを教える微調整パイプラインであるSecPIを提案する。
  論文  参考訳（メタデータ） (2026-04-04T04:29:11Z)
• Security-by-Design for LLM-Based Code Generation: Leveraging Internal Representations for Concept-Driven Steering Mechanisms [6.049331537822609]
  大きな言語モデル(LLM)は、自然言語を理解し、複雑なコードを生成する際、顕著な能力を示す。 調査によると、CodeLLMsは機能的に正しいが安全でないコードを頻繁に生成し、重大なセキュリティリスクを生じさせる。 我々は,LLMの内部表現をセキュアかつ機能的なコード出力にステアリングする,CodeLLMs (SCS-Code) のセキュア概念ステアリングを提案する。
  論文  参考訳（メタデータ） (2026-03-11T18:28:06Z)
• CIBER: A Comprehensive Benchmark for Security Evaluation of Code Interpreter Agents [27.35968236632966]
  LLMベースのコードインタプリタエージェントは、ますます重要な状況にデプロイされている。 既存のベンチマークでは、動的コード実行、ツールインタラクション、マルチターンコンテキストから生じるセキュリティリスクをキャプチャできない。 動的アタック生成、分離されたセキュアサンドボックス、状態認識評価を組み合わせた自動ベンチマークであるCIBERを紹介する。
  論文  参考訳（メタデータ） (2026-02-23T06:41:41Z)
• RealSec-bench: A Benchmark for Evaluating Secure Code Generation in Real-World Repositories [58.32028251925354]
  LLM(Large Language Models)は、コード生成において顕著な能力を示しているが、セキュアなコードを生成する能力は依然として重要で、未調査の領域である。 我々はRealSec-benchを紹介します。RealSec-benchは、現実世界の高リスクなJavaリポジトリから慎重に構築されたセキュアなコード生成のための新しいベンチマークです。
  論文  参考訳（メタデータ） (2026-01-30T08:29:01Z)
• RESCUE: Retrieval Augmented Secure Code Generation [5.001448044530164]
  2つの重要な革新を伴うセキュアなコード生成のための新しいフレームワークであるRESCUEを提案する。 まず, LLMを用いたクラスタ列化蒸留とプログラムスライシングを組み合わせたハイブリッド知識ベース構築法を提案する。 第2に,構築した知識ベースを上から下へトラバースする階層的多面検索を設計し,階層レベルで複数のセキュリティクリティカルな事実を統合する。
  論文  参考訳（メタデータ） (2025-10-21T01:13:03Z)
• Countermind: A Multi-Layered Security Architecture for Large Language Models [0.0]
  本稿では,多層型セキュリティアーキテクチャであるCountermindを提案する。 アーキテクチャは、すべての入力を構造的に検証し変換するように設計された強化された周辺装置と、出力が発生する前にモデルのセマンティック処理経路を制約する内部ガバナンス機構を提案する。
  論文  参考訳（メタデータ） (2025-10-13T18:41:18Z)
• Rethinking Testing for LLM Applications: Characteristics, Challenges, and a Lightweight Interaction Protocol [83.83217247686402]
  大言語モデル(LLM)は、単純なテキストジェネレータから、検索強化、ツール呼び出し、マルチターンインタラクションを統合する複雑なソフトウェアシステムへと進化してきた。 その固有の非決定主義、ダイナミズム、文脈依存は品質保証に根本的な課題をもたらす。 本稿では,LLMアプリケーションを3層アーキテクチャに分解する: textbftextitSystem Shell Layer, textbftextitPrompt Orchestration Layer, textbftextitLLM Inference Core。
  論文  参考訳（メタデータ） (2025-08-28T13:00:28Z)
• A.S.E: A Repository-Level Benchmark for Evaluating Security in AI-Generated Code [49.009041488527544]
  A.S.Eは、AI生成コードのセキュリティを評価するためのリポジトリレベルの評価ベンチマークである。 現在の大規模言語モデル(LLM)は、セキュアなコーディングに苦戦している。 大きな推論予算は、必ずしもより良いコード生成につながるとは限らない。
  論文  参考訳（メタデータ） (2025-08-25T15:11:11Z)
• Training Language Models to Generate Quality Code with Program Analysis Feedback [66.0854002147103]
  大規模言語モデル(LLM)によるコード生成は、ますます本番環境で採用されているが、コード品質の保証には失敗している。 実運用品質のコードを生成するためにLLMにインセンティブを与える強化学習フレームワークであるREALを提案する。
  論文  参考訳（メタデータ） (2025-05-28T17:57:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。