論文の概要: SecReason: Vulnerability Detection and In-Stream Self-Repair for LLM Code Generation

• arxiv url: http://arxiv.org/abs/2610.14453v2
• Date: Wed, 14 Oct 2026 04:57:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.052302
• Title: SecReason: Vulnerability Detection and In-Stream Self-Repair for LLM Code Generation
• Title（参考訳）: SecReason: LLMコード生成のための脆弱性検出とストリーム内自己修復
• Abstract要約: 大規模言語モデル(LLM)は、生成されたコードにセキュリティ脆弱性を導入する可能性がある。 既存の防衛は、前、中、後、世代ごとに行動するが、世代間はコードを検査することはない。 このウィンドウをモニタするストリーム内ディフェンスであるSecReasonを紹介します。
• 参考スコア（独自算出の注目度）: 21.579935743653795
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) may introduce security vulnerabilities into generated code, which can persist into production when verification focuses on functional correctness. Existing defenses act before, during, or after generation, but none inspects the code during generation. Security prompts and retrieved security knowledge act before any code exists, constrained decoding limits token choices but cannot guide repair, and post-hoc repair must regenerate the full response. Reasoning LLMs draft code early in their streamed chain of thought, and in this pre-delivery window the code exists only inside the reasoning stream. We present SecReason, an in-stream defense that monitors this window. Dual-track incremental scanning applies security rules, checking each statement as it is emitted and tracing dataflows across the accumulated code. When a security rule fires, SecReason interrupts generation, inserts an in-stream warning, and resumes decoding, so the model repairs the draft within the same reasoning trace without regenerating the full response. On tasks where unassisted generation introduces vulnerabilities, \system raises the share of runs delivering secure and functionally correct code from below 15\% to 72.8\%--98.1\% on \tool{CWEval} and \tool{SecCodeBench}. \system consumes fewer tokens than post-hoc repair, and when security rules misfire on secure code, it limits the functional regressions from false warnings.
• Abstract（参考訳）: 大規模な言語モデル(LLM)は、生成されたコードにセキュリティ脆弱性を導入する可能性がある。 既存の防衛は、前、中、後、世代ごとに行動するが、世代間はコードを検査することはない。 セキュリティプロンプトと検索されたセキュリティ知識は、コードが存在する前に動作し、制限付き復号化トークンの選択は可能であるが、修理をガイドすることはできない。 LLMのドラフトコードをストリームチェーンの早い段階で推論し、このプレデリバリウィンドウでは、コードは推論ストリーム内にのみ存在する。 このウィンドウをモニタするストリーム内ディフェンスであるSecReasonを紹介します。 デュアルトラックインクリメンタルスキャンはセキュリティルールを適用し、各ステートメントを出力時にチェックし、蓄積されたコードのデータフローをトレースする。 セキュリティルールが発火すると、SecReasonは生成を中断し、ストリーム内の警告を挿入し、復号を再開する。 非アシストジェネレーションが脆弱性を導入したタスクでは、 \systemはセキュアで機能的に正しいコードを15\%以下から72.8\%--98.1\%まで提供し、 \tool{CWEval} と \tool{SecCodeBench} で共有する。 セキュリティルールがセキュアなコードで誤発した場合、ファンクションレグレッションを誤った警告から制限する。

関連論文リスト

• CodeMechanic: Bug-Property-Guided Program Mitigation [23.976869967674435]
  本稿では,メモリ破損に対する制約付きmit-イゲーションを生成するためのバグプロパタイズ誘導システムであるCodeMechanicを提案する。 LLMに永久的な修復を依頼する代わりに、CodeMechanicはクラッシュから侵害されたメモリセーフティプロパティを再構築する。 CodeMechanicは、3.4x - 4.3x以上のパッチを、開発者が書き直した修復と意味的に同等に生成する。
  論文  参考訳（メタデータ） (2026-08-23T08:06:47Z)
• Securing LLM Agents Need Intent-to-Execution Integrity [49.490963596514185]
  我々は, LLMエージェントの確保には, エージェントの実行がユーザの意図を忠実に反映した場合に規定するエンドツーエンドの正当性を定義する必要があると主張している。 LLMエージェントはコンパイラと構造的に類似しており、セキュリティ違反はユーザ意図を保存しない誤った実行に対応する。 emphTool整合性、emph命令整合性、emphJudgment整合性、emphData整合性。
  論文  参考訳（メタデータ） (2026-05-16T12:53:31Z)
• SecureForge: Finding and Preventing Vulnerabilities in LLM-Generated Code via Prompt Optimization [61.91729298584227]
  SecureForgeは、フロンティアモデルのセキュリティリスクを監査し、監査インフォームされたセキュアなシステムプロンプトを生成する自動化パイプラインである。 SecureForgeは、まず静的に検出可能な脆弱性を生成する良性プロンプトを特定し、その後、さまざまなシナリオの大規模な合成プロンプトコーパスに増幅する。 フロンティアモデルでは、SecureForgeは、ユニットテストの成功と出力セキュリティの両方において統計的に有意な改善をもたらし、出力脆弱性は最大48%削減された。
  論文  参考訳（メタデータ） (2026-05-08T18:40:47Z)
• Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
  安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。 敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。 最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
  論文  参考訳（メタデータ） (2026-04-14T06:48:33Z)
• Structured Safety Auditing for Balancing Code Correctness and Content Safety in LLM-Generated Code [6.664505682266256]
  コード生成のための大規模言語モデル(LLM)は通常、機能的正確性だけで評価される。 NLSafety-Utility Duality Score (SUDS)を提案する。
  論文  参考訳（メタデータ） (2026-04-13T21:52:57Z)
• Secure Code Generation via Online Reinforcement Learning with Vulnerability Reward Model [60.60587869092729]
  大規模言語モデル(LLM)は、ソフトウェア開発でますます使われているが、安全でないコードを生成する傾向は、現実世界のデプロイメントにとって大きな障壁である。 機能保存型セキュアコード生成のためのオンライン強化学習フレームワークSecCoderXを提案する。
  論文  参考訳（メタデータ） (2026-02-07T07:42:07Z)
• RealSec-bench: A Benchmark for Evaluating Secure Code Generation in Real-World Repositories [58.32028251925354]
  LLM(Large Language Models)は、コード生成において顕著な能力を示しているが、セキュアなコードを生成する能力は依然として重要で、未調査の領域である。 我々はRealSec-benchを紹介します。RealSec-benchは、現実世界の高リスクなJavaリポジトリから慎重に構築されたセキュアなコード生成のための新しいベンチマークです。
  論文  参考訳（メタデータ） (2026-01-30T08:29:01Z)
• ARMOR: Aligning Secure and Safe Large Language Models via Meticulous Reasoning [64.32925552574115]
  ARMORは、jailbreak戦略を分析し、コアインテントを抽出する、大規模な言語モデルである。 ARMORは最先端の安全性能を達成し、平均有害率は0.002であり、高度な最適化ベースのジェイルブレイクに対する攻撃成功率は0.06である。
  論文  参考訳（メタデータ） (2025-07-14T09:05:54Z)
• An LLM-Assisted Easy-to-Trigger Backdoor Attack on Code Completion Models: Injecting Disguised Vulnerabilities against Strong Detection [17.948513691133037]
  我々は,コード補完モデルに基づくLLM支援バックドアアタックフレームワークであるCodeBreakerを紹介した。 悪意のあるペイロードを最小限の変換でソースコードに直接統合することで、CodeBreakerは現在のセキュリティ対策に挑戦する。
  論文  参考訳（メタデータ） (2024-06-10T22:10:05Z)
• Code Security Vulnerability Repair Using Reinforcement Learning with Large Language Models [1.5457286059556397]
  大規模言語モデル(LLM)から生成されたコードのセキュリティ強化と強化のための強化学習に基づく手法を提案する。 本研究では,コードにセキュリティと機能的対策を加えることに集中する意味的報酬機構と統語的報酬機構を組み合わせることで,プログラム固有の修復を行うための強化学習手法を提案する。
  論文  参考訳（メタデータ） (2024-01-13T10:19:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。