論文の概要: Understanding and Improving Model Editing for Secure Code Generation

• arxiv url: http://arxiv.org/abs/2608.06848v1
• Date: Fri, 07 Aug 2026 06:16:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-10 16:21:25.376489
• Title: Understanding and Improving Model Editing for Secure Code Generation
• Title（参考訳）: セキュアコード生成のためのモデル編集の理解と改善
• Abstract要約: 大規模言語モデル(LLM)はコード生成に広く使用されているが、安全でないトレーニングパターンから学んだ脆弱な実装を再現することができる。 セキュアなコード生成のためのモデルレベルのハードニング機構として,モデル編集に関する最初の体系的研究を行う。
• 参考スコア（独自算出の注目度）: 14.249757252026546
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are widely used for code generation, yet they can reproduce vulnerable implementations learned from insecure training patterns. Prior work has mainly explored inference-time hardening, which reduces insecure generations without modifying the target model but relies on auxiliary components and adds runtime overhead. We conduct the first systematic study of model editing as a model-level hardening mechanism for secure code generation. We evaluate 3 state-of-the-art editing methods across diverse LLM families and compare them with CoSec, a representative inference-time approach, focusing on security, robustness, generalization, and functional correctness. Model editing yields larger security gains than CoSec on seen vulnerability types, improving security ratios by 15%-25% over vanilla models, with gains remaining stable under prompt perturbations. However, these improvements transfer unreliably to unseen vulnerabilities and can reduce functional correctness. To mitigate this trade-off, we propose SafeEdit, a post-edit refinement method combining functional tuning with edit-aware regularization. Across eight target LLMs, SafeEdit improves Pass@1 over UltraEdit by 11.73/13.70/15.50 percentage points at T=0.1/0.4/0.8 while largely preserving security. Compared with CoSec, it achieves relative security-ratio gains of 7.54%-12.04%. Additional evaluation on CodeGuard+ confirms improved joint secure-and-correct generation. SafeEdit and CoSec are also complementary, and their combination can further improve security while maintaining strong functional correctness. Overall, our results provide evidence-backed guidance for applying model editing to secure code generation.
• Abstract（参考訳）: 大規模言語モデル(LLM)はコード生成に広く使用されているが、安全でないトレーニングパターンから学んだ脆弱な実装を再現することができる。 これは、ターゲットモデルを変更せずに安全でない世代を減らすが、補助的なコンポーネントに依存し、実行時のオーバーヘッドを追加する。 セキュアなコード生成のためのモデルレベルのハードニング機構として,モデル編集に関する最初の体系的研究を行う。 我々は,多種多様なLLMファミリーを対象とした3つの最先端編集手法を評価し,セキュリティ,堅牢性,一般化,機能的正当性に着目した,代表的な推論時間アプローチであるCoSecと比較した。 モデル編集は、監視対象の脆弱性タイプにおいて、CoSecよりもセキュリティが向上し、バニラモデルよりも15%から25%のセキュリティ比率が向上する。 しかしながら、これらの改善は信頼性が低い脆弱性に移行し、機能的正しさを低下させる可能性がある。 このトレードオフを緩和するために,関数型チューニングと編集対応正規化を組み合わせた後改良手法であるSafeEditを提案する。 8つのLLM全体で、SafeEditはUltraEditのPass@1を11.73/13.70/15.50ポイント、T=0.1/0.4/0.8で改善する。 CoSecと比較して、セキュリティ比の相対的な上昇は7.54%-12.04%である。 CodeGuard+のさらなる評価は、改善されたジョイント・セキュア・アンド・コレクト・ジェネレーションを確認する。 SafeEditとCoSecも補完的であり、その組み合わせは強力な機能的正確性を維持しながら、セキュリティをさらに改善する。 その結果,モデル編集をセキュアなコード生成に適用するためのエビデンスベースのガイダンスが得られた。

関連論文リスト

• Configurable Reward Model for Balanced Safety Alignment [48.459540031156955]
  既存の命令調整型大規模言語モデル(LLM)は、新しい安全設定への一般化に失敗することが多い。 本稿では,安全コンプライアンスと報酬モデリングを共同で最適化したCSRM(Safety Reward Model)を紹介する。 その結果、RMはきめ細かい安全設定や会話のニュアンスに敏感になり、これまで見つからなかった安全設定への一般化を大幅に改善した。
  論文  参考訳（メタデータ） (2026-05-28T19:05:53Z)
• SecPI: Secure Code Generation with Reasoning Models via Security Reasoning Internalization [50.71047638695205]
  RLM(Reasoning Language Model)は、プログラミングにおいてますます使われている言語モデルである。 しかし、最先端のRLMでさえ、生成されたコードに重大なセキュリティ脆弱性を頻繁に導入する。 我々は、構造化されたセキュリティ推論を内部化するためのRTMを教える微調整パイプラインであるSecPIを提案する。
  論文  参考訳（メタデータ） (2026-04-04T04:29:11Z)
• SecureBreak -- A dataset towards safe and secure models [3.797867929356259]
  本稿では、有害なLCM出力を検出するAI駆動型ソリューションの開発を支援するために設計された安全指向データセットSecureBreakを紹介する。 このデータセットは、安全を確保するためにラベルを保守的に割り当てる、注意深い手動アノテーションのため、非常に信頼性が高い。 トレーニング済みLLM試験ではSecureBreakを微調整した結果が改善された。
  論文  参考訳（メタデータ） (2026-03-23T13:41:05Z)
• Secure Code Generation via Online Reinforcement Learning with Vulnerability Reward Model [60.60587869092729]
  大規模言語モデル(LLM)は、ソフトウェア開発でますます使われているが、安全でないコードを生成する傾向は、現実世界のデプロイメントにとって大きな障壁である。 機能保存型セキュアコード生成のためのオンライン強化学習フレームワークSecCoderXを提案する。
  論文  参考訳（メタデータ） (2026-02-07T07:42:07Z)
• RealSec-bench: A Benchmark for Evaluating Secure Code Generation in Real-World Repositories [58.32028251925354]
  LLM(Large Language Models)は、コード生成において顕著な能力を示しているが、セキュアなコードを生成する能力は依然として重要で、未調査の領域である。 我々はRealSec-benchを紹介します。RealSec-benchは、現実世界の高リスクなJavaリポジトリから慎重に構築されたセキュアなコード生成のための新しいベンチマークです。
  論文  参考訳（メタデータ） (2026-01-30T08:29:01Z)
• SafeR-CLIP: Mitigating NSFW Content in Vision-Language Models While Preserving Pre-Trained Knowledge [51.634837361795434]
  SaFeR-CLIPは安全性と性能を調整し、以前の方法に比べて最大8.0%のゼロショット精度を回復する。 NSFW-Capsは、分散シフト下での安全性をテストするために、1000の高度に整合したペアの新しいベンチマークである。
  論文  参考訳（メタデータ） (2025-11-20T19:00:15Z)
• Patching LLM Like Software: A Lightweight Method for Improving Safety Policy in Large Language Models [63.54707418559388]
  ソフトウェアバージョンのような大型言語モデル(LLM)に対するパッチを提案する。 提案手法は,既存のモデルにコンパクトで学習可能なプレフィックスを前もって,迅速な修復を可能にする。
  論文  参考訳（メタデータ） (2025-11-11T17:25:44Z)
• Prompt, Synthesize, Fine-Tune: A Secure Code Generation Recipe [16.177098761970683]
  高品質で脆弱でセキュアなコード例を自動的に合成するフレームワークであるSecure-Instructを紹介します。 Secure-Instructは、セキュリティだけでなく、生成されたコードの機能的正確性も改善します。
  論文  参考訳（メタデータ） (2025-10-08T16:24:09Z)
• LookAhead Tuning: Safer Language Models via Partial Answer Previews [62.529794567687354]
  ファインチューニングにより、大きな言語モデルは特定のドメインに適応できるが、しばしば以前に確立された安全アライメントを損なう。 LookAhead Tuningは、微調整時の安全性を維持する軽量で効果的なデータ駆動型アプローチである。
  論文  参考訳（メタデータ） (2025-03-24T18:11:42Z)
• Code Security Vulnerability Repair Using Reinforcement Learning with Large Language Models [1.5457286059556397]
  大規模言語モデル(LLM)から生成されたコードのセキュリティ強化と強化のための強化学習に基づく手法を提案する。 本研究では,コードにセキュリティと機能的対策を加えることに集中する意味的報酬機構と統語的報酬機構を組み合わせることで,プログラム固有の修復を行うための強化学習手法を提案する。
  論文  参考訳（メタデータ） (2024-01-13T10:19:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。