論文の概要: Functional and Secure Code Generation with Task Vectors
- arxiv url: http://arxiv.org/abs/2607.07881v1
- Date: Wed, 08 Jul 2026 19:32:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-10 14:45:27.327541
- Title: Functional and Secure Code Generation with Task Vectors
- Title(参考訳): タスクベクトルを用いた関数型およびセキュアコード生成
- Abstract要約: 大きな言語モデル(LLM)は、コード生成にますます使われていますが、セキュリティ上の脆弱性のない機能的なコードを生成するのに苦労しています。
我々は,タスクベクトルを利用して,機能的かつセキュアな信頼性の高いコードを生成する新しい方法SecVecCoderを開発した。
- 参考スコア(独自算出の注目度): 7.757776817999749
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models (LLMs) are increasingly used for code generation, but they struggle to generate functional code free of security vulnerabilities. Prior work to improve the secure code generation abilities of such coding LLMs has largely focused on evaluating code functionality and security separately using different datasets, or focused on finding vulnerabilities post-generation. At the same time, the text-generation domain has seen significant work on alignment techniques, where models are tuned such that their outputs exhibit certain qualities (e.g., helpfulness, harmlessness). Of particular interest is task-vector arithmetic, where linear operations on LLM weights can be used to arbitrarily enhance alignment while incurring only minimal computational overhead. We develop a novel method, SecVecCoder, leveraging task vectors to produce trustworthy code that is simultaneously functional and secure without the need for post-generation adjustment. Across six coding LLMs from three families on the CodeGuard+ benchmark, SecVecCoder improves the rate of trustworthy code completions by 2.1-36.0 percentage points over the base model, with improvements on unseen CWE types reaching up to 39.1 percentage points. Since the effectiveness of the coding LLM relies only on changing the model weights, SecVecCoder requires no method-specific decoding and hence achieves a decoding latency within 0.6% of the base model's, on average.
- Abstract(参考訳): 大きな言語モデル(LLM)は、コード生成にますます使われていますが、セキュリティ上の脆弱性のない機能的なコードを生成するのに苦労しています。
このようなコーディングLLMのセキュアなコード生成能力を改善する作業は、これまでは主に、異なるデータセットを使用して別々にコード機能とセキュリティを評価すること、あるいは、ポストジェネレーションの脆弱性を見つけることに注力してきた。
同時に、テキスト生成領域はアライメント技術に多大な貢献をしており、そこでは、出力が特定の品質(例えば、有用性、無害性)を示すようにモデルを調整している。
特に興味深いのはタスクベクトル算術であり、LLM重みの線形演算は、最小の計算オーバーヘッドしか発生せず、任意にアライメントを強化するのに使うことができる。
本研究では,タスクベクトルを利用した新しいSecVecCoderを開発した。
SecVecCoderは、CodeGuard+ベンチマークで3つのファミリーのLCMを6つに分けて、信頼に値するコード補完率を2.1-36.0ポイント改善し、未確認のCWEタイプは39.1ポイントまで改善した。
コーディングLLMの有効性はモデルの重みの変更にのみ依存するため、SecVecCoderはメソッド固有のデコードを必要としないため、ベースモデルの0.6%以内のデコード遅延を平均で達成する。
関連論文リスト
- Vulnerable Code Search: Transferable Attack for Code Language Models [9.326008120835938]
我々は、このCLM脆弱性を利用するプログラミング言語に依存しない、転送可能な、敵攻撃を導入する。
我々のアプローチは、スニペットの機能を変更せずにコードスニペット内の識別子を摂動させ、ターゲットクエリにコードを調整する。
論文 参考訳(メタデータ) (2026-08-26T17:11:36Z) - Secure Code Generation via Online Reinforcement Learning with Vulnerability Reward Model [60.60587869092729]
大規模言語モデル(LLM)は、ソフトウェア開発でますます使われているが、安全でないコードを生成する傾向は、現実世界のデプロイメントにとって大きな障壁である。
機能保存型セキュアコード生成のためのオンライン強化学習フレームワークSecCoderXを提案する。
論文 参考訳(メタデータ) (2026-02-07T07:42:07Z) - Evaluating and Achieving Controllable Code Completion in Code LLM [89.64782747840225]
命令誘導型コード補完ベンチマークである制御可能コード補完ベンチマーク(C3-Bench)を提案する。
コード補完作業中に,オープンソースのプロプライエタリモデルと高度なプロプライエタリモデルの間に,命令追従機能にかなりのギャップがあることを明らかにする。
結果として得られたQwen2.5-Coder-C3は、C3-Bench上で最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2026-01-22T11:40:04Z) - Improving LLM-Assisted Secure Code Generation through Retrieval-Augmented-Generation and Multi-Tool Feedback [1.1017250479834206]
大きな言語モデル(LLM)はコードを生成することができるが、セキュリティ上の脆弱性、論理的不整合、コンパイルエラーをしばしば導入する。
本稿では,1つのコード生成LLMが反復的に出力を洗練する検索拡張型マルチツール修復ワークフローを提案する。
論文 参考訳(メタデータ) (2026-01-01T23:34:00Z) - SCGAgent: Recreating the Benefits of Reasoning Models for Secure Code Generation with Agentic Workflows [8.546083810528502]
大規模言語モデル(LLM)は、さまざまなシナリオのコード生成タスクで広く成功している。
関数型コードを生成するにもかかわらず、現在のLLMはセキュリティを優先せず、悪用可能な脆弱性を持つコードを生成する可能性がある。
安全性の高いコードを生成する手法を提案し,SCGAgentを導入する。
論文 参考訳(メタデータ) (2025-06-08T23:08:08Z) - Training Language Models to Generate Quality Code with Program Analysis Feedback [66.0854002147103]
大規模言語モデル(LLM)によるコード生成は、ますます本番環境で採用されているが、コード品質の保証には失敗している。
実運用品質のコードを生成するためにLLMにインセンティブを与える強化学習フレームワークであるREALを提案する。
論文 参考訳(メタデータ) (2025-05-28T17:57:47Z) - HexaCoder: Secure Code Generation via Oracle-Guided Synthetic Training Data [60.75578581719921]
大規模言語モデル(LLM)は、自動コード生成に大きな可能性を示している。
最近の研究は、多くのLLM生成コードが深刻なセキュリティ脆弱性を含んでいることを強調している。
我々は,LLMがセキュアなコードを生成する能力を高めるための新しいアプローチであるHexaCoderを紹介する。
論文 参考訳(メタデータ) (2024-09-10T12:01:43Z) - StepCoder: Improve Code Generation with Reinforcement Learning from
Compiler Feedback [58.20547418182074]
2つの主要コンポーネントからなるコード生成の新しいフレームワークであるStepCoderを紹介します。
CCCSは、長いシーケンスのコード生成タスクをCurriculum of Code Completion Subtaskに分割することで、探索課題に対処する。
FGOは、未実行のコードセグメントをマスクすることでのみモデルを最適化し、Fine-Grained Optimizationを提供する。
提案手法は,出力空間を探索し,対応するベンチマークにおいて最先端の手法より優れた性能を発揮する。
論文 参考訳(メタデータ) (2024-02-02T13:14:31Z) - Code Security Vulnerability Repair Using Reinforcement Learning with
Large Language Models [1.5457286059556397]
大規模言語モデル(LLM)から生成されたコードのセキュリティ強化と強化のための強化学習に基づく手法を提案する。
本研究では,コードにセキュリティと機能的対策を加えることに集中する意味的報酬機構と統語的報酬機構を組み合わせることで,プログラム固有の修復を行うための強化学習手法を提案する。
論文 参考訳(メタデータ) (2024-01-13T10:19:26Z) - CodeT5+: Open Code Large Language Models for Code Understanding and
Generation [72.1638273937025]
大きな言語モデル (LLM) は膨大なソースコードで事前訓練されており、コードインテリジェンスにおいて顕著な進歩を遂げている。
CodeT5+は、コンポーネントモジュールを柔軟に組み合わせて、幅広い下流のコードタスクに適合させることができるコードのためのエンコーダ-デコーダLLMのファミリーである。
我々は、ゼロショット、微調整、命令調整を含む20以上のコード関連ベンチマークでCodeT5+を広範囲に評価した。
論文 参考訳(メタデータ) (2023-05-13T14:23:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。