論文の概要: Transformer-Assisted LLM-Based Source Code Summarisation: to Enable More Secure Software Development
- arxiv url: http://arxiv.org/abs/2607.20933v1
- Date: Thu, 23 Jul 2026 05:27:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-24 18:26:25.295025
- Title: Transformer-Assisted LLM-Based Source Code Summarisation: to Enable More Secure Software Development
- Title(参考訳): Transformer-Assisted LLM-based Source Code Summarisation: よりセキュアなソフトウェア開発を可能にする
- Abstract要約: Neural Source Code Summarisation (NSCS)は、開発者のコードに対する理解を改善するために、ソースコードの自然言語要約を生成することを目的としている。
本稿では,トランスフォーマー生成サマリーをインタプリタエンジニアリングに組み込むことで,LLMがより優れたソースコードサマリーを作成できることを示す。
- 参考スコア(独自算出の注目度): 3.4912596012054316
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural Source Code Summarisation (NSCS) aims to generate natural language summaries of source code to improve developers' and maintainers' understanding of code. Source code summaries are vital during the maintenance phase of the Secure Software Development Lifecycle (SSDLC), as they improve maintainers' understanding of code and help reduce the number of bugs and vulnerabilities in a software system. However, summaries are often missing, incomplete, or outdated in many software systems. Solutions to this problem use small, task-specific Transformer models or code-aware Large Language Models (LLMs). Task-specific Transformer-generated summaries often score well across many natural language generation (NLG) metrics, but these metrics reward lexical overlap rather than summary quality. Conversely, the ability of LLMs to capture semantics and produce high-quality summaries presents an exciting solution to this problem. This is especially relevant given the increased availability of LLMs and improvements in workstation hardware in recent years, which mean that some LLMs can now be run on developers' workstations. However, because of their abstractive nature, LLM-generated code summaries often differ greatly from developer-written summaries in the words and phrases they use, resulting in low scores across NLG metrics. We show how combining these two methods, by using Transformer-generated summaries in prompt engineering, may enable LLMs to create better source code summaries and help software practitioners maintain secure systems. We prompt four LLMs using four different prompts, with a task-specific Transformer used to assist the LLMs within the prompts. We present "Transformer-Assisted LLM-Based Source Code Summarisation", a method through which we observe an improvement of 7.8% in BLEU-4 and 5%.
- Abstract(参考訳): Neural Source Code Summarisation (NSCS)は、開発者のコードに対する理解を改善するために、ソースコードの自然言語要約を生成することを目的としている。
ソースコードの要約は、セキュリティソフトウェア開発ライフサイクル(SSDLC)のメンテナンスフェーズにおいて重要であり、メンテナのコード理解を改善し、ソフトウェアシステムにおけるバグや脆弱性の数を減らすのに役立つ。
しかしながら、サマリーは、多くのソフトウェアシステムで欠落、不完全、または時代遅れであることが多い。
この問題に対するソリューションとしては、小さなタスク固有のトランスフォーマーモデルや、コード対応の大規模言語モデル(LLM)がある。
タスク固有のTransformer生成サマリーは、多くの自然言語生成(NLG)メトリクスでよく評価されるが、これらのメトリクスは要約品質よりも語彙オーバーラップに報いる。
逆に、LLMがセマンティクスをキャプチャし、高品質な要約を生成する能力は、この問題に対するエキサイティングな解決策である。
これは、近年のワークステーションハードウェアの可用性の向上や、一部のLDMが開発者のワークステーションで実行できるようになったことを考えると、特に関係がある。
しかし、その抽象的な性質から、LCMが生成したコード要約は、使用する単語やフレーズの開発者による要約と大きく異なることが多く、結果としてNLGメトリクスのスコアが低くなる。
これらの2つの手法を組み合わせることで、トランスフォーマーが生成した要約をプロンプトエンジニアリングに利用することにより、LCMがより優れたソースコードの要約を作成し、ソフトウェア実践者がセキュアなシステムを維持するのにどう役立つかを示す。
我々は4つの異なるプロンプトを使って4つのLSMをプロンプトし、プロンプト内のLSMを補助するためにタスク固有のトランスフォーマーを使用する。
BLEU-4の7.8%, 5%の改善を観察する手法として, トランスフォーマ支援型LLMソースコード要約法を提案する。
関連論文リスト
- Operational Robustness of LLMs on Code Generation [2.9232837969697965]
現在、大規模言語モデル(LLM)のためのソフトウェア開発において、プログラムコードを生成するために使われるのが一般的である。
本稿では,LLMがコーディングタスクの記述の変化にどれほど敏感であるかを考察する。
このロバスト性を評価するための既存の技術は、自然言語記述の入力データ空間が離散的であるため、コード生成には適さない。
論文 参考訳(メタデータ) (2026-02-21T11:21:13Z) - CodeSimpleQA: Scaling Factuality in Code Large Language Models [55.705748501461294]
本稿では,コード関連質問への回答において,LLMの実際の精度を評価するための総合的なベンチマークであるCodeSimpleQAを提案する。
また,66万サンプルの大規模インストラクションコーパスであるCodeSimpleQA-Instructを作成し,教師付き微調整と強化学習を組み合わせたポストトレーニングフレームワークを開発した。
論文 参考訳(メタデータ) (2025-12-22T14:27:17Z) - Ensemble Learning for Large Language Models in Text and Code Generation: A Survey [6.041894045506043]
本稿では,理解を深め,さらなる研究を奨励し,テキストおよびコード生成における実践的実装を促進するための,新たなアンサンブルアプローチについてレビューする。
大規模言語モデルは、重み付け、知識融合、エキスパートの混合、出力アンサンブル、ルーティング、カスケードの7つの主要な方法に分類する。
この結果から,多様性表現の改善,出力品質の向上,アプリケーション柔軟性の向上など,重要なメリットが浮かび上がっている。
論文 参考訳(メタデータ) (2025-03-13T18:50:57Z) - Crystal: Illuminating LLM Abilities on Language and Code [58.5467653736537]
本稿では,自然言語と符号化機能の統合性を高めるための事前学習戦略を提案する。
結果のモデルであるCrystalは、両方のドメインで顕著な能力を示します。
論文 参考訳(メタデータ) (2024-11-06T10:28:46Z) - Multi-Programming Language Sandbox for LLMs [78.99934332554963]
大規模言語モデル(LLM)用のコンパイラと分析ツールから統一的で包括的なフィードバックを提供するように設計された、アウト・オブ・ザ・ボックスのマルチプログラミング言語サンドボックス
コードのプログラミング言語を自動的に識別し、独立したサブサンドボックス内でコンパイルして実行することで、安全性と安定性を確保することができる。
論文 参考訳(メタデータ) (2024-10-30T14:46:43Z) - Source Code Summarization in the Era of Large Language Models [34.80939934434718]
大規模言語モデル(LLM)は、コード関連のタスクのパフォーマンスを大幅に向上させた。
本稿では,LLMにおけるコード要約の体系的および包括的研究を行う。
論文 参考訳(メタデータ) (2024-07-09T05:48:42Z) - An Empirical Study on Capability of Large Language Models in Understanding Code Semantics [4.638578225024275]
コードのための大規模言語モデル(コードLLM)は、様々なソフトウェア工学(SE)タスクで顕著なパフォーマンスを示している。
本稿では,コード意味論の理解におけるLLMの能力を評価するためのフレームワークであるEMPICAを紹介する。
論文 参考訳(メタデータ) (2024-07-04T03:40:58Z) - PPTC-R benchmark: Towards Evaluating the Robustness of Large Language
Models for PowerPoint Task Completion [96.47420221442397]
文,意味,多言語レベルでユーザ命令を攻撃することにより,逆ユーザ命令を構築する。
我々は、ロバストネス設定を組み込んだベンチマークを用いて、3つのクローズドソースと4つのオープンソースLCMをテストする。
GPT-4は我々のベンチマークで最も高い性能と強靭性を示す。
論文 参考訳(メタデータ) (2024-03-06T15:33:32Z) - If LLM Is the Wizard, Then Code Is the Wand: A Survey on How Code
Empowers Large Language Models to Serve as Intelligent Agents [81.60906807941188]
大型言語モデル(LLM)は、自然言語と形式言語(コード)の組み合わせに基づいて訓練される
コードは、標準構文、論理一貫性、抽象化、モジュール性を備えた高レベルの目標を実行可能なステップに変換する。
論文 参考訳(メタデータ) (2024-01-01T16:51:20Z) - ML-Bench: Evaluating Large Language Models and Agents for Machine Learning Tasks on Repository-Level Code [76.84199699772903]
ML-Benchは、既存のコードリポジトリを利用してタスクを実行する現実世界のプログラミングアプリケーションに根ざしたベンチマークである。
LLM(Large Language Model)とAIエージェントの両方を評価するために、事前に定義されたデプロイメント環境でLLMのテキスト-コード変換を評価するML-LLM-Benchと、Linuxサンドボックス環境でエンドツーエンドのタスク実行で自律エージェントをテストするML-Agent-Benchの2つの設定が採用されている。
論文 参考訳(メタデータ) (2023-11-16T12:03:21Z) - The potential of LLMs for coding with low-resource and domain-specific
programming languages [0.0]
本研究は,オープンソースソフトウェアGreetlのハンスル(Hansl)という,econometricスクリプティング言語に焦点を当てたものである。
この結果から, LLMはグレタブルコードの記述, 理解, 改善, 文書化に有用なツールであることが示唆された。
論文 参考訳(メタデータ) (2023-07-24T17:17:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。