論文の概要: A systematic literature Review for Transformer-based Software Vulnerability detection
- arxiv url: http://arxiv.org/abs/2604.24822v1
- Date: Mon, 27 Apr 2026 14:26:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-29 16:49:17.520805
- Title: A systematic literature Review for Transformer-based Software Vulnerability detection
- Title(参考訳): トランスフォーマーを用いたソフトウェア脆弱性検出のための体系的文献レビュー
- Authors: Fiza Naseer, Javed Ali Khan, Muhammad Yaqoob, Alexios Mylonas, Ishaya Gambo,
- Abstract要約: このSLRは、ソフトウェア脆弱性を特定するためにトランスフォーマーモデルを利用した2021年から2025年の間に発表された80の研究を批判的に分析した。
我々はトランスフォーマーモデルをエンコーダ、デコーダ、複合アーキテクチャに分類し、ソースコード、ログ、スマートコントラクトで使用した事前学習版と微調整版の両方を解析する。
- 参考スコア(独自算出の注目度): 0.8409304328108455
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Context: Software vulnerabilities pose significant security threats to software systems, especially as software is increasingly used across many areas of daily life, including health, government, and finance. Recently, transformer-based models have demonstrated promising results in automatic software vulnerability identification due to their robust contextual modelling and representation learning capabilities. Objectives: While numerous systematic literature reviews (SLRs) have examined machine learning and deep learning methods for identifying vulnerabilities, a more transformer-centric analysis remains to be explored. This SLR critically analysed 80 studies published between 2021 and 2025 that utilised transformer models to identify software vulnerabilities. Methods: Using Kitchenhams SLR guidelines, we methodically evaluate current research from various perspectives, encompassing study trends, datasets and sources, programming languages, transformer frameworks, detection detail levels, assessment metrics, reference models, types of vulnerabilities, and experimental configurations. Results: We classify transformer models into encoder, decoder, and combined architectures and analyse both pre-trained and fine-tuned versions utilized on source code, logs, and smart contracts. The results emphasise prevailing research trends, frequently utilised benchmarks, and main baselines. It also uncovers crucial technical issues like data imbalance, interpretability, scalability, and generalization across programming languages. Conclusion: By integrating current evidence and recognising unaddressed research areas, this SLR provides a consolidated resource for researchers and professionals seeking to develop more reliable, precise, and interpretable transformer-based vulnerability identification systems.
- Abstract(参考訳): コンテキスト:ソフトウェア脆弱性はソフトウェアシステムに重大なセキュリティ上の脅威をもたらします。
近年,トランスフォーマーをベースとしたモデルでは,堅牢なコンテキストモデリングと表現学習機能により,ソフトウェア脆弱性の自動識別が期待できる結果が示されている。
目的: 多くの体系的な文献レビュー(SLR)は、脆弱性を特定するための機械学習とディープラーニングの手法を調査してきたが、よりトランスフォーマー中心の分析は検討されていない。
このSLRは、ソフトウェア脆弱性を特定するためにトランスフォーマーモデルを利用した2021年から2025年の間に発表された80の研究を批判的に分析した。
方法: Kitchenhams SLRガイドラインを用いて,研究動向,データセットとソース,プログラミング言語,トランスフォーマーフレームワーク,ディテールレベルの検出,評価指標,参照モデル,脆弱性の種類,実験的構成など,さまざまな観点から現在の研究を客観的に評価する。
結果: トランスフォーマーモデルをエンコーダ,デコーダ,複合アーキテクチャに分類し,ソースコード,ログ,スマートコントラクトに使用した事前学習版と微調整版の両方を解析する。
その結果、一般的な研究動向、頻繁に活用されるベンチマーク、主要なベースラインが強調された。
また、データ不均衡、解釈可能性、スケーラビリティ、プログラミング言語間の一般化といった重要な技術的問題も明らかにしている。
結論: 現状の証拠を統合し、未解決の研究領域を認識することにより、このSLRは、より信頼性が高く、正確で、解釈可能なトランスフォーマーベースの脆弱性識別システムを開発する研究者や専門家に、統合されたリソースを提供する。
関連論文リスト
- A Comprehensive Survey on Benchmarks and Solutions in Software Engineering of LLM-Empowered Agentic System [56.40989626804489]
この調査は、Large Language Modelsを使ったソフトウェアエンジニアリングに関する、最初の総合的な分析を提供する。
本稿では,150以上の最近の論文をレビューし,(1)素早い,微調整,エージェントベースのパラダイムに分類した解法,(2)コード生成,翻訳,修復などのタスクを含むベンチマークという2つの重要な側面に沿った分類法を提案する。
論文 参考訳(メタデータ) (2025-10-10T06:56:50Z) - Revisiting Vulnerability Patch Localization: An Empirical Study and LLM-Based Solution [44.388332647211776]
オープンソースのソフトウェア脆弱性検出は、ソフトウェアのセキュリティを維持し、ソフトウェアサプライチェーンの整合性を確保するための重要なコンポーネントである。
従来の検出方法は、大量のコミット履歴を処理する際に、大きなスケーラビリティの課題に直面している。
バージョン駆動型候補フィルタリングと大規模言語モデルに基づく多ラウンド対話投票を組み合わせた新しい2段階フレームワークを提案する。
論文 参考訳(メタデータ) (2025-09-19T09:09:55Z) - Veritas: Generalizable Deepfake Detection via Pattern-Aware Reasoning [45.99344620383706]
階層的な一般化テストで現実の課題をシミュレートするデータセットであるHydraFakeを紹介する。
具体的には、HydraFakeは、厳格なトレーニングと評価のプロトコルとともに、多種多様なディープフェイク技術と、ワイルドなフォージェリーを含んでいる。
We propose Veritas, a multi-modal large language model (MLLM) based Deepfake detector。
論文 参考訳(メタデータ) (2025-08-28T17:53:05Z) - AI Agentic Vulnerability Injection And Transformation with Optimized Reasoning [2.918225266151982]
AVIATORはAIによる最初の脆弱性注入ワークフローである。
高忠実で多様な大規模な脆弱性データセット生成のために、現実的でカテゴリ固有の脆弱性を自動的に注入する。
セマンティック分析、LoRAベースのファインチューニングとRetrieval-Augmented Generationで強化されたインジェクション合成、静的解析とLLMベースの識別器によるインジェクション後の検証を組み合わせる。
論文 参考訳(メタデータ) (2025-08-28T14:59:39Z) - A Systematic Literature Review on Detecting Software Vulnerabilities with Large Language Models [2.518519330408713]
ソフトウェア工学における大規模言語モデル(LLM)は、ソフトウェア脆弱性検出への関心を喚起している。
この分野の急速な発展は、断片化された研究の風景を生み出した。
この断片化は、最先端技術の明確な概要を得るのを困難にし、研究を有意義に比較し分類する。
論文 参考訳(メタデータ) (2025-07-30T13:17:16Z) - LLMs in Software Security: A Survey of Vulnerability Detection Techniques and Insights [12.424610893030353]
大規模言語モデル(LLM)は、ソフトウェア脆弱性検出のためのトランスフォーメーションツールとして登場している。
本稿では,脆弱性検出におけるLSMの詳細な調査を行う。
言語間の脆弱性検出、マルチモーダルデータ統合、リポジトリレベルの分析といった課題に対処する。
論文 参考訳(メタデータ) (2025-02-10T21:33:38Z) - SoK: Leveraging Transformers for Malware Analysis [8.999677363643224]
トランスフォーマーの導入は、生成AIの基礎となるトランスフォーマーとして、AI研究と応用にとって重要なブレークスルーとなった。
トランスフォーマーのための有望なアプリケーションドメインはサイバーセキュリティ、特にマルウェアドメイン分析である。
本論文は,マルウェア解析用に設計されたトランスフォーマーベースのアプローチを包括的に分析することを目的としている。
論文 参考訳(メタデータ) (2024-05-27T14:14:07Z) - VELVET: a noVel Ensemble Learning approach to automatically locate
VulnErable sTatements [62.93814803258067]
本稿では,ソースコード中の脆弱な文を見つけるための新しいアンサンブル学習手法であるVELVETを提案する。
我々のモデルは、グラフベースとシーケンスベースニューラルネットワークを組み合わせて、プログラムグラフの局所的およびグローバル的コンテキストを捕捉する。
VELVETは、合成データと実世界のデータに対して、それぞれ99.6%と43.6%の精度を達成している。
論文 参考訳(メタデータ) (2021-12-20T22:45:27Z) - Robust and Transferable Anomaly Detection in Log Data using Pre-Trained
Language Models [59.04636530383049]
クラウドのような大規模コンピュータシステムにおける異常や障害は、多くのユーザに影響を与える。
システム情報の主要なトラブルシューティングソースとして,ログデータの異常検出のためのフレームワークを提案する。
論文 参考訳(メタデータ) (2021-02-23T09:17:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。