Fugu-MT 論文翻訳(概要): SAGE: Signal-Amplified Guided Embeddings for LLM-based Vulnerability Detection

論文の概要: SAGE: Signal-Amplified Guided Embeddings for LLM-based Vulnerability Detection

arxiv url: http://arxiv.org/abs/2604.19031v1
Date: Tue, 21 Apr 2026 03:27:59 GMT
ステータス: 翻訳完了
システム内更新日: 2026-04-22 22:41:49.597448
Title: SAGE: Signal-Amplified Guided Embeddings for LLM-based Vulnerability Detection
Title（参考訳）: SAGE:LSMによる脆弱性検出のための信号増幅型ガイド埋め込み
Authors: Zhengyang Shan, Xu Qian, Jiayun Xin, Minghui Xu, Yue Zhang, Zhen Yang, Hao Wu, Xiuzhen Cheng,
Abstract要約: TextbfSAGEは、受動的信号沈下からアクティブ信号回復に移行するフレームワークである。 SAGEは13言語で最先端のパフォーマンスを実現している。
参考スコア（独自算出の注目度）: 23.9318365961346
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Software vulnerabilities are a primary threat to modern infrastructure. While static analysis and Graph Neural Networks have long served as the foundation for vulnerability detection, the emergence of Large Language Models (LLMs) has introduced a transformative paradigm driven by superior semantic reasoning and cross-environment generalization. However, in the context of LLM-based vulnerability detection, we identify a fundamental bottleneck in these models termed \textbf{Signal Submersion}: a state where features related to vulnerability are activated internally but numerically overwhelmed by dominant functional semantics. To address this, we propose \textbf{SAGE} (\textbf{S}ignal-\textbf{A}mplified \textbf{G}uided \textbf{E}mbeddings), a framework that shifts from passive signal submersion to active signal recovery. SAGE integrates task-conditional Sparse Autoencoders (SAEs) to isolate and amplify these faint vulnerability signals. Extensive evaluations on BigVul, PrimeVul, and PreciseBugs demonstrate that SAGE achieves state-of-the-art performance. Notably, SAGE mitigates Signal Submersion by increasing the internal Signal-to-Noise Ratio (SNR) by 12.7$\times$ via sparse manifold projection. This mechanistic intervention enables a 7B model to achieve up to 318\% Matthews Correlation Coefficient (MCC) gains on unseen distributions and a 319\% gain on classic datasets. By maintaining robust performance across 13 programming languages and outperforming 34B baselines, SAGE establishes a more efficient and scalable path to software security than simple parameter scaling.
Abstract（参考訳）: ソフトウェア脆弱性は、現代のインフラにとって大きな脅威である。静的解析とグラフニューラルネットワークは、長い間脆弱性検出の基礎として機能してきたが、Large Language Models(LLM)の出現は、優れたセマンティック推論とクロス環境の一般化によって駆動される変革的パラダイムを導入している。しかし、LSMに基づく脆弱性検出の文脈では、これらのモデルの基本的なボトルネックである「textbf{Signal Submersion}」は、脆弱性に関連する機能が内部で活性化されるが、支配的な機能的意味論に圧倒される状態である。そこで本稿では,受動信号のサブマージから能動信号のリカバリに移行するフレームワークである \textbf{SAGE} (\textbf{S}ignal-\textbf{A}mplified \textbf{G}uided \textbf{E}mbeddings) を提案する。 SAGEはタスク条件のスパースオートエンコーダ(SAE)を統合して、これらのかすかな脆弱性信号を分離し増幅する。 BigVul、PrimeVul、PreciseBugsの大規模な評価は、SAGEが最先端のパフォーマンスを達成したことを示している。特に、SAGEは内部のSNR(Signal-to-Noise Ratio)をスパース多様体射影により12.7$\times$にすることでシグナル沈降を緩和する。この機械的介入により、7Bモデルは最大318\%のマシューズ相関係数(MCC)を未確認の分布で得ることができ、古典的なデータセットでは319\%のゲインが得られる。 13のプログラミング言語で堅牢なパフォーマンスを維持し、34Bベースラインを上回ることで、SAGEは単純なパラメータスケーリングよりも、ソフトウェアセキュリティへのより効率的でスケーラブルなパスを確立します。

論文の概要: SAGE: Signal-Amplified Guided Embeddings for LLM-based Vulnerability Detection

関連論文リスト