論文の概要: PLMGH: What Matters in PLM-GNN Hybrids for Code Classification and Vulnerability Detection
- arxiv url: http://arxiv.org/abs/2604.25599v1
- Date: Tue, 28 Apr 2026 13:05:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-29 16:49:17.864888
- Title: PLMGH: What Matters in PLM-GNN Hybrids for Code Classification and Vulnerability Detection
- Title(参考訳): PLMGH:コード分類と脆弱性検出におけるPLM-GNNハイブリッドの重要性
- Authors: Mohamed Taoufik Kaouthar El Idrissi, Edward Zulkoski, Mohammad Hamdaqa,
- Abstract要約: コード分類と脆弱性検出のためのPLM-GNNハイブリッドの制御実験を行った。
これらのハイブリッドを,Java250 と Devign の PLM のみと GNN のみのベースラインと比較する。
これらの知見を,コード分類と脆弱性検出におけるPLM-GNN設計選択のための実践的ガイドラインに抽出する。
- 参考スコア(独自算出の注目度): 0.30586855806896046
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Code understanding models increasingly rely on pretrained language models (PLMs) and graph neural networks (GNNs), which capture complementary semantic and structural information. We conduct a controlled empirical study of PLM-GNN hybrids for code classification and vulnerability detection tasks by systematically pairing three code-specialized PLMs with three foundational GNN architectures. We compare these hybrids against PLM-only and GNN-only baselines on Java250 and Devign, including an identifier-obfuscation setting. Across both tasks, hybrids consistently outperform GNN-only baselines and often improve ranking quality over frozen PLMs. On Devign, performance and robustness are more sensitive to the PLM feature source than to the GNN backbone. We also find that larger PLMs are not necessarily better feature extractors in this pipeline, and that the PLM choice has more impact than the GNN choice. Finally, we distill these findings into practical guidelines for PLM-GNN design choices in code classification and vulnerability detection.
- Abstract(参考訳): コード理解モデルは、補完的な意味と構造情報をキャプチャする事前訓練された言語モデル(PLM)とグラフニューラルネットワーク(GNN)にますます依存している。
我々は、3つの基本GNNアーキテクチャと3つのコード特化PLMを体系的に組み合わせることで、コード分類と脆弱性検出タスクのためのPLM-GNNハイブリッドの制御実験を行った。
これらのハイブリッドを PLM のみのベースラインと GNN のみのベースラインである Java250 と Devign と比較する。
両方のタスクにおいて、ハイブリッドはGNNのみのベースラインを一貫して上回り、凍結したPLMよりもランキング品質が向上する。
Devignでは、パフォーマンスと堅牢性は、GNNのバックボーンよりもPLMの機能ソースに敏感である。
また、このパイプラインにおいて、より大きなPLMが必ずしも優れた特徴抽出器であるとは限らないこと、また、PLMの選択はGNNの選択よりも影響が大きいことも見出した。
最後に,これらの知見を,コード分類と脆弱性検出におけるPLM-GNN設計選択のための実践的ガイドラインに抽出する。
関連論文リスト
- Enhancing Spectral Graph Neural Networks with LLM-Predicted Homophily [48.135717446964385]
スペクトルグラフニューラルネットワーク(SGNN)は,ノード分類などのタスクにおいて顕著な性能を実現している。
本稿では,Large Language Models (LLMs) を利用してグラフのホモフィリーレベルを推定する新しいフレームワークを提案する。
我々のフレームワークは、強力なSGNNベースラインよりもパフォーマンスを継続的に改善します。
論文 参考訳(メタデータ) (2025-06-17T06:17:19Z) - How to Make LLMs Strong Node Classifiers? [70.14063765424012]
言語モデル(LM)は、グラフニューラルネットワーク(GNN)やグラフトランスフォーマー(GT)など、ドメイン固有のモデルの優位性に挑戦している。
本稿では,ノード分類タスクにおける最先端(SOTA)GNNに匹敵する性能を実現するために,既製のLMを有効活用する手法を提案する。
論文 参考訳(メタデータ) (2024-10-03T08:27:54Z) - Can Large Language Models Improve the Adversarial Robustness of Graph Neural Networks? [45.55125612241908]
グラフニューラルネットワーク(GNN)は、特にトポロジの摂動に対して、敵対的な攻撃に対して脆弱である。
LLMに基づく頑健なグラフ構造推論フレームワーク LLM4RGNN を提案する。
論文 参考訳(メタデータ) (2024-08-16T11:58:34Z) - LOGIN: A Large Language Model Consulted Graph Neural Network Training Framework [30.54068909225463]
我々は,GNN設計プロセスの合理化とLarge Language Models(LLM)の利点を活用して,下流タスクにおけるGNNの性能向上を目指す。
我々は,LLMs-as-Consultants(LLMs-as-Consultants)という新たなパラダイムを策定し,LLMとGNNを対話的に統合する。
両グラフのノード分類におけるLOGINの有効性を実証的に評価した。
論文 参考訳(メタデータ) (2024-05-22T18:17:20Z) - Graph Neural Networks are Inherently Good Generalizers: Insights by
Bridging GNNs and MLPs [71.93227401463199]
本稿では、P(ropagational)MLPと呼ばれる中間モデルクラスを導入することにより、GNNの性能向上を本質的な能力に向ける。
PMLPは、トレーニングにおいてはるかに効率的でありながら、GNNと同等(あるいはそれ以上)に動作することを観察する。
論文 参考訳(メタデータ) (2022-12-18T08:17:32Z) - Hybrid Graph Neural Networks for Few-Shot Learning [85.93495480949079]
グラフニューラルネットワーク(GNN)は、数発の学習問題に対処するために使用されている。
帰納的設定の下では、既存のGNNベースのメソッドは競争力が少ない。
本稿では2つのGNN(インスタンスGNNとプロトタイプGNN)からなる新しいハイブリッドGNNモデルを提案する。
論文 参考訳(メタデータ) (2021-12-13T10:20:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。