論文の概要: PLMGH: What Matters in PLM-GNN Hybrids for Code Classification and Vulnerability Detection
- arxiv url: http://arxiv.org/abs/2604.25599v1
- Date: Tue, 28 Apr 2026 13:05:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-29 16:49:17.864888
- Title: PLMGH: What Matters in PLM-GNN Hybrids for Code Classification and Vulnerability Detection
- Title(参考訳): PLMGH:コード分類と脆弱性検出におけるPLM-GNNハイブリッドの重要性
- Abstract要約: コード分類と脆弱性検出のためのPLM-GNNハイブリッドの制御実験を行った。
これらのハイブリッドを,Java250 と Devign の PLM のみと GNN のみのベースラインと比較する。
これらの知見を,コード分類と脆弱性検出におけるPLM-GNN設計選択のための実践的ガイドラインに抽出する。
- 参考スコア(独自算出の注目度): 0.30586855806896046
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Code understanding models increasingly rely on pretrained language models (PLMs) and graph neural networks (GNNs), which capture complementary semantic and structural information. We conduct a controlled empirical study of PLM-GNN hybrids for code classification and vulnerability detection tasks by systematically pairing three code-specialized PLMs with three foundational GNN architectures. We compare these hybrids against PLM-only and GNN-only baselines on Java250 and Devign, including an identifier-obfuscation setting. Across both tasks, hybrids consistently outperform GNN-only baselines and often improve ranking quality over frozen PLMs. On Devign, performance and robustness are more sensitive to the PLM feature source than to the GNN backbone. We also find that larger PLMs are not necessarily better feature extractors in this pipeline, and that the PLM choice has more impact than the GNN choice. Finally, we distill these findings into practical guidelines for PLM-GNN design choices in code classification and vulnerability detection.
- Abstract(参考訳): コード理解モデルは、補完的な意味と構造情報をキャプチャする事前訓練された言語モデル(PLM)とグラフニューラルネットワーク(GNN)にますます依存している。
我々は、3つの基本GNNアーキテクチャと3つのコード特化PLMを体系的に組み合わせることで、コード分類と脆弱性検出タスクのためのPLM-GNNハイブリッドの制御実験を行った。
これらのハイブリッドを PLM のみのベースラインと GNN のみのベースラインである Java250 と Devign と比較する。
両方のタスクにおいて、ハイブリッドはGNNのみのベースラインを一貫して上回り、凍結したPLMよりもランキング品質が向上する。
Devignでは、パフォーマンスと堅牢性は、GNNのバックボーンよりもPLMの機能ソースに敏感である。
また、このパイプラインにおいて、より大きなPLMが必ずしも優れた特徴抽出器であるとは限らないこと、また、PLMの選択はGNNの選択よりも影響が大きいことも見出した。
最後に,これらの知見を,コード分類と脆弱性検出におけるPLM-GNN設計選択のための実践的ガイドラインに抽出する。
関連論文リスト
- Glance for Context: Learning When to Leverage LLMs for Node-Aware GNN-LLM Fusion [11.093748269263486]
我々は,GNNの予測を洗練させるためにLLMを起動するフレームワークであるGLANCEを提案する。
GLANCEがノードサブグループ間で最高のパフォーマンスバランスを達成することを示す。
本研究は,適応型ノード認識型GNN-LLMアーキテクチャの価値を強調した。
論文 参考訳(メタデータ) (2025-10-12T23:25:16Z) - Do We Really Need GNNs with Explicit Structural Modeling? MLPs Suffice for Language Model Representations [50.45261187796993]
グラフニューラルネットワーク(GNN)は構造情報を十分に活用できないが、MLP(Multi-Layer Perceptrons)は構造認識タスクにおいて驚くべき能力を示す。
本稿では,情報理論の観点から総合的な探索フレームワークを提案する。
論文 参考訳(メタデータ) (2025-06-26T18:10:28Z) - Enhancing Spectral Graph Neural Networks with LLM-Predicted Homophily [48.135717446964385]
スペクトルグラフニューラルネットワーク(SGNN)は,ノード分類などのタスクにおいて顕著な性能を実現している。
本稿では,Large Language Models (LLMs) を利用してグラフのホモフィリーレベルを推定する新しいフレームワークを提案する。
我々のフレームワークは、強力なSGNNベースラインよりもパフォーマンスを継続的に改善します。
論文 参考訳(メタデータ) (2025-06-17T06:17:19Z) - How to Make LLMs Strong Node Classifiers? [70.14063765424012]
言語モデル(LM)は、グラフニューラルネットワーク(GNN)やグラフトランスフォーマー(GT)など、ドメイン固有のモデルの優位性に挑戦している。
本稿では,ノード分類タスクにおける最先端(SOTA)GNNに匹敵する性能を実現するために,既製のLMを有効活用する手法を提案する。
論文 参考訳(メタデータ) (2024-10-03T08:27:54Z) - Can Large Language Models Improve the Adversarial Robustness of Graph Neural Networks? [45.55125612241908]
グラフニューラルネットワーク(GNN)は、特にトポロジの摂動に対して、敵対的な攻撃に対して脆弱である。
LLMに基づく頑健なグラフ構造推論フレームワーク LLM4RGNN を提案する。
論文 参考訳(メタデータ) (2024-08-16T11:58:34Z) - LOGIN: A Large Language Model Consulted Graph Neural Network Training Framework [30.54068909225463]
我々は,GNN設計プロセスの合理化とLarge Language Models(LLM)の利点を活用して,下流タスクにおけるGNNの性能向上を目指す。
我々は,LLMs-as-Consultants(LLMs-as-Consultants)という新たなパラダイムを策定し,LLMとGNNを対話的に統合する。
両グラフのノード分類におけるLOGINの有効性を実証的に評価した。
論文 参考訳(メタデータ) (2024-05-22T18:17:20Z) - Certified Defense on the Fairness of Graph Neural Networks [86.14235652889242]
グラフニューラルネットワーク(GNN)は,グラフベースのタスクにおいて,目立ったグラフ学習モデルとして登場した。
悪意のある攻撃者は、入力グラフデータに摂動を追加することで、予測の公平度を容易に損なうことができる。
本稿では, ELEGANT というフレームワークを提案し, GNN の公正度レベルにおける認証防御の新たな課題について検討する。
論文 参考訳(メタデータ) (2023-11-05T20:29:40Z) - Label-free Node Classification on Graphs with Large Language Models
(LLMS) [46.937442239949256]
本研究では,Large Language Models パイプライン LLM-GNN を用いたグラフ上でのラベルなしノード分類を導入する。
制限を緩和しながら、GNNとLLMの長所を反復する。
特に、LLM-GNNは1ドル未満の大規模データセットで74.9%の精度を達成できる。
論文 参考訳(メタデータ) (2023-10-07T03:14:11Z) - Graph Neural Networks are Inherently Good Generalizers: Insights by
Bridging GNNs and MLPs [71.93227401463199]
本稿では、P(ropagational)MLPと呼ばれる中間モデルクラスを導入することにより、GNNの性能向上を本質的な能力に向ける。
PMLPは、トレーニングにおいてはるかに効率的でありながら、GNNと同等(あるいはそれ以上)に動作することを観察する。
論文 参考訳(メタデータ) (2022-12-18T08:17:32Z) - MGDCF: Distance Learning via Markov Graph Diffusion for Neural
Collaborative Filtering [96.65234340724237]
現状のGNNベースCFモデルとコンテキスト符号化に基づく従来の1層NRLモデルとの等価性を示す。
マルコフグラフ拡散協調フィルタ (MGDCF) を用いて, 最先端のGNNベースCFモデルを一般化する。
論文 参考訳(メタデータ) (2022-04-05T17:24:32Z) - Hybrid Graph Neural Networks for Few-Shot Learning [85.93495480949079]
グラフニューラルネットワーク(GNN)は、数発の学習問題に対処するために使用されている。
帰納的設定の下では、既存のGNNベースのメソッドは競争力が少ない。
本稿では2つのGNN(インスタンスGNNとプロトタイプGNN)からなる新しいハイブリッドGNNモデルを提案する。
論文 参考訳(メタデータ) (2021-12-13T10:20:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。