論文の概要: Towards a graph-based foundation model for network traffic analysis
- arxiv url: http://arxiv.org/abs/2409.08111v1
- Date: Thu, 12 Sep 2024 15:04:34 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-13 16:07:58.644827
- Title: Towards a graph-based foundation model for network traffic analysis
- Title(参考訳): ネットワークトラフィック分析のためのグラフベース基礎モデルに向けて
- Authors: Louis Van Langendonck, Ismael Castell-Uroz, Pere Barlet-Ros,
- Abstract要約: 基礎モデルはネットワークトラフィックの複雑さを把握でき、最小限の微調整で特定のタスクや環境に適応できる。
従来のアプローチではトークン化ヘックスレベルのパケットデータを使用していた。
本稿では,フローレベルでグラフベースの新しい代替案を提案する。
- 参考スコア(独自算出の注目度): 3.0558245652654907
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Foundation models have shown great promise in various fields of study. A potential application of such models is in computer network traffic analysis, where these models can grasp the complexities of network traffic dynamics and adapt to any specific task or network environment with minimal fine-tuning. Previous approaches have used tokenized hex-level packet data and the model architecture of large language transformer models. We propose a new, efficient graph-based alternative at the flow-level. Our approach represents network traffic as a dynamic spatio-temporal graph, employing a self-supervised link prediction pretraining task to capture the spatial and temporal dynamics in this network graph framework. To evaluate the effectiveness of our approach, we conduct a few-shot learning experiment for three distinct downstream network tasks: intrusion detection, traffic classification, and botnet classification. Models finetuned from our pretrained base achieve an average performance increase of 6.87\% over training from scratch, demonstrating their ability to effectively learn general network traffic dynamics during pretraining. This success suggests the potential for a large-scale version to serve as an operational foundational model.
- Abstract(参考訳): 基礎モデルは様々な研究分野において大きな可能性を示してきた。
このようなモデルの潜在的な応用は、コンピュータネットワークトラフィック分析において、これらのモデルはネットワークトラフィックの複雑さを把握し、最小限の微調整で特定のタスクやネットワーク環境に適応することができる。
従来のアプローチでは、トークン化ヘックスレベルのパケットデータと、大規模言語トランスフォーマーモデルのモデルアーキテクチャが用いられてきた。
本稿では,フローレベルでグラフベースの新しい代替案を提案する。
このネットワークグラフフレームワークでは,ネットワークトラフィックを動的時空間グラフとして表現し,自己教師付きリンク予測事前学習タスクを用いて空間的・時間的ダイナミクスを捉える。
提案手法の有効性を評価するために,侵入検出,交通分類,ボットネット分類という3つの異なる下流ネットワークタスクに対して,数発の学習実験を行った。
プレトレーニングベースから微調整されたモデルは、スクラッチからトレーニングして平均6.87 %の性能向上を実現し、プレトレーニング中に一般的なネットワークトラフィックのダイナミクスを効果的に学習できることを実証した。
この成功は、大規模バージョンが運用基盤モデルとして機能する可能性を示唆している。
関連論文リスト
- Transferable Post-training via Inverse Value Learning [83.75002867411263]
別個のニューラルネットワーク(すなわち値ネットワーク)を用いた後学習におけるロジットレベルのモデリング変更を提案する。
このネットワークをデモを使って小さなベースモデルでトレーニングした後、推論中に他のトレーニング済みモデルとシームレスに統合することができる。
得られた値ネットワークは、パラメータサイズの異なる事前学習されたモデル間で広い転送性を有することを示す。
論文 参考訳(メタデータ) (2024-10-28T13:48:43Z) - FLEXIBLE: Forecasting Cellular Traffic by Leveraging Explicit Inductive Graph-Based Learning [1.4216957119562985]
本稿では,新しい帰納学習手法と一般化可能なGNNベースの予測モデルを導入する。
実験の結果、最先端と比較して9.8%の性能改善が見られた。
論文 参考訳(メタデータ) (2024-05-14T07:53:23Z) - Dynamic Causal Graph Convolutional Network for Traffic Prediction [19.759695727682935]
本稿では,時間変動動的ネットワークを組み込んだトラフィック予測手法を提案する。
次に、グラフ畳み込みネットワークを使用してトラフィック予測を生成します。
実交通データを用いた実験結果から,提案手法の予測性能が優れていることを示す。
論文 参考訳(メタデータ) (2023-06-12T10:46:31Z) - A spatial-temporal short-term traffic flow prediction model based on
dynamical-learning graph convolution mechanism [0.0]
短期的な交通流予測は知的交通システム(ITS)の重要な分岐であり、交通管理において重要な役割を果たしている。
グラフ畳み込みネットワーク(GCN)は道路網のグラフィカルな構造データを扱うために交通予測モデルで広く利用されている。
この欠点に対処するために、新しい位置グラフ畳み込みネットワーク(Location-GCN)を提案する。
論文 参考訳(メタデータ) (2022-05-10T09:19:12Z) - Pretraining Graph Neural Networks for few-shot Analog Circuit Modeling
and Design [68.1682448368636]
本稿では、新しい未知のトポロジや未知の予測タスクに適応可能な回路表現を学習するための教師付き事前学習手法を提案する。
異なる回路の変動位相構造に対処するため、各回路をグラフとして記述し、グラフニューラルネットワーク(GNN)を用いてノード埋め込みを学習する。
出力ノード電圧の予測における事前学習GNNは、新しい未知のトポロジや新しい回路レベル特性の予測に適応可能な学習表現を促進することができることを示す。
論文 参考訳(メタデータ) (2022-03-29T21:18:47Z) - Data-Driven Traffic Assignment: A Novel Approach for Learning Traffic
Flow Patterns Using a Graph Convolutional Neural Network [1.3706331473063877]
本稿では,交通ネットワークのトラフィックフローパターンを学習する新しいデータ駆動手法を提案する。
我々は、グラフ畳み込みニューラルネットワーク(GCNN)と呼ばれるニューラルネットワークベースのフレームワークを開発し、その問題を解決する。
モデルのトレーニングが完了すると、大規模ネットワークのトラフィックフローを即座に決定できる。
論文 参考訳(メタデータ) (2022-02-21T19:45:15Z) - Temporal Graph Network Embedding with Causal Anonymous Walks
Representations [54.05212871508062]
本稿では,時間グラフネットワークに基づく動的ネットワーク表現学習のための新しいアプローチを提案する。
評価のために、時間的ネットワーク埋め込みの評価のためのベンチマークパイプラインを提供する。
欧州の大手銀行が提供した実世界のダウンストリームグラフ機械学習タスクにおいて、我々のモデルの適用性と優れた性能を示す。
論文 参考訳(メタデータ) (2021-08-19T15:39:52Z) - TCL: Transformer-based Dynamic Graph Modelling via Contrastive Learning [87.38675639186405]
我々は,動的に進化するグラフを連続的に扱う,TCLと呼ばれる新しいグラフニューラルネットワークアプローチを提案する。
我々の知る限りでは、これは動的グラフ上の表現学習にコントラスト学習を適用する最初の試みである。
論文 参考訳(メタデータ) (2021-05-17T15:33:25Z) - Graph-Based Neural Network Models with Multiple Self-Supervised
Auxiliary Tasks [79.28094304325116]
グラフ畳み込みネットワークは、構造化されたデータポイント間の関係をキャプチャするための最も有望なアプローチである。
マルチタスク方式でグラフベースニューラルネットワークモデルを学習するための3つの新しい自己教師付き補助タスクを提案する。
論文 参考訳(メタデータ) (2020-11-14T11:09:51Z) - Optimizing Large-Scale Fleet Management on a Road Network using
Multi-Agent Deep Reinforcement Learning with Graph Neural Network [0.8702432681310401]
本稿では,マルチエージェント強化学習とグラフニューラルネットワークを組み合わせることで,艦隊管理を最適化する新しい手法を提案する。
本研究では,実証タクシー呼出データをエミュレートした現実的なシミュレータを設計し,提案モデルの有効性を種々の条件で検証する。
論文 参考訳(メタデータ) (2020-11-12T03:01:37Z) - Pre-Trained Models for Heterogeneous Information Networks [57.78194356302626]
異種情報ネットワークの特徴を捉えるための自己教師付き事前学習・微調整フレームワークPF-HINを提案する。
PF-HINは4つのデータセットにおいて、各タスクにおける最先端の代替よりも一貫して、大幅に優れています。
論文 参考訳(メタデータ) (2020-07-07T03:36:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。