論文の概要: NetGPT: Generative Pretrained Transformer for Network Traffic
- arxiv url: http://arxiv.org/abs/2304.09513v2
- Date: Wed, 17 May 2023 11:23:35 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-18 19:29:20.008236
- Title: NetGPT: Generative Pretrained Transformer for Network Traffic
- Title(参考訳): NetGPT: ネットワークトラフィックのための生成事前学習トランス
- Authors: Xuying Meng, Chungang Lin, Yequan Wang, Yujun Zhang
- Abstract要約: ネットワークトラフィックの事前訓練モデルでは,大規模生データを用いてネットワークトラフィックの本質的特性を学習することができる。
本稿では,トラフィックの理解と生成のための生成事前学習モデルNetGPTを提案する。
- 参考スコア(独自算出の注目度): 4.205009931131087
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: All data on the Internet are transferred by network traffic, thus accurately
modeling network traffic can help improve network services quality and protect
data privacy. Pretrained models for network traffic can utilize large-scale raw
data to learn the essential characteristics of network traffic, and generate
distinguishable results for input traffic without considering specific
downstream tasks. Effective pretrained models can significantly optimize the
training efficiency and effectiveness of downstream tasks, such as application
classification, attack detection and traffic generation. Despite the great
success of pretraining in natural language processing, there is no work in the
network field. Considering the diverse demands and characteristics of network
traffic and network tasks, it is non-trivial to build a pretrained model for
network traffic and we face various challenges, especially the heterogeneous
headers and payloads in the multi-pattern network traffic and the different
dependencies for contexts of diverse downstream network tasks.
To tackle these challenges, in this paper, we make the first attempt to
provide a generative pretrained model NetGPT for both traffic understanding and
generation tasks. We propose the multi-pattern network traffic modeling to
construct unified text inputs and support both traffic understanding and
generation tasks. We further optimize the adaptation effect of the pretrained
model to diversified tasks by shuffling header fields, segmenting packets in
flows, and incorporating diverse task labels with prompts. With diverse traffic
datasets from encrypted software, DNS, private industrial protocols and
cryptocurrency mining, expensive experiments demonstrate the effectiveness of
our NetGPT in a range of traffic understanding and generation tasks on traffic
datasets, and outperform state-of-the-art baselines by a wide margin.
- Abstract(参考訳): インターネット上のすべてのデータはネットワークトラフィックによって転送されるため、ネットワークトラフィックを正確にモデル化することは、ネットワークサービスの品質向上とデータのプライバシ保護に役立つ。
ネットワークトラフィックのための事前トレーニングされたモデルは、大規模生データを使用してネットワークトラフィックの本質的特性を学習し、特定の下流タスクを考慮せずに入力トラフィックの識別可能な結果を生成することができる。
効果的な事前学習モデルは、アプリケーション分類、攻撃検出、トラフィック生成などの下流タスクのトレーニング効率と効率を著しく最適化することができる。
自然言語処理における事前学習の成功にもかかわらず、ネットワーク分野における作業は行われていない。
ネットワークトラフィックとネットワークタスクの多様な要求と特性を考慮すると、ネットワークトラフィックのための事前訓練されたモデルを構築するのは簡単ではありません。
本稿では,これらの課題に取り組むため,トラヒック理解と生成タスクの両方に生成的事前学習モデルnetgptを提供することを初めて試みる。
本稿では,統一テキスト入力を構築し,トラヒック理解と生成タスクの両方をサポートするマルチパターンネットワークトラヒックモデリングを提案する。
さらに、ヘッダフィールドをシャッフルし、フロー内のパケットをセグメンテーションし、プロンプトで様々なタスクラベルを組み込むことにより、プリトレーニングされたモデルのタスクへの適応効果をさらに最適化する。
暗号化されたソフトウェア、DNS、民間の産業プロトコル、暗号通貨マイニングといったさまざまなトラフィックデータセットを用いて、トラフィックデータセットに対するさまざまなトラフィック理解および生成タスクにおけるNetGPTの有効性を実証し、最先端のベースラインを幅広いマージンで上回ります。
関連論文リスト
- Towards a graph-based foundation model for network traffic analysis [3.0558245652654907]
基礎モデルはネットワークトラフィックの複雑さを把握でき、最小限の微調整で特定のタスクや環境に適応できる。
従来のアプローチではトークン化ヘックスレベルのパケットデータを使用していた。
本稿では,フローレベルでグラフベースの新しい代替案を提案する。
論文 参考訳(メタデータ) (2024-09-12T15:04:34Z) - NetBench: A Large-Scale and Comprehensive Network Traffic Benchmark Dataset for Foundation Models [15.452625276982987]
ネットワークトラフィック(ネットワークトラフィック、英: network traffic)は、インターネット上のコンピュータやサイバー物理システム間のパケットの形で送信されるデータ量である。
我々は,ネットワークトラフィック分類と生成タスクの両方において,機械学習モデル,特に基礎モデルを評価するための大規模かつ包括的なベンチマークデータセットであるNetBenchを紹介した。
論文 参考訳(メタデータ) (2024-03-15T14:09:54Z) - BjTT: A Large-scale Multimodal Dataset for Traffic Prediction [49.93028461584377]
従来の交通予測手法は、交通トレンドを予測するために、過去の交通データに依存している。
本研究では,交通システムを記述するテキストと生成モデルを組み合わせることで,交通生成にどのように応用できるかを考察する。
本稿では,テキスト・トラフィック生成のための最初の拡散モデルChatTrafficを提案する。
論文 参考訳(メタデータ) (2024-03-08T04:19:56Z) - A Deep Reinforcement Learning Approach for Adaptive Traffic Routing in
Next-gen Networks [1.1586742546971471]
次世代ネットワークは、トラフィックダイナミクスに基づいたネットワーク構成を自動化し、適応的に調整する必要がある。
交通政策を決定する伝統的な手法は、通常は手作りのプログラミング最適化とアルゴリズムに基づいている。
我々は適応的なトラフィックルーティングのための深層強化学習(DRL)アプローチを開発する。
論文 参考訳(メタデータ) (2024-02-07T01:48:29Z) - Lens: A Foundation Model for Network Traffic [19.3652490585798]
Lensは、T5アーキテクチャを活用して、大規模な未ラベルデータから事前訓練された表現を学習するネットワークトラフィックの基礎モデルである。
Masked Span Prediction(MSP)、Packet Order Prediction(POP)、Homologous Traffic Prediction(HTP)の3つの異なるタスクを組み合わせた新しい損失を設計する。
論文 参考訳(メタデータ) (2024-02-06T02:45:13Z) - Towards Intelligent Network Management: Leveraging AI for Network
Service Detection [0.0]
本研究では,高度なネットワークトラフィック分類システムを構築するために機械学習手法を活用することに焦点を当てた。
我々は,様々なネットワークサービスタイプをリアルタイムに識別する,新しいデータ駆動型アプローチを提案する。
本システムは,ネットワークサービスを識別する際,顕著な精度を示す。
論文 参考訳(メタデータ) (2023-10-14T16:06:11Z) - Road Network Guided Fine-Grained Urban Traffic Flow Inference [108.64631590347352]
粗いトラフィックからのきめ細かなトラフィックフローの正確な推測は、新たな重要な問題である。
本稿では,道路ネットワークの知識を活かした新しい道路対応交通流磁化器(RATFM)を提案する。
提案手法は,高品質なトラフィックフローマップを作成できる。
論文 参考訳(メタデータ) (2021-09-29T07:51:49Z) - Optimal transport in multilayer networks [68.8204255655161]
本稿では,各層上の最適フローが,コストの最小化に寄与するモデルを提案する。
アプリケーションとして,各層が異なる輸送システムに関連付けられている交通ネットワークを考察する。
この結果の例をボルドー市とバスと路面電車の2層ネットワークで示し、ある状況下では路面電車網の存在が道路網の交通を著しく覆い隠している。
論文 参考訳(メタデータ) (2021-06-14T07:33:09Z) - Graph-Based Neural Network Models with Multiple Self-Supervised
Auxiliary Tasks [79.28094304325116]
グラフ畳み込みネットワークは、構造化されたデータポイント間の関係をキャプチャするための最も有望なアプローチである。
マルチタスク方式でグラフベースニューラルネットワークモデルを学習するための3つの新しい自己教師付き補助タスクを提案する。
論文 参考訳(メタデータ) (2020-11-14T11:09:51Z) - Pre-Trained Models for Heterogeneous Information Networks [57.78194356302626]
異種情報ネットワークの特徴を捉えるための自己教師付き事前学習・微調整フレームワークPF-HINを提案する。
PF-HINは4つのデータセットにおいて、各タスクにおける最先端の代替よりも一貫して、大幅に優れています。
論文 参考訳(メタデータ) (2020-07-07T03:36:28Z) - Curriculum By Smoothing [52.08553521577014]
畳み込みニューラルネットワーク(CNN)は、画像分類、検出、セグメンテーションなどのコンピュータビジョンタスクにおいて顕著な性能を示している。
アンチエイリアスフィルタやローパスフィルタを用いてCNNの機能埋め込みを円滑化するエレガントなカリキュラムベースのスキームを提案する。
トレーニング中に特徴マップ内の情報量が増加するにつれて、ネットワークはデータのより優れた表現を徐々に学習することができる。
論文 参考訳(メタデータ) (2020-03-03T07:27:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。