Fugu-MT 論文翻訳(概要): Towards a Transformer-Based Pre-trained Model for IoT Traffic Classification

論文の概要: Towards a Transformer-Based Pre-trained Model for IoT Traffic Classification

arxiv url: http://arxiv.org/abs/2407.19051v1
Date: Fri, 26 Jul 2024 19:13:11 GMT
ステータス: 処理完了
システム内更新日: 2024-07-30 20:02:28.886574
Title: Towards a Transformer-Based Pre-trained Model for IoT Traffic Classification
Title（参考訳）: IoTトラフィック分類のためのトランスフォーマーベース事前学習モデルに向けて
Authors: Bruna Bazaluk, Mosab Hamdan, Mustafa Ghaleb, Mohammed S. M. Gismalla, Flavio S. Correa da Silva, Daniel Macêdo Batista,
Abstract要約: 最先端の分類法はDeep Learningに基づいている。実際の状況では、IoTトラフィックデータが不足しているため、モデルのパフォーマンスはそれほど良くない。大規模なラベル付きトランスフォーマーベースのIoTトラフィックデータセット上で事前トレーニングされたIoTトラフィック分類変換器(ITCT)を提案する。実験の結果、ITCTモデルは既存のモデルよりも大幅に優れ、全体的な精度は82%に達した。
参考スコア（独自算出の注目度）: 0.6060461053918144
License: http://creativecommons.org/licenses/by-sa/4.0/
Abstract: The classification of IoT traffic is important to improve the efficiency and security of IoT-based networks. As the state-of-the-art classification methods are based on Deep Learning, most of the current results require a large amount of data to be trained. Thereby, in real-life situations, where there is a scarce amount of IoT traffic data, the models would not perform so well. Consequently, these models underperform outside their initial training conditions and fail to capture the complex characteristics of network traffic, rendering them inefficient and unreliable in real-world applications. In this paper, we propose IoT Traffic Classification Transformer (ITCT), a novel approach that utilizes the state-of-the-art transformer-based model named TabTransformer. ITCT, which is pre-trained on a large labeled MQTT-based IoT traffic dataset and may be fine-tuned with a small set of labeled data, showed promising results in various traffic classification tasks. Our experiments demonstrated that the ITCT model significantly outperforms existing models, achieving an overall accuracy of 82%. To support reproducibility and collaborative development, all associated code has been made publicly available.
Abstract（参考訳）: IoTトラフィックの分類は、IoTベースのネットワークの効率性とセキュリティを改善するために重要である。最先端の分類手法はDeep Learningに基づいているため、現在の結果のほとんどは、大量のデータをトレーニングする必要がある。これにより、IoTトラフィックデータが少ない現実の状況では、モデルはそれほどうまく機能しない。その結果、これらのモデルは初期のトレーニング条件外では性能が悪く、ネットワークトラフィックの複雑な特性を捉えることができず、現実のアプリケーションでは非効率で信頼性が低い。本稿では,TabTransformer と呼ばれる最先端のトランスフォーマーモデルを利用した新しい手法である IoT Traffic Classification Transformer (ITCT) を提案する。 ITCTはMQTTベースの大規模なIoTトラフィックデータセットで事前トレーニングされており、ラベル付きデータの小さなセットで微調整される可能性があるため、さまざまなトラフィック分類タスクで有望な結果を示している。実験の結果,ITCTモデルは既存モデルよりも有意に優れ,全体の精度は82%であった。再現性と共同開発をサポートするため、関連するすべてのコードが公開されている。

関連論文リスト

Modeling IoT Traffic Patterns: Insights from a Statistical Analysis of an MTC Dataset [1.2289361708127877]
IoT(Internet-of-Things)は急速に拡大し、多くのデバイスを接続し、私たちの日常生活に不可欠なものになっています。効果的なIoTトラフィック管理には、マシン型通信(MTC)のモデリングと予測が必要である。我々は、Kolmogorov-Smirnov、Anderson-Darling、chi-squared、ルート平均二乗誤差などの確立されたテストを含む、適合性テストを用いたMCCトラフィックの包括的統計分析を行う。
論文参考訳（メタデータ） (2024-09-03T14:24:18Z)
Spatial-Temporal Attention Model for Traffic State Estimation with Sparse Internet of Vehicles [23.524936542317842]
コスト効率の良い交通状態推定(TSE)を実現するために,スパースIoVデータを利用する新しいフレームワークを提案する。特に,TSEの精度を向上させるために,畳み込み抑止ネットワーク(CRNet)と呼ばれる新しい空間時間アテンションモデルを提案する。このモデルは、空間的相関集約のための畳み込みニューラルネットワーク(CNN)と、注意機構に基づいて時間的相関を抽出するRetNet(RetNet)を用いる。
論文参考訳（メタデータ） (2024-07-10T20:58:53Z)
Lens: A Foundation Model for Network Traffic [19.3652490585798]
Lensは、T5アーキテクチャを活用して、大規模な未ラベルデータから事前訓練された表現を学習するネットワークトラフィックの基礎モデルである。 Masked Span Prediction(MSP)、Packet Order Prediction(POP)、Homologous Traffic Prediction(HTP)の3つの異なるタスクを組み合わせた新しい損失を設計する。
論文参考訳（メタデータ） (2024-02-06T02:45:13Z)
Emergent Agentic Transformer from Chain of Hindsight Experience [96.56164427726203]
簡単なトランスフォーマーベースモデルが時間差と模倣学習に基づくアプローチの両方と競合することを示す。単純なトランスフォーマーベースのモデルが時間差と模倣学習ベースのアプローチの両方で競合するのはこれが初めてである。
論文参考訳（メタデータ） (2023-05-26T00:43:02Z)
Large-Scale Traffic Data Imputation with Spatiotemporal Semantic Understanding [26.86356769330179]
本研究では,GT-TDIモデルを用いて,ネットワークを意味論的に理解した大規模交通データをインプットする手法を提案する。提案モデルは、グラフニューラルネットワーク(GNN)とトランスフォーマーの助けを借りてタスクを実行するために、不完全データ、センサのソーシャル接続、セマンティック記述を入力として利用する。その結果,提案したGT-TDIモデルは,複雑な欠落パターンと多彩な欠落率で既存手法よりも優れていた。
論文参考訳（メタデータ） (2023-01-27T13:02:19Z)
Beyond Transfer Learning: Co-finetuning for Action Localisation [64.07196901012153]
同時に、複数のアップストリームとダウンストリームのタスクで1つのモデルをトレーニングする。共ファインタニングは、同じデータ量を使用する場合、従来のトランスファーラーニングよりも優れていることを示す。さらに、複数のアップストリームデータセットへのアプローチを簡単に拡張して、パフォーマンスをさらに向上する方法も示しています。
論文参考訳（メタデータ） (2022-07-08T10:25:47Z)
FiT: Parameter Efficient Few-shot Transfer Learning for Personalized and Federated Image Classification [47.24770508263431]
画像分類における要件を満たすFiLM Transfer (FiT) を開発した。 FiTは、大規模な画像データセットで事前トレーニングされた固定バックボーンの上に、自動的に設定されたNaive Bayes分類器を使用する。本研究では, 最先端のBig Transfer (BiT) アルゴリズムよりも, ローショット, 挑戦的なVTAB-1kベンチマークにおいて, 高い分類精度が得られることを示す。
論文参考訳（メタデータ） (2022-06-17T10:17:20Z)
Efficient Federated Learning with Spike Neural Networks for Traffic Sign Recognition [70.306089187104]
我々は、エネルギー効率と高速モデルトレーニングのための交通信号認識に強力なスパイクニューラルネットワーク(SNN)を導入している。数値的な結果から,提案するフェデレーションSNNは,従来のフェデレーション畳み込みニューラルネットワークよりも精度,ノイズ免疫性,エネルギー効率に優れていたことが示唆された。
論文参考訳（メタデータ） (2022-05-28T03:11:48Z)
Adaptive Anomaly Detection for Internet of Things in Hierarchical Edge Computing: A Contextual-Bandit Approach [81.5261621619557]
階層エッジコンピューティング(HEC)を用いた適応型異常検出手法を提案する。まず,複雑性を増した複数のDNNモデルを構築し,それぞれを対応するHEC層に関連付ける。そこで我々は、文脈帯域問題として定式化され、強化学習ポリシーネットワークを用いて解決される適応モデル選択スキームを設計する。
論文参考訳（メタデータ） (2021-08-09T08:45:47Z)
Physics-Informed Deep Learning for Traffic State Estimation [3.779860024918729]
交通状態推定(TSE)は、部分的に観測されたデータを用いて道路セグメント上の交通変数(例えば密度)を再構築する。本論文では,少量の観測データを用いて高品質なTSEを効率的に実行するための物理情報深層学習(PIDL)フレームワークについて紹介する。
論文参考訳（メタデータ） (2021-01-17T03:28:32Z)
Towards Accurate Knowledge Transfer via Target-awareness Representation Disentanglement [56.40587594647692]
本稿では,TRED(Target-Awareness Representation Disentanglement)の概念を取り入れた新しいトランスファー学習アルゴリズムを提案する。 TREDは、対象のタスクに関する関連する知識を元のソースモデルから切り離し、ターゲットモデルを微調整する際、レギュレータとして使用する。各種実世界のデータセットを用いた実験により,本手法は標準微調整を平均2%以上安定的に改善することが示された。
論文参考訳（メタデータ） (2020-10-16T17:45:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。