論文の概要: ViT-CAT: Parallel Vision Transformers with Cross Attention Fusion for
Popularity Prediction in MEC Networks
- arxiv url: http://arxiv.org/abs/2210.15125v1
- Date: Thu, 27 Oct 2022 02:17:47 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-28 16:08:36.824000
- Title: ViT-CAT: Parallel Vision Transformers with Cross Attention Fusion for
Popularity Prediction in MEC Networks
- Title(参考訳): ViT-CAT:MECネットワークにおける普及予測のためのクロスアテンション融合型並列ビジョントランス
- Authors: Zohreh HajiAkhondi-Meybodi, Arash Mohammadi, Ming Hou, Jamshid Abouei,
Konstantinos N. Plataniotis
- Abstract要約: 本稿では,アテンション機構に基づく新しいハイブリッドキャッシングフレームワークを提案する。
提案アーキテクチャは2つの並列ViTネットワークで構成され,その1つは時間的相関を収集し,もう1つは異なるコンテンツ間の依存関係をキャプチャする。
シミュレーション結果に基づいて,提案したViT-CATアーキテクチャは,分類精度,複雑性,キャッシュヒット比において,その性能に優れる。
- 参考スコア(独自算出の注目度): 36.764013561811225
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Mobile Edge Caching (MEC) is a revolutionary technology for the Sixth
Generation (6G) of wireless networks with the promise to significantly reduce
users' latency via offering storage capacities at the edge of the network. The
efficiency of the MEC network, however, critically depends on its ability to
dynamically predict/update the storage of caching nodes with the top-K popular
contents. Conventional statistical caching schemes are not robust to the
time-variant nature of the underlying pattern of content requests, resulting in
a surge of interest in using Deep Neural Networks (DNNs) for time-series
popularity prediction in MEC networks. However, existing DNN models within the
context of MEC fail to simultaneously capture both temporal correlations of
historical request patterns and the dependencies between multiple contents.
This necessitates an urgent quest to develop and design a new and innovative
popularity prediction architecture to tackle this critical challenge. The paper
addresses this gap by proposing a novel hybrid caching framework based on the
attention mechanism. Referred to as the parallel Vision Transformers with Cross
Attention (ViT-CAT) Fusion, the proposed architecture consists of two parallel
ViT networks, one for collecting temporal correlation, and the other for
capturing dependencies between different contents. Followed by a Cross
Attention (CA) module as the Fusion Center (FC), the proposed ViT-CAT is
capable of learning the mutual information between temporal and spatial
correlations, as well, resulting in improving the classification accuracy, and
decreasing the model's complexity about 8 times. Based on the simulation
results, the proposed ViT-CAT architecture outperforms its counterparts across
the classification accuracy, complexity, and cache-hit ratio.
- Abstract(参考訳): Mobile Edge Caching(MEC)は、第6世代無線ネットワーク(6G)の革新的な技術であり、ネットワークのエッジにストレージ容量を提供することで、ユーザのレイテンシを大幅に削減する。
しかし、MECネットワークの効率は、上位Kのコンテンツでキャッシュノードのストレージを動的に予測・更新する能力に大きく依存する。
従来の統計的キャッシングスキームは、コンテンツ要求の基盤となるパターンの時間変化特性に対して堅牢ではないため、MECネットワークの時系列人気予測にDeep Neural Networks(DNN)を使うことへの関心が高まっている。
しかし、MECのコンテキスト内の既存のDNNモデルは、履歴要求パターンの時間的相関と複数のコンテンツ間の依存関係の両方を同時にキャプチャできない。
これは、この重要な課題に取り組むために、新しく革新的な人気予測アーキテクチャの開発と設計を急務に求めている。
本稿では,注意機構に基づく新しいハイブリッドキャッシングフレームワークを提案することで,このギャップを解消する。
クロスアテンションを用いた並列ビジョントランスフォーマー (vit-cat) fusion と呼ばれ、提案されたアーキテクチャは2つの並列vitネットワークで構成され、一方は時間相関を収集し、もう一方は異なるコンテンツ間の依存関係をキャプチャする。
The Fusion Center (FC)としてCross Attention (CA)モジュールに追従して提案されたViT-CATは、時間的相関と空間的相関の相互情報を学習し、分類精度を改善し、モデルの複雑さを約8倍に減らすことができる。
シミュレーション結果に基づいて,提案したViT-CATアーキテクチャは,分類精度,複雑性,キャッシュヒット比において,その性能に優れる。
関連論文リスト
- TCCT-Net: Two-Stream Network Architecture for Fast and Efficient Engagement Estimation via Behavioral Feature Signals [58.865901821451295]
本稿では,新しい2ストリーム機能融合 "Tensor-Convolution and Convolution-Transformer Network" (TCCT-Net) アーキテクチャを提案する。
時間空間領域における意味のあるパターンをよりよく学習するために、ハイブリッド畳み込み変換器を統合する「CT」ストリームを設計する。
並行して、時間周波数領域からリッチなパターンを効率的に抽出するために、連続ウェーブレット変換(CWT)を用いて情報を2次元テンソル形式で表現する「TC」ストリームを導入する。
論文 参考訳(メタデータ) (2024-04-15T06:01:48Z) - CLSA: Contrastive Learning-based Survival Analysis for Popularity
Prediction in MEC Networks [36.01752474571776]
ディープニューラルネットワーク(DNN)と統合されたモバイルエッジキャッシング(MEC)は、将来の次世代無線ネットワークにとって大きな可能性を秘めている革新的な技術である。
MECネットワークの有効性は、最も人気のあるコンテンツでキャッシュノードのストレージを予測し、動的に更新する能力に大きく依存している。
有効にするためには、DNNベースの人気予測モデルには、コンテンツの歴史的要求パターンを理解する能力が必要である。
論文 参考訳(メタデータ) (2023-03-21T15:57:46Z) - FormerTime: Hierarchical Multi-Scale Representations for Multivariate
Time Series Classification [53.55504611255664]
formerTimeは、多変量時系列分類タスクの分類能力を改善する階層的表現モデルである。
1)時系列データから階層的なマルチスケール表現を学習し、(2)トランスフォーマーと畳み込みネットワークの強さを継承し、(3)自己維持メカニズムによって引き起こされる効率の課題に取り組む。
論文 参考訳(メタデータ) (2023-02-20T07:46:14Z) - AoI-based Temporal Attention Graph Neural Network for Popularity
Prediction and Content Caching [9.16219929722585]
情報中心ネットワーク(ICN)は、予測結果に基づいて、限られた人気コンテンツをネットワークの端に積極的に保持することを目的としている。
本稿では,2部グラフに埋め込まれた構造パターンと時間パターンを協調的に学習するために,有効な動的グラフニューラルネットワーク(DGNN)を利用する。
また,情報時代(AoI)に基づくアテンション機構を提案し,貴重な歴史的情報を抽出する。
論文 参考訳(メタデータ) (2022-08-18T02:57:17Z) - Hybrid SNN-ANN: Energy-Efficient Classification and Object Detection for
Event-Based Vision [64.71260357476602]
イベントベースの視覚センサは、画像フレームではなく、イベントストリームの局所的な画素単位の明るさ変化を符号化する。
イベントベースセンサーによる物体認識の最近の進歩は、ディープニューラルネットワークの変換によるものである。
本稿では、イベントベースのパターン認識とオブジェクト検出のためのディープニューラルネットワークのエンドツーエンドトレーニングのためのハイブリッドアーキテクチャを提案する。
論文 参考訳(メタデータ) (2021-12-06T23:45:58Z) - TEDGE-Caching: Transformer-based Edge Caching Towards 6G Networks [30.160404936777947]
6Gネットワークにおけるモバイルエッジキャッシュ(MEC)は,グローバルなモバイルデータトラフィックの驚くべき成長に対応するための効率的なソリューションとして進化してきた。
近年のディープニューラルネットワーク(DNN)の進歩は、プロアクティブキャッシュ方式におけるコンテンツ人気を予測するために、多くの研究が注目されている。
本稿では,注目に基づく視覚変換(ViT)ニューラルネットワークを組み込んだエッジキャッシュフレームワークを提案する。
論文 参考訳(メタデータ) (2021-12-01T16:38:18Z) - Semantic Correspondence with Transformers [68.37049687360705]
本稿では,変換器を用いたコストアグリゲーション(CAT)を提案し,意味論的に類似した画像間の密接な対応を見出す。
初期相関マップと多レベルアグリゲーションを曖昧にするための外観親和性モデリングを含む。
提案手法の有効性を示す実験を行い,広範囲にわたるアブレーション研究を行った。
論文 参考訳(メタデータ) (2021-06-04T14:39:03Z) - Hybrid Backpropagation Parallel Reservoir Networks [8.944918753413827]
本稿では,貯水池のランダムな時間的特徴と深層ニューラルネットワークの読み出し能力と,バッチ正規化を併用した新しいハイブリッドネットワークを提案する。
我々の新しいネットワークはLSTMやGRUよりも優れていることを示す。
また, HBP-ESN M-Ring と呼ばれる新しいメタリング構造を組み込むことで, 1つの大きな貯水池に類似した性能を実現し, メモリ容量の最大化を図っている。
論文 参考訳(メタデータ) (2020-10-27T21:03:35Z) - Cross-Attention in Coupled Unmixing Nets for Unsupervised Hyperspectral
Super-Resolution [79.97180849505294]
本稿では,HSIの空間分解能を高めるために,CUCaNetというクロスアテンション機構を備えた新しい結合型アンミックスネットワークを提案する。
3つの広く使われているHS-MSデータセットに対して、最先端のHSI-SRモデルと比較実験を行った。
論文 参考訳(メタデータ) (2020-07-10T08:08:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。