論文の概要: DANA: Dimension-Adaptive Neural Architecture for Multivariate Sensor
Data
- arxiv url: http://arxiv.org/abs/2008.02397v4
- Date: Thu, 12 Aug 2021 09:08:29 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-02 18:57:34.991227
- Title: DANA: Dimension-Adaptive Neural Architecture for Multivariate Sensor
Data
- Title(参考訳): DANA:多変量センサデータのための次元適応型ニューラルネットワーク
- Authors: Mohammad Malekzadeh, Richard G. Clegg, Andrea Cavallaro, Hamed Haddadi
- Abstract要約: ウェアラブルやモバイルデバイスに埋め込まれたモーションセンサーは、センサストリームとサンプリングレートの動的選択を可能にする。
ディープニューラルネットワーク(DNN)は、一定のサンプリングレートで、固定されたセンサーセットからの入力データを処理します。
センサの可利用性やサンプリング率の変化に対して,DNNを柔軟かつ堅牢にするための次元適応型プーリング層を導入する。
- 参考スコア(独自算出の注目度): 37.01965391878387
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Motion sensors embedded in wearable and mobile devices allow for dynamic
selection of sensor streams and sampling rates, enabling several applications,
such as power management and data-sharing control. While deep neural networks
(DNNs) achieve competitive accuracy in sensor data classification, DNNs
generally process incoming data from a fixed set of sensors with a fixed
sampling rate, and changes in the dimensions of their inputs cause considerable
accuracy loss, unnecessary computations, or failure in operation. We introduce
a dimension-adaptive pooling (DAP) layer that makes DNNs flexible and more
robust to changes in sensor availability and in sampling rate. DAP operates on
convolutional filter maps of variable dimensions and produces an input of fixed
dimensions suitable for feedforward and recurrent layers. We also propose a
dimension-adaptive training (DAT) procedure for enabling DNNs that use DAP to
better generalize over the set of feasible data dimensions at inference time.
DAT comprises the random selection of dimensions during the forward passes and
optimization with accumulated gradients of several backward passes. Combining
DAP and DAT, we show how to transform non-adaptive DNNs into a
Dimension-Adaptive Neural Architecture (DANA), while keeping the same number of
parameters. Compared to existing approaches, our solution provides better
classification accuracy over the range of possible data dimensions at inference
time and does not require up-sampling or imputation, thus reducing unnecessary
computations. Experiments on seven datasets (four benchmark real-world datasets
for human activity recognition and three synthetic datasets) show that DANA
prevents significant losses in classification accuracy of the state-of-the-art
DNNs and, compared to baselines, it better captures correlated patterns in
sensor data under dynamic sensor availability and varying sampling rates.
- Abstract(参考訳): ウェアラブルやモバイルデバイスに埋め込まれたモーションセンサーは、センサストリームとサンプリングレートの動的選択を可能にし、電力管理やデータ共有制御といったいくつかのアプリケーションを可能にする。
ディープニューラルネットワーク(DNN)はセンサデータの分類において競合する精度を達成する一方、DNNは通常、一定のサンプリングレートで固定されたセンサーセットからの入力データを処理し、入力の寸法の変化は、かなりの精度の損失、不要な計算、動作の失敗を引き起こす。
センサの可利用性やサンプリング率の変化に対して,DNNを柔軟かつ堅牢にするためのDAP(Darial-Adaptive pooling)層を導入する。
DAPは可変次元の畳み込みフィルタマップで動作し、フィードフォワード層とリカレント層に適した固定次元の入力を生成する。
また,DAP を用いた DNN を推論時に実現可能なデータ次元の集合をより一般化するための次元適応型トレーニング (DAT) 手法を提案する。
DATは、フォワードパス中の次元のランダムな選択と、いくつかの後方パスの累積勾配による最適化を含む。
DAPとDATを組み合わせることで、同じ数のパラメータを保持しながら、非適応的DNNをDANA(Dmension-Adaptive Neural Architecture)に変換する方法を示す。
既存の手法と比較して,提案手法は推定時間におけるデータ次元の範囲の分類精度が向上し,アップサンプリングや計算処理を必要としないため,不要な計算を削減できる。
7つのデータセット(人間の活動認識のための4つのベンチマーク実世界データセットと3つの合成データセット)の実験では、ダナは最先端dnnの分類精度の大幅な低下を防ぎ、ベースラインと比較すると、動的センサ可用性とサンプリングレートの異なるセンサーデータの相関パターンをよりよく捉えている。
関連論文リスト
- DCP: Learning Accelerator Dataflow for Neural Network via Propagation [52.06154296196845]
この研究は、DNN層の最適なデータフローを人間の努力なしに数秒で自動的に見つけるために、Dataflow Code Propagation (DCP)と呼ばれる効率的なデータ中心のアプローチを提案する。
DCPは、様々な最適化目標を最小化するために、望ましい勾配方向に向けてデータフローコードを効率的に更新する神経予測器を学習する。
例えば、追加のトレーニングデータを使用しないDCPは、数千のサンプルを使用して完全な検索を行うGAMAメソッドを超越している。
論文 参考訳(メタデータ) (2024-10-09T05:16:44Z) - Algorithm-Hardware Co-Design of Distribution-Aware Logarithmic-Posit Encodings for Efficient DNN Inference [4.093167352780157]
本稿では,ポジトリにインスパイアされた適応型ハードウェアフレンドリなデータ型であるLogarithmic Posits (LP)を紹介する。
また,LPQ(LP Quantization, LP量子化, LP量子化, LP量子化, LP量子化, LP量子化, LP量子化, LP量子化, LP量子化, LP量子化, LP量子化, LP量子化, LP量子化, LP量子化, LP量子化, LP量子化, LP量子化, LP量子化, LP量子化)
論文 参考訳(メタデータ) (2024-03-08T17:28:49Z) - SMORE: Similarity-based Hyperdimensional Domain Adaptation for
Multi-Sensor Time Series Classification [17.052624039805856]
マルチセンサ時系列分類のための新しい資源効率ドメイン適応(DA)アルゴリズムであるSMOREを提案する。
SMOREは、最先端(SOTA)のDNNベースのDAアルゴリズムよりも平均1.98%高い精度で18.81倍高速トレーニングと4.63倍高速推論を実現している。
論文 参考訳(メタデータ) (2024-02-20T18:48:49Z) - Digital Twin-Based User-Centric Edge Continual Learning in Integrated
Sensing and Communication [12.78137871351962]
本稿では,ISACシステムにおけるセンサデータ処理のためのディジタルツイン(DT)に基づくユーザ中心アプローチを提案する。
ISAC装置のDTは、サーバの長期計算コストに対する潜在的な決定の影響を予測するために構築される。
提案手法の優れた性能を示すために,DNNに基づく人体動作認識タスクの実行実験を行った。
論文 参考訳(メタデータ) (2023-11-20T22:27:14Z) - A distributed neural network architecture for dynamic sensor selection
with application to bandwidth-constrained body-sensor networks [53.022158485867536]
ディープニューラルネットワーク(DNN)のための動的センサ選択手法を提案する。
データセット全体の固定選択ではなく、個々の入力サンプルに対して最適なセンササブセット選択を導出することができる。
無線センサネットワーク(WSN)の寿命を、各ノードの送信頻度に制約を加えることで、この動的選択をいかに利用できるかを示す。
論文 参考訳(メタデータ) (2023-08-16T14:04:50Z) - DOMINO: Domain-invariant Hyperdimensional Classification for
Multi-Sensor Time Series Data [14.434647668734184]
ノイズの多いマルチセンサ時系列データにおける分散シフト問題に対処する新しいHDC学習フレームワークであるDOMINOを提案する。
DOMINOは最先端(SOTA)DNNベースのドメイン一般化技術よりも平均2.04%高い精度で達成し、16.34倍高速なトレーニングと2.89倍高速な推論を提供する。
論文 参考訳(メタデータ) (2023-08-07T04:44:12Z) - Convolutional Monge Mapping Normalization for learning on sleep data [63.22081662149488]
我々は、CMMN(Convolutional Monge Mapping Normalization)と呼ばれる新しい手法を提案する。
CMMNは、そのパワースペクトル密度(PSD)をトレーニングデータに基づいて推定されるワッサーシュタインバリセンタに適応させるために、信号をフィルタリングする。
睡眠脳波データに関する数値実験により、CMMNはニューラルネットワークアーキテクチャから独立して、顕著で一貫したパフォーマンス向上をもたらすことが示された。
論文 参考訳(メタデータ) (2023-05-30T08:24:01Z) - Adaptive Anomaly Detection for Internet of Things in Hierarchical Edge
Computing: A Contextual-Bandit Approach [81.5261621619557]
階層エッジコンピューティング(HEC)を用いた適応型異常検出手法を提案する。
まず,複雑性を増した複数のDNNモデルを構築し,それぞれを対応するHEC層に関連付ける。
そこで我々は、文脈帯域問題として定式化され、強化学習ポリシーネットワークを用いて解決される適応モデル選択スキームを設計する。
論文 参考訳(メタデータ) (2021-08-09T08:45:47Z) - Deep Cellular Recurrent Network for Efficient Analysis of Time-Series
Data with Spatial Information [52.635997570873194]
本研究では,空間情報を用いた複雑な多次元時系列データを処理するための新しいディープセルリカレントニューラルネットワーク(DCRNN)アーキテクチャを提案する。
提案するアーキテクチャは,文献に比較して,学習可能なパラメータをかなり少なくしつつ,最先端の性能を実現している。
論文 参考訳(メタデータ) (2021-01-12T20:08:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。