論文の概要: Lightweight Transformer in Federated Setting for Human Activity Recognition

• arxiv url: http://arxiv.org/abs/2110.00244v1
• Date: Fri, 1 Oct 2021 07:43:01 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-04 14:46:53.345849
• Title: Lightweight Transformer in Federated Setting for Human Activity Recognition
• Title（参考訳）: ヒューマンアクティビティ認識のためのフェデレーション設定における軽量トランス
• Authors: Ali Raza, Kim Phuc Tran, Ludovic Koehl, Shujun Li, Xianyi Zeng, and Khaled Benzaidi
• Abstract要約: 人間活動認識(HAR)は難しい問題だが、解決する必要がある。 HARは、センサー、スマートフォン、画像の助けを借りて実現できる。 慣性センサーに基づく新しいパッチトランスフォーマーでは、RNNとCNNの両方が人間の活動認識に有効である。
• 参考スコア（独自算出の注目度）: 3.7798633789575917
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Human Activity Recognition (HAR) has been a challenging problem yet it needs to be solved. It will mainly be used for eldercare and healthcare as an assistive technology when ensemble with other technologies like Internet of Things(IoT). HAR can be achieved with the help of sensors, smartphones or images. Deep neural network techniques like artificial neural networks, convolutional neural networks and recurrent neural networks have been used in HAR, both in centralized and federated setting. However, these techniques have certain limitations. RNNs have limitation of parallelization, CNNS have the limitation of sequence length and they are computationally expensive. In this paper, to address the state of art challenges, we present a inertial sensors-based novel one patch transformer which gives the best of both RNNs and CNNs for Human activity recognition. We also design a testbed to collect real-time human activity data. The data collected is further used to train and test the proposed transformer. With the help of experiments, we show that the proposed transformer outperforms the state of art CNN and RNN based classifiers, both in federated and centralized setting. Moreover, the proposed transformer is computationally inexpensive as it uses very few parameter compared to the existing state of art CNN and RNN based classifier. Thus its more suitable for federated learning as it provides less communication and computational cost.
• Abstract（参考訳）: 人間活動認識(HAR)は難しい問題だが、解決する必要がある。 主に、IoT(Internet of Things)など他のテクノロジと統合する際の補助技術として、老人医療やヘルスケアに使用される。 HARは、センサー、スマートフォン、画像の助けを借りて実現できる。 ニューラルネットワーク、畳み込みニューラルネットワーク、リカレントニューラルネットワークといったディープニューラルネットワーク技術は、集中型と連合型の両方でharで使用されている。 しかし、これらの技術には一定の制限がある。 RNNは並列化の制限があり、CNNSはシーケンス長の制限があり、計算コストが高い。 本稿では,技術課題に対処するために,人間活動認識のためのRNNとCNNの両方の利点を生かした,慣性センサを用いた新しい1つのパッチトランスフォーマを提案する。 また、リアルタイムな人的活動データ収集のためのテストベッドを設計する。 収集されたデータは、提案されたトランスのトレーニングとテストにさらに使用される。 実験により,提案するトランスフォーマは,フェデレーション設定と集中設定の両方において,アートcnnおよびrnnベースの分類器よりも優れることを示した。 さらに,既存のart cnnやrnnベースの分類器に比べ,パラメータが極めて少ないため,提案するトランスフォーマーは計算量的に安価である。 したがって、より少ないコミュニケーションと計算コストを提供するため、連合学習に適している。

関連論文リスト

• Investigating Sparsity in Recurrent Neural Networks [0.0]
  本論文は, プルーニングとスパースリカレントニューラルネットワークがRNNの性能に与える影響を考察することに焦点を当てる。 まず,RNNの刈り込み,RNNの性能への影響,および刈り込み後の精度回復に必要な訓練エポック数について述べる。 次に、スパースリカレントニューラルネットワークの作成と訓練を継続し、その基礎となる任意の構造の性能とグラフ特性の関係を同定する。
  論文  参考訳（メタデータ） (2024-07-30T07:24:58Z)
• Random-coupled Neural Network [17.53731608985241]
  パルス結合ニューラルネットワーク(PCNN)は、コンピュータビジョンとニューラルネットワークの分野における人間の脳の特徴を模倣するためのよく応用されたモデルである。 本研究では,ランダム結合ニューラルネットワーク(RCNN)を提案する。 ランダム不活性化プロセスを通じて、PCNNのニューロモルフィックコンピューティングの困難を克服する。
  論文  参考訳（メタデータ） (2024-03-26T09:13:06Z)
• OA-CNNs: Omni-Adaptive Sparse CNNs for 3D Semantic Segmentation [70.17681136234202]
  設計上の違いを再検討し、スパースCNNが達成できることの限界をテストする。 本稿では,このギャップを埋めるために,適応受容場(親和性)と適応関係という2つの重要な要素を提案する。 この調査により、軽量モジュールを統合するネットワークのファミリーであるOmni-Adaptive 3D CNN(OA-CNN)が開発された。
  論文  参考訳（メタデータ） (2024-03-21T14:06:38Z)
• Fully Spiking Actor Network with Intra-layer Connections for Reinforcement Learning [51.386945803485084]
  エージェントが制御する多次元決定論的ポリシーを学習する必要があるタスクに焦点をあてる。 既存のスパイクベースのRL法は、SNNの出力として発火率を取り、完全に接続された層を通して連続的なアクション空間(つまり決定論的なポリシー)を表すように変換する。 浮動小数点行列操作を伴わない完全にスパイクするアクターネットワークを開発するため,昆虫に見られる非スパイク介在ニューロンからインスピレーションを得た。
  論文  参考訳（メタデータ） (2024-01-09T07:31:34Z)
• Spiking Neural Network Decision Feedback Equalization [70.3497683558609]
  決定フィードバック等化器(DFE)に似たフィードバック構造を持つSNNベースの等化器を提案する。 提案手法は,3種類の模範チャネルに対して,従来の線形等化器よりも明らかに優れていることを示す。 決定フィードバック構造を持つSNNは、競合エネルギー効率の良いトランシーバへのパスを可能にする。
  論文  参考訳（メタデータ） (2022-11-09T09:19:15Z)
• HyBNN and FedHyBNN: (Federated) Hybrid Binary Neural Networks [0.0]
  新しいハイブリッドニューラルネットワークアーキテクチャHybrid Binary Neural Network (Hybrid Binary Neural Network, HyBNN)を導入する。 HyBNNは、タスク非依存、一般、完全精度の変動型オートエンコーダと、タスク固有のバイナリニューラルネットワークで構成されている。 提案システムは,入力バイナライゼーションにより,バニラバイナリニューラルネットワークを著しく上回る性能を有することを示す。
  論文  参考訳（メタデータ） (2022-05-19T20:27:01Z)
• Hybrid SNN-ANN: Energy-Efficient Classification and Object Detection for Event-Based Vision [64.71260357476602]
  イベントベースの視覚センサは、画像フレームではなく、イベントストリームの局所的な画素単位の明るさ変化を符号化する。 イベントベースセンサーによる物体認識の最近の進歩は、ディープニューラルネットワークの変換によるものである。 本稿では、イベントベースのパターン認識とオブジェクト検出のためのディープニューラルネットワークのエンドツーエンドトレーニングのためのハイブリッドアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2021-12-06T23:45:58Z)
• Dynamic Gesture Recognition [0.0]
  従来のコンピュータビジョンアルゴリズムの代わりに、機械学習を使って画像や動画を分類することができる。 このプロジェクトの目的は、畳み込みニューラルネットワーク(CNN)とリカレントニューラルネットワーク(RNN)の共生を構築することである。
  論文  参考訳（メタデータ） (2021-09-20T09:45:29Z)
• Swin-Unet: Unet-like Pure Transformer for Medical Image Segmentation [63.46694853953092]
  Swin-Unetは、医用画像セグメンテーション用のUnetライクなトランスフォーマーである。 トークン化されたイメージパッチは、TransformerベースのU字型デコーダデコーダアーキテクチャに供給される。
  論文  参考訳（メタデータ） (2021-05-12T09:30:26Z)
• Combining Spiking Neural Network and Artificial Neural Network for Enhanced Image Classification [1.8411688477000185]
  生物学的脳シナプスによく似たSNN(spiking neural Network)は、低消費電力のために注目を集めている。 我々は、関係する性能を改善する汎用ハイブリッドニューラルネットワーク(hnn)を構築した。
  論文  参考訳（メタデータ） (2021-02-21T12:03:16Z)
• Progressive Tandem Learning for Pattern Recognition with Deep Spiking Neural Networks [80.15411508088522]
  スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。 高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-07-02T15:38:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。