論文の概要: Bandwidth-efficient distributed neural network architectures with
application to body sensor networks
- arxiv url: http://arxiv.org/abs/2210.07750v1
- Date: Fri, 14 Oct 2022 12:35:32 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-17 18:20:32.390508
- Title: Bandwidth-efficient distributed neural network architectures with
application to body sensor networks
- Title（参考訳）: 広帯域分散ニューラルネットワークアーキテクチャと身体センサネットワークへの応用
- Authors: Thomas Strypsteen, Alexander Bertrand
- Abstract要約: 本稿では,分散ニューラルネットワークアーキテクチャを設計するための概念設計手法について述べる。
提案手法により,損失を最小限に抑えつつ,最大20倍の帯域幅削減が可能となることを示す。
本稿では,ウェアラブル脳-コンピュータインタフェースに焦点をあてるが,他のセンサネットワークアプリケーションにも適用できる。
- 参考スコア（独自算出の注目度）: 73.02174868813475
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we describe a conceptual design methodology to design
distributed neural network architectures that can perform efficient inference
within sensor networks with communication bandwidth constraints. The different
sensor channels are distributed across multiple sensor devices, which have to
exchange data over bandwidth-limited communication channels to solve, e.g., a
classification task. Our design methodology starts from a user-defined
centralized neural network and transforms it into a distributed architecture in
which the channels are distributed over different nodes. The distributed
network consists of two parallel branches of which the outputs are fused at the
fusion center. The first branch collects classification results from local,
node-specific classifiers while the second branch compresses each node's signal
and then reconstructs the multi-channel time series for classification at the
fusion center. We further improve bandwidth gains by dynamically activating the
compression path when the local classifications do not suffice. We validate
this method on a motor execution task in an emulated EEG sensor network and
analyze the resulting bandwidth-accuracy trade-offs. Our experiments show that
the proposed framework enables up to a factor 20 in bandwidth reduction with
minimal loss (up to 2%) in classification accuracy compared to the centralized
baseline on the demonstrated motor execution task. The proposed method offers a
way to smoothly transform a centralized architecture to a distributed,
bandwidth-efficient network amenable for low-power sensor networks. While the
application focus of this paper is on wearable brain-computer interfaces, the
proposed methodology can be applied in other sensor network-like applications
as well.
- Abstract（参考訳）: 本稿では,通信帯域幅制約のあるセンサネットワーク内で効率的な推論を行う分散ニューラルネットワークアーキテクチャを設計するための概念設計手法について述べる。
異なるセンサチャネルは複数のセンサデバイスに分散され、帯域制限された通信チャネル上でデータを交換して解決しなければならない。
私たちの設計手法は,ユーザが定義した集中型ニューラルネットワークから始まり,チャネルを異なるノードに分散した分散アーキテクチャに変換する。
分散ネットワークは、2つの並列分岐で構成され、その出力は核融合中心で融合される。
第1のブランチは局所的なノード固有の分類器から分類結果を収集し、第2のブランチは各ノードの信号を圧縮し、融合センターで分類するためにマルチチャネルの時系列を再構築する。
局所的な分類が十分でない場合、圧縮経路を動的に活性化することにより帯域幅のゲインを改善する。
本手法をエミュレートされた脳波センサネットワークにおけるモータ実行タスクで検証し,その結果の帯域精度トレードオフを分析する。
実験の結果,提案手法により,最大20倍の帯域幅削減が可能となり,最小損失(最大2%)の分類精度が向上した。
提案手法は,低消費電力センサネットワークに適した分散帯域効率ネットワークに,集中型アーキテクチャを円滑に変換する方法を提供する。
本論文の応用はウェアラブル・ブレイン・コンピュータ・インタフェースに焦点をあてるが,提案手法は他のセンサ・ネットワークのようなアプリケーションにも応用できる。
関連論文リスト
- Neuromorphic Wireless Split Computing with Multi-Level Spikes [69.73249913506042]
ニューロモルフィックコンピューティングでは、スパイクニューラルネットワーク(SNN)が推論タスクを実行し、シーケンシャルデータを含むワークロードの大幅な効率向上を提供する。
ハードウェアとソフトウェアの最近の進歩は、スパイクニューロン間で交換された各スパイクに数ビットのペイロードを埋め込むことにより、推論精度をさらに高めることを示した。
本稿では,マルチレベルSNNを用いた無線ニューロモルフィック分割計算アーキテクチャについて検討する。
論文 参考訳（メタデータ） (2024-11-07T14:08:35Z) - Distributed Blind Source Separation based on FastICA [47.97358059404364]
本稿では,元の信号源の同定を目的とした分散独立成分分析(ICA)アルゴリズムを提案する。
最もよく使われるICAアルゴリズムの1つはFastICAと呼ばれ、空間的な事前白化操作を必要とする。
我々は、いわゆる分散適応信号融合フレームワークの特性を活用することにより、ネットワーク全体の事前白化の明確なステップを回避することができることを示す。
論文 参考訳（メタデータ） (2024-10-24T19:27:05Z) - FusionLLM: A Decentralized LLM Training System on Geo-distributed GPUs with Adaptive Compression [55.992528247880685]
分散トレーニングは、システム設計と効率に関する重要な課題に直面します。
大規模深層ニューラルネットワーク(DNN)のトレーニング用に設計・実装された分散トレーニングシステムFusionLLMを提案する。
本システムと手法は,収束性を確保しつつ,ベースライン法と比較して1.45～9.39倍の高速化を実現可能であることを示す。
論文 参考訳（メタデータ） (2024-10-16T16:13:19Z) - Tiled Bit Networks: Sub-Bit Neural Network Compression Through Reuse of Learnable Binary Vectors [4.95475852994362]
本稿では,バイナリ重み付きニューラルネットワークのサブビット圧縮を実現するために,ビット列を持つタイル型ニューラルネットワーク層に対する新しい量子化方式を提案する。
私たちは完全に接続された層と畳み込み層の両方にアプローチを採用しています。
論文 参考訳（メタデータ） (2024-07-16T15:55:38Z) - GNN-LoFI: a Novel Graph Neural Network through Localized Feature-based
Histogram Intersection [51.608147732998994]
グラフニューラルネットワークは、グラフベースの機械学習の選択フレームワークになりつつある。
本稿では,古典的メッセージパッシングに代えて,ノード特徴の局所分布を解析するグラフニューラルネットワークアーキテクチャを提案する。
論文 参考訳（メタデータ） (2024-01-17T13:04:23Z) - Unsupervised Graph-based Learning Method for Sub-band Allocation in 6G Subnetworks [2.0583251142940377]
グラフベース学習を用いた無線ネットワークにおける周波数サブバンド割り当てのための教師なし手法を提案する。
サブネットワーク配置を競合グラフとしてモデル化し,グラフカラー化とPottsモデルにインスパイアされた教師なし学習アプローチを提案し,サブバンド割り当てを最適化する。
論文 参考訳（メタデータ） (2023-12-13T12:57:55Z) - A distributed neural network architecture for dynamic sensor selection
with application to bandwidth-constrained body-sensor networks [53.022158485867536]
ディープニューラルネットワーク(DNN)のための動的センサ選択手法を提案する。
データセット全体の固定選択ではなく、個々の入力サンプルに対して最適なセンササブセット選択を導出することができる。
無線センサネットワーク(WSN)の寿命を、各ノードの送信頻度に制約を加えることで、この動的選択をいかに利用できるかを示す。
論文 参考訳（メタデータ） (2023-08-16T14:04:50Z) - Deep Convolutional Learning-Aided Detector for Generalized Frequency
Division Multiplexing with Index Modulation [0.0]
提案手法は、まずゼロフォース検出器(ZF)を用いて受信信号を前処理し、その後、畳み込みニューラルネットワーク(CNN)と完全連結ニューラルネットワーク(FCNN)からなるニューラルネットワークを用いる。
FCNN部は2つの完全に接続された層しか使用せず、複雑さとBER(bit error rate)パフォーマンスのトレードオフをもたらすことができる。
提案したディープ畳み込みニューラルネットワークに基づく検出・復調方式は,ZF検出器よりも高いBER性能を示し,複雑性が増大することが実証されている。
論文 参考訳（メタデータ） (2022-02-06T22:18:42Z) - Network Adjustment: Channel Search Guided by FLOPs Utilization Ratio [101.84651388520584]
本稿では,ネットワークの精度をFLOPの関数として考慮した,ネットワーク調整という新しいフレームワークを提案する。
標準画像分類データセットと幅広いベースネットワークの実験は、我々のアプローチの有効性を実証している。
論文 参考訳（メタデータ） (2020-04-06T15:51:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。