論文の概要: On Correlated Knowledge Distillation for Monitoring Human Pose with Radios

• arxiv url: http://arxiv.org/abs/2305.14829v1
• Date: Wed, 24 May 2023 07:34:49 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-25 18:42:15.156374
• Title: On Correlated Knowledge Distillation for Monitoring Human Pose with Radios
• Title（参考訳）: 無線で人体をモニタリングする関連知識蒸留について
• Authors: Shiva Raj Pokhrel, Jonathan Kua, Deol Satish, Phil Williams, Arkady Zaslavsky, Seng W. Loke, Jinho Choi
• Abstract要約: 我々は,無線周波数(RF)センシング技術と相関知識蒸留(CKD)理論を結合させることにより,新しいアイデアの実現可能性を検討するための簡易な実験ベッドを提案し,開発する。 提案したCKDフレームワークは,ロバストな"Teacher"モデルからパラメータ化された"Student"モデルへの知識の伝達とヒューズを行う。
• 参考スコア（独自算出の注目度）: 41.74439665339141
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: In this work, we propose and develop a simple experimental testbed to study the feasibility of a novel idea by coupling radio frequency (RF) sensing technology with Correlated Knowledge Distillation (CKD) theory towards designing lightweight, near real-time and precise human pose monitoring systems. The proposed CKD framework transfers and fuses pose knowledge from a robust "Teacher" model to a parameterized "Student" model, which can be a promising technique for obtaining accurate yet lightweight pose estimates. To assure its efficacy, we implemented CKD for distilling logits in our integrated Software Defined Radio (SDR)-based experimental setup and investigated the RF-visual signal correlation. Our CKD-RF sensing technique is characterized by two modes -- a camera-fed Teacher Class Network (e.g., images, videos) with an SDR-fed Student Class Network (e.g., RF signals). Specifically, our CKD model trains a dual multi-branch teacher and student network by distilling and fusing knowledge bases. The resulting CKD models are then subsequently used to identify the multimodal correlation and teach the student branch in reverse. Instead of simply aggregating their learnings, CKD training comprised multiple parallel transformations with the two domains, i.e., visual images and RF signals. Once trained, our CKD model can efficiently preserve privacy and utilize the multimodal correlated logits from the two different neural networks for estimating poses without using visual signals/video frames (by using only the RF signals).
• Abstract（参考訳）: 本研究では,無線周波数(RF)センシング技術とCorrelated Knowledge Distillation(CKD)理論を結合して,軽量でほぼリアルタイムで高精度なポーズ監視システムを構築することで,新しいアイデアの実現可能性を検討するための簡易な実験ベッドを提案する。 提案するckdフレームワークは,ロバストな"教師"モデルからパラメータ化された"学生"モデルへのポーズ知識の転送と融合を行う。 有効性を確認するため,我々は,sdr(software defined radio)を用いた実験装置でロジットを蒸留するckdを実装し,rf-visual信号相関について検討した。 我々のCKD-RFセンシング技術は,SDR-feed Student Class Network(RF信号など)とカメラフィードTeacher Class Network(画像,ビデオなど)の2つのモードで特徴付けられる。 特にckdモデルは,知識ベースを蒸留し,融合することにより,マルチブランチ教師と学生ネットワークを訓練する。 結果のCKDモデルはその後、マルチモーダル相関を識別し、逆の学生分岐を教えるために使用される。 学習を単純に集約する代わりに、ckdトレーニングは2つのドメイン、すなわち視覚画像とrf信号との複数の並列変換で構成された。 トレーニングされたCKDモデルは、プライバシーを効率的に保護し、2つの異なるニューラルネットワークからのマルチモーダル相関ロジットを使用して、視覚信号やビデオフレームを(RF信号のみを使用して)使用せずにポーズを推定する。

関連論文リスト

• 4D ASR: Joint Beam Search Integrating CTC, Attention, Transducer, and Mask Predict Decoders [53.297697898510194]
  我々は、4つのデコーダが同一のエンコーダを共有する共同モデリング手法を提案し、これを4Dモデリングと呼ぶ。 4Dモデルを効率的に訓練するために,マルチタスク学習を安定化させる2段階のトレーニング戦略を導入する。 さらに,3つのデコーダを組み合わせることで,新しい1パスビーム探索アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-06-05T05:18:20Z)
• Dual-Student Knowledge Distillation Networks for Unsupervised Anomaly Detection [2.06682776181122]
  学生教師ネットワーク(S-T)は教師なしの異常検出に好まれる。 しかし、バニラS-Tネットワークは安定ではない。 本稿では,新しい知識蒸留アーキテクチャを提案する。
  論文  参考訳（メタデータ） (2024-02-01T09:32:39Z)
• CMD: Self-supervised 3D Action Representation Learning with Cross-modal Mutual Distillation [130.08432609780374]
  3D行動認識では、骨格のモダリティの間に豊富な相補的な情報が存在する。 本稿では,CMD(Cross-modal Mutual Distillation)フレームワークを提案する。 提案手法は,既存の自己管理手法より優れ,新しい記録を多数設定する。
  論文  参考訳（メタデータ） (2022-08-26T06:06:09Z)
• Multi-task Learning Approach for Modulation and Wireless Signal Classification for 5G and Beyond: Edge Deployment via Model Compression [1.218340575383456]
  将来的な通信網は、異種無線デバイスの成長に対応するために、少ないスペクトルに対処する必要がある。 我々は、深層ニューラルネットワークに基づくマルチタスク学習フレームワークの可能性を利用して、変調と信号分類タスクを同時に学習する。 公共利用のための包括的ヘテロジニアス無線信号データセットを提供する。
  論文  参考訳（メタデータ） (2022-02-26T14:51:02Z)
• How and When Adversarial Robustness Transfers in Knowledge Distillation? [137.11016173468457]
  本稿では,教師モデルから学生モデルへの知識蒸留(KD)における対向ロバスト性の移行について検討する。 我々は,標準的なKDトレーニングが対向的堅牢性を維持するのに失敗することを示すとともに,KDIGA(入力勾配アライメント)を併用したKDを提案する。 特定の前提の下では、提案したKDIGAを用いた学生モデルは、少なくとも教師モデルと同じ確証された堅牢性を達成することができることを証明している。
  論文  参考訳（メタデータ） (2021-10-22T21:30:53Z)
• Cross-modal Knowledge Distillation for Vision-to-Sensor Action Recognition [12.682984063354748]
  本研究では、VSKDフレームワークをエンドツーエンドで導入する。 このVSKDフレームワークでは、テストフェーズ中にウェアラブルデバイスから必要となるのは時系列データ(加速度計データ)のみである。 このフレームワークは、エッジデバイスに対する計算要求を減らすだけでなく、計算コストのかかるマルチモーダルアプローチのパフォーマンスと密に一致した学習モデルも生成する。
  論文  参考訳（メタデータ） (2021-10-08T15:06:38Z)
• Knowledge Distillation By Sparse Representation Matching [107.87219371697063]
  本稿では,一方の畳み込みネットワーク(cnn)から他方へ,スパース表現を用いて中間知識を伝達するスパース表現マッチング(srm)を提案する。 勾配降下を利用して効率的に最適化し、任意のCNNにプラグアンドプレイで統合できるニューラルプロセッシングブロックとして定式化します。 実験の結果,教師と生徒のネットワーク間のアーキテクチャの違いに頑健であり,複数のデータセットにまたがる他のkd技術よりも優れていた。
  論文  参考訳（メタデータ） (2021-03-31T11:47:47Z)
• Semantics-aware Adaptive Knowledge Distillation for Sensor-to-Vision Action Recognition [131.6328804788164]
  本稿では,視覚・センサ・モダリティ(動画)における行動認識を強化するためのフレームワーク,Semantics-Aware Adaptive Knowledge Distillation Networks (SAKDN)を提案する。 SAKDNは複数のウェアラブルセンサーを教師のモダリティとして使用し、RGB動画を学生のモダリティとして使用している。
  論文  参考訳（メタデータ） (2020-09-01T03:38:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。