論文の概要: PreFallKD: Pre-Impact Fall Detection via CNN-ViT Knowledge Distillation
- arxiv url: http://arxiv.org/abs/2303.03634v3
- Date: Wed, 29 Mar 2023 01:22:48 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-30 17:37:37.442230
- Title: PreFallKD: Pre-Impact Fall Detection via CNN-ViT Knowledge Distillation
- Title(参考訳): PreFallKD: CNN-Vitナレッジ蒸留によるプレImpact Fall検出
- Authors: Tin-Han Chi, Kai-Chun Liu, Chia-Yeh Hsieh, Yu Tsao, Chia-Tai Chan
- Abstract要約: 本稿では,CNN-ViT の知識蒸留,すなわち PreFallKD を用いて,検出性能と計算複雑性のバランスをとるために,新しい影響前の転倒検出法を提案する。
提案したPreFallKDは,事前学習した教師モデルから生徒モデルに検出知識を伝達する。
実験の結果、PreFallKDは試験期間中に学生モデルを強化し、信頼度の高いF1スコア(92.66%)とリードタイム(551.3ms)を達成することが示された。
- 参考スコア(独自算出の注目度): 8.667056236149918
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Fall accidents are critical issues in an aging and aged society. Recently,
many researchers developed pre-impact fall detection systems using deep
learning to support wearable-based fall protection systems for preventing
severe injuries. However, most works only employed simple neural network models
instead of complex models considering the usability in resource-constrained
mobile devices and strict latency requirements. In this work, we propose a
novel pre-impact fall detection via CNN-ViT knowledge distillation, namely
PreFallKD, to strike a balance between detection performance and computational
complexity. The proposed PreFallKD transfers the detection knowledge from the
pre-trained teacher model (vision transformer) to the student model
(lightweight convolutional neural networks). Additionally, we apply data
augmentation techniques to tackle issues of data imbalance. We conduct the
experiment on the KFall public dataset and compare PreFallKD with other
state-of-the-art models. The experiment results show that PreFallKD could boost
the student model during the testing phase and achieves reliable F1-score
(92.66%) and lead time (551.3 ms).
- Abstract(参考訳): 転倒事故は高齢社会において重大な問題である。
近年,多くの研究者が,重傷の予防を目的としたウェアラブル型転倒保護システムを支援するために,ディープラーニングを用いた衝突前転倒検知システムを開発した。
しかし、ほとんどの作業では、リソース制約のあるモバイルデバイスのユーザビリティと厳格なレイテンシ要件を考慮した複雑なモデルではなく、単純なニューラルネットワークモデルのみを採用した。
本研究では,cnn-vit知識蒸留による衝突前落下検出法,すなわちprefallkdを提案し,検出性能と計算複雑性のバランスをとる。
提案するprefallkdは,事前学習した教師モデル (vision transformer) から学生モデル (lightweight convolutional neural networks) へ検出知識を伝達する。
さらに,データ不均衡問題に対処するためにデータ拡張手法を適用した。
我々は、kfall publicデータセットで実験を行い、prefallkdを他の最先端モデルと比較する。
実験の結果、PreFallKDは試験期間中に学生モデルを強化し、信頼性の高いF1スコア(92.66%)とリードタイム(551.3ms)を達成した。
関連論文リスト
- Accident Impact Prediction based on a deep convolutional and recurrent neural network model [0.24999074238880484]
本研究では,事故後の影響を予測するためにカスケードモデルと呼ばれるディープニューラルネットワークモデルを提案する。
ロサンゼルス郡から入手可能な実世界のデータを利用して、事故後の影響を予測する。
その結果、最小限の影響の予測における精度の向上と、より重大な影響の予測におけるリコールの精度の向上が明らかになった。
論文 参考訳(メタデータ) (2024-11-12T04:27:06Z) - Zero-shot Retrieval: Augmenting Pre-trained Models with Search Engines [83.65380507372483]
大規模で事前訓練されたモデルは、問題を解決するのに必要なタスク固有のデータの量を劇的に削減するが、多くの場合、ドメイン固有のニュアンスを箱から取り出すのに失敗する。
本稿では,NLPとマルチモーダル学習の最近の進歩を活用して,検索エンジン検索による事前学習モデルを強化する方法について述べる。
論文 参考訳(メタデータ) (2023-11-29T05:33:28Z) - Automatic diagnosis of knee osteoarthritis severity using Swin
transformer [55.01037422579516]
変形性膝関節症 (KOA) は膝関節の慢性的な痛みと硬直を引き起こす疾患である。
我々は,Swin Transformer を用いて KOA の重大度を予測する自動手法を提案する。
論文 参考訳(メタデータ) (2023-07-10T09:49:30Z) - Prevention is better than cure: a case study of the abnormalities
detection in the chest [4.000351859705655]
データ不均衡の一連の単純なテストが、データ取得およびアノテーションプロセスの欠陥を露呈する様子を示す。
データ収集段階でのエラーは、モデルを正しく検証することを困難にします。
予測モデルのライフサイクル全体を通して、データの監視とモデルのバランス(フェアネス)について説明する。
論文 参考訳(メタデータ) (2023-05-18T13:28:00Z) - Deep Learning-based Fall Detection Algorithm Using Ensemble Model of
Coarse-fine CNN and GRU Networks [7.624051346741515]
本研究では,大小の畳み込みニューラルネットワークとゲートリカレントユニットを組み合わせたアンサンブルモデルを提案する。
提案したモデルは、それぞれ92.54%、96.13%、94.26%のリコール、精度、Fスコアを達成する。
論文 参考訳(メタデータ) (2023-04-13T08:30:46Z) - TWINS: A Fine-Tuning Framework for Improved Transferability of
Adversarial Robustness and Generalization [89.54947228958494]
本稿では,様々な分類タスクにおいて,逆向きに事前訓練されたモデルの微調整に焦点を当てる。
本稿では,TWINS(Two-WIng NormliSation)ファインチューニングフレームワークを提案する。
TWINSは、一般化とロバスト性の両方の観点から、幅広い画像分類データセットに有効であることが示されている。
論文 参考訳(メタデータ) (2023-03-20T14:12:55Z) - Fault Prognosis in Particle Accelerator Power Electronics Using Ensemble
Learning [0.755972004983746]
早期の故障検出と故障の予後は、複雑なエンジニアリングシステムの効率的かつ安全な運用を保証するために不可欠である。
本研究では,スカラー化中性子源(SNS)とそのパワーエレクトロニクスに関する21の故障予後実験を行った。
多様なモデルの複数の層を特徴とする階層的な投票アンサンブルは、断層前駆体を早期に検出する際、優れた性能を維持している。
論文 参考訳(メタデータ) (2022-09-30T16:30:16Z) - A New Knowledge Distillation Network for Incremental Few-Shot Surface
Defect Detection [20.712532953953808]
本稿では,DKAN(Dual Knowledge Align Network)と呼ばれる新しい知識蒸留ネットワークを提案する。
提案したDKAN法は,事前学習型ファインタニング伝達学習パラダイムを踏襲し,ファインタニングのための知識蒸留フレームワークを設計した。
Few-shot NEU-DETデータセットをインクリメンタルに実験した結果、DKANは様々なシーンで他の手法よりも優れていることが示された。
論文 参考訳(メタデータ) (2022-09-01T15:08:44Z) - Ranking-Based Physics-Informed Line Failure Detection in Power Grids [66.0797334582536]
ライン障害のリアルタイムかつ正確な検出は、極端な気象の影響を緩和し、緊急制御を活性化する最初のステップである。
電力収支方程式は、非線形性、極端な事象における発生の不確実性の増加、グリッドオブザーバビリティの欠如は、従来のデータ駆動障害検出手法の効率を損なう。
本稿では,グリッドトポロジ情報を利用した物理インフォームドライン故障検出器(FIELD)を提案する。
論文 参考訳(メタデータ) (2022-08-31T18:19:25Z) - Federated Learning with Unreliable Clients: Performance Analysis and
Mechanism Design [76.29738151117583]
Federated Learning(FL)は、分散クライアント間で効果的な機械学習モデルをトレーニングするための有望なツールとなっている。
しかし、低品質のモデルは信頼性の低いクライアントによってアグリゲータサーバにアップロードすることができ、劣化やトレーニングの崩壊につながる。
クライアントの信頼できない振る舞いをモデル化し、このようなセキュリティリスクを軽減するための防御メカニズムを提案する。
論文 参考訳(メタデータ) (2021-05-10T08:02:27Z) - Non-Singular Adversarial Robustness of Neural Networks [58.731070632586594]
小さな入力摂動に対する過敏性のため、アドリヤルロバスト性はニューラルネットワークにとって新たな課題となっている。
我々は,データ入力とモデル重みの共振レンズを用いて,ニューラルネットワークの非特異な対角性の概念を定式化する。
論文 参考訳(メタデータ) (2021-02-23T20:59:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。