論文の概要: Compact CNN Models for On-device Ocular-based User Recognition in Mobile
Devices
- arxiv url: http://arxiv.org/abs/2110.04953v1
- Date: Mon, 11 Oct 2021 01:23:07 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-13 08:00:31.427092
- Title: Compact CNN Models for On-device Ocular-based User Recognition in Mobile
Devices
- Title(参考訳): モバイル端末におけるオンデバイス眼型ユーザ認識のための小型CNNモデル
- Authors: Ali Almadan and Ajita Rattani
- Abstract要約: 本研究は,5つのニューラルネットワークプルーニング手法を評価し,眼画像を用いたデバイス上のCNN推論とモバイルユーザ検証のための知識蒸留法と比較する。
VISOB と UPFR-Periocular データセットの主観的非依存分析により,ResNet50 をベースモデルとしたモバイル眼球認証において,圧縮速度 8 の階層的等級別プルーニングの有効性が示唆された。
さらに,5つのモバイルデバイス上での深部特徴抽出時間として測定された実時間推定と検証精度の観点から,プルーニング法に対する知識蒸留の有効性が示唆された。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A number of studies have demonstrated the efficacy of deep learning
convolutional neural network (CNN) models for ocular-based user recognition in
mobile devices. However, these high-performing networks have enormous space and
computational complexity due to the millions of parameters and computations
involved. These requirements make the deployment of deep learning models to
resource-constrained mobile devices challenging. To this end, only a handful of
studies based on knowledge distillation and patch-based models have been
proposed to obtain compact size CNN models for ocular recognition in the mobile
environment. In order to further advance the state-of-the-art, this study for
the first time evaluates five neural network pruning methods and compares them
with the knowledge distillation method for on-device CNN inference and mobile
user verification using ocular images. Subject-independent analysis on VISOB
and UPFR-Periocular datasets suggest the efficacy of layerwise magnitude-based
pruning at a compression rate of 8 for mobile ocular-based authentication using
ResNet50 as the base model. Further, comparison with the knowledge distillation
suggests the efficacy of knowledge distillation over pruning methods in terms
of verification accuracy and the real-time inference measured as deep feature
extraction time on five mobile devices, namely, iPhone 6, iPhone X, iPhone XR,
iPad Air 2 and iPad 7th Generation.
- Abstract(参考訳): 多くの研究が、モバイルデバイスにおける眼に基づくユーザ認識に対するディープラーニング畳み込みニューラルネットワーク(cnn)モデルの有効性を実証している。
しかし、これらの高性能ネットワークは、数百万のパラメータと計算が関与しているため、膨大な空間と計算の複雑さを持つ。
これらの要件により、リソース制約のあるモバイルデバイスへのディープラーニングモデルのデプロイが困難になる。
この目的のために,モバイル環境における眼球認識のための小型cnnモデルを得るために,知識蒸留とパッチベースモデルを用いた一握りの研究が提案されている。
そこで本研究では,5つのニューラルネットワークプルーニング法を初めて評価し,デバイス上でのcnn推定と眼画像を用いたモバイルユーザ検証のための知識蒸留法と比較した。
VISOB と UPFR-Periocular データセットの主観的非依存分析により,ResNet50 をベースモデルとしたモバイル眼球認証において,圧縮速度 8 の階層的等級別プルーニングの有効性が示唆された。
さらに,iPhone 6, iPhone X, iPhone XR, iPad Air 2, iPad 7 世代5機種において, プルーニング法に対する知識蒸留の有効性と, 深部特徴抽出時間として測定された実時間推論の有効性が示唆された。
関連論文リスト
- Quanv4EO: Empowering Earth Observation by means of Quanvolutional Neural Networks [62.12107686529827]
本稿は、大量のリモートセンシングデータの処理において、量子コンピューティング技術を活用することへの大きなシフトを取り上げる。
提案したQuanv4EOモデルでは,多次元EOデータを前処理するための準進化法が導入された。
主要な知見は,提案モデルが画像分類の精度を維持するだけでなく,EOのユースケースの約5%の精度向上を図っていることを示唆している。
論文 参考訳(メタデータ) (2024-07-24T09:11:34Z) - Learning Lightweight Object Detectors via Multi-Teacher Progressive
Distillation [56.053397775016755]
本稿では,教師検出器の知識を学生に段階的に伝達する,知識蒸留への逐次的アプローチを提案する。
私たちの知識を最大限に活用するために、私たちはTransformerベースの教師検出器から、畳み込みベースの学生まで、初めて知識を抽出しました。
論文 参考訳(メタデータ) (2023-08-17T17:17:08Z) - Regression-Oriented Knowledge Distillation for Lightweight Ship
Orientation Angle Prediction with Optical Remote Sensing Images [11.466933077766052]
光リモートセンシング画像を用いた船舶方位角予測(SOAP)は重要な画像処理課題である。
本稿では、予測精度を損なうことなく、SOAPモデルのモデルサイズと計算コストを削減できる新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2023-07-13T05:36:19Z) - Designing an Improved Deep Learning-based Model for COVID-19 Recognition
in Chest X-ray Images: A Knowledge Distillation Approach [0.0]
本研究では,VGG19とResNet50V2という2つのニューラルネットワークを用いて,データセットの特徴抽出を改善する。
MobileNetV2はセマンティック機能を抽出し、モバイルと組み込みデバイスで最小限の計算を必要とする。
論文 参考訳(メタデータ) (2023-01-06T22:31:05Z) - Cross-modal Knowledge Distillation for Vision-to-Sensor Action
Recognition [12.682984063354748]
本研究では、VSKDフレームワークをエンドツーエンドで導入する。
このVSKDフレームワークでは、テストフェーズ中にウェアラブルデバイスから必要となるのは時系列データ(加速度計データ)のみである。
このフレームワークは、エッジデバイスに対する計算要求を減らすだけでなく、計算コストのかかるマルチモーダルアプローチのパフォーマンスと密に一致した学習モデルも生成する。
論文 参考訳(メタデータ) (2021-10-08T15:06:38Z) - Efficient training of lightweight neural networks using Online
Self-Acquired Knowledge Distillation [51.66271681532262]
オンライン自己獲得知識蒸留(OSAKD)は、ディープニューラルネットワークの性能をオンライン的に向上することを目的としている。
出力特徴空間におけるデータサンプルの未知確率分布を推定するために、k-nnノンパラメトリック密度推定手法を用いる。
論文 参考訳(メタデータ) (2021-08-26T14:01:04Z) - Transformer-Based Behavioral Representation Learning Enables Transfer
Learning for Mobile Sensing in Small Datasets [4.276883061502341]
時系列から一般化可能な特徴表現を学習できるモバイルセンシングデータのためのニューラルネットワークフレームワークを提供する。
このアーキテクチャは、CNNとTrans-formerアーキテクチャの利点を組み合わせて、より良い予測性能を実現する。
論文 参考訳(メタデータ) (2021-07-09T22:26:50Z) - ESAI: Efficient Split Artificial Intelligence via Early Exiting Using
Neural Architecture Search [6.316693022958222]
ディープニューラルネットワークは、多くのコンピュータビジョン関連タスクにおいて、従来の機械学習アルゴリズムよりも優れています。
大部分のデバイスは、優れたディープラーニングモデルがサーバー上のデータを解析する責任を負う、クラウドコンピューティングの方法論を活用しています。
本稿では、クラウドとオンデバイスモデルの両方を活用可能な、IoTデバイスにデプロイするための新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2021-06-21T04:47:53Z) - Energy Drain of the Object Detection Processing Pipeline for Mobile
Devices: Analysis and Implications [77.00418462388525]
本稿では、移動体拡張現実(AR)クライアントのエネルギー消費と、畳み込みニューラルネットワーク(CNN)に基づく物体検出を行う際の検出遅延について、初めて詳細な実験を行った。
我々は,移動体ARクライアントのエネルギー分析を精査し,CNNによる物体検出を行う際のエネルギー消費に関するいくつかの興味深い視点を明らかにした。
論文 参考訳(メタデータ) (2020-11-26T00:32:07Z) - Knowledge Distillation: A Survey [87.51063304509067]
ディープニューラルネットワークは、特にコンピュータビジョンタスクにおいて、産業と学術の両方で成功している。
リソースが限られているデバイスに、これらの面倒なディープモデルをデプロイすることは難しい。
知識蒸留は、大きな教師モデルから小さな学生モデルを効果的に学習する。
論文 参考訳(メタデータ) (2020-06-09T21:47:17Z) - A Data and Compute Efficient Design for Limited-Resources Deep Learning [68.55415606184]
同変ニューラルネットワークは 深層学習コミュニティへの関心を高めています
医療分野では、データの対称性を効果的に活用して、より正確で堅牢なモデルの構築に成功している。
ディープ・ラーニング・ソリューションのモバイル・オン・デバイス実装は医療応用のために開発されている。
しかし、同変モデルは大規模で計算コストのかかるアーキテクチャを用いて一般的に実装されており、モバイルデバイス上では動作しない。
本研究では、MobileNetV2の同変バージョンを設計、テストし、さらにモデル量子化により最適化し、より効率的な推論を可能にする。
論文 参考訳(メタデータ) (2020-04-21T00:49:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。