論文の概要: SynthDistill: Face Recognition with Knowledge Distillation from
Synthetic Data
- arxiv url: http://arxiv.org/abs/2308.14852v1
- Date: Mon, 28 Aug 2023 19:15:27 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-30 17:01:37.337125
- Title: SynthDistill: Face Recognition with Knowledge Distillation from
Synthetic Data
- Title(参考訳): synthdistill: 合成データからの知識蒸留による顔認識
- Authors: Hatef Otroshi Shahreza, Anjith George, S\'ebastien Marcel
- Abstract要約: 最先端の顔認識ネットワークは計算コストが高く、モバイルアプリケーションでは利用できないことが多い。
本稿では,教師の事前学習した顔認識モデルの知識を合成データを用いて抽出し,軽量な顔認識モデルを訓練するための新しい枠組みを提案する。
我々は、識別ラベルのない合成顔画像を用いて、合成データセットのクラス内変動生成における問題を緩和する。
- 参考スコア(独自算出の注目度): 8.026313049094146
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: State-of-the-art face recognition networks are often computationally
expensive and cannot be used for mobile applications. Training lightweight face
recognition models also requires large identity-labeled datasets. Meanwhile,
there are privacy and ethical concerns with collecting and using large face
recognition datasets. While generating synthetic datasets for training face
recognition models is an alternative option, it is challenging to generate
synthetic data with sufficient intra-class variations. In addition, there is
still a considerable gap between the performance of models trained on real and
synthetic data. In this paper, we propose a new framework (named SynthDistill)
to train lightweight face recognition models by distilling the knowledge of a
pretrained teacher face recognition model using synthetic data. We use a
pretrained face generator network to generate synthetic face images and use the
synthesized images to learn a lightweight student network. We use synthetic
face images without identity labels, mitigating the problems in the intra-class
variation generation of synthetic datasets. Instead, we propose a novel dynamic
sampling strategy from the intermediate latent space of the face generator
network to include new variations of the challenging images while further
exploring new face images in the training batch. The results on five different
face recognition datasets demonstrate the superiority of our lightweight model
compared to models trained on previous synthetic datasets, achieving a
verification accuracy of 99.52% on the LFW dataset with a lightweight network.
The results also show that our proposed framework significantly reduces the gap
between training with real and synthetic data. The source code for replicating
the experiments is publicly released.
- Abstract(参考訳): 最先端の顔認識ネットワークはしばしば計算コストが高く、モバイルアプリケーションでは利用できない。
軽量顔認識モデルのトレーニングには、大きなIDラベル付きデータセットも必要である。
一方、大きな顔認識データセットの収集と使用には、プライバシと倫理的な懸念がある。
顔認識モデルのトレーニングのための合成データセットの生成は別の選択肢であるが、十分なクラス内変異を持つ合成データを生成することは困難である。
さらに、実データと合成データでトレーニングされたモデルのパフォーマンスには、依然としてかなりのギャップがある。
本稿では,教師が事前学習した顔認識モデルの知識を合成データを用いて抽出し,軽量な顔認識モデルを訓練するフレームワーク(SynthDistill)を提案する。
予め訓練された顔生成ネットワークを用いて合成顔画像を生成し,合成画像を用いて軽量な学生ネットワークを学習する。
識別ラベルのない合成顔画像を用いて、合成データセットのクラス内変動生成における問題を緩和する。
そこで本研究では,顔生成ネットワークの中間潜時空間から新たな動的サンプリング手法を提案し,課題の画像の新たなバリエーションを含むとともに,トレーニングバッチにおける新たな顔画像の探索を行う。
5つの異なる顔認識データセットの結果は、以前の合成データセットでトレーニングされたモデルと比較して、我々の軽量モデルの優位を示し、軽量ネットワークでlfwデータセット上で99.52%の検証精度を達成している。
また,提案フレームワークは,実データと合成データとのトレーニング間のギャップを大幅に低減することを示した。
実験を複製するソースコードが公開されている。
関連論文リスト
- Image Captions are Natural Prompts for Text-to-Image Models [70.30915140413383]
本研究では,合成データの学習効果とプロンプトによる合成データ分布の関係を解析した。
本稿では,テキストから画像への生成モデルにより,より情報的で多様な学習データを合成する簡易かつ効果的な手法を提案する。
本手法は,合成学習データに基づいて訓練したモデルの性能を大幅に向上させる。
論文 参考訳(メタデータ) (2023-07-17T14:38:11Z) - Unsupervised Face Recognition using Unlabeled Synthetic Data [16.494722503803196]
ラベルなし合成データ(U SynthFace)に基づく教師なし顔認識モデルを提案する。
提案したU SynthFaceは、同一の合成インスタンスの2つの拡張画像の類似性を最大化することを学ぶ。
ラベルなし合成データを用いた比較的高い認識精度を実現するためのU SynthFaceの有効性を実証する。
論文 参考訳(メタデータ) (2022-11-14T14:05:19Z) - Is synthetic data from generative models ready for image recognition? [69.42645602062024]
本研究では,最新のテキスト・画像生成モデルから生成した合成画像が,画像認識タスクにどのように利用できるかを検討した。
本稿では,既存の生成モデルからの合成データの強大さと欠点を示し,認識タスクに合成データを適用するための戦略を提案する。
論文 参考訳(メタデータ) (2022-10-14T06:54:24Z) - SFace: Privacy-friendly and Accurate Face Recognition using Synthetic
Data [9.249824128880707]
本稿では,プライバシフレンドリーな合成顔データセットを用いて顔認識モデルを訓練し,その実現可能性について検討する。
このようなデータを用いて顔認識モデルを訓練する際のプライバシー面に対処するため、合成データセットと生成モデルを訓練するために使用される元の認証データセットとの同一性に関する広範な評価実験を行った。
また,プライバシフレンドリーなデータセットであるSFace上で,3つの異なる学習戦略,多クラス分類,ラベルフリーな知識伝達,多クラス分類と知識伝達の複合学習を用いて,顔認識を訓練することを提案する。
論文 参考訳(メタデータ) (2022-06-21T16:42:04Z) - Fake It Till You Make It: Face analysis in the wild using synthetic data
alone [9.081019005437309]
合成データだけで顔関連コンピュータビジョンを野生で実行可能であることを示す。
本稿では、手続き的に生成された3次元顔モデルと手作り資産の包括的ライブラリを組み合わせることで、前例のないリアリズムによるトレーニング画像のレンダリングを行う方法について述べる。
論文 参考訳(メタデータ) (2021-09-30T13:07:04Z) - SynFace: Face Recognition with Synthetic Data [83.15838126703719]
我々は、ID混在(IM)とドメイン混在(DM)を併用したSynFaceを考案し、パフォーマンスギャップを緩和する。
また、合成顔画像の系統的実験分析を行い、合成データを顔認識に効果的に活用する方法についての知見を提供する。
論文 参考訳(メタデータ) (2021-08-18T03:41:54Z) - Identity-Aware CycleGAN for Face Photo-Sketch Synthesis and Recognition [61.87842307164351]
まず,画像生成ネットワークの監視に新たな知覚損失を適用したIACycleGAN(Identity-Aware CycleGAN)モデルを提案する。
眼や鼻などの重要な顔領域の合成により多くの注意を払うことで、フォトエッチング合成におけるサイクガンを改善する。
IACycleGANによる画像の合成を反復的に行う合成モデルと認識モデルとの相互最適化手法を開発した。
論文 参考訳(メタデータ) (2021-03-30T01:30:08Z) - Learning Inverse Rendering of Faces from Real-world Videos [52.313931830408386]
既存の方法は、顔画像を3つの構成要素(アルベド、ノーマル、照明)に分解する。
本稿では,アルベドと正常の整合性の仮定に基づいて,我々のモデルを実顔ビデオでトレーニングするための弱い教師付きトレーニング手法を提案する。
私たちのネットワークは、実データと合成データの両方で訓練されています。
論文 参考訳(メタデータ) (2020-03-26T17:26:40Z) - Joint Deep Learning of Facial Expression Synthesis and Recognition [97.19528464266824]
顔表情の合成と認識を効果的に行うための新しい統合深層学習法を提案する。
提案手法は, 2段階の学習手順を伴い, まず, 表情の異なる顔画像を生成するために, 表情合成生成対向ネットワーク (FESGAN) を事前訓練する。
実画像と合成画像間のデータバイアスの問題を軽減するために,新しい実データ誘導バックプロパゲーション(RDBP)アルゴリズムを用いたクラス内損失を提案する。
論文 参考訳(メタデータ) (2020-02-06T10:56:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。