論文の概要: Two-in-one Knowledge Distillation for Efficient Facial Forgery Detection
- arxiv url: http://arxiv.org/abs/2302.10437v1
- Date: Tue, 21 Feb 2023 04:34:06 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-22 16:25:44.175886
- Title: Two-in-one Knowledge Distillation for Efficient Facial Forgery Detection
- Title（参考訳）: 顔偽造検出のための2-in-one知識蒸留法
- Authors: Chuyang Zhou, Jiajun Huang, Daochang Liu, Chengbin Du, Siqi Ma, Surya
Nepal, Chang Xu
- Abstract要約: 既存の知識蒸留法では, 二重分岐モデルから単一分岐モデルへの蒸留が困難であることがわかった。
そこで本研究では,大規模な二重ブランチネットワークから小さな単一ブランチネットワークへの情報を円滑にマージ可能な,新しい2-in-one知識蒸留フレームワークを提案する。
- 参考スコア（独自算出の注目度）: 32.86917848610336
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Facial forgery detection is a crucial but extremely challenging topic, with
the fast development of forgery techniques making the synthetic artefact highly
indistinguishable. Prior works show that by mining both spatial and frequency
information the forgery detection performance of deep learning models can be
vastly improved. However, leveraging multiple types of information usually
requires more than one branch in the neural network, which makes the model
heavy and cumbersome. Knowledge distillation, as an important technique for
efficient modelling, could be a possible remedy. We find that existing
knowledge distillation methods have difficulties distilling a dual-branch model
into a single-branch model. More specifically, knowledge distillation on both
the spatial and frequency branches has degraded performance than distillation
only on the spatial branch. To handle such problem, we propose a novel
two-in-one knowledge distillation framework which can smoothly merge the
information from a large dual-branch network into a small single-branch
network, with the help of different dedicated feature projectors and the
gradient homogenization technique. Experimental analysis on two datasets,
FaceForensics++ and Celeb-DF, shows that our proposed framework achieves
superior performance for facial forgery detection with much fewer parameters.
- Abstract（参考訳）: 顔の偽造検出は重要だが極めて困難な話題であり、偽造技術の急速な発展により人工工芸品の識別が困難になっている。
先行研究は,空間情報と周波数情報の両方をマイニングすることにより,深層学習モデルの偽検出性能を大幅に向上できることを示した。
しかし、複数のタイプの情報を活用するには、通常、ニューラルネットワークの複数のブランチが必要になるため、モデルは重く扱いにくい。
効率的なモデリングのための重要な技術として、知識蒸留が考えられる。
既存の知識蒸留法では,二重分岐モデルから単分岐モデルへの蒸留が困難であることがわかった。
具体的には、空間枝と周波数枝の知識蒸留は、空間枝のみの蒸留よりも性能が低下した。
そこで,本研究では,異なる特徴プロジェクタと勾配均質化技術を用いて,大規模デュアルブランチネットワークからの情報を小さなシングルブランチネットワークに円滑に統合できる,新たな2対1の知識蒸留フレームワークを提案する。
FaceForensics++とCeleb-DFの2つのデータセットを実験的に分析した結果,提案手法は顔の偽造検出に優れ,パラメータがはるかに少ない。
関連論文リスト
- LIX: Implicitly Infusing Spatial Geometric Prior Knowledge into Visual
Semantic Segmentation for Autonomous Driving [26.319489913682574]
本稿では,ロジット蒸留と特徴蒸留の両面に新たな貢献をし,Learning to Infuse "X" (LIX) フレームワークを紹介した。
本稿では,2つの技術ノベルティを含む適応的な特徴蒸留アルゴリズムを開発した。
論文 参考訳（メタデータ） (2024-03-13T03:24:36Z) - GenFace: A Large-Scale Fine-Grained Face Forgery Benchmark and Cross Appearance-Edge Learning [50.7702397913573]
フォトリアリスティック・ジェネレータの急速な進歩は、真の画像と操作された画像の相違がますます不明瞭になっている臨界点に達している。
公開されている顔の偽造データセットはいくつかあるが、偽造顔は主にGANベースの合成技術を用いて生成される。
我々は,大規模で多様できめ細かな高忠実度データセットであるGenFaceを提案し,ディープフェイク検出の進展を促進する。
論文 参考訳（メタデータ） (2024-02-03T03:13:50Z) - Efficient Visual Fault Detection for Freight Train Braking System via
Heterogeneous Self Distillation in the Wild [8.062167870951706]
本稿では,検出精度と速度を確保するため,不均一な自己蒸留フレームワークを提案する。
我々は,学習効率を向上させるために,ラベル付近の値にネットワークを集中させる新たな損失関数を用いる。
我々のフレームワークは毎秒37フレーム以上を達成でき、従来の蒸留法と比較して高い精度を維持することができる。
論文 参考訳（メタデータ） (2023-07-03T01:27:39Z) - MixedTeacher : Knowledge Distillation for fast inference textural
anomaly detection [4.243356707599485]
異常検出のための教師なしの学習は 画像処理研究の中心にある
本稿では,知識蒸留の概念に基づく新しい手法を提案する。
提案したテクスチャ異常検出器は,SOTA法と比較して,どのテクスチャの欠陥も検出し,高速な推論時間を有する。
論文 参考訳（メタデータ） (2023-06-16T14:14:20Z) - Self-Knowledge Distillation via Dropout [0.7883397954991659]
ドロップアウト(SD-Dropout)を用いた簡便かつ効果的な自己知識蒸留法を提案する。
我々の方法は、追加のトレーニング可能なモジュールを必要とせず、データに依存しず、単純な操作しか必要としない。
論文 参考訳（メタデータ） (2022-08-11T05:08:55Z) - ERNIE-Search: Bridging Cross-Encoder with Dual-Encoder via Self
On-the-fly Distillation for Dense Passage Retrieval [54.54667085792404]
両エンコーダのクロスアーキテクチャ蒸留を著しく向上させる新しい蒸留法を提案する。
本手法は,バニラ二重エンコーダへの遅延相互作用(ColBERT)を効果的に蒸留できる自己オンザフライ蒸留法を導入し,また,クロスエンコーダの教師による性能向上のためにカスケード蒸留プロセスを導入している。
論文 参考訳（メタデータ） (2022-05-18T18:05:13Z) - Target-aware Dual Adversarial Learning and a Multi-scenario
Multi-Modality Benchmark to Fuse Infrared and Visible for Object Detection [65.30079184700755]
本研究は、物体検出のために異なるように見える赤外線と可視画像の融合の問題に対処する。
従来のアプローチでは、2つのモダリティの根底にある共通点を発見し、反復最適化またはディープネットワークによって共通空間に融合する。
本稿では、融合と検出の連立問題に対する二段階最適化の定式化を提案し、その後、核融合と一般的に使用される検出ネットワークのためのターゲット認識デュアル逆学習(TarDAL)ネットワークに展開する。
論文 参考訳（メタデータ） (2022-03-30T11:44:56Z) - Multi-Scale Aligned Distillation for Low-Resolution Detection [68.96325141432078]
本稿では,高分解能モデルや多分解能モデルから知識を抽出することで,低分解能モデルの性能を向上させることに焦点を当てる。
いくつかのインスタンスレベルの検出タスクとデータセットにおいて,本手法を用いて訓練された低解像度モデルと,従来のマルチスケールトレーニングによる訓練された高解像度モデルとを競合的に処理する。
論文 参考訳（メタデータ） (2021-09-14T12:53:35Z) - Diverse Knowledge Distillation for End-to-End Person Search [81.4926655119318]
人物検索は、画像ギャラリーから特定の人物をローカライズし識別することを目的としている。
最近の手法は2つのグループ、すなわち2段階とエンドツーエンドのアプローチに分類できる。
ボトルネックを解消するために、多様な知識蒸留を備えたシンプルで強力なエンドツーエンドネットワークを提案します。
論文 参考訳（メタデータ） (2020-12-21T09:04:27Z) - Interpretable Detail-Fidelity Attention Network for Single Image
Super-Resolution [89.1947690981471]
本研究では,スムースとディテールを段階的に分割・収束的に処理する,目的・解釈可能なディテール・ファイダリティ・アテンション・ネットワークを提案する。
特に,詳細推論において顕著な解釈可能な特徴表現のためのヘシアンフィルタを提案する。
実験により,提案手法は最先端手法よりも優れた性能を示すことが示された。
論文 参考訳（メタデータ） (2020-09-28T08:31:23Z) - SWP-LeafNET: A novel multistage approach for plant leaf identification
based on deep CNN [1.9981375888949475]
葉分類は、植物種の自動識別のためのコンピュータビジョンタスクである。
近年、研究者は深層学習に基づく手法に傾倒している。
本稿では,植物学者の行動が葉の識別においてモデル化され,行動類似度を最大化するための高効率な手法を提案する。
論文 参考訳（メタデータ） (2020-09-10T20:28:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。