論文の概要: ViT-FREE: Efficient Face Recognition via Early Exiting and Synthetic Adaptation

• arxiv url: http://arxiv.org/abs/2606.12023v1
• Date: Wed, 10 Jun 2026 12:46:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-11 16:42:38.454669
• Title: ViT-FREE: Efficient Face Recognition via Early Exiting and Synthetic Adaptation
• Title（参考訳）: ViT-FREE:早期退避と合成適応による効率的な顔認識
• Authors: Tahar Chettaoui, Guray Ozgur, Eduarda Caldeira, Naser Damer, Fadi Boutros,
• Abstract要約: 視覚変換器(ViT)はコンピュータビジョンにおいて大きな注目を集めており、顔認識(FR)の強い可能性を示している。 本研究は, 高速FR推論のための簡易かつ効果的なトレーニングフリー戦略として, 事前学習したViTの早期退避について検討する。 バックボーンモデルの変更や再トレーニングをすることなく、中間表現から直接顔認証を可能にするマルチエグジットフレームワークであるViT-FREEを紹介する。
• 参考スコア（独自算出の注目度）: 16.250163286204593
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Vision Transformers (ViTs) have gained significant attention in computer vision and shown strong potential for face recognition (FR). However, their high computational cost makes deployment on resource-constrained devices challenging, motivating the need for methods that balance efficiency and accuracy. In this work, we investigate early exiting in pretrained ViTs as a simple yet effective training-free strategy for efficient FR inference. Leveraging the uniform feature dimensionality across transformer encoder blocks, we introduce ViT-FREE, a multi-exit framework that enables face verification directly from intermediate representations without modifying or retraining the backbone model, and thus, reducing inference cost. Empirically, we show that patch embeddings and attention maps evolve progressively across depth, exhibiting high similarity between consecutive ViT blocks and increasing alignment with the final representation. This indicates gradual feature refinement and attention convergence, suggesting that intermediate layers already provide stable and discriminative representations suitable for early exiting. Through extensive experiments on multiple FR benchmarks, we systematically analyze the accuracy-efficiency trade-off across exit depths. Our results demonstrate that later exits achieve a highly favorable balance, with exiting at layer 10 yielding up to a 20% speedup while incurring only a 1.5 drop in verification performance on benchmarks such as IJB-C. Also, we propose ViT-FREE_FT, a lightweight exit-specific fine-tuning strategy that adapts only the projection layers using a small synthetic dataset while keeping the transformer backbone frozen. This approach improves the performance of shallow exits while preserving the efficiency benefits and leaving deeper exits largely unaffected.
• Abstract（参考訳）: 視覚変換器(ViT)はコンピュータビジョンにおいて大きな注目を集めており、顔認識(FR)の強い可能性を示している。 しかし、その高い計算コストは、リソースに制約のあるデバイスへのデプロイメントを困難にし、効率と精度のバランスをとる方法の必要性を動機付けている。 本研究は, 高速FR推論のための簡易かつ効果的なトレーニングフリー戦略として, 事前学習したViTの早期退避について検討する。 変圧器エンコーダブロック間の一様特徴次元を活用することで、バックボーンモデルの変更や再トレーニングをすることなく、中間表現から直接顔認証を可能にするマルチエグジットフレームワークであるViT-FREEを導入し、推論コストを削減した。 実験により, パッチ埋め込みとアテンションマップは, 深度にわたって徐々に進化し, 連続するViTブロック間に高い類似性を示し, 最終表現との整合性を高めていることがわかった。 これは、段階的な特徴の洗練と注意収束を示し、中間層が早期退避に適した安定かつ差別的な表現を既に提供していることを示唆している。 複数のFRベンチマークの広範な実験を通じて、出口深度間の精度-効率トレードオフを系統的に解析する。 その結果,IJB-Cなどのベンチマークでは,検証性能が1.5低下する一方,第10層での出口の速度は最大20%向上した。 また, コンバータバックボーンを凍結したまま, 小さな合成データセットを用いて投影層のみを適応させる軽量な出口特異的微調整戦略であるViT-FREE_FTを提案する。 このアプローチは、効率性を維持しながら浅い出口の性能を改善し、より深い出口は影響を受けない。

関連論文リスト

• RAPID: Layer-Wise Redundancy-Aware Pruning and Importance-Driven Token Merging for Efficient ViT [0.014257559724536567]
  視覚変換器(ViT)は高い性能を実現するが、二次的な自己注意の複雑さにより高い計算コストを被る。 本稿では,トークン表現の層的特性に還元戦略を適用した深度対応型トークン還元フレームワークを提案する。 我々のフレームワークは、階層的特徴進化と縮小戦略を整合させることにより、視覚モデルを最適化するためのトレーニング不要のテンプレートを提供する。
  論文  参考訳（メタデータ） (2026-06-06T13:13:02Z)
• Accelerating Vision Foundation Models with Drop-in Depthwise Convolution [51.50107862675191]
  我々は、注目ヘッドのドロップイン代替として機能する、効率的な奥行き畳み込みベースの層を導入する。 画像分類とセグメンテーションの両方のタスクにおいて,提案手法は性能劣化を最小限に抑えながら17～20%の推論高速化を実現している。
  論文  参考訳（メタデータ） (2026-05-21T08:07:23Z)
• RePaViT: Scalable Vision Transformer Acceleration via Structural Reparameterization on Feedforward Network Layers [14.876863939653548]
  我々は、注意層ではなく、フィードフォワードネットワーク(FFN)層が視覚変換器(ViT)の推論遅延の主な要因であることを明らかにした。 本研究では,テスト中の効率的なFFN層に対するポストトレーニング後構造的再パラメータ化を容易にする新しいチャネルアイドル機構を提案する。
  論文  参考訳（メタデータ） (2025-05-28T00:27:18Z)
• Densely Connected Parameter-Efficient Tuning for Referring Image Segmentation [30.912818564963512]
  DETRISは、低ランクな視覚的特徴伝達を強化するために設計されたパラメータ効率のチューニングフレームワークである。 我々の単純で効率的なアプローチは、最先端のメソッドを大きく上回り、0.9%から1.8%のバックボーンパラメーターが更新される。
  論文  参考訳（メタデータ） (2025-01-15T05:00:03Z)
• Visual Fourier Prompt Tuning [63.66866445034855]
  本稿では,大規模なトランスフォーマーモデルに適用するための汎用的で効果的な方法として,Visual Fourier Prompt Tuning (VFPT)法を提案する。 提案手法では,高速フーリエ変換を即時埋め込みに取り入れ,空間領域情報と周波数領域情報の両方を調和的に検討する。 提案手法は,2つのベンチマークにおいて,現状のベースラインよりも優れていることを示す。
  論文  参考訳（メタデータ） (2024-11-02T18:18:35Z)
• MoE-FFD: Mixture of Experts for Generalized and Parameter-Efficient Face Forgery Detection [54.545054873239295]
  ディープフェイクは、最近、国民の間で重大な信頼問題とセキュリティ上の懸念を提起した。 ViT法はトランスの表現性を生かし,優れた検出性能を実現する。 この研究は、汎用的でパラメータ効率のよいViTベースのアプローチであるFace Forgery Detection (MoE-FFD)のためのMixture-of-Expertsモジュールを導入する。
  論文  参考訳（メタデータ） (2024-04-12T13:02:08Z)
• AdaViT: Adaptive Tokens for Efficient Vision Transformer [91.88404546243113]
  本稿では,視覚変換器(ViT)の推論コストを,複雑さの異なる画像に対して適応的に調整する手法であるAdaViTを紹介する。 AdaViTは、推論が進むにつれてネットワーク内で処理されるビジョントランスフォーマーのトークン数を自動で削減することで、これを実現する。
  論文  参考訳（メタデータ） (2021-12-14T18:56:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。