Fugu-MT 論文翻訳(概要): Adaptive Knowledge Distillation for Classification of Hand Images using Explainable Vision Transformers

論文の概要: Adaptive Knowledge Distillation for Classification of Hand Images using Explainable Vision Transformers

arxiv url: http://arxiv.org/abs/2408.10503v1
Date: Tue, 20 Aug 2024 03:03:56 GMT
ステータス: 処理完了
システム内更新日: 2024-08-21 15:24:37.129016
Title: Adaptive Knowledge Distillation for Classification of Hand Images using Explainable Vision Transformers
Title（参考訳）: 説明可能な視覚変換器を用いた手動画像の分類のための適応的知識蒸留法
Authors: Thanh Thi Nguyen, Campbell Wilson, Janis Dalins,
Abstract要約: 本稿では,手動画像の分類における視覚変換器(ViT)の使用について検討する。説明可能性ツールを用いて、ViTの内部表現を探索し、モデル出力への影響を評価する。
参考スコア（独自算出の注目度）: 2.140951338124305
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Assessing the forensic value of hand images involves the use of unique features and patterns present in an individual's hand. The human hand has distinct characteristics, such as the pattern of veins, fingerprints, and the geometry of the hand itself. This paper investigates the use of vision transformers (ViTs) for classification of hand images. We use explainability tools to explore the internal representations of ViTs and assess their impact on the model outputs. Utilizing the internal understanding of ViTs, we introduce distillation methods that allow a student model to adaptively extract knowledge from a teacher model while learning on data of a different domain to prevent catastrophic forgetting. Two publicly available hand image datasets are used to conduct a series of experiments to evaluate performance of the ViTs and our proposed adaptive distillation methods. The experimental results demonstrate that ViT models significantly outperform traditional machine learning methods and the internal states of ViTs are useful for explaining the model outputs in the classification task. By averting catastrophic forgetting, our distillation methods achieve excellent performance on data from both source and target domains, particularly when these two domains exhibit significant dissimilarity. The proposed approaches therefore can be developed and implemented effectively for real-world applications such as access control, identity verification, and authentication systems.
Abstract（参考訳）: 手画像の法医学的価値を評価するには、個人の手にあるユニークな特徴やパターンを使用する必要がある。人間の手は、静脈のパターン、指紋、手そのものの幾何学など、異なる特徴を持っている。本稿では,手動画像の分類における視覚変換器(ViT)の利用について検討する。説明可能性ツールを用いて、ViTの内部表現を探索し、モデル出力への影響を評価する。本稿では,ViTの内部理解を活用して,教師モデルから知識を適応的に抽出し,異なるドメインのデータから学習し,破滅的な忘れを防止できる蒸留手法を提案する。市販の2つの手動画像データセットを用いて,ViTの性能評価と適応蒸留法を提案する。実験結果から,ViTモデルは従来の機械学習手法よりも大幅に優れており,ViTの内部状態は分類タスクにおけるモデル出力を説明するのに有用であることがわかった。破滅的な忘れを省くことで,本蒸留法はソースドメインとターゲットドメインの両方のデータ,特にこれら2つのドメインが大きな相違点を示す場合に,優れた性能を発揮する。提案手法は,アクセス制御,ID認証,認証システムといった実世界のアプリケーションに対して効果的に開発,実装することができる。

関連論文リスト

Multi Teacher Privileged Knowledge Distillation for Multimodal Expression Recognition [58.41784639847413]
人間の感情は、表情、声調、ボディランゲージ、生理的信号を通じて伝達され知覚される複雑な現象である。本稿では, 学生に蒸留する前に, 教師の多様な表現を並べ合わせるために, 自己蒸留による多教師PKD(MT-PKDOT)法を提案する。その結果,提案手法はSOTA PKD法より優れていることがわかった。
論文参考訳（メタデータ） (2024-08-16T22:11:01Z)
DimVis: Interpreting Visual Clusters in Dimensionality Reduction With Explainable Boosting Machine [3.2748787252933442]
DimVisは、DRプロジェクションの解釈アシスタントとして、教師付きExplainable Boosting Machine(EBM)モデルを使用するツールである。本ツールは,視覚的クラスタにおける特徴関連性の解釈を提供することにより,高次元データ解析を容易にする。
論文参考訳（メタデータ） (2024-02-10T04:50:36Z)
Attention Guided CAM: Visual Explanations of Vision Transformer Guided by Self-Attention [2.466595763108917]
本稿では,ViT に適応した注意誘導型可視化手法を提案する。本手法は,クラスラベルのみを用いて,高精度なセマンティック・セマンティック・セマンティック・セマンティック・セマンティック・セマンティック・セマンティック・セマンティクスを提供する。
論文参考訳（メタデータ） (2024-02-07T03:43:56Z)
Harnessing Diffusion Models for Visual Perception with Meta Prompts [68.78938846041767]
本稿では,視覚知覚タスクの拡散モデルを用いた簡易かつ効果的な手法を提案する。学習可能な埋め込み(メタプロンプト)を事前学習した拡散モデルに導入し、知覚の適切な特徴を抽出する。提案手法は,NYU 深度 V2 と KITTI の深度推定タスク,および CityScapes のセマンティックセグメンテーションタスクにおいて,新しい性能記録を実現する。
論文参考訳（メタデータ） (2023-12-22T14:40:55Z)
Distilling Knowledge from CNN-Transformer Models for Enhanced Human Action Recognition [1.8722948221596285]
本研究の目的は、より大規模な教師モデルから知識を伝達することで、より小さな学生モデルの性能と効率を向上させることである。提案手法では,生徒モデルとしてトランスフォーマー・ビジョン・ネットワークを使用し,教師モデルとして畳み込みネットワークが機能する。 Vision Transformer (ViT) アーキテクチャは、画像のグローバルな依存関係をキャプチャするための堅牢なフレームワークとして導入された。
論文参考訳（メタデータ） (2023-11-02T14:57:58Z)
Towards Evaluating Explanations of Vision Transformers for Medical Imaging [7.812073412066698]
Vision Transformer (ViT)は、画像分類のための畳み込みニューラルネットワークに代わる有望な代替手段である。本稿では胸部X線画像の分類に応用したViTにおける様々な解釈手法の性能について検討する。
論文参考訳（メタデータ） (2023-04-12T19:37:28Z)
ViTAEv2: Vision Transformer Advanced by Exploring Inductive Bias for Image Recognition and Beyond [76.35955924137986]
我々は、内在性IBを畳み込み、すなわちViTAEから探索するビジョントランスフォーマーを提案する。 ViTAEはいくつかの空間ピラミッド縮小モジュールを備えており、入力イメージをリッチなマルチスケールコンテキストでトークンに埋め込む。我々は、ImageNet検証セット上で88.5%のTop-1分類精度と、ImageNet実検証セット上で最高の91.2%のTop-1分類精度を得る。
論文参考訳（メタデータ） (2022-02-21T10:40:05Z)
Efficient Vision Transformers via Fine-Grained Manifold Distillation [96.50513363752836]
視覚変換器のアーキテクチャは多くのコンピュータビジョンタスクで異常な性能を示した。ネットワーク性能は向上するが、トランスフォーマーはより多くの計算資源を必要とすることが多い。本稿では,教師のトランスフォーマーから,画像と分割パッチの関係を通して有用な情報を抽出することを提案する。
論文参考訳（メタデータ） (2021-07-03T08:28:34Z)
Exploiting Emotional Dependencies with Graph Convolutional Networks for Facial Expression Recognition [31.40575057347465]
本稿では,視覚における表情認識のためのマルチタスク学習フレームワークを提案する。 MTL設定において、離散認識と連続認識の両方のために共有特徴表現が学習される。実験の結果,本手法は離散FER上での最先端手法よりも優れていた。
論文参考訳（メタデータ） (2021-06-07T10:20:05Z)
Vision Transformers are Robust Learners [65.91359312429147]
ビジョントランスフォーマー(ViT)の一般的な腐敗や摂動、分布シフト、自然逆転例に対する堅牢性について検討します。 ViTsが実際により堅牢な学習者である理由を説明するために、定量的および定性的な指標を提供する分析を提示します。
論文参考訳（メタデータ） (2021-05-17T02:39:22Z)
Semantics-aware Adaptive Knowledge Distillation for Sensor-to-Vision Action Recognition [131.6328804788164]
本稿では,視覚・センサ・モダリティ(動画)における行動認識を強化するためのフレームワーク,Semantics-Aware Adaptive Knowledge Distillation Networks (SAKDN)を提案する。 SAKDNは複数のウェアラブルセンサーを教師のモダリティとして使用し、RGB動画を学生のモダリティとして使用している。
論文参考訳（メタデータ） (2020-09-01T03:38:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。