論文の概要: A Lightweight Domain Adversarial Neural Network Based on Knowledge Distillation for EEG-based Cross-subject Emotion Recognition

• arxiv url: http://arxiv.org/abs/2305.07446v1
• Date: Fri, 12 May 2023 13:05:12 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-15 12:59:33.341975
• Title: A Lightweight Domain Adversarial Neural Network Based on Knowledge Distillation for EEG-based Cross-subject Emotion Recognition
• Title（参考訳）: eegに基づくクロスサブジェクト感情認識のための知識蒸留に基づく軽量ドメイン逆ニューラルネットワーク
• Authors: Zhe Wang, Yongxiong Wang, Jiapeng Zhang, Yiheng Tang, Zhiqun Pan
• Abstract要約: 脳波(EEG)の個人差は、ドメインシフトを引き起こす可能性があり、これはクロスオブジェクト戦略の性能を著しく低下させる。 本研究では,知識蒸留(KD)に基づく軽量DANNを提案する。
• 参考スコア（独自算出の注目度）: 8.9104681425275
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Individual differences of Electroencephalogram (EEG) could cause the domain shift which would significantly degrade the performance of cross-subject strategy. The domain adversarial neural networks (DANN), where the classification loss and domain loss jointly update the parameters of feature extractor, are adopted to deal with the domain shift. However, limited EEG data quantity and strong individual difference are challenges for the DANN with cumbersome feature extractor. In this work, we propose knowledge distillation (KD) based lightweight DANN to enhance cross-subject EEG-based emotion recognition. Specifically, the teacher model with strong context learning ability is utilized to learn complex temporal dynamics and spatial correlations of EEG, and robust lightweight student model is guided by the teacher model to learn more difficult domain-invariant features. In the feature-based KD framework, a transformer-based hierarchical temporalspatial learning model is served as the teacher model. The student model, which is composed of Bi-LSTM units, is a lightweight version of the teacher model. Hence, the student model could be supervised to mimic the robust feature representations of teacher model by leveraging complementary latent temporal features and spatial features. In the DANN-based cross-subject emotion recognition, we combine the obtained student model and a lightweight temporal-spatial feature interaction module as the feature extractor. And the feature aggregation is fed to the emotion classifier and domain classifier for domain-invariant feature learning. To verify the effectiveness of the proposed method, we conduct the subject-independent experiments on the public dataset DEAP with arousal and valence classification. The outstanding performance and t-SNE visualization of latent features verify the advantage and effectiveness of the proposed method.
• Abstract（参考訳）: 脳波の個人差(eeg)はドメインシフトを引き起こし、クロスサブジェクト戦略の性能を著しく低下させる可能性がある。 分類損失とドメイン損失が特徴抽出器のパラメータを共同で更新するドメイン逆ニューラルネットワーク(DANN)を採用し、ドメインシフトに対処する。 しかし,脳波データ量の制限と個体差の強いダンは,異常な特徴抽出器を用いた場合の課題である。 本研究では,知識蒸留(KD)に基づく軽量DANNを提案する。 具体的には,eegの複雑な時間的ダイナミクスと空間相関を学習するために,強い文脈学習能力を持つ教師モデルを用い,教師モデルにより頑健な軽量学生モデルを指導し,より難しいドメイン不変特徴を学習する。 機能ベースのkdフレームワークでは、トランスフォーマティブベースの階層型時空間学習モデルが教師モデルとして機能する。 Bi-LSTMユニットで構成される学生モデルは、教師モデルの軽量版である。 したがって、教師モデルの頑健な特徴表現を模倣するために、補完的な潜時的特徴と空間的特徴を利用することができる。 DANNを用いたクロスオブジェクト感情認識では,得られた学生モデルと,特徴抽出器として時間空間間相互作用モジュールを組み合わせる。 そして、特徴集約は、ドメイン不変の特徴学習のための感情分類器とドメイン分類器に供給される。 提案手法の有効性を検証するために,公的なデータセットdaapにおける被験者非依存実験を行い,覚醒度と原子価の分類を行った。 潜在特徴の優れた性能とt-sne可視化は,提案手法の利点と有効性を検証する。

関連論文リスト

• TAS: Distilling Arbitrary Teacher and Student via a Hybrid Assistant [52.0297393822012]
  異質な教師と学生間の機能的知識の伝達を容易にするために,橋梁としてアシスタントモデルを導入する。 提案した設計原理の中では, クロスアーキテクチャ帰納バイアスとモジュール関数の利点を組み合わせたアシスタントモデルが提案されている。 提案手法は, CNN, ViT, 空間KDの同種モデルペアと任意の異種組み合わせを用いて評価する。
  論文  参考訳（メタデータ） (2024-10-16T08:02:49Z)
• PseudoNeg-MAE: Self-Supervised Point Cloud Learning using Conditional Pseudo-Negative Embeddings [55.55445978692678]
  PseudoNeg-MAEは,ポイントマスク自動エンコーダのグローバルな特徴表現を強化する,自己教師型学習フレームワークである。 PseudoNeg-MAE は ModelNet40 と ScanObjectNN のデータセット上で最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2024-09-24T07:57:21Z)
• Integrated Dynamic Phenological Feature for Remote Sensing Image Land Cover Change Detection [5.109855690325439]
  本稿では,表現学的特徴をリモートセンシング画像CDフレームワークに統合するInPheaモデルを提案する。 4つの制約モジュールと多段階のコントラスト学習アプローチを備えた制約器を用いて,表現学的特徴の理解を支援する。 HRSCD、SECD、PSCD-Wuhanデータセットの実験は、InPheaが他のモデルより優れていることを示している。
  論文  参考訳（メタデータ） (2024-08-08T01:07:28Z)
• Self-supervised Gait-based Emotion Representation Learning from Selective Strongly Augmented Skeleton Sequences [4.740624855896404]
  自己教師型歩行に基づく感情表現のための選択的強強化を利用したコントラスト学習フレームワークを提案する。 提案手法はEmotion-Gait (E-Gait) と Emilya のデータセットで検証され, 異なる評価プロトコル下での最先端手法よりも優れている。
  論文  参考訳（メタデータ） (2024-05-08T09:13:10Z)
• Generative Model-based Feature Knowledge Distillation for Action Recognition [11.31068233536815]
  本稿では,軽量学生モデルの学習のための生成モデルを用いた,革新的な知識蒸留フレームワークについて紹介する。 提案手法の有効性は,多種多様な人気データセットに対する総合的な実験によって実証される。
  論文  参考訳（メタデータ） (2023-12-14T03:55:29Z)
• Weakly Supervised Semantic Segmentation via Alternative Self-Dual Teaching [82.71578668091914]
  本稿では,分類とマスク・リファインメント・コンポーネントを統合された深層モデルに組み込む,コンパクトな学習フレームワークを確立する。 本稿では,高品質な知識相互作用を促進するために,新たな自己双対学習(ASDT)機構を提案する。
  論文  参考訳（メタデータ） (2021-12-17T11:56:56Z)
• Revisiting Knowledge Distillation: An Inheritance and Exploration Framework [153.73692961660964]
  知識蒸留(KD)は、教師モデルから生徒モデルに知識を伝達する一般的な手法である。 新たな継承・探索知識蒸留フレームワーク(IE-KD)を提案する。 我々のIE-KDフレームワークは汎用的であり、ディープニューラルネットワークを訓練するための既存の蒸留や相互学習手法と簡単に組み合わせることができる。
  論文  参考訳（メタデータ） (2021-07-01T02:20:56Z)
• Subject Independent Emotion Recognition using EEG Signals Employing Attention Driven Neural Networks [2.76240219662896]
  主観非依存の感情認識が可能な新しいディープラーニングフレームワークを提案する。 タスクを実行するために、アテンションフレームワークを備えた畳み込みニューラルネットワーク(CNN)を提示する。 提案手法は、公開データセットを使用して検証されている。
  論文  参考訳（メタデータ） (2021-06-07T09:41:15Z)
• Cross-individual Recognition of Emotions by a Dynamic Entropy based on Pattern Learning with EEG features [2.863100352151122]
  複数の個体の神経生理学的特徴に関連する情報的指標を抽象化するために,動的エントロピーに基づくパターン学習(DEPL)として表されるディープラーニングフレームワークを提案する。 DEPLは、ダイナミックエントロピーに基づく特徴の皮質位置間の相互依存性をモデル化することにより、ディープ畳み込みニューラルネットワークによって生成された表現の能力を向上した。
  論文  参考訳（メタデータ） (2020-09-26T07:22:07Z)
• Semantics-aware Adaptive Knowledge Distillation for Sensor-to-Vision Action Recognition [131.6328804788164]
  本稿では,視覚・センサ・モダリティ(動画)における行動認識を強化するためのフレームワーク,Semantics-Aware Adaptive Knowledge Distillation Networks (SAKDN)を提案する。 SAKDNは複数のウェアラブルセンサーを教師のモダリティとして使用し、RGB動画を学生のモダリティとして使用している。
  論文  参考訳（メタデータ） (2020-09-01T03:38:31Z)
• A Dependency Syntactic Knowledge Augmented Interactive Architecture for End-to-End Aspect-based Sentiment Analysis [73.74885246830611]
  エンドツーエンドABSAのためのマルチタスク学習を用いた対話型アーキテクチャを新たに提案する。 このモデルは、よく設計された依存性関係埋め込みグラフ畳み込みネットワーク(DreGcn)を活用することで、構文知識(依存性関係と型)を完全に活用することができる。 3つのベンチマークデータセットの大規模な実験結果から,本手法の有効性が示された。
  論文  参考訳（メタデータ） (2020-04-04T14:59:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。