論文の概要: S-JEPA: towards seamless cross-dataset transfer through dynamic spatial attention
- arxiv url: http://arxiv.org/abs/2403.11772v2
- Date: Mon, 07 Oct 2024 20:07:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-10 14:29:23.401611
- Title: S-JEPA: towards seamless cross-dataset transfer through dynamic spatial attention
- Title(参考訳): S-JEPA:動的空間的注意によるシームレスなデータセット間転送に向けて
- Authors: Pierre Guetschel, Thomas Moreau, Michael Tangermann,
- Abstract要約: 本稿では,脳波信号処理におけるシームレスなクロスデータセット転送の課題に触発され,JEPA(Joint Embedding Predictive Architectures)の利用に関する探索的研究を行う。
本稿では、新しい領域固有の空間ブロックマスキング戦略と、下流分類のための3つの新しいアーキテクチャを含む、脳波記録を表現するためのSignal-JEPAを紹介する。
- 参考スコア(独自算出の注目度): 6.5614019374395465
- License:
- Abstract: Motivated by the challenge of seamless cross-dataset transfer in EEG signal processing, this article presents an exploratory study on the use of Joint Embedding Predictive Architectures (JEPAs). In recent years, self-supervised learning has emerged as a promising approach for transfer learning in various domains. However, its application to EEG signals remains largely unexplored. In this article, we introduce Signal-JEPA for representing EEG recordings which includes a novel domain-specific spatial block masking strategy and three novel architectures for downstream classification. The study is conducted on a 54 subjects dataset and the downstream performance of the models is evaluated on three different BCI paradigms: motor imagery, ERP and SSVEP. Our study provides preliminary evidence for the potential of JEPAs in EEG signal encoding. Notably, our results highlight the importance of spatial filtering for accurate downstream classification and reveal an influence of the length of the pre-training examples but not of the mask size on the downstream performance.
- Abstract(参考訳): 本稿では,脳波信号処理におけるシームレスなクロスデータセット転送の課題に触発され,JEPA(Joint Embedding Predictive Architectures)の利用に関する探索的研究を行う。
近年,様々な領域におけるトランスファーラーニングにおいて,自己指導型学習が有望なアプローチとして出現している。
しかし、脳波信号への応用はいまだに未解明である。
本稿では、新しい領域固有の空間ブロックマスキング戦略と、下流分類のための3つの新しいアーキテクチャを含む、脳波記録を表現するためのSignal-JEPAを紹介する。
本研究は54件の被験者データセットを用いて,運動画像,ERP,SSVEPの3つのBCIパラダイムを用いて,モデルの下流性能を評価する。
本研究は脳波信号符号化におけるJEPAの可能性に関する予備的証拠を提供する。
特に,本研究では,下流分類における空間フィルタリングの重要性を強調し,事前学習例の長さが下流性能に与える影響を明らかにした。
関連論文リスト
- A Dynamic Domain Adaptation Deep Learning Network for EEG-based Motor
Imagery Classification [1.7465786776629872]
動的ドメイン適応型ディープラーニングネットワーク(DADL-Net)を提案する。
まず、脳波データを3次元幾何学空間にマッピングし、その時空間的特徴を3次元畳み込みモジュールを通して学習する。
精度は70.42%と73.91%で、OpenBMIとBCIC IV 2aデータセットで達成された。
論文 参考訳(メタデータ) (2023-09-21T01:34:00Z) - DGSD: Dynamical Graph Self-Distillation for EEG-Based Auditory Spatial
Attention Detection [49.196182908826565]
AAD(Auditory Attention Detection)は、マルチスピーカー環境で脳信号からターゲット話者を検出することを目的としている。
現在のアプローチは主に、画像のようなユークリッドデータを処理するために設計された従来の畳み込みニューラルネットワークに依存している。
本稿では、入力として音声刺激を必要としないAADのための動的グラフ自己蒸留(DGSD)手法を提案する。
論文 参考訳(メタデータ) (2023-09-07T13:43:46Z) - Triggering Failures: Out-Of-Distribution detection by learning from
local adversarial attacks in Semantic Segmentation [76.2621758731288]
セグメンテーションにおけるアウト・オブ・ディストリビューション(OOD)オブジェクトの検出に取り組む。
私たちの主な貢献は、ObsNetと呼ばれる新しいOOD検出アーキテクチャであり、ローカル・アタック(LAA)に基づく専用トレーニングスキームと関連付けられています。
3つの異なるデータセットの文献の最近の10つの手法と比較して,速度と精度の両面で最高の性能が得られることを示す。
論文 参考訳(メタデータ) (2021-08-03T17:09:56Z) - Trajectory Design for UAV-Based Internet-of-Things Data Collection: A
Deep Reinforcement Learning Approach [93.67588414950656]
本稿では,無人航空機(UAV)による3D環境におけるIoT(Internet-of-Things)システムについて検討する。
本稿では,TD3-TDCTMアルゴリズムの完成時間最小化のためのトラジェクトリ設計を提案する。
シミュレーションの結果,従来の3つの非学習ベースライン法よりもTD3-TDCTMアルゴリズムの方が優れていることが示された。
論文 参考訳(メタデータ) (2021-07-23T03:33:29Z) - Subject Independent Emotion Recognition using EEG Signals Employing
Attention Driven Neural Networks [2.76240219662896]
主観非依存の感情認識が可能な新しいディープラーニングフレームワークを提案する。
タスクを実行するために、アテンションフレームワークを備えた畳み込みニューラルネットワーク(CNN)を提示する。
提案手法は、公開データセットを使用して検証されている。
論文 参考訳(メタデータ) (2021-06-07T09:41:15Z) - Cycle and Semantic Consistent Adversarial Domain Adaptation for Reducing
Simulation-to-Real Domain Shift in LiDAR Bird's Eye View [110.83289076967895]
ドメイン適応プロセス中に関心のある小さなオブジェクトの情報を保存するために,事前の意味分類を用いたサイクガンに基づくbevドメイン適応法を提案する。
生成したBEVの品質は,KITTI 3D Object Detection Benchmarkの最先端3Dオブジェクト検出フレームワークを用いて評価されている。
論文 参考訳(メタデータ) (2021-04-22T12:47:37Z) - A SAR speckle filter based on Residual Convolutional Neural Networks [68.8204255655161]
本研究では,Convolutional Neural Networks(CNN)に基づく深層学習(DL)アルゴリズムを用いて,Sentinel-1データからスペックルノイズをフィルタリングする新しい手法を提案する。
得られた結果は、技術の現状と比較すると、ピーク信号対雑音比(PSNR)と構造類似度指数(SSIM)の点で明確な改善を示しています。
論文 参考訳(メタデータ) (2021-04-19T14:43:07Z) - Machine Vision based Sample-Tube Localization for Mars Sample Return [3.548901442158138]
マーズ・サンプル・リターン(MSR)アーキテクチャはNASAとESAが共同で研究している。
本稿では,MSRのフェッチ部分に着目し,より具体的には火星表面に堆積した試料管を自律的に検出・位置決めする問題について述べる。
まず,ハードコードフィルタとチューブの3次元形状モデルを用いたテンプレートマッチングに基づく幾何駆動アプローチと,畳み込みニューラルネットワーク(cnns)に基づくデータ駆動アプローチと学習機能について検討した。
論文 参考訳(メタデータ) (2021-03-17T23:09:28Z) - Spatio-Temporal EEG Representation Learning on Riemannian Manifold and
Euclidean Space [23.40229188549055]
脳波(EEG)を学習するための新しいディープニューラルネットワークアーキテクチャを提案する。
空間情報は接空間学習を通してユークリッド空間に投影する。
空間的情報と時間的情報を組み合わせるためには,効果的な融合戦略を用いる。
論文 参考訳(メタデータ) (2020-08-19T18:56:49Z) - Transfer Learning for Motor Imagery Based Brain-Computer Interfaces: A
Complete Pipeline [54.73337667795997]
移動学習(TL)は、新しい被験者の校正作業を減らすために、運動画像(MI)ベースの脳-コンピュータインタフェース(BCI)に広く用いられている。
本稿では,MIベースのBCIの3つのコンポーネント(空間フィルタリング,特徴工学,分類)すべてにおいてTLが考慮できることを示す。
論文 参考訳(メタデータ) (2020-07-03T23:44:21Z) - InSAR Phase Denoising: A Review of Current Technologies and Future
Directions [9.475024122649288]
インターフェロメトリ合成開口レーダ(InSAR)は情報取得の強化によるリモートセンシングにおいて強力なツールである。
干渉電図の位相分解は、トポグラフィーマッピングと変形モニタリングの必須ステップである。
本稿では,InSAR位相分解法の概要を概説し,確立されたアルゴリズムと新興アルゴリズムを4つの主要なカテゴリに分類する。
論文 参考訳(メタデータ) (2020-01-03T09:36:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。