論文の概要: DEFT: Disentanglement-Enhanced Fine-Tuning for EEG Foundation Models
- arxiv url: http://arxiv.org/abs/2610.14497v1
- Date: Sat, 10 Oct 2026 02:54:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 13:15:51.933236
- Title: DEFT: Disentanglement-Enhanced Fine-Tuning for EEG Foundation Models
- Title(参考訳): DEFT:脳波基礎モデルのための絡み合い強化ファインチューニング
- Abstract要約: 本研究では,EMFファインチューニング用プラグアンドプレイアダプタとしてDistangled EFM Fine-Tuning (DEFT)を提案する。
DEFTは、事前訓練されたトークンをタスク指向のコンテンツと主観一貫性のあるスタイルに分割し、下流の予測を実行する。
複数のEEGデータセットと4つのEMMバックボーンにわたる実験により、DEFTは微調整ベースラインにマッチする改善がなされた。
- 参考スコア(独自算出の注目度): 38.11488028796184
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: EEG foundation models (EFMs) have improved EEG representation learning by transferring knowledge from large-scale multi-subject pretraining to downstream tasks. However, their pretrained embeddings often retain substantial subject-related variation, placing an additional burden on the downstream classifier, especially in cross-subject settings. To address this issue, we propose Disentangled EFM Fine-Tuning (DEFT), a plug-and-play adapter for EFM fine-tuning. DEFT encourages branch disentanglement of pretrained tokens into task-oriented content and subject-consistent style, then performs downstream prediction from the content branch. It instantiates this factorize-before-classify design with recursive Gaussian refinement, temporal-variance regularization, subject-aware contrastive learning, and reconstruction. Experiments across multiple EEG datasets and four EFM backbones show that DEFT improves matched fine-tuning baselines. Further ablations and analyses support the intended content/style branch organization.
- Abstract(参考訳): 脳波基礎モデル(EFM)は、大規模マルチオブジェクト事前学習から下流タスクへ知識を伝達することで、脳波表現学習を改善した。
しかし、それらの事前訓練された埋め込みは、しばしばかなりの主題に関連したばらつきを保ち、特にクロスオブジェクト設定において、下流の分類器にさらなる負担を課す。
そこで本研究では,EMFファインチューニングのためのプラグイン・アンド・プレイアダプタであるDistangled EFM Fine-Tuning (DEFT)を提案する。
DEFTは、事前訓練されたトークンをタスク指向のコンテンツと主観一貫性のあるスタイルに分割し、コンテンツブランチから下流の予測を実行する。
この因数分解設計を、再帰的なガウス的洗練、時間的分散の正規化、主観的コントラスト学習、再構築によってインスタンス化する。
複数のEEGデータセットと4つのEMMバックボーンにわたる実験により、DEFTは微調整ベースラインにマッチする改善がなされた。
さらなる改善と分析は、意図されたコンテンツ/スタイルのブランチ組織をサポートする。
関連論文リスト
- SIFT: Enhancing Time Series Foundation Models via Semantic Invariance and Structural Fidelity Fine-Tuning [20.004001795804704]
時系列ファウンデーションモデル(TSFM)は、大規模な時系列データセットの大規模な事前トレーニングを通じて、目覚ましいゼロショットのパフォーマンスを達成した。
本稿では,連続的不変性と構造的忠実性を保つことで時系列基盤モデルを強化する頑健な適応手法SIFTを提案する。
本研究では, 構造的忠実度保持能力を向上させるために, 部品の混合を容易にし, 再構成目的を付与する構成的忠実度向上手法を提案する。
論文 参考訳(メタデータ) (2026-09-26T14:33:51Z) - From Experts to Sub-experts: Fine-grained Parameter-Efficient Fine-Tuning for MoE LLMs [54.56613868885818]
サブエキスパートレベルの適応は、大規模言語モデルのためのより正確で効率的なPEFTパラダイムである。
Neural Sub-expert Fine-Tuningは、専門家からサブエキスパートへのMoE適応を洗練させる微細なPEFTフレームワークである。
論文 参考訳(メタデータ) (2026-09-22T04:04:53Z) - CoCoT-EEG: Contrastive-Pretrained Multiscale Convolutional Transformer for EEG Decoding [5.179334032083694]
マルチスケールの時間的畳み込み入力層とトランスフォーマーエンコーダブロック(CoCoT)を備えた新しいコントラスト型EEGモデルを開発する。
CoCoTは、異種電極構成を持つ広範囲なベンチマークデコードタスクにおいて、最先端の再構築済みのEEGモデルと一致または打ち勝つ。
脳波FM構築におけるコントラスト学習の実現可能性を示すとともに,重要な設計上の考慮事項を示唆する。
論文 参考訳(メタデータ) (2026-07-10T15:48:15Z) - MoASE++: Mixture of Activation Sparsity Experts with Domain-Adaptive On-policy Distillation for Continual Test Time Adaptation [65.068801413044]
連続的なテスト時間適応は、非定常な未ラベルのターゲットストリームにソース予測モデルを適用する。
ドメインに依存しない構造をドメイン固有のテクスチャから切り離す。
論文 参考訳(メタデータ) (2026-05-18T01:52:12Z) - Reasoning-Aware Training for Time Series Forecasting [44.62309170542093]
Time Series Foundation Models (TSFMs) は数値予測では優れているが、定性的推論を欠いたブラックボックスとして運用されている。
テキストトークンライザは連続した数値を断片化し、数学的関係を劣化させ、配列の長さを爆発させる。
STRIDE (Strategic Time-Series Reasoning Injected by Distilled Embeddings) について紹介する。
STRIDEは離散トークンの代わりに、トレースの推論を軽量のLCMに蒸留し、ターゲットの数値エンコーダに先立って平均プールされた隠された状態をクロスモーダルとして動的に投影する。
論文 参考訳(メタデータ) (2026-05-09T02:41:47Z) - Posterior Augmented Flow Matching [64.1559809786948]
後拡張フローマッチング(PAFM)はフローマッチング(FM)の一般化である
PAFMは、異なるモデルスケールで最大3.4FID50KでFMよりも改善されていることを示す。
論文 参考訳(メタデータ) (2026-05-01T17:59:59Z) - Benchmarking Few-shot Transferability of Pre-trained Models with Improved Evaluation Protocols [123.73663884421272]
より強力な事前訓練モデルと改良された適応アルゴリズムによって、わずかなショット転送が革新されている。
FEWTRANSは10種類のデータセットを含む総合的なベンチマークである。
FEWTRANS をリリースすることにより,数発の転写学習研究において再現性の向上を合理化するための厳密な "ルーラー" の提供を目指す。
論文 参考訳(メタデータ) (2026-02-28T05:41:57Z) - Uncertainty-Guided Selective Adaptation Enables Cross-Platform Predictive Fluorescence Microscopy [65.15943255667733]
自動深度選択機能付きサブネットワーク画像翻訳ADDA(SIT-ADDA-Auto)について紹介する。
より深い層を凍結しながら、最も初期の畳み込み層のみを適応させることで、信頼できる転送が得られることを示す。
この結果から,マイクロスコープにおけるラベルなし適応の設計規則とフィールド設定のレシピが提供され,コードが公開されている。
論文 参考訳(メタデータ) (2025-11-15T03:01:05Z) - Enhancing Time Series Forecasting with Fuzzy Attention-Integrated Transformers [4.580983642743026]
FANTF (Fuzzy Attention Network-Based Transformers) はファジィ論理と既存のトランスアーキテクチャを統合する新しいアプローチである。
このフレームワークはファジィ強化された注意と既存のトランスフォーマーベースのアーキテクチャのベンチマークを組み合わせることで、効率的な予測、分類、異常検出を提供する。
いくつかの実世界のデータセットに対する実験的評価により、FANTFは予測、分類、異常検出タスクのパフォーマンスを著しく向上させることが明らかになった。
論文 参考訳(メタデータ) (2025-03-31T17:33:50Z) - Preserving Diversity in Supervised Fine-Tuning of Large Language Models [29.02934952075354]
本稿では,スーパーバイザードファインチューニング(SFT)の新しいゲーム理論式を提案する。
このフレームワークでは、学習プロセスを制御するために補助変数が導入された。
提案したゲーム理論アプローチが,エントロピー正則化による逆KL最小化問題に結びつくことを証明した。
論文 参考訳(メタデータ) (2024-08-29T16:21:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。