論文の概要: ZIPBrain: Can EEG Foundation Models Be Faster, Locally Deployable, but Accurate?
- arxiv url: http://arxiv.org/abs/2608.07033v1
- Date: Fri, 07 Aug 2026 09:45:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-10 16:21:25.452969
- Title: ZIPBrain: Can EEG Foundation Models Be Faster, Locally Deployable, but Accurate?
- Title(参考訳): ZIPBrain: EEGファンデーションモデルはより速く、ローカルにデプロイできるが、正確か?
- Abstract要約: 本研究では,脳波基礎モデル(Electroencephalograph (EEG) foundation model, EFMs)が精度を犠牲にすることなく, より迅速かつ局所的に展開可能であるかを検討する。
本稿では,この低SNR特性を活用してトークン数を削減する新しい冗長性対応型EEGトークンプーリングモジュールであるZIPBrainを提案する。
- 参考スコア(独自算出の注目度): 15.689305910835927
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This work investigates whether Electroencephalograph (EEG) foundation models (EFMs) can be made faster and locally deployable without sacrificing accuracy. EEG foundation models are a major trend, offering strong general-purpose representations. However, their computational burden grows quadratically with input length, hindering deployment on resource-constrained scenario, particularly for real-time clinical monitoring. EEG's low SNR further suggests many of these tokens are redundant and compressible with little accuracy cost. We propose ZIPBrain, a novel redundancy-aware EEG token pooling module that leverages this low-SNR characteristic to reduce token count. Given a token sequence, ZIPBrain partitions tokens into redundant and unique groups, then merges each redundant token with its most similar counterpart in the unique group. Furthermore, ZIPBrain serves as a training-free, plug-and-play module that seamlessly integrates into standard Transformer encoders with negligible computational overhead. Extensive experiments across multiple EEG foundation models show ZIPBrain's strong versatility, achieving 1.3%-10.5% average improvement over baselines, while reducing wall-clock inference time by 32.7% (up to 41.8% with CUDA Graph) compared to the original EEG foundation models.
- Abstract(参考訳): 本研究では,脳波基礎モデル(Electroencephalograph (EEG) foundation model, EFMs)が精度を犠牲にすることなく, より迅速かつ局所的に展開可能であるかを検討する。
EEGファウンデーションモデルは大きなトレンドであり、強力な汎用的な表現を提供する。
しかし、その計算負担は入力長の2倍に増大し、特にリアルタイムな臨床モニタリングにおいて、資源制約のあるシナリオへの展開を妨げている。
EEGの低いSNRはさらに、これらのトークンの多くは冗長で圧縮可能であり、精度が低いことを示唆している。
本稿では,この低SNR特性を利用してトークン数を削減する新しい冗長性対応型EEGトークンプーリングモジュールであるZIPBrainを提案する。
トークンシーケンスが与えられた後、ZIPBrainはトークンを冗長でユニークなグループに分割し、それぞれの冗長トークンと、ユニークなグループの最も類似したトークンをマージする。
さらに、ZIPBrainはトレーニング不要のプラグイン・アンド・プレイモジュールとして機能し、標準のTransformerエンコーダにシームレスに統合され、計算オーバーヘッドが無視できる。
複数のEEG基礎モデルの大規模な実験は、ZIPBrainの強力な汎用性を示し、ベースラインよりも平均1.3%-10.5%向上し、また、壁面時間推定時間を元のEEG基礎モデルと比較して32.7%削減した(CUDAグラフでは41.8%まで)。
関連論文リスト
- Frequency-Decorrelated Temporal Ensembles for EEG--fNIRS Imagined-Handwriting Decoding [5.096813697804564]
Multimodal Brain-Computer Interface Grand Challenge(英語版)は、4種類の主観非依存手書き-軌道分類のための同期脳波とfNIRSを提供する。
我々は,3つの相補的な脳波の周波数ビューに基づいて,コンパクトなマルチスケール時間ネットワークを訓練するタスク適応型システムFREDを提案する。
モダリティ監査では、fNIRSのみの復号が偶然(全体の0.2511)、fNIRSをEEGに追加すると精度が0.0025に変化している。
論文 参考訳(メタデータ) (2026-08-04T06:08:11Z) - SparseKAN: Compressing Kolmogorov--Arnold Networks Across Basis Functions, Neurons, and Bits [6.860988566886594]
基本関数,ニューロン/チャネル,数値精度の3つの相補的軸に沿ってkanを圧縮する統一的アプローチである textbfSparseKAN を提案する。
SparseKANは、基本分岐、非線形基底分岐、および個別基底項に、異なるアクティブコストの目的の下で訓練された階層的な学習可能なゲートを装備する。
論文 参考訳(メタデータ) (2026-08-01T20:42:41Z) - B[FM]$^2$: Brain Foundation Model via Flow Matching with SplitUNet [33.19680160939894]
マルチチャネル脳波信号は、フローマッチングにアーキテクチャ上の課題をもたらす。
SplitUNetは各ブロックを1次元の時間的および1次元の電極畳み込みとダウンサンプルに分解する。
B[FM]$2$は、9つの標準下流脳波分類タスクのうち7つに新しい状態を設定する。
論文 参考訳(メタデータ) (2026-06-18T18:01:26Z) - Unextractable Protocol Models: Collaborative Training and Inference without Weight Materialization [58.14514930760722]
参加者が協力して大規模なニューラルネットワークを訓練し、提供する分散セットアップを検討する。
このセットアップでは、フルウェイトセットがどの参加者にも利用できないような、非機械的なウェイトの可能性を探る。
我々は、シャードモデルセットアップを利用するトレーニングおよび推論フレームワーク、Unextractable Protocol Models (UPMs)を紹介する。
論文 参考訳(メタデータ) (2026-05-22T10:24:57Z) - Ge$^\text{2}$mS-T: Multi-Dimensional Grouping for Ultra-High Energy Efficiency in Spiking Transformer [84.8831358775386]
スパイキングニューラルネットワーク(SNN)は、ニューラルネットワーク(ANN)よりも優れたエネルギー効率を提供する
ANN-SNN ConversionやSpatial-Temporal Backpropagation (STBP)といった既存のパラダイムは、固有の制限に悩まされている。
Ge$text2$mS-Tを提案する。これは時間的・空間的・ネットワーク的構造次元にまたがるグループ計算を実装した新しいアーキテクチャである。
論文 参考訳(メタデータ) (2026-04-10T02:58:46Z) - DualSparse-MoE: Coordinating Tensor/Neuron-Level Sparsity with Expert Partition and Reconstruction [15.261077484922616]
Mixture of Experts (MoE) はLarge Language Models (LLM) の主流アーキテクチャとなった。
トレーニング済みMoEモジュールにおけるテンソルとニューロンの二重間隔を精度と効率の両立の鍵因子として同定した。
本稿では,動的テンソルレベル低下と静的ニューロンレベル再構成を統合する推論システムであるDualSparse-MoEを提案する。
論文 参考訳(メタデータ) (2025-08-25T18:08:32Z) - R-Stitch: Dynamic Trajectory Stitching for Efficient Reasoning [80.104336426172]
CoT(Chain-of- Thought)は、大規模言語モデルの問題解決能力を高める。
CoTは長い自己回帰軌道のためにかなりの推論コストを発生させる。
トレーニング不要なハイブリッドデコーディングフレームワークであるR-Stitchを紹介する。
論文 参考訳(メタデータ) (2025-07-23T08:14:36Z) - Flexiffusion: Training-Free Segment-Wise Neural Architecture Search for Efficient Diffusion Models [50.260693393896716]
拡散モデル(DM)は高忠実度画像を生成できる強力な生成モデルであるが、高い計算コストで制約される。
我々は、事前訓練されたパラメータを変更することなく、生成スケジュールとモデルアーキテクチャを協調的に最適化する、トレーニング不要なNASフレームワークFlexiffusionを提案する。
我々の研究は、品質を犠牲にすることなく高速DMを検索するための資源効率の良いパラダイムを開拓した。
論文 参考訳(メタデータ) (2025-06-03T06:02:50Z) - Tokenizing Single-Channel EEG with Time-Frequency Motif Learning [16.732494632599934]
本稿では,新しいトークン化フレームワークであるFM-Tokenizerを提案する。
単一チャネルのEEG信号から時間周波数モチーフの語彙を学び、それらを離散トークンにエンコードする。
信号形式, チャネル構成, 記録装置, タスクの事前学習データと異なる耳-EEG睡眠ステージング実験により, トークン化装置がベースラインを14%上回ることを示す。
論文 参考訳(メタデータ) (2025-02-22T03:32:36Z) - CrAM: A Compression-Aware Minimizer [103.29159003723815]
本稿では、CrAMと呼ばれる新しい圧縮対応最小化器を提案し、最適化ステップを原則的に修正する。
CrAMは、標準のSGD/アダムベースベースラインよりも精度が高い密度のモデルを生成するが、重量計算では安定である。
CrAMは、転送学習のためにうまく機能するスパースモデルを生成することができ、GPUハードウェアでサポートされている半構造化の2:4プルーニングパターンでも機能する。
論文 参考訳(メタデータ) (2022-07-28T16:13:28Z) - Generalizing electrocardiogram delineation: training convolutional
neural networks with synthetic data augmentation [63.51064808536065]
ECGのデライン化のための既存のデータベースは小さく、サイズやそれらが表す病態の配列に不足している。
まず、原データベースから抽出した基本セグメントのプールを与えられたECGトレースを確率的に合成し、その整合性のある合成トレースに配置するための一連のルールを考案した。
第二に、2つの新しいセグメンテーションに基づく損失関数が開発され、これは、正確な数の独立構造の予測を強制し、サンプル数の削減に焦点をあてて、より密接なセグメンテーション境界を創出することを目的としている。
論文 参考訳(メタデータ) (2021-11-25T10:11:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。