論文の概要: How Much Capacity Does EEG Denoising Need? Ultra-Compact Networks reveal Benchmark Saturation and Metric-Utility Gap
- arxiv url: http://arxiv.org/abs/2606.08594v2
- Date: Mon, 15 Jun 2026 12:51:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-16 18:36:04.810045
- Title: How Much Capacity Does EEG Denoising Need? Ultra-Compact Networks reveal Benchmark Saturation and Metric-Utility Gap
- Title(参考訳): 脳波の遅延はどれくらい必要か? 超コンパクトネットワークがベンチマーク飽和とメートル法のギャップを明らかに
- Authors: Jasmeet Singh Bindra, Siddharth Panwar,
- Abstract要約: 深層学習EEG(Deep Learning EEG Denoising Architectures)は、数万から数千万のパラメータに拡張されているが、実験変数としてモデルキャパシティを分離した以前の研究はない。
アーキテクチャ,損失,データ分割,トレーニングレシピの両ギャップに対処し,最小限の深さ分離可能な畳み込みU-Netで1.05Kから40.26Kパラメータまでのチャネル幅を網羅する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep learning EEG denoising architectures have scaled from tens of thousands to tens of millions of parameters, yet no prior study has isolated model capacity as the experimental variable or tested whether reconstruction metrics predict downstream neural-signal utility. We address both gaps by fixing architecture, loss, data split, and training recipe while sweeping only channel width from 1.05K to 40.26K parameters in a minimal depthwise-separable convolutional U-Net. Models were evaluated on the EEGDenoiseNet benchmark, cross-dataset BCI transfer tests, controlled baseline retraining, and downstream motor-imagery classification with five decoder families across all nine BCI Competition IV-2a subjects. Reconstruction performance saturated by 3-6.5K parameters, with post-elbow gains of at most 0.015 correlation coefficient per log10-parameter unit. An 8.46M-parameter baseline retrained under the same pipeline matched the 40.26K compact variant on EOG--a 200x parameter gap yielding no advantage--while a Patch-Transformer control reproduced the same diminishing-return shape. Downstream evaluation exposed a classifier-dependent metric-utility gap: reconstruction-optimized denoising significantly degraded CSP+LDA classification across all nine subjects and three artifact types (best denoised accuracy 0.547 vs. 0.612 noisy baseline; Bonferroni p=0.0488), persisting on naturally recorded trials (Delta=-0.047; BH-FDR q=0.0049). End-to-end neural decoders showed variable or neutral effects. Standard EEG denoising benchmarks are saturated far below current model capacity, and reconstruction metrics do not predict BCI utility. Ultra-compact models at 33-46 KB and 1.27-2.61M FLOPs/segment are practical for edge deployment. These findings argue for capacity-controlled evaluation, harder task-aware benchmarks, and mandatory downstream validation.
- Abstract(参考訳): ディープラーニングのEEGデノベーションアーキテクチャは、数万から数千万のパラメータに拡張されているが、実験変数としてモデルキャパシティを分離したり、再構成メトリクスが下流の神経信号の有用性を予測するかどうかをテストする以前の研究はない。
アーキテクチャ,損失,データ分割,トレーニングレシピの両ギャップに対処し,最小限の深さで分離可能な畳み込みU-Netで1.05Kから40.26Kパラメータまでのチャネル幅を網羅する。
EEGDenoiseNetベンチマーク, クロスデータセットBCI転送テスト, ベースラインリトレーニングの制御, および9つのBCIコンペティションIV-2a被験者の5つのデコーダファミリを用いた下流モータ画像分類により, モデルの評価を行った。
再建性能は3-6.5Kパラメータで飽和し、ローブ10パラメータ当たりの相関係数は少なくとも0.015である。
同じパイプラインの下で再訓練された8.46Mパラメーターのベースラインは、EOGの40.26Kコンパクトな変種と一致した。
CSP+LDA分類は,9つの被験者と3つのアーティファクトタイプ(最高の復調精度0.547対0.612ノイズベースライン,Bonferroni p=0.0488),自然記録試験(Delta=-0.047,BH-FDR q=0.0049)で有意な低下を示した。
終端から終端までのニューラルデコーダは、可変効果または中性効果を示した。
標準的なEEG評価ベンチマークは、現在のモデルキャパシティよりはるかに低い飽和であり、再構築メトリクスはBCIユーティリティを予測しない。
33-46KBの超コンパクトモデルと1.27-2.61MのFLOP/セグメントはエッジ展開に実用的である。
これらの結果は、キャパシティ制御評価、タスク対応ベンチマークの強化、下流検証の義務化を論じている。
関連論文リスト
- Normalized Architectures are Natively 4-Bit [49.13186675123547]
重みと隠れ表現を単位超球面に制限するアーキテクチャであるnGPTは、本質的に低精度算術よりも堅牢である。
本手法は,最大3B/30Bパラメータの1.2B密度モデルとハイブリッド(Mamba-Transformer)MoEモデルの両方で検証する。
論文 参考訳(メタデータ) (2026-05-07T11:54:07Z) - Hybrid Gated Flow (HGF): Stabilizing 1.58-bit LLMs via Selective Low-Rank Correction [0.766310831583367]
Hybrid Gated Flow (HGF) は1.58ビットの3進バックボーンと学習可能な低ランクのFP16修正パスを結合したデュアルストリームアーキテクチャである。
我々は,HGF 5.4 が BitNet の 1.0294 と比較して 0.9306 のバリデーション損失を達成し,純三次量子化と FP16 ベースライン間の品質ギャップの約55% を回復することを示した。
論文 参考訳(メタデータ) (2026-02-05T03:47:17Z) - Privacy-Enhancing Infant Cry Classification with Federated Transformers and Denoising Regularization [0.0]
本稿では,自動エンコーダ,畳み込みトークン化器,トランスフォーマーエンコーダを統合した幼児の涙分析パイプラインを提案する。
このシステムは、オンデバイス・デノケーション、適応セグメンテーション、ポストホックキャリブレーション、エネルギーベースのアウト・オブ・ディストリビューション(OOD)の停止を実行する。
Baby ChillantoとDonate-a-Cryのデータセットを使用して、このモデルはマクロF1スコア0.938、AUC0.962、予測エラー(ECE)0.032を達成し、ラウンド毎のアップロード数を約36MBから42MBから3.3MBに削減した。
論文 参考訳(メタデータ) (2025-12-15T20:33:24Z) - Extreme Model Compression for Edge Vision-Language Models: Sparse Temporal Token Fusion and Adaptive Neural Compression [0.0]
2つの適応圧縮技術は、アルゴリズムの革新とハードウェア対応の最適化を統合するために提案されている。
イベントベースの視覚タスクでは、STTFは平均トークン数を84%削減する。
ANCは低モーションシーンでFLOPを最大90%カットする。
論文 参考訳(メタデータ) (2025-11-23T15:43:00Z) - Physics-informed GNN for medium-high voltage AC power flow with edge-aware attention and line search correction operator [7.927606793404479]
物理インフォームドグラフニューラルネットワーク(PIGNN)は高速な交流電力フロー解法として登場した。
PIGNN-Attn-LSは電圧0.00033 p.uのRMSE、角度0.08$circ$のRMSEを達成し、それぞれPIGNN-MLPベースラインの99.5%と87.1%を上回っている。
論文 参考訳(メタデータ) (2025-09-26T15:09:26Z) - Advanced Deep Learning Techniques for Automated Segmentation of Type B Aortic Dissections [4.545298205355719]
B型大動脈解離切除のための深層学習パイプラインを4本開発した。
Dice Coefficients for TL, 0.88 $pm$ 0.18, 0.47 $pm$ 0.25であった。
論文 参考訳(メタデータ) (2025-06-27T13:38:33Z) - CEReBrO: Compact Encoder for Representations of Brain Oscillations Using Efficient Alternating Attention [46.47343031985037]
交互注意(CEReBrO)を用いた脳振動の表現のための圧縮法について紹介する。
トークン化方式は、チャネルごとのパッチで脳波信号を表現します。
本研究では,チャネル内時間的ダイナミックスとチャネル間空間的相関を共同でモデル化し,通常の自己アテンションに比べて6倍少ないメモリで2倍の速度向上を実現するための注意機構を提案する。
論文 参考訳(メタデータ) (2025-01-18T21:44:38Z) - GDP: Stabilized Neural Network Pruning via Gates with Differentiable
Polarization [84.57695474130273]
ゲートベースまたは重要度に基づくプルーニング手法は、重要度が最小のチャネルを削除することを目的としている。
GDPは、各チャネルのオン・アンド・オフを制御するために、ベルやホイッスルのない畳み込み層の前に接続することができる。
CIFAR-10とImageNetデータセットを用いて行った実験は、提案したGDPが最先端のパフォーマンスを達成することを示している。
論文 参考訳(メタデータ) (2021-09-06T03:17:10Z) - Towards a Competitive End-to-End Speech Recognition for CHiME-6 Dinner
Party Transcription [73.66530509749305]
本稿では,難しい場合であっても,ハイブリッドベースラインに近い性能を示すエンドツーエンドアプローチについて論じる。
CTC-Attention と RNN-Transducer のアプローチと RNN と Transformer のアーキテクチャを比較し,解析する。
RNN-Transducerをベースとしたベストエンド・ツー・エンドモデルでは、ビームサーチの改善とともに、LF-MMI TDNN-F CHiME-6 Challengeのベースラインよりも品質が3.8%向上した。
論文 参考訳(メタデータ) (2020-04-22T19:08:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。