論文の概要: Controlled Evaluation of EEG Foundation Models: Random Initialisation, Band-Power and Validation-Selected Probes
- arxiv url: http://arxiv.org/abs/2610.32067v1
- Date: Fri, 23 Oct 2026 02:11:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 01:38:06.325275
- Title: Controlled Evaluation of EEG Foundation Models: Random Initialisation, Band-Power and Validation-Selected Probes
- Title(参考訳): 脳波基礎モデルの制御された評価:ランダム初期化、バンドパワー、バリデーション選択プローブ
- Abstract要約: 脳波ファンデーションモデル5と社内JEPAスタイルモデルを1つのプロトコルで評価し,これら3つのコントロールと複数のシードについて検討した。
まず、調査対象の層をテストスコアで選び、平均+0.034で層幅のピークを上昇させる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: EEG foundation models report downstream gains, yet their protocols seldom include three controls. These are the same encoder untrained, spectral features fitted on the same data, and a layer picked without looking at test scores. We therefore evaluate five publicly released EEG foundation models and an in-house JEPA-style model under one protocol with all three controls and several seeds, on five benchmarks and four added task families. The controls change the reading in three ways. First, picking the probed layer by its test score raises the layer-wise peak by an average of +0.034 and reverses the peak-versus-output gap in 9 of 36 cells. Second, with the layer picked on validation, random initialisation matches or beats pretraining for half of the models on sleep and emotion, and no model beats a five-band log-power baseline on emotion or motor imagery. Third, after full fine-tuning only 5 of 30 pairs gain beyond twice their seed spread, and the one clear loss of -0.290 AUROC persists under matched learning rates. From these results we draw four reporting practices, and we release every cell for re-analysis.
- Abstract(参考訳): EEGファウンデーションモデルはダウンストリームゲインを報告しているが、そのプロトコルには3つのコントロールが含まれることはめったにない。
これらは、トレーニングされていないのと同じエンコーダで、同じデータにスペクトル機能を取り付けて、テストスコアを見ることなく選択する。
そこで我々は,5つのベンチマークと4つのタスクファミリで,3つのコントロールと複数のシードを持つ1つのプロトコルの下で,5つのパブリックなEEGファンデーションモデルと1つの社内JEPAスタイルモデルを評価する。
コントロールは3つの方法で読み方を変える。
まず、プローブされた層をテストスコアで選別すると、平均+0.034の層幅ピークが上昇し、36の細胞のうち9つのピーク対出力ギャップが反転する。
第二に、レイヤーがバリデーションで選択された場合、ランダムな初期化マッチや、睡眠と感情でモデルの半分を事前訓練し、感情や運動の画像で5バンドの対数パワーのベースラインを破るモデルはない。
第3に、完全な微調整を行った後、30対中5対の種子が2倍以上に拡大し、1つの明らかな損失-0.290 AUROCは、一致した学習率で持続する。
これらの結果から,4つの報告プラクティスを抽出し,再解析のためのすべてのセルを解放する。
関連論文リスト
- Compressing Onboard Language Models for Space Robots under a Behavioral-Fidelity Requirement [24.302104880579193]
宇宙ロボットがオペレーターコマンドを解釈し、検証されたスキルの中から選択するインターフェースとして言語モデルが検討されている。
低ビット圧縮の呼び出しでそれらを実行すると、一般的なトレーニング後の量子化が暗黙的に残す要件が追加される。
AWQ, GPTQ, AutoRoundのチェックポイントから1つの静的低ビットモデルを構成する。
論文 参考訳(メタデータ) (2026-10-21T06:59:07Z) - Benchmarking Self-Supervised 3D Medical Vision Foundation Models and Transferability Estimation [57.65266782182578]
セルフ教師付き事前トレーニングは、3D医療基盤モデルのプールを拡張したが、異なるデータセット、エンドポイント、微調整プロトコルを使用した評価を公表した。
14のセグメンテーション、分類、回帰タスク、複数の解剖学とモダリティにまたがる23の候補をベンチマークした。
3モデルショートリストは、7つのセグメンテーションタスクで記録された抜粋+訓練ジョブ時間を85.8%削減した。
論文 参考訳(メタデータ) (2026-10-13T01:52:19Z) - The Dice Roll Method: A Standardized Protocol for Repeated-Query Auditing of Large Language Model Brand Recommendations [0.0]
我々は,ブランドレコメンデーションの繰り返し監査のための再利用可能なプロトコルとして,Dice Roll Methodを定式化した。
D-studyでは、探索、確認、厳密な3段階のイテレーションガイダンスが登場している。
3つの独立したコーパスに対する事前登録された外部検証は、障害のない39細胞のうち37細胞においてD-studyの信頼性予測を再現する。
論文 参考訳(メタデータ) (2026-09-03T16:22:06Z) - BLOOM-WILT: Logit Tilting for Behaviour Elicitation in Automated LLM Auditing [0.898478290216692]
BLOOM-WILTは、トレーニングコストやターゲットの次のトーケン分布を越えてアクセスすることなく、レアな振る舞いの自然なマルチターンインスタンスを提供する。
WILTを4つのターゲットモデルと8つの動作で評価し、32設定のうち30設定でベースライン監査を破る。
論文 参考訳(メタデータ) (2026-08-31T17:10:59Z) - Architecture-Dependent Causal Transfer of Activation States Across Large Language Models [51.56484100374058]
内部言語アクティベーション状態は、異なる大きな言語モデル間で因果的に転送することができる。
生成中に投影された活性化をターゲットモデルに注入すると、統計的に有意で事前登録された因果効果が生じる。
現在実装されているLCM間のエンド・ツー・エンドのアクティベーション・ステート・トランスファーは、ユニバーサルではなくアーキテクチャに依存していると結論付けている。
論文 参考訳(メタデータ) (2026-08-17T09:53:27Z) - Towards a Unified Modality-Agnostic Multimodal Framework for Cognitive Workload Assessment [3.476799842379929]
単一モデル内で不均一な生体信号の変調を処理するために, 統一的, モダリティに依存しない階層型トランスフォーマーアーキテクチャを開発した。
この枠組みは、心電図(ECG)、心電図(EDA)、呼吸計(RESP)、末梢飽和計(SpO$$$)、脳波計(EEG)の5つのモードの311ドルの組み合わせを試験的に評価する。
論文 参考訳(メタデータ) (2026-07-25T01:33:20Z) - A Decomposable Probe for Few-Step Diffusion Models: Prompt, Latent, and Score Selectivity across Backbone Families and Distillation Paradigms [0.0]
拡散学生は50~1-8のネットワーク評価からテキスト・ツー・イメージ・推論を減らした。
我々はスカラーを3つの層に沿って制御された摂動を注入する分解可能なプローブで置き換える。
Inception機能に対するブートストラップ中間のBures W22選択率について報告する。
論文 参考訳(メタデータ) (2026-07-03T12:18:24Z) - Self-Verified Distillation: Your Language Model Is Secretly Its Own Synthetic Data Pipeline [56.53954182896384]
大規模言語モデルのための簡単な訓練後改良アルゴリズムである自己検証蒸留を提案する。
自己検証蒸留(Self-Verified Distillation)は、未ラベルの種問に対する候補解を生成する。
プロンプトベースの自己検証を使用してフィルタリングし、結果の自己計算データセットをトレーニングする。
トレーニングデータ構築中に、より多くの候補世代をサンプリングし、より大きな検証予算を使用することで、高品質な自己計算データが得られることがわかった。
論文 参考訳(メタデータ) (2026-05-20T17:26:10Z) - PRIME: Prototype-Driven Multimodal Pretraining for Cancer Prognosis with Missing Modalities [86.63247982275396]
PRIMEは、欠落を認識したマルチモーダルな自己教師型事前トレーニングフレームワークである。
部分的に観察されたコホートから頑健で伝達可能な表現を学ぶ。
The Cancer Genome AtlasのPRIMEを32種類の癌に対してラベルフリープレトレーニングで評価した。
論文 参考訳(メタデータ) (2026-04-05T21:14:27Z) - Disentangle Your Dense Object Detector [82.22771433419727]
深層学習に基づく高密度物体検出器はここ数年で大きな成功を収め、ビデオ理解などのマルチメディアアプリケーションにも応用されてきた。
しかし、現在の高密度検出器の訓練パイプラインは、保持できない多くの接続に妥協されている。
そこで本研究では, 簡易かつ効果的な遠心分離機構を設計し, 現在の最先端検出器に統合するDED(Disentangled Dense Object Detector)を提案する。
論文 参考訳(メタデータ) (2021-07-07T00:52:16Z) - AvgOut: A Simple Output-Probability Measure to Eliminate Dull Responses [97.50616524350123]
機能エンジニアリングなしで、どの発話やトークンが退屈であるかを動的に認識する対話モデルを構築します。
最初のモデルMinAvgOutは、各バッチの出力分布を通して、ダイバーシティスコアを直接最大化する。
第2のモデルであるラベルファインチューニング(LFT)は、多様性スコアによって連続的にスケールされたラベルをソースシーケンスにプリペイドし、多様性レベルを制御する。
3つ目のモデルであるRLは強化学習を採用し、多様性スコアを報奨信号として扱う。
論文 参考訳(メタデータ) (2020-01-15T18:32:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。