論文の概要: Applicability of memorization indicators for early spotting of overfitting while recalibrating sEMG-decoders on low sample sizes
- arxiv url: http://arxiv.org/abs/2606.27855v1
- Date: Fri, 26 Jun 2026 08:53:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-29 18:24:25.43428
- Title: Applicability of memorization indicators for early spotting of overfitting while recalibrating sEMG-decoders on low sample sizes
- Title(参考訳): 低試料サイズでのsEMGデコーダの校正におけるオーバーフィッティング早期スポッティングのための暗記指標の適用性
- Abstract要約: 本稿では,深部ニューラルネットワークにおける線形整列単位の活性化統計のみに基づく指標の分類について検討する。
我々は、まず畳み込みニューラルネットワークを複数の被験者で事前学習し、その後個々のユーザで微調整する、ベンチマークsEMGデータセットでトランスファーラーニング実験を行う。
この結果から, 微調整時の試験精度の低下は, アクティベーション率の経時的変化に伴うことが明らかとなった。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep learning models for surface electromyography (sEMG) can benefit substantially from subject-specific (re-)calibration, since no sufficiently large and diverse datasets are available to train fully generic decoders. However, for user acceptance, the number of repetitions that can realistically be collected during calibration is severely limited, which increases the risk of overfitting and, in extreme cases, can even degrade performance compared to the uncalibrated model. Classical overfitting indicators such as validation performance and regularization with early stopping are difficult to apply in this low-sample regime, as they require additional held-out data that is rarely available in practical calibration scenarios. In this work, we investigate a recently proposed class of memorization indicators based solely on the activation statistics of rectified linear units (ReLU) in deep neural networks, which can be computed directly from training data without any extra validation set. We conduct a transferlearning experiment on a benchmark sEMG dataset, where a convolutional neural network is first pre-trained on multiple subjects and subsequently fine-tuned on individual users using only a small number of repetitions. During calibration, we monitor both decoding performance and the activation behaviour of the last hidden layer. Our results provide first evidence that decreases in test accuracy during fine-tuning are ac companied by characteristic changes in activation rates, indicating that activation-based memorization indicators are a promising tool for early spotting of unsuccessful learning in low-sample sEMG calibration settings.
- Abstract(参考訳): 表面筋電図(sEMG)の深層学習モデルは、完全に汎用的なデコーダを訓練するのに十分な大きく多様なデータセットが存在しないため、主観的(再)校正の恩恵を受けることができる。
しかし、ユーザ受け入れにおいては、キャリブレーション中に現実的に収集できる反復回数が著しく制限され、過度な適合のリスクが増大し、極端な場合、非校正モデルと比較してパフォーマンスが低下する。
検証性能や早期停止を伴う正規化などの古典的なオーバーフィッティング指標は、実用的なキャリブレーションシナリオではほとんど利用できない追加の保留データを必要とするため、この低サンプル方式では適用が困難である。
本研究では,深部ニューラルネットワークにおける正則線形単位(ReLU)の活性化統計のみに基づく,最近提案された暗記指標のクラスについて検討する。
我々は、まず畳み込みニューラルネットワークを複数の被験者で事前訓練し、その後、少数の繰り返しだけを使用して個々のユーザに対して微調整する、ベンチマークsEMGデータセットでトランスファーラーニング実験を行う。
キャリブレーション中、最後の隠蔽層の復号性能とアクティベーション挙動の両方をモニタする。
その結果, 微調整時のテスト精度の低下はアクティベーション率の特徴的な変化に伴い, 低サンプルsEMGキャリブレーション設定において, アクティベーションに基づく暗記指標が学習の早期発見に有効なツールであることが示唆された。
関連論文リスト
- From Unfamiliar to Familiar: Detecting Pre-training Data via Gradient Deviations in Large Language Models [24.38939297043815]
既存の手法は主に微調整前後の確率に基づく統計的特徴や信号に焦点を当てている。
対象サンプルの勾配偏差スコアを探索することにより,事前学習データを識別するGDSを提案する。
GDSは、強いベースライン上でのクロスデータセット転送性を大幅に改善し、最先端の性能を実現している。
論文 参考訳(メタデータ) (2026-03-05T05:21:51Z) - Online Bayesian Imbalanced Learning with Bregman-Calibrated Deep Networks [0.7106986689736825]
本報告では、クラス優先の仮定から確率比の推定を分離する原則的フレームワークであるOBIL(TextitOnline Bayesian Im Balanced Learning)を提案する。
我々のアプローチは、ブレグマンの発散と適切なスコアリングルールとの確立された接続に基づいて、そのような損失で訓練されたディープネットワークが後続確率推定を生成することを示す。
これらの確率比の推定は、クラス事前およびコスト構造における任意の変化の下でも有効であり、最適なベイズ決定のためのしきい値調整のみを必要とすることを証明している。
論文 参考訳(メタデータ) (2026-02-08T21:23:00Z) - DRL-Guided Neural Batch Sampling for Semi-Supervised Pixel-Level Anomaly Detection [0.0]
産業用視覚検査における異常検出は, 欠陥試料の不足により困難である。
本稿では,ニューラルバッチサンプリング,オートエンコーダ,予測器を統合した半教師付き深層強化学習フレームワークを提案する。
論文 参考訳(メタデータ) (2025-11-25T12:53:53Z) - Correcting False Alarms from Unseen: Adapting Graph Anomaly Detectors at Test Time [60.341117019125214]
グラフ異常検出(GAD)における未確認正規pattErnsの修正のための,軽量かつプラグアンドプレイなテスト時間適応フレームワークを提案する。
意味的混乱に対処するために、シフトしたデータと元のデータとをグラフ属性レベルで整合させるグラフ整合器を用いる。
10個の実世界のデータセットに対する大規模な実験により、TUNEは事前学習されたGADモデルの合成パターンと実際の見えない正常パターンの両方への一般化性を著しく向上することが示された。
論文 参考訳(メタデータ) (2025-11-10T12:10:05Z) - Probably Approximately Precision and Recall Learning [60.00180898830079]
機械学習における重要な課題は、一方的なフィードバックの頻度である。
本稿では,確率的近似(PAC)フレームワークを導入し,各入力をラベルの集合にマッピングする仮説を定めている。
我々は、正のデータのみから学習する新しいアルゴリズムを開発し、実現可能な場合において最適なサンプル複雑性を実現する。
論文 参考訳(メタデータ) (2024-11-20T04:21:07Z) - Calibrating Multi-modal Representations: A Pursuit of Group Robustness without Annotations [19.800907485589402]
CLIPのような微調整済みの視覚言語モデルは、さまざまな下流タスクで成功している。
これらの調整されたモデルは高度に専門化され、実際の展開の実用性が制限される傾向にある。
微調整CLIPのための軽量表現校正法を提案する。
論文 参考訳(メタデータ) (2024-03-12T01:47:17Z) - Rethinking Classifier Re-Training in Long-Tailed Recognition: A Simple
Logits Retargeting Approach [102.0769560460338]
我々は,クラスごとのサンプル数に関する事前知識を必要とせず,シンプルなロジットアプローチ(LORT)を開発した。
提案手法は,CIFAR100-LT, ImageNet-LT, iNaturalist 2018など,様々な不均衡データセットの最先端性能を実現する。
論文 参考訳(メタデータ) (2024-03-01T03:27:08Z) - Targeted collapse regularized autoencoder for anomaly detection: black hole at the center [3.924781781769534]
オートエンコーダは通常のクラスを超えて一般化することができ、いくつかの異常なサンプルに対して小さな再構成誤差を達成できる。
我々は、ニューラルネットワークコンポーネントの追加、計算の関与、煩雑なトレーニングの代わりに、再構成損失を計算的に軽い用語で補うという、驚くほど簡単な方法を提案する。
これは、オートエンコーダに基づく異常検出アルゴリズムのブラックボックスの性質を緩和し、さらなる利点、障害事例、潜在的な新しい方向の解明のための道筋を提供する。
論文 参考訳(メタデータ) (2023-06-22T01:33:47Z) - Neural Priming for Sample-Efficient Adaptation [92.14357804106787]
ニューラルプライミング(Neural Priming)は、大規模な事前学習されたモデルを分散シフトや下流タスクに適応させる手法である。
ニューラルプライミングは、LAION-2Bほどの大きさの事前訓練であっても、テスト時に行うことができる。
論文 参考訳(メタデータ) (2023-06-16T21:53:16Z) - Bridging Precision and Confidence: A Train-Time Loss for Calibrating
Object Detection [58.789823426981044]
本稿では,境界ボックスのクラス信頼度を予測精度に合わせることを目的とした,新たな補助損失定式化を提案する。
その結果,列車の走行時間損失はキャリブレーション基準を超過し,キャリブレーション誤差を低減させることがわかった。
論文 参考訳(メタデータ) (2023-03-25T08:56:21Z) - Self-Supervised Training with Autoencoders for Visual Anomaly Detection [61.62861063776813]
我々は, 正規サンプルの分布を低次元多様体で支持する異常検出において, 特定のユースケースに焦点を当てた。
我々は、訓練中に識別情報を活用する自己指導型学習体制に適応するが、通常の例のサブ多様体に焦点をあてる。
製造領域における視覚異常検出のための挑戦的なベンチマークであるMVTec ADデータセットで、最先端の新たな結果を達成する。
論文 参考訳(メタデータ) (2022-06-23T14:16:30Z) - Investigation of Different Calibration Methods for Deep Speaker
Embedding based Verification Systems [66.61691401921296]
本稿では, ディープスピーカ埋込抽出器のスコアキャリブレーション法について検討する。
この研究のさらなる焦点は、スコア正規化がシステムの校正性能に与える影響を推定することである。
論文 参考訳(メタデータ) (2022-03-28T21:22:22Z) - Imputation-Free Learning from Incomplete Observations [73.15386629370111]
本稿では,不備な値を含む入力からの推論をインプットなしでトレーニングするIGSGD法の重要性について紹介する。
バックプロパゲーションによるモデルのトレーニングに使用する勾配の調整には強化学習(RL)を用いる。
我々の計算自由予測は、最先端の計算手法を用いて従来の2段階の計算自由予測よりも優れている。
論文 参考訳(メタデータ) (2021-07-05T12:44:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。