論文の概要: Which Augmentation Should I Use? An Empirical Investigation of Augmentations for Self-Supervised Phonocardiogram Representation Learning

• arxiv url: http://arxiv.org/abs/2312.00502v5
• Date: Mon, 16 Dec 2024 13:32:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-17 13:48:51.501587
• Title: Which Augmentation Should I Use? An Empirical Investigation of Augmentations for Self-Supervised Phonocardiogram Representation Learning
• Title（参考訳）: どちらを使うべきか : 自己監督型心電図表現学習における拡張の実証的研究
• Authors: Aristotelis Ballas, Vasileios Papapanagiotou, Christos Diou,
• Abstract要約: 自己監視型学習(SSL) 対照的な学習は、データの不足を軽減できる可能性を示している。 本研究の目的は,PCG分類におけるSSLモデルの性能向上を目的とした,幅広いオーディオベースの拡張と組み合わせの探索と評価である。
• 参考スコア（独自算出の注目度）: 5.438725298163702
• License:
• Abstract: Despite recent advancements in deep learning, its application in real-world medical settings, such as phonocardiogram (PCG) classification, remains limited. A significant barrier is the lack of high-quality annotated datasets, which hampers the development of robust, generalizable models that can perform well on newly collected, out-of-distribution (OOD) data. Self-Supervised Learning (SSL) contrastive learning, has shown promise in mitigating the issue of data scarcity by using unlabeled data to enhance model robustness. Even though SSL methods have been proposed and researched in other domains, works focusing on the impact of data augmentations on model robustness for PCG classification are limited. In particular, while augmentations are a key component in SSL, selecting the most suitable policy during training is highly challenging. Improper augmentations can lead to substantial performance degradation and even hinder a network's ability to learn meaningful representations. Addressing this gap, our research aims to explore and evaluate a wide range of audio-based augmentations and uncover combinations that enhance SSL model performance in PCG classification. We conduct a comprehensive comparative analysis across multiple datasets, assessing the impact of various augmentations on model performance. Our findings reveal that depending on the training distribution, augmentation choice significantly influences model robustness, with fully-supervised models experiencing up to a 32\% drop in effectiveness when evaluated on unseen data, while SSL models demonstrate greater resilience, losing only 10\% or even improving in some cases. This study also highlights the most promising and appropriate augmentations for PCG signal processing, by calculating their effect size on training. These insights equip researchers with valuable guidelines for developing reliable models in PCG signal processing.
• Abstract（参考訳）: 近年の深層学習の進歩にもかかわらず, 心電図(PCG)分類などの実世界の医療分野への応用は限定的である。 重要な障壁は、高品質なアノテートデータセットの欠如であり、新たに収集されたアウト・オブ・ディストリビューション(OOD)データでうまく機能する堅牢で一般化可能なモデルの開発を妨げている。 自己監督学習(SSL)の対照的な学習は、ラベルのないデータを使用してモデルの堅牢性を高めることによって、データの不足を緩和する、という約束を示している。 SSL法は他の領域で提案され研究されているが、PCG分類におけるモデル堅牢性に対するデータ拡張の影響に焦点を当てた研究は限られている。 特に、拡張はSSLの重要なコンポーネントであるが、トレーニング中に最も適切なポリシーを選択することは非常に難しい。 不適切な拡張はパフォーマンスを著しく低下させ、意味のある表現を学習するネットワークの能力を妨げます。 本研究の目的は,PCG分類におけるSSLモデルの性能向上を目的とした,幅広いオーディオベースの拡張と組み合わせの探索と評価である。 複数のデータセットを対象とした総合的な比較分析を行い、モデル性能に対する様々な拡張の影響を評価する。 その結果、トレーニング分布によっては、拡張選択がモデル堅牢性に大きく影響し、完全教師付きモデルでは、未確認データで評価された場合、最大32倍の効率低下を経験する一方、SSLモデルはより弾力性を示し、わずか10倍の損失しか得られず、場合によっては改善する。 本研究は,PCG信号処理において,トレーニングにおけるその効果の大きさを計算することによって,最も有望かつ適切な拡張について述べる。 これらの知見は、PCG信号処理において信頼性の高いモデルを開発するための貴重なガイドラインを研究者に提供する。

関連論文リスト

• Evaluating the Impact of Data Augmentation on Predictive Model Performance [0.05624791703748109]
  本稿では,データ拡張手法と予測性能への影響を体系的に比較する。 21種類の増幅法のうち、SMOTE-ENNサンプリングが最も優れ、平均AUCが0.01向上した。 いくつかの拡張技術は、予測性能を著しく低下させたり、ランダムな確率に関する性能変動を増大させたりした。
  論文  参考訳（メタデータ） (2024-12-03T03:03:04Z)
• Reducing self-supervised learning complexity improves weakly-supervised classification performance in computational pathology [0.0]
  自己教師付き学習(SSL)法は、注釈のないデータの大規模解析を可能にする。 本研究では、SSLの分類性能と、コンシューマグレードハードウェアの利用に関する複雑さについて検討した。 実験により,SSLトレーニング期間を90%短縮しつつ,下流分類性能を向上できることが実証された。
  論文  参考訳（メタデータ） (2024-03-07T14:56:06Z)
• Boosting Transformer's Robustness and Efficacy in PPG Signal Artifact Detection with Self-Supervised Learning [0.0]
  本研究は、自己教師付き学習(SSL)を用いて、このデータから潜伏した特徴を抽出することにより、豊富なラベル付きデータの未利用に対処する。 実験の結果,SSLはTransformerモデルの表現学習能力を大幅に向上させることがわかった。 このアプローチは、注釈付きデータがしばしば制限されるPICU環境において、より広範なアプリケーションに対して約束される。
  論文  参考訳（メタデータ） (2024-01-02T04:00:48Z)
• Self-Supervision for Tackling Unsupervised Anomaly Detection: Pitfalls and Opportunities [50.231837687221685]
  自己教師付き学習(SSL)は、機械学習とその多くの現実世界のアプリケーションに変化をもたらした。 非教師なし異常検出(AD)は、自己生成性擬似異常によりSSLにも乗じている。
  論文  参考訳（メタデータ） (2023-08-28T07:55:01Z)
• To Repeat or Not To Repeat: Insights from Scaling LLM under Token-Crisis [50.31589712761807]
  大規模言語モデル(LLM)は、事前トレーニング中にトークンに悩まされていることで知られており、Web上の高品質なテキストデータは、LSMのスケーリング制限に近づいている。 本研究では,事前学習データの再学習の結果について検討し,モデルが過度に適合する可能性が示唆された。 第2に, マルチエポック劣化の原因となる要因について検討し, データセットのサイズ, モデルパラメータ, トレーニング目標など, 重要な要因について検討した。
  論文  参考訳（メタデータ） (2023-05-22T17:02:15Z)
• Improved Techniques for the Conditional Generative Augmentation of Clinical Audio Data [36.45569352490318]
  本稿では,学習したデータ分布からメルスペクトルを合成できる条件付き逆方向ニューラルネットワークによる拡張法を提案する。 提案手法は,従来の音質向上手法よりも優れていることを示す。 提案モデルは,臨床オーディオデータの増大における最先端の進歩と,臨床音響センシングシステムの設計におけるデータのボトルネックを改善する。
  論文  参考訳（メタデータ） (2022-11-05T10:58:04Z)
• Improving the efficacy of Deep Learning models for Heart Beat detection on heterogeneous datasets [0.0]
  ヘテロジニアスデータセットにディープラーニングモデルを適用する際の問題点について検討する。 本研究では,健常者からのデータに基づいてトレーニングしたモデルの性能が,心疾患患者に適用した場合に低下することを示す。 次に、異なるデータセットにモデルを適応させるためのTransfer Learningの使用を評価します。
  論文  参考訳（メタデータ） (2021-10-26T14:26:55Z)
• On the Robustness of Pretraining and Self-Supervision for a Deep Learning-based Analysis of Diabetic Retinopathy [70.71457102672545]
  糖尿病網膜症における訓練方法の違いによる影響を比較検討した。 本稿では,定量的性能,学習した特徴表現の統計,解釈可能性,画像歪みに対する頑健性など,さまざまな側面について検討する。 以上の結果から,ImageNet事前学習モデルでは,画像歪みに対する性能,一般化,堅牢性が著しく向上していることが示唆された。
  論文  参考訳（メタデータ） (2021-06-25T08:32:45Z)
• Bootstrapping Your Own Positive Sample: Contrastive Learning With Electronic Health Record Data [62.29031007761901]
  本稿では,新しいコントラスト型正規化臨床分類モデルを提案する。 EHRデータに特化した2つのユニークなポジティブサンプリング戦略を紹介します。 私たちのフレームワークは、現実世界のCOVID-19 EHRデータの死亡リスクを予測するために、競争の激しい実験結果をもたらします。
  論文  参考訳（メタデータ） (2021-04-07T06:02:04Z)
• Self-Training with Improved Regularization for Sample-Efficient Chest X-Ray Classification [80.00316465793702]
  挑戦的なシナリオで堅牢なモデリングを可能にするディープラーニングフレームワークを提案する。 その結果,85%のラベル付きデータを用いて,大規模データ設定で学習した分類器の性能に適合する予測モデルを構築することができた。
  論文  参考訳（メタデータ） (2020-05-03T02:36:00Z)
• Generative Data Augmentation for Commonsense Reasoning [75.26876609249197]
  G-DAUGCは、低リソース環境でより正確で堅牢な学習を実現することを目的とした、新しい生成データ拡張手法である。 G-DAUGCは、バックトランスレーションに基づく既存のデータ拡張手法を一貫して上回っている。 分析の結果,G-DAUGCは多種多様な流線型学習例を産出し,その選択と学習アプローチが性能向上に重要であることが示された。
  論文  参考訳（メタデータ） (2020-04-24T06:12:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。