論文の概要: SiamQuality: A ConvNet-Based Foundation Model for Imperfect Physiological Signals

• arxiv url: http://arxiv.org/abs/2404.17667v1
• Date: Fri, 26 Apr 2024 19:20:42 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-30 19:50:27.899004
• Title: SiamQuality: A ConvNet-Based Foundation Model for Imperfect Physiological Signals
• Title（参考訳）: SiamQuality:不完全な生理信号のためのConvNetベースの基礎モデル
• Authors: Cheng Ding, Zhicheng Guo, Zhaoliang Chen, Randall J Lee, Cynthia Rudin, Xiao Hu,
• Abstract要約: 本稿では,畳み込みニューラルネットワーク(CNN)をベースとした新たな自己教師型学習課題を提案する。 入院した集中治療患者の光胸腺画像信号の大規模なデータセットを活用する。 提案手法は,データ品質のトレーニングに頑健な基礎モデルのバックボーンとして,CNNが有効であることを示す。
• 参考スコア（独自算出の注目度）: 20.574424407296586
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Foundation models, especially those using transformers as backbones, have gained significant popularity, particularly in language and language-vision tasks. However, large foundation models are typically trained on high-quality data, which poses a significant challenge, given the prevalence of poor-quality real-world data. This challenge is more pronounced for developing foundation models for physiological data; such data are often noisy, incomplete, or inconsistent. The present work aims to provide a toolset for developing foundation models on physiological data. We leverage a large dataset of photoplethysmography (PPG) signals from hospitalized intensive care patients. For this data, we propose SimQuality, a novel self-supervised learning task based on convolutional neural networks (CNNs) as the backbone to enforce representations to be similar for good and poor quality signals that are from similar physiological states. We pre-trained the SimQuality on over 36 million 30-second PPG pairs and then fine-tuned and tested on six downstream tasks using external datasets. The results demonstrate the superiority of the proposed approach on all the downstream tasks, which are extremely important for heart monitoring on wearable devices. Our method indicates that CNNs can be an effective backbone for foundation models that are robust to training data quality.
• Abstract（参考訳）: 基礎モデル、特にトランスフォーマーをバックボーンとして使用するモデルは、特に言語や言語ビジョンタスクにおいて大きな人気を集めている。 しかし、大規模な基礎モデルは一般的に高品質なデータに基づいて訓練されており、品質の低い実世界のデータが普及しているため、これは大きな課題となる。 この課題は、生理学的データの基礎モデルを開発する上でより顕著であり、しばしばノイズ、不完全、一貫性のないデータである。 本研究の目的は,生理的データに基づく基礎モデル構築のためのツールセットを提供することである。 入院した集中治療患者の光胸腺造影(PPG)信号の大規模なデータセットを活用する。 そこで本研究では,畳み込みニューラルネットワーク(CNN)に基づく自己教師型学習タスクであるSimQualityを提案する。 我々は、SimQualityを3600万の30秒のPSGペアで事前トレーニングし、その後、外部データセットを使用して6つの下流タスクで微調整し、テストしました。 以上の結果から,ウェアラブルデバイスにおける心拍モニタリングにおいて極めて重要である下流タスクに対するアプローチの優位性が示された。 提案手法は,データ品質のトレーニングに頑健な基礎モデルのバックボーンとして,CNNが有効であることを示す。

関連論文リスト

• Diffusion-based Neural Network Weights Generation [85.6725307453325]
  データセット条件付き事前学習重み抽出による効率よく適応的な伝達学習手法を提案する。 具体的には、ニューラルネットワークの重みを再構築できる変分オートエンコーダを備えた潜時拡散モデルを用いる。
  論文  参考訳（メタデータ） (2024-02-28T08:34:23Z)
• Beyond Human Data: Scaling Self-Training for Problem-Solving with Language Models [115.501751261878]
  人為的なデータに基づく微調整言語モデル(LM)が普及している。 我々は、スカラーフィードバックにアクセス可能なタスクにおいて、人間のデータを超えることができるかどうか検討する。 ReST$EM$はモデルサイズに好適にスケールし、人間のデータのみによる微調整を大幅に上回っていることがわかった。
  論文  参考訳（メタデータ） (2023-12-11T18:17:43Z)
• A Generative Self-Supervised Framework using Functional Connectivity in fMRI Data [15.211387244155725]
  機能的磁気共鳴イメージング(fMRI)データから抽出した機能的接続性(FC)ネットワークを訓練したディープニューラルネットワークが人気を博している。 グラフニューラルネットワーク(GNN)のFCへの適用に関する最近の研究は、FCの時間変化特性を活用することにより、モデル予測の精度と解釈可能性を大幅に向上させることができることを示唆している。 高品質なfMRIデータとそれに対応するラベルを取得するための高コストは、実環境において彼らのアプリケーションにハードルをもたらす。 本研究では,動的FC内の時間情報を効果的に活用するためのSSL生成手法を提案する。
  論文  参考訳（メタデータ） (2023-12-04T16:14:43Z)
• The effect of data augmentation and 3D-CNN depth on Alzheimer's Disease detection [51.697248252191265]
  この研究は、データハンドリング、実験設計、モデル評価に関するベストプラクティスを要約し、厳密に観察する。 我々は、アルツハイマー病(AD)の検出に焦点を当て、医療における課題のパラダイム的な例として機能する。 このフレームワークでは,3つの異なるデータ拡張戦略と5つの異なる3D CNNアーキテクチャを考慮し,予測15モデルを訓練する。
  論文  参考訳（メタデータ） (2023-09-13T10:40:41Z)
• Towards Robust Dataset Learning [90.2590325441068]
  本稿では,頑健なデータセット学習問題を定式化するための三段階最適化法を提案する。 ロバストな特徴と非ロバストな特徴を特徴付ける抽象モデルの下で,提案手法はロバストなデータセットを確実に学習する。
  論文  参考訳（メタデータ） (2022-11-19T17:06:10Z)
• An Adversarial Active Sampling-based Data Augmentation Framework for Manufacturable Chip Design [55.62660894625669]
  リソグラフィーモデリングは、チップ設計マスクが製造可能であることを保証するため、チップ設計において重要な問題である。 機械学習の最近の進歩は、時間を要するリソグラフィーシミュレーションをディープニューラルネットワークに置き換えるための代替ソリューションを提供している。 本稿では,限られたデータのジレンマを解消し,機械学習モデルの性能を向上させるために,データ拡張フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-10-27T20:53:39Z)
• Benchmarking and Analyzing 3D Human Pose and Shape Estimation Beyond Algorithms [31.2529724533643]
  この研究は、アルゴリズム以外の3つの未探索視点からの最初の総合的なベンチマーク研究を示す。 31のデータセットの分析では、データサンプルの異なる影響が明らかになっている。 比較的単純なモデルで3DPWテストセットで47.3mmのPA-MPJPEを実現する。
  論文  参考訳（メタデータ） (2022-09-21T17:39:53Z)
• Investigating the Predictive Reproducibility of Federated Graph Neural Networks using Medical Datasets [0.0]
  本稿では、医用画像と脳接続データセットの分類に応用したフェデレーションGNNモデルの適用について検討する。 我々は,これらの医学的学習課題において,連合学習がGNNモデルの精度と精度を高めることを示した。
  論文  参考訳（メタデータ） (2022-09-13T14:32:03Z)
• StyleGAN-Human: A Data-Centric Odyssey of Human Generation [96.7080874757475]
  この研究は、データ中心の観点から、"データエンジニアリング"における複数の重要な側面を調査します。 さまざまなポーズやテクスチャを抽出した230万以上のサンプルで、大規模な人間の画像データセットを収集し、注釈付けします。 本稿では,データサイズ,データ分布,データアライメントといった,スタイルGANに基づく人為的生成のためのデータ工学における3つの重要な要素について精査する。
  論文  参考訳（メタデータ） (2022-04-25T17:55:08Z)
• Feature robustness and sex differences in medical imaging: a case study in MRI-based Alzheimer's disease detection [1.7616042687330637]
  我々はADNI MRIデータセットの2つの分類方式を比較した。 訓練データセットの性構成に対する男女試験対象者のモデル性能の強い依存は見つからない。
  論文  参考訳（メタデータ） (2022-04-04T17:37:54Z)
• Handling Non-ignorably Missing Features in Electronic Health Records Data Using Importance-Weighted Autoencoders [8.518166245293703]
  本稿では,生体データのランダムなパターンではなく,欠落を柔軟に扱うために,重要度重み付きオートエンコーダ(iwaes)と呼ばれるvaesの新たな拡張を提案する。 提案手法は,組み込みニューラルネットワークを用いて欠落機構をモデル化し,欠落機構の正確な形式を事前に指定する必要をなくした。
  論文  参考訳（メタデータ） (2021-01-18T22:53:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。