論文の概要: Unlocking the Specialization Capability of PPG Foundation Models for Wearable Signals through Structured Pruning and Adaptive Fine-Tuning
- arxiv url: http://arxiv.org/abs/2610.33788v1
- Date: Sat, 24 Oct 2026 16:46:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.445902
- Title: Unlocking the Specialization Capability of PPG Foundation Models for Wearable Signals through Structured Pruning and Adaptive Fine-Tuning
- Title(参考訳): 構造化プルーニングと適応ファインチューニングによるウェアラブル信号のためのPDG基礎モデルの特殊化能力の解放
- Abstract要約: 光胸腺撮影は、ウェアラブルの健康モニタリングと臨床診断支援において中心的な役割を担っている。
汎用PSG表現学習への既存のアプローチは、主に高品質な大規模データセットで訓練されている。
本研究では,より関連性が高くコンパクトなパラメータ空間に制約を加えることで,適応的な微調整過程を規則化する構造化プルーニング・アンド・ファインチューニングフレームワークであるSPAFTを提案する。
- 参考スコア(独自算出の注目度): 26.475991194990076
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Photoplethysmography (PPG) plays a central role in wearable health monitoring and clinical decision support. However, existing approaches to universal PPG representation learning are predominantly trained on high-quality large-scale datasets obtained from oximeters in hospital settings and often struggle to adapt to sparse and low-quality real-world datasets, thereby limiting their generalization to clinically relevant tasks on prevalent PPG data such as collected from wearable devices. Surprisingly, even after full fine-tuning, PPG foundation models cannot consistently outperform general-purpose time-series models. Therefore, a key question is how to effectively adapt PPG foundation models to target prediction tasks. Through empirical studies on various PPG foundation models, we find that pretrained models often exhibit inherent sparsity and computational redundancy, suggesting that PPG foundation models have learned to activate task-relevant network substructures for different prediction tasks. To preserve this valuable prior knowledge, we propose a structured pruning-and-fine-tuning framework, SPAFT, which regularizes the adaptive fine-tuning process by constraining it to a more relevant and compact parameter space based on parameter importance and structural redundancy. Extensive experiments across four PPG foundation models, five benchmark datasets, and ten downstream tasks demonstrate that SPAFT achieves win rates of 82.8% and 87.5% on regression and classification tasks, respectively. This prune-then-finetune paradigm often enables PPG foundation models to achieve state-of-the-art performance, laying a promising foundation for the real-world clinical deployment of PPG foundation models and the development of personalized PPG foundation models.
- Abstract(参考訳): 光胸腺造影(PPG)は、ウェアラブルの健康モニタリングと臨床診断支援において中心的な役割を担っている。
しかし, 一般的なPSG表現学習へのアプローチは, 病院環境におけるオキシメータから得られる高品質な大規模データセットに基づいて主に訓練されており, スパースやロークオリティな実世界のデータセットへの適応に苦慮することが多く, ウェアラブルデバイスから収集したPSGデータに対する臨床関連タスクへの一般化を制限している。
驚くべきことに、完全な微調整をした後でも、PSGファンデーションモデルは汎用時系列モデルより一貫して優れているとは言い難い。
したがって、重要な疑問は、予測タスクをターゲットとするPSG基盤モデルを効果的に適応する方法である。
様々な PPG 基盤モデルに関する実証的研究により,事前学習モデルに固有の空間性や計算冗長性を示すことがよく見出され,PPG 基盤モデルがタスク関連ネットワークサブストラクチャの活性化を学習したことが示唆された。
この価値ある事前知識を維持するために、パラメータの重要度と構造的冗長性に基づいて、より関連性が高くコンパクトなパラメータ空間に制約することで、適応的な微調整プロセスを規則化する構造化プルーニング・微調整フレームワークSPAFTを提案する。
4つのPSGファンデーションモデル、5つのベンチマークデータセット、10つのダウンストリームタスクにわたる大規模な実験は、SPAFTがそれぞれレグレッションタスクと分類タスクで82.8%と87.5%の勝利率を達成したことを示している。
このPrune-then-finetuneパラダイムにより、PSGファンデーションモデルが最先端のパフォーマンスを達成することが可能となり、PSGファンデーションモデルの実際の臨床展開とパーソナライズされたPSGファンデーションモデルの開発に有望な基礎を築いた。
関連論文リスト
- PPG-Bench: A Unified Benchmark for PPG Foundation Models [6.383771493909507]
光胸腺撮影 (PPG) はウェアラブルや臨床機器によって大規模に記録されている。
PPGファンデーションモデル(FM)は、様々な下流タスクに対する再利用可能な表現を計算するために開発されている。
PPG-Benchは、9つのオープンアクセスデータセット、26のタスクにまたがる心臓血管状態の推定、睡眠、スクリーニング、識別の5つの公開PSG FMを評価する、統一されたオープンソースベンチマークである。
論文 参考訳(メタデータ) (2026-10-09T11:34:45Z) - A robust PPG foundation model using multimodal physiological supervision [7.441186015526675]
光胸腺造影は、血液量の変化を非侵襲的に測定する尺度である。
最近の PPG ファンデーションモデルは、キュレートされたデータを必要とする事前トレーニングパラダイムを備えたオープンソースの ICU データセットを使用するか、あるいはクローズドソースのフィールドライクな PPG データを使用する。
そこで本研究では,ICUデータセットにおける心電図と呼吸信号とを併用して,事前トレーニング中のコントラストサンプルを選択することを目的として,高品質・フィールドライクな事前トレーニングデータを必要としないPSG基盤モデルを提案する。
論文 参考訳(メタデータ) (2026-06-05T15:08:50Z) - On Predicting the Post-training Potential of Pre-trained LLMs [60.07459271263409]
本稿では,ポストトレーニング前のベースモデルの性能予測という,ポストトレーニング後の潜在能力を予測するための新しいタスクを紹介する。
本稿では,応答判別を活用することで,ベースモデルの生成ギャップを回避できる統一フレームワークであるRuDEを提案する。
実験では、トレーニング後のパフォーマンスと90%以上の相関を示す。
論文 参考訳(メタデータ) (2026-05-12T11:33:49Z) - Investigating the Impact of Histopathological Foundation Models on Regressive Prediction of Homologous Recombination Deficiency [52.50039435394964]
回帰に基づくタスクの基礎モデルを体系的に評価する。
我々は5つの最先端基礎モデルを用いて、スライド画像全体(WSI)からパッチレベルの特徴を抽出する。
乳房、子宮内膜、肺がんコホートにまたがるこれらの抽出された特徴に基づいて、連続したRDDスコアを予測するモデルが訓練されている。
論文 参考訳(メタデータ) (2026-01-29T14:06:50Z) - Generalist vs Specialist Time Series Foundation Models: Investigating Potential Emergent Behaviors in Assessing Human Health Using PPG Signals [22.364607686570384]
ファンデーションモデルは、大量のデータに基づいて事前訓練された大規模な機械学習モデルである。
MOMENTのような最近の研究は、汎用時系列基礎モデルを複数のドメインのデータで訓練している。
本稿では,ジェネラリストモデルとスペシャリストモデルのパフォーマンスを比較するため,総合的なベンチマーク研究を行うことを目的とする。
論文 参考訳(メタデータ) (2025-10-16T03:13:04Z) - Pulse-PPG: An Open-Source Field-Trained PPG Foundation Model for Wearable Applications Across Lab and Field Settings [15.077834063212704]
光胸腺撮影に基づく基礎モデルは、様々な健康分野にまたがる一般化の可能性から、注目を集めている。
既存のPSGファウンデーションモデルはオープンソースだが、臨床データやクローズドソースに基づいてトレーニングされており、現実の環境での適用性が制限されている。
我々はPulseを紹介した。Pulseは、120人の参加者による100日間のフィールド調査で収集された生PSGデータに特化して訓練された、オープンソースのPulse基盤モデルである。
論文 参考訳(メタデータ) (2025-02-03T06:56:40Z) - Generalized Logit Adjustment: Calibrating Fine-tuned Models by Removing Label Bias in Foundation Models [75.9543301303586]
CLIPのようなファンデーションモデルは、追加のトレーニングデータなしで、さまざまなタスクでゼロショット転送を可能にする。
微調整やアンサンブルも一般的に下流のタスクに合うように採用されている。
しかし、先行研究は基礎モデルに固有のバイアスを見落としていると論じる。
論文 参考訳(メタデータ) (2023-10-12T08:01:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。