論文の概要: BioX-Bridge: Model Bridging for Unsupervised Cross-Modal Knowledge Transfer across Biosignals
- arxiv url: http://arxiv.org/abs/2510.02276v1
- Date: Thu, 02 Oct 2025 17:51:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-03 16:59:21.270792
- Title: BioX-Bridge: Model Bridging for Unsupervised Cross-Modal Knowledge Transfer across Biosignals
- Title(参考訳): BioX-Bridge:バイオシグナー間の教師なしクロスモーダルな知識伝達のためのモデルブリッジ
- Authors: Chenqi Li, Yu Liu, Timothy Denison, Tingting Zhu,
- Abstract要約: 生体信号は、人間の身体の生理状態に関する貴重な洞察を提供する。
生体信号のモダリティは、機能、信号の忠実度、センサーの快適性、コストによって異なる。
それらはしばしば相互関係があり、人間の生理学の全体性と相互に結びついている性質を反映している。
- 参考スコア(独自算出の注目度): 7.694106951168764
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Biosignals offer valuable insights into the physiological states of the human body. Although biosignal modalities differ in functionality, signal fidelity, sensor comfort, and cost, they are often intercorrelated, reflecting the holistic and interconnected nature of human physiology. This opens up the possibility of performing the same tasks using alternative biosignal modalities, thereby improving the accessibility, usability, and adaptability of health monitoring systems. However, the limited availability of large labeled datasets presents challenges for training models tailored to specific tasks and modalities of interest. Unsupervised cross-modal knowledge transfer offers a promising solution by leveraging knowledge from an existing modality to support model training for a new modality. Existing methods are typically based on knowledge distillation, which requires running a teacher model alongside student model training, resulting in high computational and memory overhead. This challenge is further exacerbated by the recent development of foundation models that demonstrate superior performance and generalization across tasks at the cost of large model sizes. To this end, we explore a new framework for unsupervised cross-modal knowledge transfer of biosignals by training a lightweight bridge network to align the intermediate representations and enable information flow between foundation models and across modalities. Specifically, we introduce an efficient strategy for selecting alignment positions where the bridge should be constructed, along with a flexible prototype network as the bridge architecture. Extensive experiments across multiple biosignal modalities, tasks, and datasets show that BioX-Bridge reduces the number of trainable parameters by 88--99\% while maintaining or even improving transfer performance compared to state-of-the-art methods.
- Abstract(参考訳): 生体信号は、人間の身体の生理状態に関する貴重な洞察を提供する。
生体信号のモダリティは、機能、信号の忠実さ、センサーの快適さ、コストによって異なるが、それらはしばしば相互に関連しており、人間の生理学の全体性と相互に結びついている性質を反映している。
これにより、代替の生体信号モダリティを使用して同じタスクを実行できるようになり、健康モニタリングシステムのアクセシビリティ、ユーザビリティ、適応性が改善される。
しかし、大きなラベル付きデータセットの可用性が限られているため、特定のタスクや関心のモダリティに合わせたトレーニングモデルの課題が提示される。
教師なしのクロスモーダルな知識伝達は、既存のモダリティからの知識を活用して、新しいモダリティのためのモデルトレーニングを支援する、有望なソリューションを提供する。
既存の方法は通常、知識蒸留に基づいており、生徒モデルトレーニングと並行して教師モデルを実行する必要があるため、高い計算とメモリオーバーヘッドが生じる。
この課題は、大規模なモデルサイズを犠牲にして、タスク間での優れたパフォーマンスと一般化を示す基礎モデルの開発によってさらに悪化する。
そこで本研究では、軽量ブリッジネットワークをトレーニングし、中間表現を整列させ、基礎モデル間の情報フローとモダリティ間の情報フローを実現することにより、バイオシグナーの教師なしクロスモーダルな知識伝達のための新しいフレームワークを探索する。
具体的には,橋梁構造としてフレキシブルなプロトタイプネットワークとともに,橋梁を構築すべき位置のアライメントを選択するための効率的な戦略を提案する。
複数の生体信号、タスク、データセットにわたる大規模な実験により、BioX-Bridgeはトレーニング可能なパラメータの数を88~99パーセント削減し、最先端の手法と比較して転送性能を維持または改善している。
関連論文リスト
- Towards Robust Multimodal Physiological Foundation Models: Handling Arbitrary Missing Modalities [9.785262633953794]
生理オムニ (Phylo Omni) は、マルチモーダルな生理的信号解析の基礎モデルである。
分離されたマルチモーダル・トークンーザを訓練し、マスクされた信号の事前訓練を可能にする。
最先端のパフォーマンスを達成しつつ、モダリティの欠如に対して強い堅牢性を維持します。
論文 参考訳(メタデータ) (2025-04-28T09:00:04Z) - MergeNet: Knowledge Migration across Heterogeneous Models, Tasks, and Modalities [72.05167902805405]
異種モデルのパラメータ空間のギャップを埋めることを学ぶMergeNetを提案する。
MergeNetの中核となるメカニズムはパラメータアダプタにあり、ソースモデルの低ランクパラメータをクエリすることで動作する。
MergeNetは両方のモデルと共に学習され、我々のフレームワークは、現在のステージに関する知識を動的に転送し、適応することができます。
論文 参考訳(メタデータ) (2024-04-20T08:34:39Z) - HEALNet: Multimodal Fusion for Heterogeneous Biomedical Data [10.774128925670183]
本稿では,フレキシブルなマルチモーダル融合アーキテクチャであるHybrid Early-fusion Attention Learning Network (HEALNet)を提案する。
The Cancer Genome Atlas (TCGA) の4つのがんデータセットにおける全スライド画像と多モードデータを用いたマルチモーダルサバイバル解析を行った。
HEALNetは、他のエンドツーエンドの訓練された融合モデルと比較して最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2023-11-15T17:06:26Z) - Convolutional Monge Mapping Normalization for learning on sleep data [63.22081662149488]
我々は、CMMN(Convolutional Monge Mapping Normalization)と呼ばれる新しい手法を提案する。
CMMNは、そのパワースペクトル密度(PSD)をトレーニングデータに基づいて推定されるワッサーシュタインバリセンタに適応させるために、信号をフィルタリングする。
睡眠脳波データに関する数値実験により、CMMNはニューラルネットワークアーキテクチャから独立して、顕著で一貫したパフォーマンス向上をもたらすことが示された。
論文 参考訳(メタデータ) (2023-05-30T08:24:01Z) - A Generic Shared Attention Mechanism for Various Backbone Neural Networks [53.36677373145012]
自己注意モジュール(SAM)は、異なる層にまたがる強い相関した注意マップを生成する。
Dense-and-Implicit Attention (DIA)はSAMをレイヤ間で共有し、長期間のメモリモジュールを使用する。
我々のシンプルで効果的なDIAは、様々なネットワークバックボーンを一貫して拡張できます。
論文 参考訳(メタデータ) (2022-10-27T13:24:08Z) - Differentiable Agent-based Epidemiology [71.81552021144589]
GradABM(GradABM)は、エージェントベースのモデリングのためのスケーラブルで微分可能な設計で、勾配に基づく学習と自動微分が可能である。
GradABMは、コモディティハードウェア上で数秒で数百万の人口をシミュレートし、ディープニューラルネットワークと統合し、異種データソースを取り込みます。
論文 参考訳(メタデータ) (2022-07-20T07:32:02Z) - 2021 BEETL Competition: Advancing Transfer Learning for Subject
Independence & Heterogenous EEG Data Sets [89.84774119537087]
我々は、診断とBCI(Brain-Computer-Interface)に関する2つの伝達学習課題を設計する。
第1タスクは、患者全体にわたる自動睡眠ステージアノテーションに対処する医療診断に重点を置いている。
タスク2はBrain-Computer Interface (BCI)に集中しており、被験者とデータセットの両方にわたる運動画像のデコードに対処する。
論文 参考訳(メタデータ) (2022-02-14T12:12:20Z) - A Trainable Optimal Transport Embedding for Feature Aggregation and its
Relationship to Attention [96.77554122595578]
固定サイズのパラメータ化表現を導入し、与えられた入力セットから、そのセットとトレーニング可能な参照の間の最適な輸送計画に従って要素を埋め込み、集約する。
我々のアプローチは大規模なデータセットにスケールし、参照のエンドツーエンドのトレーニングを可能にすると同時に、計算コストの少ない単純な教師なし学習メカニズムも提供する。
論文 参考訳(メタデータ) (2020-06-22T08:35:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。