論文の概要: Discriminative Representation Learning for Clinical Prediction

• arxiv url: http://arxiv.org/abs/2603.20921v1
• Date: Sat, 21 Mar 2026 19:45:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-24 19:11:39.151391
• Title: Discriminative Representation Learning for Clinical Prediction
• Title（参考訳）: 臨床予測のための識別的表現学習
• Authors: Yang Zhang, Li Fan, Samuel Lawrence, Shi Li,
• Abstract要約: 高品質な監視が可能であれば、直接的な結果アライメントは、生成前訓練よりも優れた帰納バイアスをもたらす可能性がある、と我々は主張する。 クラス間分離を最大化することにより表現幾何学を明示的に形成する教師付きディープラーニングフレームワークを提案する。 我々のアプローチは、一致したモデルキャパシティの下で、マスク付き、自己回帰的で、対照的な事前学習ベースラインよりも一貫して優れています。
• 参考スコア（独自算出の注目度）: 5.926309087813293
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Foundation models in healthcare have largely adopted self supervised pretraining objectives inherited from natural language processing and computer vision, emphasizing reconstruction and large scale representation learning prior to downstream adaptation. We revisit this paradigm in outcome centric clinical prediction settings and argue that, when high quality supervision is available, direct outcome alignment may provide a stronger inductive bias than generative pretraining. We propose a supervised deep learning framework that explicitly shapes representation geometry by maximizing inter class separation relative to within class variance, thereby concentrating model capacity along clinically meaningful axes. Across multiple longitudinal electronic health record tasks, including mortality and readmission prediction, our approach consistently outperforms masked, autoregressive, and contrastive pretraining baselines under matched model capacity. The proposed method improves discrimination, calibration, and sample efficiency, while simplifying the training pipeline to a single stage optimization. These findings suggest that in low entropy, outcome driven healthcare domains, supervision can act as the statistically optimal driver of representation learning, challenging the assumption that large scale self supervised pretraining is a prerequisite for strong clinical performance.
• Abstract（参考訳）: 医療における基礎モデルは、下流適応以前の再構築と大規模表現学習を強調することで、自然言語処理とコンピュータビジョンから受け継いだ自己指導型事前学習の目的を広く採用してきた。 我々は、このパラダイムを結果中心の臨床予測設定で再考し、高品質な監視が可能であれば、直接的な結果アライメントは、生成前訓練よりも優れた帰納的バイアスをもたらす可能性があると論じる。 クラス間分離をクラス間分散で最大化し,臨床的に有意な軸に沿ってモデル容量を集中させることにより,表現幾何学を明示的に形成する教師付きディープラーニングフレームワークを提案する。 死亡率や寛容予測など,複数の縦断的電子健康記録タスクにおいて,我々のアプローチは,一致したモデル容量下でのマスク,自己回帰,および対照的な事前学習ベースラインよりも一貫して優れていた。 提案手法は,訓練パイプラインを1段最適化に簡素化しつつ,識別,校正,サンプル効率を向上させる。 これらの結果から,低エントロピー,結果駆動型医療ドメインでは,指導が表現学習の統計的に最適な要因となり得ることが示唆された。

関連論文リスト

• Learning Clinical Representations Under Systematic Distribution Shift [1.7823291802496628]
  臨床予測のための実践的不変表現学習フレームワークを提案する。 本研究は, 監督的リスク最小化と, 対人環境の正則化と, 病院全体でのリスクペナルティの不変性を組み合わせたものである。 その結果、表現学習中の系統的な分布シフトを明示的に考慮すると、より堅牢な転写可能な臨床モデルが得られることが示された。
  論文  参考訳（メタデータ） (2026-03-07T21:28:20Z)
• Dense Feature Learning via Linear Structure Preservation in Medical Data [30.77691570199694]
  医学データのためのディープラーニングモデルは、典型的には、少数の識別方向への表現の崩壊を促すタスク固有の目的を用いて訓練される。 医用埋め込みの線形構造を明示的に形成する表現中心型フレームワークである高密度特徴学習を提案する。
  論文  参考訳（メタデータ） (2026-02-07T21:23:35Z)
• Adaptive Test-Time Training for Predicting Need for Invasive Mechanical Ventilation in Multi-Center Cohorts [4.250825424649631]
  テストタイムトレーニング(TTT)は、このようなシフトを緩和するための有望なアプローチとして登場した。 In orderive Test-Time Training (AdaTTT) は、ITU設定におけるEMHベースのMV予測に適した拡張TTフレームワークである。
  論文  参考訳（メタデータ） (2025-12-07T04:27:40Z)
• Will Large Language Models Transform Clinical Prediction? [6.239284099493876]
  大規模言語モデル(LLM)は、医療への関心が高まっている。 本解説は,臨床予測モデル(CPM)を診断・予後タスクに応用するためのLSMの可能性を評価するものである。
  論文  参考訳（メタデータ） (2025-05-23T17:02:04Z)
• In-Context Linear Regression Demystified: Training Dynamics and Mechanistic Interpretability of Multi-Head Softmax Attention [52.159541540613915]
  本研究では,マルチヘッド型ソフトマックスアテンションモデルを用いて,線形データを用いたコンテキスト内学習を行う方法について検討する。 この結果から,学習内容の学習能力は,そのアーキテクチャと基礎となるデータ分布の集約的効果として,訓練されたトランスフォーマーから出現することが明らかとなった。
  論文  参考訳（メタデータ） (2025-03-17T02:00:49Z)
• Enhancing Robustness of Vision-Language Models through Orthogonality Learning and Self-Regularization [77.62516752323207]
  そこで本研究では,事前訓練した重みを効率よく微調整する直交微調整法を導入し,頑健さと一般化の強化を実現した。 自己正規化戦略は、OrthSRと呼ばれるVLMのゼロショット一般化の観点から安定性を維持するためにさらに活用される。 筆者らはCLIPとCoOpを再検討し,少数の画像のクラスフィシエーションシナリオにおけるモデルの改善を効果的に行う。
  論文  参考訳（メタデータ） (2024-07-11T10:35:53Z)
• A Survey of the Impact of Self-Supervised Pretraining for Diagnostic Tasks with Radiological Images [71.26717896083433]
  自己教師付き事前学習は,伝達学習における特徴表現の改善に有効であることが観察されている。 本総説ではX線, CT, 磁気共鳴, 超音波画像における使用法について概説する。
  論文  参考訳（メタデータ） (2023-09-05T19:45:09Z)
• Self-Distillation for Further Pre-training of Transformers [83.84227016847096]
  我々は、さらなる事前学習段階の正則化として自己蒸留を提案する。 画像およびテキスト分類タスクのための様々なベンチマークデータセットにおける自己蒸留の有効性を実証的に検証する。
  論文  参考訳（メタデータ） (2022-09-30T02:25:12Z)
• On the Robustness of Pretraining and Self-Supervision for a Deep Learning-based Analysis of Diabetic Retinopathy [70.71457102672545]
  糖尿病網膜症における訓練方法の違いによる影響を比較検討した。 本稿では,定量的性能,学習した特徴表現の統計,解釈可能性,画像歪みに対する頑健性など,さまざまな側面について検討する。 以上の結果から,ImageNet事前学習モデルでは,画像歪みに対する性能,一般化,堅牢性が著しく向上していることが示唆された。
  論文  参考訳（メタデータ） (2021-06-25T08:32:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。