論文の概要: How and why does deep ensemble coupled with transfer learning increase performance in bipolar disorder and schizophrenia classification?
- arxiv url: http://arxiv.org/abs/2604.02002v1
- Date: Thu, 02 Apr 2026 13:09:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-03 14:21:10.799238
- Title: How and why does deep ensemble coupled with transfer learning increase performance in bipolar disorder and schizophrenia classification?
- Title(参考訳): 両極性障害と統合失調症分類における深層アンサンブルとトランスファーラーニングの併用によるパフォーマンス向上の方法と理由
- Authors: Sara Petiton, Antoine Grigis, Benoit Dufumier, Edouard Duchesnay,
- Abstract要約: トランスファーラーニング(TL)とディープアンサンブルラーニング(DE)は、精神疾患の分類において、単純な機械学習よりも優れていることが示されている。
両極性障害 (BD) と統合失調症 (SCZ) において, DE と TL が単一対象分類モデルの多様性をいかに低下させるかを理解することを目的とする。
- 参考スコア(独自算出の注目度): 4.30484058393522
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Transfer learning (TL) and deep ensemble learning (DE) have recently been shown to outperform simple machine learning in classifying psychiatric disorders. However, there is still a lack of understanding as to why that is. This paper aims to understand how and why DE and TL reduce the variability of single-subject classification models in bipolar disorder (BD) and schizophrenia (SCZ). To this end, we investigated the training stability of TL and DE models. For the two classification tasks under consideration, we compared the results of multiple trainings with the same backbone but with different initializations. In this way, we take into account the epistemic uncertainty associated with the uncertainty in the estimation of the model parameters. It has been shown that the performance of classifiers can be significantly improved by using TL with DE. Based on these results, we investigate i) how many models are needed to benefit from the performance improvement of DE when classifying BD and SCZ from healthy controls, and ii) how TL induces better generalization, with and without DE. In the first case, we show that DE reaches a plateau when 10 models are included in the ensemble. In the second case, we find that using a pre-trained model constrains TL models with the same pre-training to stay in the same basin of the loss function. This is not the case for DL models with randomly initialized weights.
- Abstract(参考訳): トランスファーラーニング(TL)とディープアンサンブルラーニング(DE)は、精神疾患の分類において、単純な機械学習よりも優れていることが最近示されている。
しかし、その理由についてはまだ理解されていない。
本稿では,両極性障害 (BD) と統合失調症 (SCZ) において, DE と TL が単一対象分類モデルの多様性を低下させる理由と理由を明らかにすることを目的とする。
そこで本研究では,TLモデルとDEモデルのトレーニング安定性について検討した。
検討中の2つの分類課題について,複数のトレーニングの結果を同じバックボーンと異なる初期化で比較した。
このようにして、モデルパラメータの推定における不確実性に関連するてんかんの不確実性を考慮する。
DEを用いたTLを用いることで,分類器の性能を大幅に向上できることが示されている。
これらの結果に基づき,本研究の成果を報告する。
一 健全な制御からBD及びSCZを分類する際に、DECの性能向上の恩恵を受けるために、何つのモデルが必要か。
二 TLがDEを伴わずとも、どのようにしてより良い一般化を導き出すか。
最初のケースでは、10個のモデルがアンサンブルに含まれるとき、DEが台地に達することを示す。
第2のケースでは、事前学習モデルを使用することで、同じ事前学習を持つTLモデルを損失関数の同じ流域に留まることが分かる。
これは、ランダムに初期化重みを持つDLモデルには当てはまらない。
関連論文リスト
- LLM Probability Concentration: How Alignment Shrinks the Generative Horizon [13.184240238106016]
また,アライメント調整によってモデル出力分布が大幅に向上することを示す。
この洞察に基づいて、この一貫性は複雑な推論に驚くべき意味を持つ。
論文 参考訳(メタデータ) (2025-06-22T02:00:37Z) - A replica analysis of under-bagging [3.1274367448459253]
Under-bagging (UB) は、不均衡なデータに基づいて分類器を訓練するための一般的なアンサンブル学習手法である。
アンダーサンプリングによる試料径の減少による分散の増大を抑えるためにバッジを用いることは自然なアプローチである。
近年、一般化線形モデルでは、クラス不均衡構造を考慮しない単純バッグングとリッジ正則化が同じ結果をもたらすことが指摘されている。
論文 参考訳(メタデータ) (2024-04-15T13:31:31Z) - Robust Learning with Progressive Data Expansion Against Spurious
Correlation [65.83104529677234]
本研究では,2層非線形畳み込みニューラルネットワークの学習過程について検討した。
分析の結果,不均衡なデータ群と学習容易なスプリアス特徴が学習過程におけるスプリアス特徴の優位性に繋がる可能性が示唆された。
本稿では,PDEと呼ばれる新たなトレーニングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-06-08T05:44:06Z) - Deep Prototypical-Parts Ease Morphological Kidney Stone Identification
and are Competitively Robust to Photometric Perturbations [0.9236074230806579]
腎結石サブタイプ当たりのプロトタイプ部分(PP)を学習し,出力分類を生成する。
我々の実装の平均精度は、最先端(SOTA)非解釈可能なDLモデルよりも1.5%低い。
本モデルでは, 対向訓練を伴わずに, 標準偏差の低い摂動画像を2.8%向上させる。
論文 参考訳(メタデータ) (2023-04-08T17:43:31Z) - Training Trajectories of Language Models Across Scales [99.38721327771208]
言語モデルのスケールアップは、前例のないパフォーマンス向上につながった。
異なるサイズの言語モデルは事前学習中にどのように学習するか?
より大きな言語モデルはなぜ望ましい振る舞いを示すのか?
論文 参考訳(メタデータ) (2022-12-19T19:16:29Z) - Machine Learning Workflow to Explain Black-box Models for Early
Alzheimer's Disease Classification Evaluated for Multiple Datasets [1.725982481793229]
ハード・トゥ・解釈ブラックボックス・機械学習(ML)はアルツハイマー病(AD)の早期発見によく用いられた。
本研究は,Shapley値に基づくワークフローを開発した。
認知テストスコアを用いて訓練されたモデルは、脳モデルよりも有意に優れていた。
論文 参考訳(メタデータ) (2022-05-12T06:58:11Z) - Estimation of Bivariate Structural Causal Models by Variational Gaussian
Process Regression Under Likelihoods Parametrised by Normalising Flows [74.85071867225533]
因果機構は構造因果モデルによって記述できる。
最先端の人工知能の大きな欠点の1つは、説明責任の欠如である。
論文 参考訳(メタデータ) (2021-09-06T14:52:58Z) - Agree to Disagree: When Deep Learning Models With Identical
Architectures Produce Distinct Explanations [0.0]
我々は,MIMIC-CXRデータセットの特定問題を強調するために,説明整合性の尺度を導入する。
同じモデルの説明がありますが、異なるトレーニングセットアップでは一貫性が低く、平均で$approx$ 33%です。
モデル説明の現在のトレンドは、実生活の医療アプリケーションにおけるモデル展開のリスクを軽減するのに十分ではないと結論づける。
論文 参考訳(メタデータ) (2021-05-14T12:16:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。