論文の概要: Adversarially-regularized mixed effects deep learning (ARMED) models for improved interpretability, performance, and generalization on clustered data

• arxiv url: http://arxiv.org/abs/2202.11783v1
• Date: Wed, 23 Feb 2022 20:58:22 GMT
• ステータス: 処理完了
• システム内更新日: 2022-02-25 16:18:35.675088
• Title: Adversarially-regularized mixed effects deep learning (ARMED) models for improved interpretability, performance, and generalization on clustered data
• Title（参考訳）: クラスタデータに対する解釈性, 性能, 一般化のための適応正規化混合学習(ARMED)モデル
• Authors: Kevin P. Nguyen, Albert Montillo (for the Alzheimer's Disease Neuroimaging Initiative)
• Abstract要約: 混合効果モデルは、クラスタ固有のランダム効果からクラスター不変、集団レベルの固定効果を分離する。 本稿では,既存ネットワークへの3つの非侵襲的な付加を通じて,Adversarially-Regularized Mixed Effects Deep Learning (ARMED)モデルを構築するための汎用フレームワークを提案する。 この枠組みを, シミュレーション, 認知症予後診断, 細胞顕微鏡などの4つの応用に適用し, DFNN, 畳み込みニューラルネットワーク, オートエンコーダに適用した。
• 参考スコア（独自算出の注目度）: 0.974672460306765
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Data in the natural sciences frequently violate assumptions of independence. Such datasets have samples with inherent clustering (e.g. by study site, subject, experimental batch), which may lead to spurious associations, poor model fitting, and confounded analyses. While largely unaddressed in deep learning, mixed effects models have been used in traditional statistics for clustered data. Mixed effects models separate cluster-invariant, population-level fixed effects from cluster-specific random effects. We propose a general-purpose framework for building Adversarially-Regularized Mixed Effects Deep learning (ARMED) models through 3 non-intrusive additions to existing networks: 1) a domain adversarial classifier constraining the original model to learn only cluster-invariant features, 2) a random effects subnetwork capturing cluster-specific features, and 3) a cluster-inferencing approach to predict on clusters unseen during training. We apply this framework to dense feedforward neural networks (DFNNs), convolutional neural networks, and autoencoders on 4 applications including simulations, dementia prognosis and diagnosis, and cell microscopy. We compare to conventional models, domain adversarial-only models, and the naive inclusion of cluster membership as a covariate. Our models better distinguish confounded from true associations in simulations and emphasize more biologically plausible features in clinical applications. ARMED DFNNs quantify inter-cluster variance in clinical data while ARMED autoencoders visualize batch effects in cell images. Finally, ARMED improves accuracy on data from clusters seen during training (up to 28% vs. conventional models) and generalizes better to unseen clusters (up to 9% vs. conventional models). By incorporating powerful mixed effects modeling into deep learning, ARMED increases performance, interpretability, and generalization on clustered data.
• Abstract（参考訳）: 自然科学におけるデータは、しばしば独立の前提に反する。 このようなデータセットは、固有のクラスタリング(研究サイト、主題、実験バッチなど)を持つサンプルを持ち、スプリアスな関連、不十分なモデルフィッティング、結合分析につながる可能性がある。 ディープラーニングにはほとんど対応していないが、クラスタ化されたデータに対する従来の統計では混合効果モデルが使われている。 混合効果モデルは、クラスタ固有のランダム効果からクラスター不変、集団レベルの固定効果を分離する。 既存ネットワークへの3つの非侵襲的な付加を通じて、適応型混合効果深層学習(ARMED)モデルを構築するための汎用フレームワークを提案する。 1) クラスター不変特徴のみを学ぶために元のモデルを制約するドメイン逆分類器 2)クラスタ固有の特徴を捉えたランダム効果サブネットワーク 3) トレーニング中に見えないクラスタを予測するクラスタ推論アプローチ。 我々はこの枠組みを, シミュレーション, 認知症予後, 診断, 細胞顕微鏡の4つの応用において, 高密度フィードフォワードニューラルネットワーク(dfnns), 畳み込みニューラルネットワーク, オートエンコーダに適用する。 我々は,従来のモデル,ドメイン逆数のみのモデル,クラスタメンバシップを共変量として包含することと比較した。 我々のモデルは、シミュレーションにおける真の関連を区別し、臨床応用においてより生物学的に妥当な特徴を強調する。 ARMED DFNNは臨床データのクラスタ間分散を定量化し、ARMEDオートエンコーダは細胞画像のバッチ効果を可視化する。 最後に、ARMEDはトレーニング中に見られるクラスタ(従来のモデルと比較して最大28%)のデータ精度を改善し、未確認のクラスタ(従来のモデルよりも最大9%)を一般化する。 強力な混合効果モデリングをディープラーニングに組み込むことで、ARMEDはクラスタ化されたデータのパフォーマンス、解釈可能性、一般化を向上させる。

関連論文リスト

• Dynamic Post-Hoc Neural Ensemblers [55.15643209328513]
  本研究では,ニューラルネットワークをアンサンブル手法として活用することを検討する。 低多様性のアンサンブルを学習するリスクを動機として,ベースモデル予測をランダムにドロップすることでモデルの正規化を提案する。 このアプローチはアンサンブル内の多様性を低くし、オーバーフィッティングを減らし、一般化能力を向上させる。
  論文  参考訳（メタデータ） (2024-10-06T15:25:39Z)
• Artificial Data Point Generation in Clustered Latent Space for Small Medical Datasets [4.542616945567623]
  本稿では,クラスタ化潜在空間(AGCL)における人工データポイント生成手法を提案する。 AGCLは、合成データ生成により、小さな医療データセットの分類性能を向上させるように設計されている。 顔の表情データを利用してパーキンソン病検診に応用した。
  論文  参考訳（メタデータ） (2024-09-26T09:51:08Z)
• Enabling Mixed Effects Neural Networks for Diverse, Clustered Data Using Monte Carlo Methods [9.035959289139102]
  混合効果ニューラルネットワーク(MENN)はクラスタ固有の「ランダム効果」とクラスタ不変の「固定効果」を分離する 本稿では,モンテカルロ法による一般化混合効果ニューラルネットワークの学習手法であるMC-GMENNを提案する。
  論文  参考訳（メタデータ） (2024-07-01T09:24:04Z)
• Fast leave-one-cluster-out cross-validation using clustered Network Information Criterion (NICc) [0.32141666878560626]
  クラスタベースのバリデーションを使用して、目に見えないクラスタ上でのモデルの一般化性を評価することが重要です。 本稿では,ネットワーク情報量基準(NICc)のクラスタ化推定手法を提案する。
  論文  参考訳（メタデータ） (2024-05-30T18:10:02Z)
• The effect of data augmentation and 3D-CNN depth on Alzheimer's Disease detection [51.697248252191265]
  この研究は、データハンドリング、実験設計、モデル評価に関するベストプラクティスを要約し、厳密に観察する。 我々は、アルツハイマー病(AD)の検出に焦点を当て、医療における課題のパラダイム的な例として機能する。 このフレームワークでは,3つの異なるデータ拡張戦略と5つの異なる3D CNNアーキテクチャを考慮し,予測15モデルを訓練する。
  論文  参考訳（メタデータ） (2023-09-13T10:40:41Z)
• Unified Multi-View Orthonormal Non-Negative Graph Based Clustering Framework [74.25493157757943]
  我々は,非負の特徴特性を活用し,多視点情報を統合された共同学習フレームワークに組み込む,新しいクラスタリングモデルを定式化する。 また、深層機能に基づいたクラスタリングデータに対するマルチモデル非負グラフベースのアプローチを初めて検討する。
  論文  参考訳（メタデータ） (2022-11-03T08:18:27Z)
• Adaptive Personlization in Federated Learning for Highly Non-i.i.d. Data [37.667379000751325]
  フェデレートラーニング(Federated Learning, FL)は、医療機関にグローバルモデルにおけるコラボレーションの見通しを提供する分散ラーニング手法である。 本研究では,FLの中間的半言語モデルを生成する適応階層クラスタリング手法について検討する。 本実験は, 分類精度の標準的なFL法と比較して, 不均質分布において有意な性能向上を示した。
  論文  参考訳（メタデータ） (2022-07-07T17:25:04Z)
• On the Generalization and Adaption Performance of Causal Models [99.64022680811281]
  異なる因果発見は、データ生成プロセスを一連のモジュールに分解するために提案されている。 このようなモジュラニューラル因果モデルの一般化と適応性能について検討する。 我々の分析では、モジュラーニューラル因果モデルが、低データレギュレーションにおけるゼロおよび少数ショットの適応において、他のモデルよりも優れていることを示している。
  論文  参考訳（メタデータ） (2022-06-09T17:12:32Z)
• Bayesian community detection for networks with covariates [16.230648949593153]
  科学界でもっとも注目されているのは「コミュニティ検出」である。 共依存型ランダムパーティションを持つブロックモデルを提案する。 本モデルでは, 後部推測により, コミュニティの数を知ることができる。
  論文  参考訳（メタデータ） (2022-03-04T01:58:35Z)
• No Fear of Heterogeneity: Classifier Calibration for Federated Learning with Non-IID Data [78.69828864672978]
  実世界のフェデレーションシステムにおける分類モデルのトレーニングにおける中心的な課題は、非IIDデータによる学習である。 このアルゴリズムは, 近似されたssian混合モデルからサンプリングした仮想表現を用いて分類器を調整する。 実験の結果,CIFAR-10,CIFAR-100,CINIC-10など,一般的なフェデレーション学習ベンチマークにおけるCCVRの現状が示された。
  論文  参考訳（メタデータ） (2021-06-09T12:02:29Z)
• Robust Finite Mixture Regression for Heterogeneous Targets [70.19798470463378]
  本稿では,サンプルクラスタの探索と,複数の不完全な混合型ターゲットを同時にモデル化するFMRモデルを提案する。 我々は、高次元の学習フレームワークの下で、無症状のオラクルのパフォーマンス境界をモデルに提供します。 その結果,我々のモデルは最先端の性能を達成できることがわかった。
  論文  参考訳（メタデータ） (2020-10-12T03:27:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。