論文の概要: Reliable and Trustworthy Machine Learning for Health Using Dataset Shift Detection

• arxiv url: http://arxiv.org/abs/2110.14019v1
• Date: Tue, 26 Oct 2021 20:49:01 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-29 09:24:45.719529
• Title: Reliable and Trustworthy Machine Learning for Health Using Dataset Shift Detection
• Title（参考訳）: データセットシフト検出を用いた健康のための信頼性と信頼性の高い機械学習
• Authors: Chunjong Park, Anas Awadalla, Tadayoshi Kohno, Shwetak Patel
• Abstract要約: 予測不能なMLモデルの振る舞いは、特に健康領域において、その安全性に対する深刻な懸念を引き起こす。 マハラノビス距離およびグラム行列に基づく分布外検出法は,分布外データを高精度に検出できることを示す。 次に、アウト・オブ・ディストリビューションスコアを人間の解釈可能なConFIDENCE SCOREに変換し、ユーザーの健康MLアプリケーションとのインタラクションに与える影響を調査する。
• 参考スコア（独自算出の注目度）: 7.263558963357268
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Unpredictable ML model behavior on unseen data, especially in the health domain, raises serious concerns about its safety as repercussions for mistakes can be fatal. In this paper, we explore the feasibility of using state-of-the-art out-of-distribution detectors for reliable and trustworthy diagnostic predictions. We select publicly available deep learning models relating to various health conditions (e.g., skin cancer, lung sound, and Parkinson's disease) using various input data types (e.g., image, audio, and motion data). We demonstrate that these models show unreasonable predictions on out-of-distribution datasets. We show that Mahalanobis distance- and Gram matrices-based out-of-distribution detection methods are able to detect out-of-distribution data with high accuracy for the health models that operate on different modalities. We then translate the out-of-distribution score into a human interpretable CONFIDENCE SCORE to investigate its effect on the users' interaction with health ML applications. Our user study shows that the \textsc{confidence score} helped the participants only trust the results with a high score to make a medical decision and disregard results with a low score. Through this work, we demonstrate that dataset shift is a critical piece of information for high-stake ML applications, such as medical diagnosis and healthcare, to provide reliable and trustworthy predictions to the users.
• Abstract（参考訳）: 予期せぬデータ、特に健康領域における予測不能なmlモデル行動は、その安全性に関する深刻な懸念を引き起こす。 本稿では,信頼性と信頼性の高い診断予測に最先端の分散検出器の利用の可能性について検討する。 我々は,様々な入力データ型(画像,音声,モーションデータなど)を用いて,様々な健康状態(皮膚がん,肺音,パーキンソン病など)に関する公開可能なディープラーニングモデルを選択する。 これらのモデルが分布外のデータセットに不合理な予測を示すことを示す。 マハラノビス距離とグラム行列に基づく分布外検出手法は,異なる形態の健康モデルに対して高い精度で分布外データを検出できることを示した。 次に、アウト・オブ・ディストリビューションスコアを人間の解釈可能なConFIDENCE SCOREに変換し、ユーザーの健康MLアプリケーションとのインタラクションに与える影響を調査する。 ユーザスタディでは,「textsc{confidence score」が,高得点のみを信頼し,医療的判断を下し,低得点で結果を無視する上で有効であった。 この研究を通じて、我々は、データセットシフトが、医療診断や医療など、高度なMLアプリケーションにとって重要な情報であり、ユーザに対して信頼性と信頼性のある予測を提供することを実証した。

関連論文リスト

• Interpretable Causal Inference for Analyzing Wearable, Sensor, and Distributional Data [62.56890808004615]
  本研究では,信頼性とロバストな意思決定を確実にする,分散データ解析の解釈可能な手法を開発した。 ADD MALTSの有用性について,糖尿病リスク軽減のための連続グルコースモニターの有効性について検討した。
  論文  参考訳（メタデータ） (2023-12-17T00:42:42Z)
• MedDiffusion: Boosting Health Risk Prediction via Diffusion-based Data Augmentation [58.93221876843639]
  本稿では,MedDiffusion という,エンドツーエンドの拡散に基づくリスク予測モデルを提案する。 トレーニング中に合成患者データを作成し、サンプルスペースを拡大することで、リスク予測性能を向上させる。 ステップワイズ・アテンション・メカニズムを用いて患者の来訪者間の隠れた関係を識別し、高品質なデータを生成する上で最も重要な情報をモデルが自動的に保持することを可能にする。
  論文  参考訳（メタデータ） (2023-10-04T01:36:30Z)
• PRISM: Leveraging Prototype Patient Representations with Feature-Missing-Aware Calibration for EHR Data Sparsity Mitigation [7.075420686441701]
  PRISMは、類似した患者のプロトタイプ表現を活用することで、データを間接的にインプットするフレームワークである。 PRISMには、ステータスの欠如を考慮した各機能の信頼性を評価する機能信頼モジュールも含まれている。
  論文  参考訳（メタデータ） (2023-09-08T07:01:38Z)
• Towards Reliable Medical Image Segmentation by utilizing Evidential Calibrated Uncertainty [52.03490691733464]
  本稿では,医療画像セグメンテーションネットワークにシームレスに統合可能な,実装が容易な基礎モデルであるDEviSを紹介する。 主観的論理理論を利用して、医用画像分割の問題に対する確率と不確実性を明示的にモデル化する。 DeviSには不確実性を考慮したフィルタリングモジュールが組み込まれている。
  論文  参考訳（メタデータ） (2023-01-01T05:02:46Z)
• Attack-agnostic Adversarial Detection on Medical Data Using Explainable Machine Learning [0.0]
  本論文では,2つのデータセット上での対比サンプルの正確な検出のためのモデル非依存説明性に基づく手法を提案する。 MIMIC-IIIとHenan-Renmin EHRのデータセットでは,縦軸攻撃に対する検出精度は77%であった。 MIMIC-CXRデータセットでは88%の精度を実現し、すべての設定において、両方のデータセットにおける敵検出技術の現状を10%以上改善した。
  論文  参考訳（メタデータ） (2021-05-05T10:01:53Z)
• Trust Issues: Uncertainty Estimation Does Not Enable Reliable OOD Detection On Medical Tabular Data [0.0]
  本稿では,同時代の不確実性推定手法を含む一連の試験について述べる。 これまでの研究とは対照的に、現実的で臨床的に関係のあるOODグループの試験を設計し、実世界の医療データで実験を行う。
  論文  参考訳（メタデータ） (2020-11-06T10:41:39Z)
• UNITE: Uncertainty-based Health Risk Prediction Leveraging Multi-sourced Data [81.00385374948125]
  我々はUNcertaInTyベースのhEalth Risk Prediction(UNITE)モデルを提案する。 UNITEは、複数ソースの健康データを活用した正確な疾患リスク予測と不確実性推定を提供する。 非アルコール性脂肪肝疾患(NASH)とアルツハイマー病(AD)の実態予測タスクにおけるUNITEの評価を行った。 UNITEはAD検出のF1スコアで最大0.841点、NASH検出のPR-AUCで最大0.609点を達成し、最高のベースラインで最大19%の高パフォーマンスを達成している。
  論文  参考訳（メタデータ） (2020-10-22T02:28:11Z)
• Hemogram Data as a Tool for Decision-making in COVID-19 Management: Applications to Resource Scarcity Scenarios [62.997667081978825]
  新型コロナウイルス(COVID-19)のパンデミックは世界中の緊急対応システムに挑戦している。 本研究は, 症状患者の血液検査データから得られた機械学習モデルについて述べる。 提案されたモデルでは、新型コロナウイルスqRT-PCRの結果を、高い精度、感度、特異性で症状のある個人に予測することができる。
  論文  参考訳（メタデータ） (2020-05-10T01:45:03Z)
• Self-Training with Improved Regularization for Sample-Efficient Chest X-Ray Classification [80.00316465793702]
  挑戦的なシナリオで堅牢なモデリングを可能にするディープラーニングフレームワークを提案する。 その結果,85%のラベル付きデータを用いて,大規模データ設定で学習した分類器の性能に適合する予測モデルを構築することができた。
  論文  参考訳（メタデータ） (2020-05-03T02:36:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。