論文の概要: Probabilistic Attention based on Gaussian Processes for Deep Multiple
Instance Learning
- arxiv url: http://arxiv.org/abs/2302.04061v1
- Date: Wed, 8 Feb 2023 13:58:11 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-09 16:21:18.573311
- Title: Probabilistic Attention based on Gaussian Processes for Deep Multiple
Instance Learning
- Title（参考訳）: 深い複数インスタンス学習のためのガウス過程に基づく確率的注意
- Authors: Arne Schmidt, Pablo Morales-\'Alvarez, Rafael Molina
- Abstract要約: 本稿では,深いMILのためのガウス過程に基づく新しい確率的注意機構であるアテンションガウス過程(AGP)モデルを紹介する。
AGPは正確なバッグレベルの予測とインスタンスレベルの説明可能性を提供し、エンドツーエンドでトレーニングすることができる。
予測の不確実性は誤った予測のリスクと相関していることを実験的に示す。
- 参考スコア（独自算出の注目度）: 12.594098548008832
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multiple Instance Learning (MIL) is a weakly supervised learning paradigm
that is becoming increasingly popular because it requires less labeling effort
than fully supervised methods. This is especially interesting for areas where
the creation of large annotated datasets remains challenging, as in medicine.
Although recent deep learning MIL approaches have obtained state-of-the-art
results, they are fully deterministic and do not provide uncertainty
estimations for the predictions. In this work, we introduce the Attention
Gaussian Process (AGP) model, a novel probabilistic attention mechanism based
on Gaussian Processes for deep MIL. AGP provides accurate bag-level predictions
as well as instance-level explainability, and can be trained end-to-end.
Moreover, its probabilistic nature guarantees robustness to overfitting on
small datasets and uncertainty estimations for the predictions. The latter is
especially important in medical applications, where decisions have a direct
impact on the patient's health. The proposed model is validated experimentally
as follows. First, its behavior is illustrated in two synthetic MIL experiments
based on the well-known MNIST and CIFAR-10 datasets, respectively. Then, it is
evaluated in three different real-world cancer detection experiments. AGP
outperforms state-of-the-art MIL approaches, including deterministic deep
learning ones. It shows a strong performance even on a small dataset with less
than 100 labels and generalizes better than competing methods on an external
test set. Moreover, we experimentally show that predictive uncertainty
correlates with the risk of wrong predictions, and therefore it is a good
indicator of reliability in practice. Our code is publicly available.
- Abstract（参考訳）: マルチインスタンス学習(MIL)は弱い教師付き学習パラダイムであり、完全な教師付きメソッドよりもラベル付けの労力が少ないため、ますます人気が高まっている。
これは医学のように、大きな注釈付きデータセットの作成が困難な領域では特に興味深い。
近年の深層学習のMIL手法は最先端の結果を得たが、それらは完全に決定論的であり、予測に対する不確実性評価を提供していない。
本稿では,深いMILのためのガウス過程に基づく新しい確率的注意機構であるアテンションガウス過程(AGP)モデルを紹介する。
AGPは正確なバッグレベルの予測とインスタンスレベルの説明可能性を提供し、エンドツーエンドでトレーニングすることができる。
さらに、その確率的性質は、小さなデータセットの過剰フィッティングと予測の不確実性推定に対する堅牢性を保証する。
後者は、患者の健康に直接影響する決定を下す医学的応用において特に重要である。
提案モデルは,以下の実験によって検証される。
まず,よく知られたmnistとcifar-10データセットに基づく2つの合成ミル実験でその挙動を示す。
そして、3つの異なる実世界の癌検出実験で評価される。
AGPは、決定論的深層学習を含む最先端のMILアプローチより優れている。
100ラベル未満の小さなデータセットでも高いパフォーマンスを示し、外部テストセットの競合メソッドよりも優れた一般化を実現している。
さらに,予測の不確実性は誤った予測のリスクと相関していることを示す。
私たちのコードは公開されています。
関連論文リスト
- Evaluation of uncertainty estimations for Gaussian process regression based machine learning interatomic potentials [0.0]
機械学習の原子間ポテンシャルの不確実性推定は、導入した追加モデルエラーの定量化に不可欠である。
我々は、クーロンおよびSOAP表現を持つGPRモデルを、ポテンシャルエネルギー表面と分子の励起エネルギーを予測する入力として考える。
我々は,GPRの分散とアンサンブルに基づく不確かさが誤差とどのように関係しているか,また,固定された構成空間から最も不確実なサンプルを選択することによりモデル性能が向上するかを評価する。
論文 参考訳（メタデータ） (2024-10-27T10:06:09Z) - SepsisLab: Early Sepsis Prediction with Uncertainty Quantification and Active Sensing [67.8991481023825]
セプシスは米国での院内死亡の主な原因である。
既存の予測モデルは通常、情報不足の少ない高品質なデータで訓練される。
限られた観察により信頼性の低い高リスク患者に対して,ロバストな能動センシングアルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-07-24T04:47:36Z) - Querying Easily Flip-flopped Samples for Deep Active Learning [63.62397322172216]
アクティブラーニング(英: Active Learning)は、ラベルのないデータを戦略的に選択してクエリすることで、モデルの性能を向上させることを目的とした機械学習パラダイムである。
効果的な選択戦略の1つはモデルの予測の不確実性に基づくもので、サンプルがどの程度情報的であるかの尺度として解釈できる。
本稿では,予測されたラベルの不一致の最小確率として,最小不一致距離(LDM)を提案する。
論文 参考訳（メタデータ） (2024-01-18T08:12:23Z) - Introducing instance label correlation in multiple instance learning.
Application to cancer detection on histopathological images [5.895585247199983]
本研究では,VGPMIL-PRと呼ばれる最先端のGPベースのMIL法を拡張し,その相関性を利用する。
我々のモデルは、他の最先端確率的MIL法よりも優れた結果が得られることを示す。
論文 参考訳（メタデータ） (2023-10-30T08:57:59Z) - B-Learner: Quasi-Oracle Bounds on Heterogeneous Causal Effects Under
Hidden Confounding [51.74479522965712]
本稿では,B-Learnerと呼ばれるメタラーナーを提案する。
我々は、その推定が有効で、鋭く、効率的であることを証明し、既存の方法よりも一般的な条件下で構成推定器に対して準オーラル特性を持つことを示した。
論文 参考訳（メタデータ） (2023-04-20T18:07:19Z) - ASPEST: Bridging the Gap Between Active Learning and Selective
Prediction [56.001808843574395]
選択予測は、不確実な場合の予測を棄却する信頼性のあるモデルを学ぶことを目的としている。
アクティブラーニングは、最も有意義な例を問うことで、ラベリングの全体、すなわち人間の依存度を下げることを目的としている。
本研究では,移動対象領域からより情報のあるサンプルを検索することを目的とした,新たな学習パラダイムである能動的選択予測を導入する。
論文 参考訳（メタデータ） (2023-04-07T23:51:07Z) - A Benchmark on Uncertainty Quantification for Deep Learning Prognostics [0.0]
診断学的な深層学習のための不確実性定量化の分野における最新の発展のいくつかを評価する。
これには、ベイズニューラルネットワーク(BNN)の最先端の変分推論アルゴリズムや、モンテカルロ・ドロップアウト(MCD)、ディープアンサンブル(DE)、ヘテロセダスティックニューラルネットワーク(HNN)などの一般的な代替品が含まれる。
この手法の性能は、NASA NCMAPSSの航空機エンジン用データセットのサブセットで評価される。
論文 参考訳（メタデータ） (2023-02-09T16:12:47Z) - Modeling Disagreement in Automatic Data Labelling for Semi-Supervised
Learning in Clinical Natural Language Processing [2.016042047576802]
放射線学報告における観測検出問題に応用した最先端の予測モデルからの不確実性推定の品質について検討する。
論文 参考訳（メタデータ） (2022-05-29T20:20:49Z) - MAg: a simple learning-based patient-level aggregation method for
detecting microsatellite instability from whole-slide images [3.0134189693277]
消化器癌におけるマイクロサテライト不安定性(MSI)とマイクロサテライト安定性(MSS)の予測は治療効果と予後の予測に不可欠である。
深層学習に基づくアルゴリズムは、ハエマトキシリンとエオシン(H&E)による全スライディング画像(WSI)から直接MSIを予測するために提案されている。
そこで本稿では,パッチレベルの情報を効果的に統合するための,シンプルながら広く一般化可能な患者レベルMSIアグリゲーション(MAg)手法を提案する。
論文 参考訳（メタデータ） (2022-01-13T02:53:55Z) - Probabilistic Gradient Boosting Machines for Large-Scale Probabilistic
Regression [51.770998056563094]
PGBM(Probabilistic Gradient Boosting Machines)は、確率的予測を生成する手法である。
既存の最先端手法と比較してPGBMの利点を実証的に示す。
論文 参考訳（メタデータ） (2021-06-03T08:32:13Z) - UNITE: Uncertainty-based Health Risk Prediction Leveraging Multi-sourced
Data [81.00385374948125]
我々はUNcertaInTyベースのhEalth Risk Prediction(UNITE)モデルを提案する。
UNITEは、複数ソースの健康データを活用した正確な疾患リスク予測と不確実性推定を提供する。
非アルコール性脂肪肝疾患(NASH)とアルツハイマー病(AD)の実態予測タスクにおけるUNITEの評価を行った。
UNITEはAD検出のF1スコアで最大0.841点、NASH検出のPR-AUCで最大0.609点を達成し、最高のベースラインで最大19%の高パフォーマンスを達成している。
論文 参考訳（メタデータ） (2020-10-22T02:28:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。