論文の概要: Representation Learning with Information Theory for COVID-19 Detection
- arxiv url: http://arxiv.org/abs/2207.01437v1
- Date: Mon, 4 Jul 2022 14:25:12 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-05 20:57:28.454508
- Title: Representation Learning with Information Theory for COVID-19 Detection
- Title(参考訳): 新型コロナウイルス検出のための情報理論を用いた表現学習
- Authors: Abel D\'iaz Berenguer, Tanmoy Mukherjee, Matias Bossa, Nikos
Deligiannis, Hichem Sahli
- Abstract要約: 我々は、データから有用な先行情報を発見し、本質的な特性を学習する際、深層モデルにどのように役立つかを示す。
我々のモデルはデュアルロールネットワーク (DRN) と呼ばれ、Last Squared Mutual Information (LSMI) に基づく依存性アプローチを採用している。
CTによるCOVID-19検出とCOVID-19重症度検出のベンチマーク実験により,本手法の有効性が示された。
- 参考スコア(独自算出の注目度): 18.98329701403629
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Successful data representation is a fundamental factor in machine learning
based medical imaging analysis. Deep Learning (DL) has taken an essential role
in robust representation learning. However, the inability of deep models to
generalize to unseen data can quickly overfit intricate patterns. Thereby, we
can conveniently implement strategies to aid deep models in discovering useful
priors from data to learn their intrinsic properties. Our model, which we call
a dual role network (DRN), uses a dependency maximization approach based on
Least Squared Mutual Information (LSMI). The LSMI leverages dependency measures
to ensure representation invariance and local smoothness. While prior works
have used information theory measures like mutual information, known to be
computationally expensive due to a density estimation step, our LSMI
formulation alleviates the issues of intractable mutual information estimation
and can be used to approximate it. Experiments on CT based COVID-19 Detection
and COVID-19 Severity Detection benchmarks demonstrate the effectiveness of our
method.
- Abstract(参考訳): データ表現の成功は、機械学習に基づく医療画像解析の基本的な要素である。
深層学習(DL)は、堅牢な表現学習において重要な役割を担っている。
しかし、見えないデータに一般化する深層モデルがないことは、複雑なパターンを素早く過剰に利用することができる。
これにより、データから有用な先行情報を発見し、本質的な特性を学習する深層モデルを支援する戦略を便利に実装できる。
我々のモデルはデュアルロールネットワーク (DRN) と呼ばれ、Last Squared Mutual Information (LSMI) に基づく依存性の最大化手法を用いている。
LSMIは依存度を利用して表現不変性と局所的滑らか性を保証する。
先行研究では,密度推定ステップにより計算コストが高いことで知られる相互情報などの情報理論尺度が用いられてきたが,lsmiの定式化は,難解な相互情報推定の問題を緩和し,その近似に利用できる。
CTによるCOVID-19検出とCOVID-19重症度検出のベンチマーク実験により,本手法の有効性が示された。
関連論文リスト
- Querying Easily Flip-flopped Samples for Deep Active Learning [63.62397322172216]
アクティブラーニング(英: Active Learning)は、ラベルのないデータを戦略的に選択してクエリすることで、モデルの性能を向上させることを目的とした機械学習パラダイムである。
効果的な選択戦略の1つはモデルの予測の不確実性に基づくもので、サンプルがどの程度情報的であるかの尺度として解釈できる。
本稿では,予測されたラベルの不一致の最小確率として,最小不一致距離(LDM)を提案する。
論文 参考訳(メタデータ) (2024-01-18T08:12:23Z) - Assessing Neural Network Representations During Training Using
Noise-Resilient Diffusion Spectral Entropy [55.014926694758195]
ニューラルネットワークにおけるエントロピーと相互情報は、学習プロセスに関する豊富な情報を提供する。
データ幾何を利用して基礎となる多様体にアクセスし、これらの情報理論測度を確実に計算する。
本研究は,高次元シミュレーションデータにおける固有次元と関係強度の耐雑音性の測定結果である。
論文 参考訳(メタデータ) (2023-12-04T01:32:42Z) - Self-Supervised Neuron Segmentation with Multi-Agent Reinforcement
Learning [53.00683059396803]
マスク画像モデル(MIM)は,マスク画像から元の情報を復元する簡便さと有効性から広く利用されている。
本稿では、強化学習(RL)を利用して最適な画像マスキング比とマスキング戦略を自動検索する決定に基づくMIMを提案する。
本手法は,ニューロン分節の課題において,代替自己監督法に対して有意な優位性を有する。
論文 参考訳(メタデータ) (2023-10-06T10:40:46Z) - Max-Sliced Mutual Information [17.667315953598788]
高次元の確率変数間の依存性の定量化は、統計的学習と推論の中心である。
2つの古典的手法は正準相関解析 (CCA) であり、これは元の変数の最大相関型を識別するものであり、シャノンの相互情報は普遍的依存度である。
本研究は、最大スライシング相互情報(mSMI)と呼ばれるCCAのスケーラブルな情報理論の一般化という形で中間層を提案する。
論文 参考訳(メタデータ) (2023-09-28T06:49:25Z) - DCID: Deep Canonical Information Decomposition [84.59396326810085]
本稿では,2つの1次元目標変数間で共有される信号の同定について考察する。
そこで本研究では,地中トラスラベルの存在下で使用可能な評価指標であるICMを提案する。
また、共有変数を学習するための単純かつ効果的なアプローチとして、Deep Canonical Information Decomposition (DCID)を提案する。
論文 参考訳(メタデータ) (2023-06-27T16:59:06Z) - Longitudinal detection of new MS lesions using Deep Learning [0.0]
新たなMS病変の検出・分節作業に対処するディープラーニングベースのパイプラインについて述べる。
まず,1つの時間点を用いたセグメンテーションタスクで訓練されたモデルからの移動学習を提案する。
第2に、新しい病変を伴う現実的な縦断時間を生成するためのデータ合成戦略を提案する。
論文 参考訳(メタデータ) (2022-06-16T16:09:04Z) - Local Intrinsic Dimensionality Signals Adversarial Perturbations [28.328973408891834]
局所次元(Local dimensionality, LID)は、各データポイントを記述するのに必要な潜伏変数の最小数を記述する局所計量である。
本稿では、摂動データポイントのLID値に対する下界と上界を導出し、特に下界は摂動の大きさと正の相関を持つことを示す。
論文 参考訳(メタデータ) (2021-09-24T08:29:50Z) - Learning Bias-Invariant Representation by Cross-Sample Mutual
Information Minimization [77.8735802150511]
対象タスクが誤用したバイアス情報を除去するために,クロスサンプル対逆脱バイアス法(CSAD)を提案する。
相関測定は, 対向的偏り評価において重要な役割を担い, クロスサンプル型相互情報推定器によって行われる。
我々は,提案手法の最先端手法に対する利点を検証するために,公開データセットの徹底的な実験を行った。
論文 参考訳(メタデータ) (2021-08-11T21:17:02Z) - Bounding Information Leakage in Machine Learning [26.64770573405079]
本稿では,情報漏洩の基本的な境界について検討する。
最悪の会員推論攻撃の成功率を特定し、拘束します。
感度の高い属性とモデルパラメータの間の相互情報の境界を導出する。
論文 参考訳(メタデータ) (2021-05-09T08:49:14Z) - Relation-Guided Representation Learning [53.60351496449232]
本稿では,サンプル関係を明示的にモデル化し,活用する表現学習手法を提案する。
私たちのフレームワークは、サンプル間の関係をよく保存します。
サンプルをサブスペースに埋め込むことにより,本手法が大規模なサンプル外問題に対処可能であることを示す。
論文 参考訳(メタデータ) (2020-07-11T10:57:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。