論文の概要: Model Reduction of Shallow CNN Model for Reliable Deployment of
Information Extraction from Medical Reports
- arxiv url: http://arxiv.org/abs/2008.01572v1
- Date: Fri, 31 Jul 2020 16:41:08 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-04 05:36:04.635104
- Title: Model Reduction of Shallow CNN Model for Reliable Deployment of
Information Extraction from Medical Reports
- Title(参考訳): 医療報告書からの信頼できる情報抽出のための浅層cnnモデルのモデル削減
- Authors: Abhishek K Dubey and Alina Peluso and Jacob Hinkle and Devanshu
Agarawal and Zilong Tan
- Abstract要約: 浅層畳み込みニューラルネットワーク(Shallow Convolution Neural Network, CNN)は、がん病理報告から情報を抽出するためのタイムテストツールである。
我々は,CNNフィルタと関連するテキストセグメント間の信頼性の高い接続を実現するためのモデル縮小ツールを開発した。
提案手法は,一方の精度と他方の説明可能性との間に,従来認識されていたトレードオフ境界のギャップを埋めるものである。
- 参考スコア(独自算出の注目度): 0.8399688944263842
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Shallow Convolution Neural Network (CNN) is a time-tested tool for the
information extraction from cancer pathology reports. Shallow CNN performs
competitively on this task to other deep learning models including BERT, which
holds the state-of-the-art for many NLP tasks. The main insight behind this
eccentric phenomenon is that the information extraction from cancer pathology
reports require only a small number of domain-specific text segments to perform
the task, thus making the most of the texts and contexts excessive for the
task. Shallow CNN model is well-suited to identify these key short text
segments from the labeled training set; however, the identified text segments
remain obscure to humans. In this study, we fill this gap by developing a model
reduction tool to make a reliable connection between CNN filters and relevant
text segments by discarding the spurious connections. We reduce the complexity
of shallow CNN representation by approximating it with a linear transformation
of n-gram presence representation with a non-negativity and sparsity prior on
the transformation weights to obtain an interpretable model. Our approach
bridge the gap between the conventionally perceived trade-off boundary between
accuracy on the one side and explainability on the other by model reduction.
- Abstract(参考訳): 浅層畳み込みニューラルネットワーク(cnn)は、がん病理報告から情報を抽出するための時間テストツールである。
Shallow CNNはこのタスクを、多くのNLPタスクの最先端を保持するBERTなど、他のディープラーニングモデルと競合的に実行する。
この偏心現象の背景にある主な洞察は、がん病理報告からの情報抽出はタスクを実行するためにドメイン固有のテキストセグメントをほんの数個しか必要とせず、そのため、ほとんどのテキストとコンテキストがそのタスクに過大に働くことである。
シャローCNNモデルは、ラベル付きトレーニングセットからこれらのキーショートテキストセグメントを識別するのに適しているが、識別されたテキストセグメントは人間には不明瞭である。
本研究では,CNNフィルタと関連するテキストセグメントとの信頼性の高い接続を実現するためのモデル縮小ツールの開発により,このギャップを埋める。
我々は,n-gram存在表現の線形変換を変換重みに先立って非負性および疎性で近似することにより,浅部CNN表現の複雑さを低減し,解釈可能なモデルを得る。
提案手法は,従来認識されていたトレードオフ境界と,モデルの縮小による説明可能性とのギャップを橋渡しするものである。
関連論文リスト
- TBConvL-Net: A Hybrid Deep Learning Architecture for Robust Medical Image Segmentation [6.013821375459473]
医用画像セグメンテーションのための新しいディープラーニングアーキテクチャを提案する。
提案モデルでは,10の公開データセット上でのテクニックの現状に対して,一貫した改善が示されている。
論文 参考訳(メタデータ) (2024-09-05T09:14:03Z) - SINDER: Repairing the Singular Defects of DINOv2 [61.98878352956125]
大規模なデータセットでトレーニングされたビジョントランスフォーマーモデルは、抽出したパッチトークンにアーティファクトを表示することが多い。
本稿では,小さなデータセットのみを用いて構造欠陥を補正するスムーズなスムーズな正規化を提案する。
論文 参考訳(メタデータ) (2024-07-23T20:34:23Z) - CNN2GNN: How to Bridge CNN with GNN [59.42117676779735]
蒸留によりCNNとGNNを統一する新しいCNN2GNNフレームワークを提案する。
Mini-ImageNetにおける蒸留ブースターの2層GNNの性能は、ResNet152のような数十層を含むCNNよりもはるかに高い。
論文 参考訳(メタデータ) (2024-04-23T08:19:08Z) - Unfolding Local Growth Rate Estimates for (Almost) Perfect Adversarial
Detection [22.99930028876662]
畳み込みニューラルネットワーク(CNN)は、多くの知覚的タスクにおける最先端のソリューションを定義する。
現在のCNNアプローチは、システムを騙すために特別に作られた入力の敵の摂動に対して脆弱なままである。
本稿では,ネットワークの局所固有次元(LID)と敵攻撃の関係について,最近の知見を生かした,シンプルで軽量な検出器を提案する。
論文 参考訳(メタデータ) (2022-12-13T17:51:32Z) - Large-Margin Representation Learning for Texture Classification [67.94823375350433]
本稿では,テクスチャ分類のための小さなデータセット上で教師付きモデルをトレーニングするために,畳み込み層(CL)と大規模計量学習を組み合わせた新しいアプローチを提案する。
テクスチャと病理画像データセットの実験結果から,提案手法は同等のCNNと比較して計算コストが低く,収束が早く,競争精度が向上することが示された。
論文 参考訳(メタデータ) (2022-06-17T04:07:45Z) - A New Measure of Model Redundancy for Compressed Convolutional Neural
Networks [7.173345945188715]
圧縮されたCNNにまだモデル冗長性はあるか?
圧縮されたCNNに対する新しいモデル冗長度尺度、すなわち$K/R$比を導入し、さらに非線形なアクティベーションを可能にする。
論文 参考訳(メタデータ) (2021-12-09T12:05:02Z) - An Uncertainty-Driven GCN Refinement Strategy for Organ Segmentation [53.425900196763756]
本研究では,不確実性解析とグラフ畳み込みネットワークに基づくセグメンテーション改善手法を提案する。
半教師付きグラフ学習問題を定式化するために、特定の入力ボリュームにおける畳み込みネットワークの不確実性レベルを用いる。
本手法は膵臓で1%,脾臓で2%向上し,最先端のCRF改善法よりも優れていた。
論文 参考訳(メタデータ) (2020-12-06T18:55:07Z) - Learning Interpretable Microscopic Features of Tumor by Multi-task
Adversarial CNNs To Improve Generalization [1.7371375427784381]
既存のCNNモデルはブラックボックスとして機能し、医師が重要な診断機能がモデルによって使用されることを保証しない。
ここでは,マルチタスクと敵の損失を両立させる不確実性に基づく重み付けの組み合わせをエンド・ツー・エンドで学習することにより,病理的特徴に焦点を合わせることを推奨する。
AUC 0.89 (0.01) がベースラインであるAUC 0.86 (0.005) に対して最も高い値を示した。
論文 参考訳(メタデータ) (2020-08-04T12:10:35Z) - Collaborative Boundary-aware Context Encoding Networks for Error Map
Prediction [65.44752447868626]
本稿では,AEP-Net と呼ばれる協調的コンテキスト符号化ネットワークを提案する。
具体的には、画像とマスクのより優れた特徴融合のための協調的な特徴変換分岐と、エラー領域の正確な局所化を提案する。
AEP-Netはエラー予測タスクの平均DSCが0.8358,0.8164であり、ピアソン相関係数が0.9873である。
論文 参考訳(メタデータ) (2020-06-25T12:42:01Z) - Neural Data-to-Text Generation via Jointly Learning the Segmentation and
Correspondence [48.765579605145454]
対象のテキストを断片単位に明示的に分割し,それらのデータ対応と整合させることを提案する。
結果として生じるアーキテクチャは、ニューラルアテンションモデルと同じ表現力を維持している。
E2EとWebNLGのベンチマークでは、提案モデルがニューラルアテンションよりも一貫して優れていることを示す。
論文 参考訳(メタデータ) (2020-05-03T14:28:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。