論文の概要: Hybrid Reinforced Medical Report Generation with M-Linear Attention and
Repetition Penalty
- arxiv url: http://arxiv.org/abs/2210.13729v1
- Date: Fri, 14 Oct 2022 15:27:34 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-30 12:02:00.036066
- Title: Hybrid Reinforced Medical Report Generation with M-Linear Attention and
Repetition Penalty
- Title(参考訳): M-Linear Attention と Repetition Penalty を併用したハイブリッド型強化医療報告
- Authors: Wenting Xu, Zhenghua Xu, Junyang Chen, Chang Qi, Thomas Lukasiewicz
- Abstract要約: そこで本研究では,m-linear attentionと繰り返しペナルティ機構を備えたハイブリッド型医療報告生成手法を提案する。
具体的には、異なる重みを持つハイブリッド報酬を用いて、シングルメトリックベースの報酬の制限を緩和する。
また,最適な重みの組み合わせを近似するために,線形複雑度をもつ探索アルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 45.92216112110279
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: To reduce doctors' workload, deep-learning-based automatic medical report
generation has recently attracted more and more research efforts, where deep
convolutional neural networks (CNNs) are employed to encode the input images,
and recurrent neural networks (RNNs) are used to decode the visual features
into medical reports automatically. However, these state-of-the-art methods
mainly suffer from three shortcomings: (i) incomprehensive optimization, (ii)
low-order and unidimensional attention mechanisms, and (iii) repeated
generation. In this article, we propose a hybrid reinforced medical report
generation method with m-linear attention and repetition penalty mechanism
(HReMRG-MR) to overcome these problems. Specifically, a hybrid reward with
different weights is employed to remedy the limitations of single-metric-based
rewards. We also propose a search algorithm with linear complexity to
approximate the best weight combination. Furthermore, we use m-linear attention
modules to explore high-order feature interactions and to achieve multi-modal
reasoning, while a repetition penalty applies penalties to repeated terms
during the model's training process. Extensive experimental studies on two
public datasets show that HReMRG-MR greatly outperforms the state-of-the-art
baselines in terms of all metrics. We also conducted a series of ablation
experiments to prove the effectiveness of all our proposed components. We also
performed a reward search toy experiment to give evidence that our proposed
search approach can significantly reduce the search time while approximating
the best performance.
- Abstract(参考訳): 医師の負担を軽減するために、ディープラーニングベースの自動医療レポート生成は、入力画像をエンコードするために深層畳み込みニューラルネットワーク(CNN)を使用し、視覚的特徴を医療報告に自動的にデコードするためにリカレントニューラルネットワーク(RNN)を使用する、近年ますます多くの研究成果を惹きつけている。
しかし、これらの最先端の手法には、主に3つの欠点がある。
(i)包括的最適化
(ii)低次・一次元の注意機構、及び
(iii) 繰り返す世代。
本稿では,m-linear attention と繰り返しペナルティ機構 (HReMRG-MR) を併用したハイブリッド型医療報告生成手法を提案する。
具体的には、異なる重みを持つハイブリッド報酬を用いて、シングルメトリックベースの報酬の制限を緩和する。
また,最適重み組合せを近似する線形複雑度探索アルゴリズムを提案する。
さらに,m-linear attention module を用いて高次特徴相互作用を探索し,マルチモーダル推論を実現する一方,繰り返しペナルティはモデルの学習過程における繰り返し項に罰則を適用する。
2つの公開データセットに関する大規模な実験的研究は、HReMRG-MRがすべての指標で最先端のベースラインを大幅に上回っていることを示している。
また,提案する成分すべての有効性を証明するため,一連のアブレーション実験を行った。
また,提案手法が最高の性能を評価しながら探索時間を著しく短縮できることを示すために,報奨探索実験を行った。
関連論文リスト
- Fine-tuning -- a Transfer Learning approach [0.22344294014777952]
電子健康記録(EHR)の欠落は、この貴重な資源に欠落するデータが豊富にあるため、しばしば妨げられる。
既存の深い計算手法は、計算処理とダウンストリーム解析の両方を組み込んだエンドツーエンドのパイプラインに依存している。
本稿では,モジュール型深層学習型計算・分類パイプラインの開発について検討する。
論文 参考訳(メタデータ) (2024-11-06T14:18:23Z) - Copy Recurrent Neural Network Structure Network [0.0]
我々は、CRNNet(Copy Recurrent Neural Network Structure Network)と呼ばれる新しいICDパス生成フレームワークを提案する。
RNNを用いて逐次出力を生成し、コピーモジュールを組み込むことで、合併症の特定を効率的に行う。
本手法は, 予測における57.30%の複雑な疾患の比率を達成し, 最先端およびそれ以前のアプローチよりも優れていた。
論文 参考訳(メタデータ) (2023-05-22T17:22:37Z) - A Direct Sampling-Based Deep Learning Approach for Inverse Medium
Scattering Problems [3.776050336003086]
非均一な散乱体を再構成するための新しい直接サンプリングベースディープラーニング手法(DSM-DL)を提案する。
提案するDSM-DLは,計算効率が高く,ノイズに耐性があり,実装が容易で,自然に複数の計測データを組み込むことができる。
論文 参考訳(メタデータ) (2023-04-29T12:29:30Z) - Deep AUC Maximization for Medical Image Classification: Challenges and
Opportunities [60.079782224958414]
我々は、AUCによる新たな深層学習手法による機会と課題を提示し、議論する(別名、アンダーラインbfディープアンダーラインbfAUC分類)。
論文 参考訳(メタデータ) (2021-11-01T15:31:32Z) - Complex-valued Federated Learning with Differential Privacy and MRI Applications [51.34714485616763]
複雑な値を持つガウスのメカニズムを導入し、その振る舞いは$f$-DP、$(varepsilon, delta)$-DP、R'enyi-DPで特徴づけられる。
本稿では,DPと互換性のある複雑なニューラルネットワークプリミティブを提案する。
実験では,実世界の課題に対して,DPを用いた複合数値ニューラルネットワークを訓練することで概念実証を行う。
論文 参考訳(メタデータ) (2021-10-07T14:03:00Z) - DFENet: A Novel Dimension Fusion Edge Guided Network for Brain MRI
Segmentation [0.0]
本稿では,2次元CNNと3次元CNNの特徴を融合させることにより,これらの要件を満たす新しいDFENetを提案する。
提案手法は, 既存の方法よりも頑健で正確であり, バイオメディカルな応用に頼ることができる。
論文 参考訳(メタデータ) (2021-05-17T15:43:59Z) - Reinforced Medical Report Generation with X-Linear Attention and
Repetition Penalty [46.51332238677608]
我々は,x線的注意と繰り返しペナルティ機構を備えた強化医療報告生成ソリューションを提案する。
x-線型アテンションモジュールは高次特徴相互作用を探索し、マルチモーダル推論を実現するために使用される。
ReMRG-XRは、すべての指標において最先端のベースラインを大幅に上回る。
論文 参考訳(メタデータ) (2020-11-16T01:44:47Z) - AutoHR: A Strong End-to-end Baseline for Remote Heart Rate Measurement
with Neural Searching [76.4844593082362]
既存のエンド・ツー・エンドのネットワークが難易度が低い理由を考察し,アーキテクチャ・サーチ(NAS)を用いたリモートHR計測のための強力なベースラインを確立する。
総合的な実験は、時間内テストとクロスデータセットテストの両方で3つのベンチマークデータセットで実施される。
論文 参考訳(メタデータ) (2020-04-26T05:43:21Z) - MS-Net: Multi-Site Network for Improving Prostate Segmentation with
Heterogeneous MRI Data [75.73881040581767]
本稿では,ロバスト表現を学習し,前立腺のセグメンテーションを改善するための新しいマルチサイトネットワーク(MS-Net)を提案する。
当社のMS-Netは,すべてのデータセットのパフォーマンスを一貫して改善し,マルチサイト学習における最先端の手法よりも優れています。
論文 参考訳(メタデータ) (2020-02-09T14:11:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。