論文の概要: Exploiting prompt learning with pre-trained language models for Alzheimer's Disease detection

• arxiv url: http://arxiv.org/abs/2210.16539v2
• Date: Fri, 31 Mar 2023 08:02:01 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-03 17:19:01.708905
• Title: Exploiting prompt learning with pre-trained language models for Alzheimer's Disease detection
• Title（参考訳）: アルツハイマー病検出のための事前学習型言語モデルによる即時学習
• Authors: Yi Wang, Jiajun Deng, Tianzi Wang, Bo Zheng, Shoukang Hu, Xunying Liu, Helen Meng
• Abstract要約: アルツハイマー病(AD)の早期診断は予防ケアの促進とさらなる進行の遅らせに不可欠である。 本稿では,AD分類誤差をトレーニング対象関数として一貫して用いたPLMの高速微調整法について検討する。
• 参考スコア（独自算出の注目度）: 70.86672569101536
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Early diagnosis of Alzheimer's disease (AD) is crucial in facilitating preventive care and to delay further progression. Speech based automatic AD screening systems provide a non-intrusive and more scalable alternative to other clinical screening techniques. Textual embedding features produced by pre-trained language models (PLMs) such as BERT are widely used in such systems. However, PLM domain fine-tuning is commonly based on the masked word or sentence prediction costs that are inconsistent with the back-end AD detection task. To this end, this paper investigates the use of prompt-based fine-tuning of PLMs that consistently uses AD classification errors as the training objective function. Disfluency features based on hesitation or pause filler token frequencies are further incorporated into prompt phrases during PLM fine-tuning. The decision voting based combination among systems using different PLMs (BERT and RoBERTa) or systems with different fine-tuning paradigms (conventional masked-language modelling fine-tuning and prompt-based fine-tuning) is further applied. Mean, standard deviation and the maximum among accuracy scores over 15 experiment runs are adopted as performance measurements for the AD detection system. Mean detection accuracy of 84.20% (with std 2.09%, best 87.5%) and 82.64% (with std 4.0%, best 89.58%) were obtained using manual and ASR speech transcripts respectively on the ADReSS20 test set consisting of 48 elderly speakers.
• Abstract（参考訳）: アルツハイマー病(AD)の早期診断は予防ケアの促進とさらなる進行を遅らせるために重要である。 音声ベースの自動ADスクリーニングシステムは、他の臨床スクリーニング技術に代わる非侵襲的でスケーラブルな代替手段を提供する。 BERTのような事前学習言語モデル(PLM)によって生成されたテキスト埋め込み機能は、そのようなシステムで広く使われている。 しかし、PLMドメインの微調整は一般的に、バックエンドAD検出タスクと矛盾しないマスキングワードや文予測コストに基づいている。 そこで本研究では,AD分類誤差をトレーニング対象関数として一貫して用いたPLMの高速微調整について検討する。 さらに, PLM微調整中に, 発声フレーズに, ヘスレーションやポーズフィラートークン周波数に基づく拡散特性を取り入れた。 異なるplm(bertとroberta)を用いたシステムや、異なる微調整パラダイム(慣習的マスキング言語モデリングとプロンプトベースの微調整)を用いたシステム間の意思決定ベースの組み合わせがさらに適用される。 AD検出システムの性能測定には,15回以上の実験結果の平均,標準偏差,精度スコアの最大値が採用されている。 高齢者48名からなるadress20テストセットでは, 平均検出精度84.20% (std 2.09%, best 87.5%) と 82.64% (std 4.0%, best 89.58%) が手話書き起こしとasr音声書き起こしを用いて得られた。

関連論文リスト

• Self-supervised ASR Models and Features For Dysarthric and Elderly Speech Recognition [71.87998918300806]
  本稿では,TDNNとConformer ASRシステムにSSLプリトレーニングモデルとその機能を統合するアプローチについて検討する。 ドメイン適応型HuBERT、wav2vec2-conformer、マルチ言語型XLSRモデルを統合することで構築されたTDNNシステムは、スタンドアロンの微調整型SSL事前訓練モデルより一貫して優れている。 DementiaBank Pitt の高齢者音声認識出力を用いて,アルツハイマー病の検出精度の向上も行った。
  論文  参考訳（メタデータ） (2024-07-03T08:33:39Z)
• Leveraging Pretrained Representations with Task-related Keywords for Alzheimer's Disease Detection [69.53626024091076]
  アルツハイマー病(AD)は高齢者に特に顕著である。 事前学習モデルの最近の進歩は、AD検出モデリングを低レベル特徴から高レベル表現にシフトさせる動機付けとなっている。 本稿では,高レベルの音響・言語的特徴から,より優れたAD関連手がかりを抽出する,いくつかの効率的な手法を提案する。
  論文  参考訳（メタデータ） (2023-03-14T16:03:28Z)
• Exploring linguistic feature and model combination for speech recognition based automatic AD detection [61.91708957996086]
  音声ベースの自動ADスクリーニングシステムは、他の臨床スクリーニング技術に代わる非侵襲的でスケーラブルな代替手段を提供する。 専門的なデータの収集は、そのようなシステムを開発する際に、モデル選択と特徴学習の両方に不確実性をもたらす。 本稿では,BERT と Roberta の事前学習したテキストエンコーダのドメイン微調整の堅牢性向上のための特徴とモデルの組み合わせ手法について検討する。
  論文  参考訳（メタデータ） (2022-06-28T05:09:01Z)
• Conformer Based Elderly Speech Recognition System for Alzheimer's Disease Detection [62.23830810096617]
  アルツハイマー病(AD)の早期診断は、予防ケアがさらなる進行を遅らせるのに不可欠である。 本稿では,DementiaBank Pitt コーパスをベースとした最新のコンバータに基づく音声認識システムの開発について述べる。
  論文  参考訳（メタデータ） (2022-06-23T12:50:55Z)
• Influence of ASR and Language Model on Alzheimer's Disease Detection [2.4698886064068555]
  画像から参加者の音声記述を転写するために,SotA ASRシステムを用いて分析する。 本研究では,ASRから仮説を復号化するための言語モデルが欠如していることから,単語の非標準列を補正する言語モデルの影響について検討する。 提案システムは、韻律と声質に基づく音響と、最も一般的な単語の最初の出現に基づく語彙的特徴を組み合わせる。
  論文  参考訳（メタデータ） (2021-09-20T10:41:39Z)
• NUVA: A Naming Utterance Verifier for Aphasia Treatment [49.114436579008476]
  失語症(PWA)患者の治療介入に対する反応の診断とモニタリングの両立のための画像命名タスクを用いた音声性能評価 本稿では,失語症脳卒中患者の「正しい」と「正しくない」を分類する深層学習要素を組み込んだ発話検証システムであるNUVAについて述べる。 イギリス系英語8ヶ国語でのテストでは、システムの性能精度は83.6%から93.6%の範囲であり、10倍のクロスバリデーション平均は89.5%であった。
  論文  参考訳（メタデータ） (2021-02-10T13:00:29Z)
• Combining Prosodic, Voice Quality and Lexical Features to Automatically Detect Alzheimer's Disease [0.0]
  本稿では,自然発話からアルツハイマーの自動検出を改善することを目的としたADReSS Challengeへの貢献である。 年齢、性別、AD状態の108人の記録がトレーニングセットとして使用されている。 どちらのタスクも、韻律と声質に基づく音声から28の特徴を抽出する。
  論文  参考訳（メタデータ） (2020-11-18T13:37:27Z)
• Multimodal Inductive Transfer Learning for Detection of Alzheimer's Dementia and its Severity [39.57255380551913]
  本稿では,音響的,認知的,言語的特徴を活用してマルチモーダルアンサンブルシステムを構築する新しいアーキテクチャを提案する。 時相特性を持つ特殊な人工ニューラルネットワークを使用して、アルツハイマー認知症(AD)とその重症度を検出する。 本システムでは,AD分類では最先端試験精度,精度,リコール,F1スコアが83.3%,MMSEスコア評価では4.60の最先端試験根平均二乗誤差(RMSE)が得られた。
  論文  参考訳（メタデータ） (2020-08-30T21:47:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。