論文の概要: Forgotten Words: Benchmarking NeoBERT for Dementia Detection in Low-Resource Conversational Filipino and English Speech
- arxiv url: http://arxiv.org/abs/2605.26007v1
- Date: Mon, 25 May 2026 16:26:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-26 19:50:20.468872
- Title: Forgotten Words: Benchmarking NeoBERT for Dementia Detection in Low-Resource Conversational Filipino and English Speech
- Title(参考訳): 忘れられた言葉:低音源のフィリピン語・英語音声における認知症検出のためのNeoBERTのベンチマーク
- Authors: Rez Samantha Z. Floresca, Edric Castel C. Hao, Hannah Grachiella Buñales, Chelsea Dominique E. Temprosa, Georgianna Z. Reyes, Kervin Gabriel L. Chua,
- Abstract要約: フィリピン語音声における変圧器による認知症検出の最初の体系的評価について述べる。
ドメイン・エフェクトから言語を分離するため、4000のDementiaBank由来のパラレル・バイリンガル・データセットを構築した。
英語で訓練されたBERTは、フィリピンのMacro-F1 = 0.455に低下している。
しかし、バイリンガル微調整はすべてのトランスモデル間の言語間劣化を排除し、マクロ-F1 = 0.969-0.973に収束する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Dementia detection from spontaneous speech offers a scalable approach to cognitive screening, yet NLP systems remain predominantly English-centric. This limitation is especially acute in the Philippines, where Filipino-English code-switching is pervasive and no prior work has addressed NLP-based dementia detection. We present the first systematic evaluation of transformer-based dementia detection in Filipino speech and the first assessment of NeoBERT in a clinical NLP setting. To separate language from domain effects, we construct a parallel bilingual dataset of 4,000 DementiaBank-derived transcripts, with Filipino translations produced manually to preserve discourse-level markers of cognitive decline. We evaluate five model families, TF-IDF + LogReg, BERT, NeoBERT, XLM-R, and RoBERTa-Tagalog, under monolingual, zero-shot cross-lingual, and bilingual fine-tuning settings. We find that in-domain performance does not transfer across languages, with English-trained BERT dropping to Macro-F1 = 0.455 on Filipino, and that architectural modernization alone does not improve robustness. Bilingual fine-tuning, however, eliminates cross-lingual degradation across all transformer models, converging to Macro-F1 = 0.969-0.973. These results suggest that multilingual clinical NLP performance is driven primarily by linguistic coverage during training rather than model scale or architecture.
- Abstract(参考訳): 自発音声からの認知症検出は認知スクリーニングにスケーラブルなアプローチを提供するが、NLPシステムは英語中心のままである。
この制限はフィリピンでは特に深刻であり、フィリピン・英語のコードスイッチングが広く普及しており、NLPによる認知症検出に先立つ研究は行われていない。
フィリピン語音声におけるトランスフォーマーによる認知症検出の最初の体系的評価と臨床NLP設定におけるNeoBERTの最初の評価について述べる。
ドメイン・エフェクトから言語を分離するため、認知低下の談話レベルマーカーを保存するために、フィリピン語翻訳を手作業で作成し、4000 DementiaBank由来の転写文の並列バイリンガルデータセットを構築した。
我々は,モノリンガル,ゼロショット・クロスリンガル,バイリンガルの微調整設定の下で,TF-IDF+LogReg,BERT,NeoBERT,XLM-R,RoBERTa-Tagalogの5つのモデルファミリを評価した。
英語で訓練されたBERTはフィリピンでMacro-F1 = 0.455に低下し、アーキテクチャの近代化だけでは堅牢性は向上しない。
しかし、バイリンガル微調整はすべてのトランスモデル間の言語間劣化を排除し、マクロ-F1 = 0.969-0.973に収束する。
これらの結果から,多言語臨床NLPのパフォーマンスは,モデルスケールやアーキテクチャよりも,訓練中の言語的カバレッジが中心であることが示唆された。
関連論文リスト
- MIPIAD: Multilingual Indirect Prompt Injection Attack Defense with Qwen -- TF-IDF Hybrid and Meta-Ensemble Learning [0.7161783472741748]
MIPIADは英語とバングラ語で評価された防衛フレームワークである。
これは、Qwen2.5-1.5BからLoRA(XLPID)、TF-IDFレキシカル特徴、検証調整アンサンブルを通じて微調整されたシーケンスを組み合わせたものである。
論文 参考訳(メタデータ) (2026-05-08T05:34:28Z) - Adapting Self-Supervised Speech Representations for Cross-lingual Dysarthria Detection in Parkinson's Disease [72.0406069194794]
音声表現は、しばしば言語に依存した構造を符号化する。
本稿では,ソース言語による自己教師型音声表現とターゲット言語分布とを一致させる表現レベル言語シフトを提案する。
チェコ語,ドイツ語,スペイン語におけるパーキンソン病音声データセットの経口DDK記録に対するアプローチについて検討した。
論文 参考訳(メタデータ) (2026-03-23T17:23:39Z) - Parallel Universes, Parallel Languages: A Comprehensive Study on LLM-based Multilingual Counterfactual Example Generation [49.2073409243885]
大規模言語モデル(LLM)は、英語の対物生成に優れ、多言語習熟度を示す。
対象言語における直接生成された反事実と6言語間の英訳によって導出されるものの両方について自動評価を行う。
言語間で生成した偽物に一貫して現れる4つの主要なエラーを識別し分類する。
論文 参考訳(メタデータ) (2026-01-01T08:53:49Z) - Linguistic Neuron Overlap Patterns to Facilitate Cross-lingual Transfer on Low-resource Languages [13.053383340899067]
ゼロショットの言語間インコンテキスト学習を改善するために,BridgeX-ICLというシンプルで効果的な手法を提案する。
言語固有のニューロンに焦点を当てた既存の研究とは異なり、BridgeX-ICLは、共有ニューロンが言語間性能を向上させるかどうかを探求している。
重なり合うニューロンに基づいて、LLMの内部言語スペクトルを定量化し、最適な橋梁選択を導くためのHSICに基づく計量法を提案する。
論文 参考訳(メタデータ) (2025-08-23T16:13:57Z) - Mechanistic Understanding and Mitigation of Language Confusion in English-Centric Large Language Models [56.61984030508691]
言語混乱に関する最初の機械論的解釈可能性研究について述べる。
混乱点(CP)がこの現象の中心であることを示す。
比較分析によって同定された少数の臨界ニューロンを多言語で調整したニューロンで編集すると、混乱が著しく軽減されることがわかった。
論文 参考訳(メタデータ) (2025-05-22T11:29:17Z) - Batayan: A Filipino NLP benchmark for evaluating Large Language Models [0.0]
バタヤンは8つのタスクを統合し、そのうち3つはフィリピンのコーパスの前には存在していなかった。
フィリピンの複雑な形態的・構文的構造に対して,我々の厳密でネイティブな話者主導の適応と検証プロセスは,流布と信頼性を保証する。
表現不足言語に文化的・言語的に忠実な資源を構築するための原則的ソリューションを提案する。
論文 参考訳(メタデータ) (2025-02-19T07:03:15Z) - Few-Shot Cross-lingual Transfer for Coarse-grained De-identification of
Code-Mixed Clinical Texts [56.72488923420374]
事前学習型言語モデル (LM) は低リソース環境下での言語間移動に大きな可能性を示している。
脳卒中におけるコードミキシング(スペイン・カタラン)臨床ノートの低リソース・実世界の課題を解決するために,NER (name recognition) のためのLMの多言語間転写特性を示す。
論文 参考訳(メタデータ) (2022-04-10T21:46:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。