論文の概要: Analyzing the Effect of Multi-task Learning for Biomedical Named Entity
Recognition
- arxiv url: http://arxiv.org/abs/2011.00425v1
- Date: Sun, 1 Nov 2020 04:52:56 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-30 22:53:57.023694
- Title: Analyzing the Effect of Multi-task Learning for Biomedical Named Entity
Recognition
- Title(参考訳): 生物医学的名前付きエンティティ認識におけるマルチタスク学習の効果分析
- Authors: Arda Akdemir and Tetsuo Shibuya
- Abstract要約: エンティティ認識のための最先端のディープラーニングベースのソリューションは、大きな注釈付きデータセットを必要とすることが多い。
異なるバイオメディカル・エンティティ・データセット間の転送可能性を理解するために、広範囲な分析を行った。
本稿では,移動学習とマルチタスク学習を組み合わせることで,生物医学的実体認識システムの性能を向上させることを提案する。
- 参考スコア(独自算出の注目度): 6.09170287691728
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Developing high-performing systems for detecting biomedical named entities
has major implications. State-of-the-art deep-learning based solutions for
entity recognition often require large annotated datasets, which is not
available in the biomedical domain. Transfer learning and multi-task learning
have been shown to improve performance for low-resource domains. However, the
applications of these methods are relatively scarce in the biomedical domain,
and a theoretical understanding of why these methods improve the performance is
lacking. In this study, we performed an extensive analysis to understand the
transferability between different biomedical entity datasets. We found useful
measures to predict transferability between these datasets. Besides, we propose
combining transfer learning and multi-task learning to improve the performance
of biomedical named entity recognition systems, which is not applied before to
the best of our knowledge.
- Abstract(参考訳): 生物医学的に命名された物質を検出するための高性能システムを開発することは大きな意味を持つ。
エンティティ認識のための最先端のディープラーニングベースのソリューションは、しばしば大きな注釈付きデータセットを必要とする。
転送学習とマルチタスク学習は低リソース領域の性能を向上させることが示されている。
しかし、これらの手法の応用は、生医学領域では比較的少なく、なぜこれらの手法が性能を改善するのかの理論的な理解が不足している。
本研究では,異なるバイオメディカル・エンティティ・データセット間の転送可能性を理解するために,広範囲な解析を行った。
これらのデータセット間の転送可能性を予測するための有用な手段を見出した。
また, 情報伝達学習とマルチタスク学習を組み合わせることで, 生物医学的名前付きエンティティ認識システムの性能を向上させることを提案する。
関連論文リスト
- Causal Representation Learning from Multimodal Biological Observations [57.00712157758845]
我々は,マルチモーダルデータに対するフレキシブルな識別条件の開発を目指している。
我々は、各潜伏成分の識別可能性を保証するとともに、サブスペース識別結果を事前の作業から拡張する。
我々の重要な理論的要素は、異なるモーダル間の因果関係の構造的空間性である。
論文 参考訳(メタデータ) (2024-11-10T16:40:27Z) - BioMNER: A Dataset for Biomedical Method Entity Recognition [25.403593761614424]
本稿では,生物医学的手法による実体認識のための新しいデータセットを提案する。
我々は、人間のアノテーションを支援するために、自動的なBioMethodエンティティ認識と情報検索システムを採用している。
実験の結果,言語モデルのパラメータ数が大きくなると,実体抽出パターンの有効同化が著しく阻害されることが判明した。
論文 参考訳(メタデータ) (2024-06-28T16:34:24Z) - Knowledge-guided EEG Representation Learning [27.8095014391814]
自己教師付き学習は、音声、視覚、および音声のマルチメディア領域において印象的な結果をもたらした。
本稿では,脳波の自己教師型モデルを提案する。
また,脳波信号の慣用性を考慮した知識誘導事前学習手法を提案する。
論文 参考訳(メタデータ) (2024-02-15T01:52:44Z) - Multi-level biomedical NER through multi-granularity embeddings and
enhanced labeling [3.8599767910528917]
本稿では,複数のモデルの強みを統合するハイブリッドアプローチを提案する。
BERTは、文脈化された単語の埋め込み、文字レベルの情報キャプチャのための事前訓練されたマルチチャネルCNN、およびテキスト内の単語間の依存関係のシーケンスラベリングとモデル化のためのBiLSTM + CRFを提供する。
我々は、ベンチマークi2b2/2010データセットを用いて、F1スコア90.11を達成する。
論文 参考訳(メタデータ) (2023-12-24T21:45:36Z) - Diversifying Knowledge Enhancement of Biomedical Language Models using
Adapter Modules and Knowledge Graphs [54.223394825528665]
我々は、軽量なアダプターモジュールを用いて、構造化された生体医学的知識を事前訓練された言語モデルに注入するアプローチを開発した。
バイオメディカル知識システムUMLSと新しいバイオケミカルOntoChemの2つの大きなKGと、PubMedBERTとBioLinkBERTの2つの著名なバイオメディカルPLMを使用している。
計算能力の要件を低く保ちながら,本手法がいくつかの事例において性能改善につながることを示す。
論文 参考訳(メタデータ) (2023-12-21T14:26:57Z) - Improving Biomedical Entity Linking with Retrieval-enhanced Learning [53.24726622142558]
$k$NN-BioELは、トレーニングコーパス全体から同様のインスタンスを予測のヒントとして参照する機能を備えたBioELモデルを提供する。
k$NN-BioELは、いくつかのデータセットで最先端のベースラインを上回ります。
論文 参考訳(メタデータ) (2023-12-15T14:04:23Z) - ProBio: A Protocol-guided Multimodal Dataset for Molecular Biology Lab [67.24684071577211]
研究結果を複製するという課題は、分子生物学の分野に重大な障害をもたらしている。
まず、この目的に向けた最初のステップとして、ProBioという名前の包括的なマルチモーダルデータセットをキュレートする。
次に、透明なソリューショントラッキングとマルチモーダルなアクション認識という2つの挑戦的なベンチマークを考案し、BioLab設定におけるアクティビティ理解に関連する特徴と難しさを強調した。
論文 参考訳(メタデータ) (2023-11-01T14:44:01Z) - Machine learning in bioprocess development: From promise to practice [58.720142291102135]
機械学習(ML)アプローチのようなデータ駆動の手法は、大きな設計空間を合理的に探索する可能性が高い。
本研究の目的は,これまでのバイオプロセス開発におけるML手法の適用例を示すことである。
論文 参考訳(メタデータ) (2022-10-04T13:48:59Z) - BioADAPT-MRC: Adversarial Learning-based Domain Adaptation Improves
Biomedical Machine Reading Comprehension Task [4.837365865245979]
本稿では,生物医学機械読解作業のための逆学習に基づくドメイン適応フレームワークを提案する。
BioADAPT-MRCは、一般的なドメインデータセットとバイオメディカルドメインデータセットの間の限界分布の相違に対処するニューラルネットワークベースの手法である。
論文 参考訳(メタデータ) (2022-02-26T16:14:27Z) - Discovering Drug-Target Interaction Knowledge from Biomedical Literature [107.98712673387031]
人体における薬物と標的(DTI)の相互作用は、生物医学や応用において重要な役割を担っている。
毎年何百万もの論文がバイオメディカル分野で出回っているので、文学からDTIの知識を自動的に発見することは、業界にとって急激な需要となっている。
生成的アプローチを用いて,この課題に対する最初のエンドツーエンドソリューションについて検討する。
我々はDTI三重項をシーケンスとみなし、Transformerベースのモデルを使ってエンティティや関係の詳細なアノテーションを使わずに直接生成する。
論文 参考訳(メタデータ) (2021-09-27T17:00:14Z) - Network Module Detection from Multi-Modal Node Features with a Greedy
Decision Forest for Actionable Explainable AI [0.0]
本研究では,Greedy Decision Forest を用いたマルチモーダルノード特徴に基づくサブネットワーク検出について述べる。
私たちのガラスボックスアプローチは、がんなどの疾患をよりよく理解するために、マルチオミクスデータから病気を引き起こすネットワークモジュールを明らかにするのに役立ちます。
論文 参考訳(メタデータ) (2021-08-26T09:42:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。