論文の概要: Can NLI Provide Proper Indirect Supervision for Low-resource Biomedical Relation Extraction?

• arxiv url: http://arxiv.org/abs/2212.10784v1
• Date: Wed, 21 Dec 2022 05:49:08 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-22 14:47:19.448324
• Title: Can NLI Provide Proper Indirect Supervision for Low-resource Biomedical Relation Extraction?
• Title（参考訳）: NLIは低リソースバイオメディカルリレーショナルリレーション抽出のための間接的プロビジョンを向上できるか?
• Authors: Jiashu Xu, Mingyu Derek Ma, Muhao Chen
• Abstract要約: 生医学的関係抽出(RE)における2つの重要な障害は、アノテーションの不足と、明示的に定義されたラベルのないインスタンスの出現である。 バイオメディカルREを多クラス分類タスクとして扱う既存のアプローチでは、低リソース環境での一般化が不十分な場合が多い。 バイオメディカルREを自然言語推論の定式化として間接的な監督によって変換するNBRを提案する。
• 参考スコア（独自算出の注目度）: 20.854294983084223
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Two key obstacles in biomedical relation extraction (RE) are the scarcity of annotations and the prevalence of instances without explicitly pre-defined labels due to low annotation coverage. Existing approaches, which treat biomedical RE as a multi-class classification task, often result in poor generalization in low-resource settings and do not have the ability to make selective prediction on unknown cases but give a guess from seen relations, hindering the applicability of those approaches. We present NBR, which converts biomedical RE as natural language inference formulation through indirect supervision. By converting relations to natural language hypotheses, NBR is capable of exploiting semantic cues to alleviate annotation scarcity. By incorporating a ranking-based loss that implicitly calibrates abstinent instances, NBR learns a clearer decision boundary and is instructed to abstain on uncertain instances. Extensive experiments on three widely-used biomedical RE benchmarks, namely ChemProt, DDI and GAD, verify the effectiveness of NBR in both full-set and low-resource regimes. Our analysis demonstrates that indirect supervision benefits biomedical RE even when a domain gap exists, and combining NLI knowledge with biomedical knowledge leads to the best performance gains.
• Abstract（参考訳）: バイオメディカルリレーション抽出(re)における2つの重要な障害は、アノテーションの不足と、アノテーションカバレッジの低さによるラベルを明示的に定義せずにインスタンスが発生することである。 バイオメディカルREをマルチクラス分類タスクとして扱う既存のアプローチでは、低リソース環境での一般化が不十分な場合が多く、未知のケースを選択的に予測する能力はないが、それらのアプローチの適用性を妨げている。 バイオメディカルREを自然言語推論の定式化として間接的な監督によって変換するNBRを提案する。 関係を自然言語の仮説に変換することで、NBRは意味的な手がかりを利用してアノテーションの不足を軽減することができる。 nbrは、暗黙的に断続的なインスタンスを校正するランキングベースの損失を組み込むことで、より明確な決定境界を学習し、不確定なインスタンスを放棄するように指示される。 chemprot、ddi、gadの3つの広く使用されている生物医学的reベンチマークに関する広範囲な実験は、フルセットと低リソースの両領域におけるnbrの有効性を検証する。 分析の結果,NLI知識とバイオメディカル知識を組み合わせれば,バイオメディカルREが有効であることがわかった。

関連論文リスト

• BioNCERE: Non-Contrastive Enhancement For Relation Extraction In Biomedical Texts [0.0]
  生物医学領域における関係抽出(RE)の最先端モデルは異方性の問題に悩まされる可能性がある。 対照的な学習法は、この異方性現象を減らし、クラス崩壊を避けるのに役立つ。 BioNCEREは、トランスファーラーニングと非コントラスト学習を使用して、完全なあるいは次元の崩壊を避けるとともに、バイパスオーバーフィッティングを回避している。
  論文  参考訳（メタデータ） (2024-10-31T02:51:56Z)
• Learning to Denoise Biomedical Knowledge Graph for Robust Molecular Interaction Prediction [50.7901190642594]
  分子間相互作用予測のためのバイオKDN (Biomedical Knowledge Graph Denoising Network) を提案する。 BioKDNは、ノイズの多いリンクを学習可能な方法で識別することで、局所的な部分グラフの信頼性の高い構造を洗練する。 ターゲットの相互作用に関する関係を円滑にすることで、一貫性とロバストなセマンティクスを維持する。
  論文  参考訳（メタデータ） (2023-12-09T07:08:00Z)
• Self-Verification Improves Few-Shot Clinical Information Extraction [73.6905567014859]
  大規模言語モデル (LLMs) は、数発のテキスト内学習を通じて臨床キュレーションを加速する可能性を示している。 正確性や解釈可能性に関する問題、特に健康のようなミッションクリティカルな領域ではまだ苦戦している。 本稿では,自己検証を用いた汎用的な緩和フレームワークについて検討する。このフレームワークはLLMを利用して,自己抽出のための証明を提供し,その出力をチェックする。
  論文  参考訳（メタデータ） (2023-05-30T22:05:11Z)
• Extracting Biomedical Factual Knowledge Using Pretrained Language Model and Electronic Health Record Context [7.7971830917251275]
  我々は、言語モデル(LM)から知識を抽出するプロンプト手法を、新しい知識ベース(LM)として用いる。 バイオメディカル領域における低バウンドを改善するプロンプトに、特にEHRノートをコンテキストとして追加する。 実験の結果、これらの言語モデルが持つ知識は、EHRノートのノイズ知識と正しい知識を区別できることがわかった。
  論文  参考訳（メタデータ） (2022-08-26T00:01:26Z)
• BioRED: A Comprehensive Biomedical Relation Extraction Dataset [6.915371362219944]
  我々は,複数の実体型と関係対を持つ第一種バイオメディカルREコーパスであるBioREDを提示する。 それぞれの関係を、新しい発見知識または以前に知られていた背景知識を記述するものとしてラベル付けし、自動化アルゴリズムが新規情報と背景情報を区別できるようにする。 以上の結果から,既存の手法は NER タスクでは高い性能が得られるが,RE タスクには多くの改善の余地があることが示唆された。
  論文  参考訳（メタデータ） (2022-04-08T19:23:49Z)
• Fine-Tuning Large Neural Language Models for Biomedical Natural Language Processing [55.52858954615655]
  バイオメディカルNLPの微調整安定性に関する系統的研究を行った。 我々は、特に低リソース領域において、微調整性能は事前トレーニング設定に敏感であることを示した。 これらの技術は低リソースバイオメディカルNLPアプリケーションの微調整性能を大幅に向上させることができることを示す。
  論文  参考訳（メタデータ） (2021-12-15T04:20:35Z)
• Gradient Imitation Reinforcement Learning for Low Resource Relation Extraction [52.63803634033647]
  低リソース関係抽出(LRE)は,人間のアノテーションが不足している場合に,ラベル付きコーパスから関係事実を抽出することを目的としている。 我々は、擬似ラベルデータにラベル付きデータへの勾配降下方向を模倣するように促すグラディエント・イミテーション強化学習法を開発した。 また,低リソース関係抽出における2つの主要なシナリオを扱うGradLREというフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-09-14T03:51:15Z)
• BBAEG: Towards BERT-based Biomedical Adversarial Example Generation for Text Classification [1.14219428942199]
  バイオメディカルテキスト分類のためのブラックボックス攻撃アルゴリズムであるBBAEG(Biomedical BERT-based Adversarial Example Generation)を提案する。 我々は,BBAEGがより優れた言語流布,セマンティック・コヒーレンス(セマンティック・コヒーレンス)でより強力な攻撃を行うことを示す。
  論文  参考訳（メタデータ） (2021-04-05T05:32:56Z)
• Weakly-Supervised Cross-Domain Adaptation for Endoscopic Lesions Segmentation [79.58311369297635]
  異なるデータセットにまたがるトランスファー可能なドメイン不変知識を探索できる,新しい弱い教師付き病巣移動フレームワークを提案する。 wasserstein quantified transferability frameworkは、広い範囲の転送可能なコンテキスト依存性を強調するために開発されている。 新規な自己監督型擬似ラベル生成器は、送信困難かつ転送容易なターゲットサンプルの両方に対して、確実な擬似ピクセルラベルを等しく提供するように設計されている。
  論文  参考訳（メタデータ） (2020-12-08T02:26:03Z)
• Automatic Extraction of Ranked SNP-Phenotype Associations from Literature through Detecting Neural Candidates, Negation and Modality Markers [0.0]
  テキストからSNP-phenotypeの関連を抽出する方法はない。 実験の結果, 否定の手がかりや範囲, 中立候補の検出が, より優れた関係抽出法の実装に有効であることが示唆された。 抽出されたアソシエーションの信頼度を推定するために,モダリティに基づくアプローチを提案する。
  論文  参考訳（メタデータ） (2020-12-02T00:03:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。