論文の概要: Masked Conditional Random Fields for Sequence Labeling
- arxiv url: http://arxiv.org/abs/2103.10682v1
- Date: Fri, 19 Mar 2021 08:23:24 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-22 14:44:26.305691
- Title: Masked Conditional Random Fields for Sequence Labeling
- Title(参考訳): シーケンスラベリングのためのマスキング条件付確率場
- Authors: Tianwen Wei, Jianwei Qi, Shenghuan He, Songtao Sun
- Abstract要約: 条件付きランダムフィールド(CRF)ベースのニューラルモデルは、シーケンスラベリング問題を解決する最も高性能な方法の一つである。
我々は,学習段階と復号段階の両方において,候補経路の制約を課すCRFの簡易な実装法であるMasked Conditional Random Field (MCRF)を提案する。
本稿では,提案手法がこの問題を徹底的に解決し,既存のCRFモデルに対してほぼゼロのコストで一貫した改善をもたらすことを示す。
- 参考スコア(独自算出の注目度): 2.982218441172364
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Conditional Random Field (CRF) based neural models are among the most
performant methods for solving sequence labeling problems. Despite its great
success, CRF has the shortcoming of occasionally generating illegal sequences
of tags, e.g. sequences containing an "I-" tag immediately after an "O" tag,
which is forbidden by the underlying BIO tagging scheme. In this work, we
propose Masked Conditional Random Field (MCRF), an easy to implement variant of
CRF that impose restrictions on candidate paths during both training and
decoding phases. We show that the proposed method thoroughly resolves this
issue and brings consistent improvement over existing CRF-based models with
near zero additional cost.
- Abstract(参考訳): 条件付きランダムフィールド(CRF)ベースのニューラルモデルは、シーケンスラベリング問題を解決する最も高性能な方法の一つである。
その大きな成功にもかかわらず、CRFは時々違法なタグ列を生成する欠点がある。
o"タグの直後に"i-"タグを含むシーケンスは、基礎となるバイオタグスキームによって禁止される。
本研究では,学習段階と復号段階の両方において候補経路に制約を課すCRFの変種実装を容易にするMasked Conditional Random Field (MCRF)を提案する。
提案手法はこの問題を徹底的に解決し,既存のCRFモデルに対してほぼゼロのコストで一貫した改善をもたらすことを示す。
関連論文リスト
- Continual-MAE: Adaptive Distribution Masked Autoencoders for Continual Test-Time Adaptation [49.827306773992376]
連続的テスト時間適応(CTTA)は、ソース事前学習モデルから目標分布の連続的な変化に移行するために提案される。
提案手法は,CTTAタスクの分類とセグメンテーションの両方において,最先端の性能を実現する。
論文 参考訳(メタデータ) (2023-12-19T15:34:52Z) - Filtered Semi-Markov CRF [3.839857803092043]
Semi-Markov CRF はテキストセグメンテーションタスクのための従来の線形チェイン CRF の代替として提案されている。
半CRFは,(1)シークエンス長の2次複雑さ,(2)シークエンスラベリングタスクのCRFに比べ性能が劣る2つの大きな欠点に悩まされている。
論文 参考訳(メタデータ) (2023-11-29T19:11:55Z) - Exploiting Low-confidence Pseudo-labels for Source-free Object Detection [54.98300313452037]
Source-free Object Detection (SFOD) は、ラベル付きソースデータにアクセスすることなく、未ラベルのターゲットドメインにソーストレーニングされた検出器を適応することを目的としている。
現在のSFOD法は適応相におけるしきい値に基づく擬似ラベル手法を用いる。
疑似ラベルを最大限に活用するために,高信頼度と低信頼度しきい値を導入する手法を提案する。
論文 参考訳(メタデータ) (2023-10-19T12:59:55Z) - One-shot Generative Distribution Matching for Augmented RF-based UAV Identification [0.0]
この研究は、限られたRF環境下でRFフィンガープリントを用いて無人航空機(UAV)を特定するという課題に対処する。
RF信号の複雑さと可変性は、環境干渉やハードウェアの不完全性の影響を受け、従来のRFベースの識別手法を効果的にしないことが多い。
変換されたRF信号を増強するためのワンショット生成法は、UAV識別を著しく改善する。
論文 参考訳(メタデータ) (2023-01-20T02:35:43Z) - Uncertainty-Aware Label Refinement for Sequence Labeling [47.67853514765981]
長期ラベル依存性をモデル化する新しい2段階ラベルデコードフレームワークを提案する。
ベースモデルはまずドラフトラベルを予測し、次に新しい2ストリーム自己アテンションモデルはこれらのドラフト予測を洗練します。
論文 参考訳(メタデータ) (2020-12-19T06:56:59Z) - Semi-Supervised Speech Recognition via Graph-based Temporal
Classification [59.58318952000571]
半教師付き学習は自己学習による自動音声認識において有望な結果を示した。
このアプローチの有効性は、主に擬似ラベルの精度に依存する。
N-bestリストの別のASR仮説は、ラベルなしの発話に対してより正確なラベルを提供することができる。
論文 参考訳(メタデータ) (2020-10-29T14:56:56Z) - Constrained Decoding for Computationally Efficient Named Entity
Recognition Taggers [15.279850826041066]
現在の研究は、スパン符号化方式がどのように機能するかについての事前知識を導き、遷移が違法であり、グローバルコヒーレンスを促進することができない条件付きランダムフィールド(CRF)学習に依存している。
不正な遷移を抑制するために出力を制限することにより、統計的に重要でないF1の違いでCRFの2倍の速度で、クロスエントロピー損失のタガーを訓練できることがわかった。
論文 参考訳(メタデータ) (2020-10-09T04:07:52Z) - Conditional Hybrid GAN for Sequence Generation [56.67961004064029]
本稿では,この問題を解決するための条件付きハイブリッドGAN(C-Hybrid-GAN)を提案する。
我々はGumbel-Softmax法を利用して離散値列の分布を近似する。
提案したC-Hybrid-GANは、文脈条件付き離散値シーケンス生成において既存の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2020-09-18T03:52:55Z) - Pre-training Is (Almost) All You Need: An Application to Commonsense
Reasoning [61.32992639292889]
事前学習されたトランスモデルの微調整は、一般的なNLPタスクを解決するための標準的なアプローチとなっている。
そこで本研究では,可視性ランキングタスクをフルテキスト形式でキャストする新たなスコアリング手法を提案する。
提案手法は, ランダム再起動にまたがって, より安定した学習段階を提供することを示す。
論文 参考訳(メタデータ) (2020-04-29T10:54:40Z) - Speaker-change Aware CRF for Dialogue Act Classification [0.0]
ダイアログ法(DA)の分類における最近の研究は、シーケンスラベリング問題としてタスクにアプローチしている。
本稿では,話者変化を考慮したCRF層の簡易な修正を提案する。
論文 参考訳(メタデータ) (2020-04-06T18:03:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。