論文の概要: Approximate Structured Diffusion for Sequence Labelling
- arxiv url: http://arxiv.org/abs/2606.18856v1
- Date: Wed, 17 Jun 2026 09:36:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-18 17:16:51.091152
- Title: Approximate Structured Diffusion for Sequence Labelling
- Title(参考訳): シーケンスラベリングにおける近似構造拡散
- Authors: Nicolas Floquet, Joseph Le Roux, Nadi Tomeh,
- Abstract要約: シーケンスラベリングは自然言語処理(NLP)のコアタスクである
機械学習の観点からは、シーケンスラベリングはしばしばニューラルネットワークによってパラメータ化された線形鎖条件ランダムフィールド(CRF)としてキャストされる。
我々は拡散を利用してラベルシーケンス全体の条件付きCRFを訓練できることを示し、その条件がラベルのノイズのあるバージョンにあることを注意する。
- 参考スコア(独自算出の注目度): 7.8391562528423995
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Sequence labelling, a core task of Natural Language Processing (NLP), consists in assigning each token of an input sentence a label. From a Machine Learning point of view, sequence labelling is often cast as a Linear-Chain Conditional Random Field (CRF) parametrised by a neural network. While this approach gives good empirical results, CRFs assume a finite decision span (eg label bigrams) which can limit their expressivity and hurt performance when long-range dependencies are required. We show we can leverage diffusion to train a CRF conditioned on an entire label sequence, with the caveat that the condition is on a noisy version of labels. We show experimentally that this method, in conjunction with approximate CRF inference, improves label accuracy with a 16.5% error reduction for POS-tagging.
- Abstract(参考訳): 自然言語処理(NLP)のコアタスクであるシーケンスラベリング(Sequence labelling)は、入力文の各トークンにラベルを割り当てることである。
機械学習の観点からは、シーケンスラベリングはしばしばニューラルネットワークによってパラメータ化された線形鎖条件ランダムフィールド(CRF)としてキャストされる。
このアプローチは優れた経験的結果をもたらすが、CRFは、その表現性を制限し、長距離依存が必要な場合にパフォーマンスを損なうことができる有限な決定範囲(ラベルビッグラムなど)を仮定する。
我々は拡散を利用してラベルシーケンス全体の条件付きCRFを訓練できることを示し、その条件がラベルのノイズのあるバージョンにあることを注意する。
提案手法は, POSタグの誤り率を16.5%削減し, ラベル精度を向上することを示した。
関連論文リスト
- Optimizing Diffusion Rate and Label Reliability in a Graph-Based
Semi-supervised Classifier [2.4366811507669124]
Local and Global Consistency (LGC)アルゴリズムは、グラフベースの半教師付き半教師付き(GSSL)分類器の1つである。
ラベル付きインスタンスの自己影響を取り除くことは、どのように有用か、そして、それがアウト・ワン・アウトエラーにどのように関係するかについて議論する。
本研究では,ラベルの信頼性と拡散率を推定する手法を提案する。
論文 参考訳(メタデータ) (2022-01-10T16:58:52Z) - S3: Supervised Self-supervised Learning under Label Noise [53.02249460567745]
本稿では,ラベルノイズの存在下での分類の問題に対処する。
提案手法の核心は,サンプルのアノテートラベルと特徴空間内のその近傍のラベルの分布との整合性に依存するサンプル選択機構である。
提案手法は,CIFARCIFAR100とWebVisionやANIMAL-10Nなどの実環境ノイズデータセットの両方で,従来の手法をはるかに上回っている。
論文 参考訳(メタデータ) (2021-11-22T15:49:20Z) - Cross-domain Speech Recognition with Unsupervised Character-level
Distribution Matching [60.8427677151492]
2つの領域における各文字間の微粒化適応を行うための文字レベルの分布マッチング手法であるCMatchを提案する。
Libri-Adaptデータセットを用いた実験の結果,提案手法はクロスデバイスとクロス環境の両方で14.39%,16.50%の単語誤り率(WER)を低減できることがわかった。
論文 参考訳(メタデータ) (2021-04-15T14:36:54Z) - Masked Conditional Random Fields for Sequence Labeling [2.982218441172364]
条件付きランダムフィールド(CRF)ベースのニューラルモデルは、シーケンスラベリング問題を解決する最も高性能な方法の一つである。
我々は,学習段階と復号段階の両方において,候補経路の制約を課すCRFの簡易な実装法であるMasked Conditional Random Field (MCRF)を提案する。
本稿では,提案手法がこの問題を徹底的に解決し,既存のCRFモデルに対してほぼゼロのコストで一貫した改善をもたらすことを示す。
論文 参考訳(メタデータ) (2021-03-19T08:23:24Z) - Uncertainty-Aware Label Refinement for Sequence Labeling [47.67853514765981]
長期ラベル依存性をモデル化する新しい2段階ラベルデコードフレームワークを提案する。
ベースモデルはまずドラフトラベルを予測し、次に新しい2ストリーム自己アテンションモデルはこれらのドラフト予測を洗練します。
論文 参考訳(メタデータ) (2020-12-19T06:56:59Z) - Semi-Supervised Speech Recognition via Graph-based Temporal
Classification [59.58318952000571]
半教師付き学習は自己学習による自動音声認識において有望な結果を示した。
このアプローチの有効性は、主に擬似ラベルの精度に依存する。
N-bestリストの別のASR仮説は、ラベルなしの発話に対してより正確なラベルを提供することができる。
論文 参考訳(メタデータ) (2020-10-29T14:56:56Z) - Few-shot Slot Tagging with Collapsed Dependency Transfer and
Label-enhanced Task-adaptive Projection Network [61.94394163309688]
本稿では,現在最先端の少数ショット分類モデルであるTapNetに基づくラベル強化タスク適応プロジェクションネットワーク(L-TapNet)を提案する。
実験結果から,本モデルは1ショット設定で14.64点のF1スコアで最強の少ショット学習ベースラインを著しく上回っていることがわかった。
論文 参考訳(メタデータ) (2020-06-10T07:50:44Z) - Speaker-change Aware CRF for Dialogue Act Classification [0.0]
ダイアログ法(DA)の分類における最近の研究は、シーケンスラベリング問題としてタスクにアプローチしている。
本稿では,話者変化を考慮したCRF層の簡易な修正を提案する。
論文 参考訳(メタデータ) (2020-04-06T18:03:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。