Fugu-MT 論文翻訳(概要): Hierarchical Multitask Learning with Dependency Parsing for Japanese Semantic Role Labeling Improves Performance of Argument Identification

論文の概要: Hierarchical Multitask Learning with Dependency Parsing for Japanese Semantic Role Labeling Improves Performance of Argument Identification

arxiv url: http://arxiv.org/abs/2101.06071v2
Date: Fri, 26 Feb 2021 11:58:31 GMT
ステータス: 処理完了
システム内更新日: 2021-03-28 11:21:21.130452
Title: Hierarchical Multitask Learning with Dependency Parsing for Japanese Semantic Role Labeling Improves Performance of Argument Identification
Title（参考訳）: 日本語意味的役割ラベリングのための依存解析を用いた階層型マルチタスク学習
Authors: Tomohiro Nakamura, Tomoya Miyashita, Soh Ohara
Abstract要約: 本稿では,依存関係解析(DP)を用いた階層型マルチタスク学習手法を提案する。また、引数識別と引数分類を同時に行う共同モデルによる実験も実施しています。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: With the advent of FrameNet and PropBank, many semantic role labeling (SRL) systems have been proposed in English. Although research on Japanese predicate argument structure analysis (PASA) has been conducted, most studies focused on surface cases. There are only few previous works on Japanese SRL for deep cases, and their models' accuracies are low. Therefore, we propose a hierarchical multitask learning method with dependency parsing (DP) and show that our model achieves state-of-the-art results in Japanese SRL. Also, we conduct experiments with a joint model that performs both argument identification and argument classification simultaneously. The result suggests that multitasking with DP is mainly effective for argument identification.
Abstract（参考訳）: FrameNetとPropBankの出現により、多くの意味的役割ラベルシステム(SRL)が英語で提案されている。日本語述語引数構造解析 (pasa) の研究は行われているが, 表面事例に着目した研究が多い。日本におけるSRLの深層事例に関する先行研究はごくわずかであり, モデルの精度は低い。そこで本研究では,依存関係解析(DP)を用いた階層型マルチタスク学習手法を提案する。また,引数識別と引数分類を同時に行うジョイントモデルを用いて実験を行った。その結果,DPを用いたマルチタスクは議論の識別に有効であることが示唆された。

関連論文リスト

P-MMEval: A Parallel Multilingual Multitask Benchmark for Consistent Evaluation of LLMs [84.24644520272835]
大きな言語モデル(LLM)は、翻訳、コード生成、推論といったタスクにまたがる様々な多言語機能を示す。以前の評価では、その範囲を基本自然言語処理(NLP)や、独立した機能固有のタスクに制限することが多かった。我々は、これらのベンチマークの有用性に関する以前の研究の監視に対処するため、大規模ベンチマークから利用可能な、合理的なベンチマークを選択するパイプラインを提案する。本稿では,P-MMEvalを提案する。P-MMEval,P-MMEval,P-MMEval,P-MMEval,P-MMEval,P-MMEval。
論文参考訳（メタデータ） (2024-11-14T01:29:36Z)
The Power of Question Translation Training in Multilingual Reasoning: Broadened Scope and Deepened Insights [108.40766216456413]
大規模言語モデルの英語と非英語のパフォーマンスのギャップを埋めるための質問アライメントフレームワークを提案する。実験結果から、さまざまな推論シナリオ、モデルファミリー、サイズにわたって、多言語のパフォーマンスを向上できることが示された。我々は、表現空間、生成された応答とデータスケールを分析し、質問翻訳訓練がLLM内の言語アライメントをどのように強化するかを明らかにする。
論文参考訳（メタデータ） (2024-05-02T14:49:50Z)
Provable Benefits of Multi-task RL under Non-Markovian Decision Making Processes [56.714690083118406]
マルコフ決定過程 (MDP) 下でのマルチタスク強化学習 (RL) において, 共有潜在構造の存在は, シングルタスクRLと比較して, サンプル効率に有意な利益をもたらすことが示されている。このような利点が、部分的に観測可能なMDP(POMDP)やより一般的な予測状態表現(PSR)といった、より一般的なシーケンシャルな意思決定問題にまで拡張できるかどうかを検討する。提案手法は,全てのPSRに対してほぼ最適ポリシーを求めるための,証明可能なアルゴリズム UMT-PSR を提案し,PSR の合同モデルクラスが有するマルチタスク学習の利点が示されることを示す。
論文参考訳（メタデータ） (2023-10-20T14:50:28Z)
Generative Judge for Evaluating Alignment [84.09815387884753]
本稿では,これらの課題に対処するために,13Bパラメータを持つ生成判断器Auto-Jを提案する。我々のモデルは,大規模な実環境シナリオ下でのユーザクエリとLLM生成応答に基づいて訓練されている。実験的に、Auto-Jはオープンソースモデルとクローズドソースモデルの両方を含む、強力なライバルのシリーズを上回っている。
論文参考訳（メタデータ） (2023-10-09T07:27:15Z)
Exploration of Language Dependency for Japanese Self-Supervised Speech Representation Models [18.22157315310462]
自己教師付き学習(SSL)はモノリンガルだけでなく、言語横断的な設定でも劇的に成功している。本稿では,単言語モデルとの比較において,言語間モデルの有効性について検討する。日本語で収集されたラベルのないデータは、何万時間もの英語および/または多言語データで事前訓練された言語間モデルに匹敵する性能を達成するために、どの程度のラベル付きデータが必要であるかを検討する。
論文参考訳（メタデータ） (2023-05-09T06:28:10Z)
Multi-level Distillation of Semantic Knowledge for Pre-training Multilingual Language Model [15.839724725094916]
マルチレベル多言語知識蒸留(MMKD)は,多言語言語モデルを改善するための新しい手法である。我々は、英語のBERTでリッチな意味表現の知識を採用するために、教師中心のフレームワークを採用している。我々は,XNLI,PAWS-X,XQuADなどの言語間評価ベンチマーク実験を行った。
論文参考訳（メタデータ） (2022-11-02T15:23:13Z)
DiSparse: Disentangled Sparsification for Multitask Model Compression [92.84435347164435]
DiSparseは、シンプルで効果的で、第一級のマルチタスクプルーニングとスパーストレーニングスキームである。実験の結果,様々な設定や設定において優れた性能を示した。
論文参考訳（メタデータ） (2022-06-09T17:57:46Z)
A Generative Language Model for Few-shot Aspect-Based Sentiment Analysis [90.24921443175514]
我々は、アスペクト項、カテゴリを抽出し、対応する極性を予測するアスペクトベースの感情分析に焦点を当てる。本稿では,一方向の注意を伴う生成言語モデルを用いて,抽出タスクと予測タスクをシーケンス生成タスクに再構成することを提案する。提案手法は,従来の最先端(BERTをベースとした)の性能を,数ショットとフルショットの設定において,大きなマージンで上回ります。
論文参考訳（メタデータ） (2022-04-11T18:31:53Z)
Zero-shot Cross-lingual Conversational Semantic Role Labeling [30.28068025468505]
ゼロショットクロスランガルCSRLを実現するための効果的な手法を提案する。本モデルは,階層エンコーダを用いた言語に依存しない,対話型構造認識,意味的にリッチな表現を暗黙的に学習する。英語における質問文書き直しタスクや,英語,ドイツ語,日本語における多方向対話応答生成タスクなど,中国語以外の会話タスクに対するCSRLの有用性を確認した。
論文参考訳（メタデータ） (2022-04-11T07:29:39Z)
Semantic Role Labeling as Dependency Parsing: Exploring Latent Tree Structures Inside Arguments [33.95412952615206]
SRLの最近の研究は、主にBIOベースとスパンベースという2つのラインに分かれている。本稿では、SRLを依存性解析タスクに還元し、フラット引数を潜在サブツリーとみなす。特に,木構造をスパンアウェアにするために,新規なスパン制約ツリーCRFモデルを用いて定式化を行う。
論文参考訳（メタデータ） (2021-10-13T17:02:29Z)
Incorporating Linguistic Knowledge for Abstractive Multi-document Summarization [20.572283625521784]
ニューラルネットワークに基づく抽象的多文書要約(MDS)モデルを開発した。依存関係情報を言語誘導型注意機構に処理する。言語信号の助けを借りて、文レベルの関係を正しく捉えることができる。
論文参考訳（メタデータ） (2021-09-23T08:13:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。