Fugu-MT 論文翻訳(概要): Indian Language Summarization using Pretrained Sequence-to-Sequence Models

論文の概要: Indian Language Summarization using Pretrained Sequence-to-Sequence Models

arxiv url: http://arxiv.org/abs/2303.14461v1
Date: Sat, 25 Mar 2023 13:05:54 GMT
ステータス: 処理完了
システム内更新日: 2023-03-28 19:32:30.711896
Title: Indian Language Summarization using Pretrained Sequence-to-Sequence Models
Title（参考訳）: 事前列列列モデルを用いたインドの言語要約
Authors: Ashok Urlana, Sahil Manoj Bhatt, Nirmal Surange, Manish Shrivastava
Abstract要約: ILSUMタスクはヒンディー語とグジャラート語と英語の2つの主要なインドの言語のテキスト要約に焦点を当てている。本稿では,本論文におけるモデルの概要とアプローチについて概説する。
参考スコア（独自算出の注目度）: 11.695648989161878
License: http://creativecommons.org/licenses/by/4.0/
Abstract: The ILSUM shared task focuses on text summarization for two major Indian languages- Hindi and Gujarati, along with English. In this task, we experiment with various pretrained sequence-to-sequence models to find out the best model for each of the languages. We present a detailed overview of the models and our approaches in this paper. We secure the first rank across all three sub-tasks (English, Hindi and Gujarati). This paper also extensively analyzes the impact of k-fold cross-validation while experimenting with limited data size, and we also perform various experiments with a combination of the original and a filtered version of the data to determine the efficacy of the pretrained models.
Abstract（参考訳）: ILSUMの共有タスクは、ヒンディー語とグジャラート語という2つの主要なインドの言語のテキスト要約に焦点を当てている。そこで本研究では,事前訓練されたシーケンス・ツー・シーケンス・モデルを用いて,各言語に最適なモデルを求める。本稿では,モデルとアプローチの詳細な概要について述べる。我々は3つのサブタスク(英語、ヒンディー語、グジャラート語)で1位を確保する。また,データサイズが制限された場合,k-foldクロスバリデーションの影響を広範囲に解析し,プリトレーニング済みモデルの有効性を判断するために,原データとフィルタ版の組み合わせによる様々な実験を行った。

関連論文リスト

HindiLLM: Large Language Model for Hindi [0.09363323206192666]
我々はヒンディー語のための2つの自己回帰型大規模言語モデル(LLM)を事前訓練した。教師なし事前学習と教師付き微調整を含む2段階のプロセスを用いる。評価の結果,HindiLLMをベースとした微調整モデルでは,言語関連タスクの大部分において,いくつかのモデルよりも優れていた。
論文参考訳（メタデータ） (2024-12-29T05:28:15Z)
P-MMEval: A Parallel Multilingual Multitask Benchmark for Consistent Evaluation of LLMs [84.24644520272835]
大きな言語モデル(LLM)は、翻訳、コード生成、推論といったタスクにまたがる様々な多言語機能を示す。以前の評価では、その範囲を基本自然言語処理(NLP)や、独立した機能固有のタスクに制限することが多かった。我々は、これらのベンチマークの有用性に関する以前の研究の監視に対処するため、大規模ベンチマークから利用可能な、合理的なベンチマークを選択するパイプラインを提案する。本稿では,P-MMEvalを提案する。P-MMEval,P-MMEval,P-MMEval,P-MMEval,P-MMEval,P-MMEval。
論文参考訳（メタデータ） (2024-11-14T01:29:36Z)
UniMax: Fairer and more Effective Language Sampling for Large-Scale Multilingual Pretraining [92.3702056505905]
我々は,尾語への過剰適合を軽減しつつ,より均一なヘッド言語カバレッジを提供する新しいサンプリング手法UniMaxを提案する。 We found that UniMax are outperforming standard temperature-based sample, and the benefit persistent as scale increased。
論文参考訳（メタデータ） (2023-04-18T17:45:50Z)
Ensemble Transfer Learning for Multilingual Coreference Resolution [60.409789753164944]
非英語で作業する場合に頻繁に発生する問題は、注釈付きトレーニングデータの不足である。我々は,様々なトランスファー学習技術を組み合わせた,シンプルだが効果的なアンサンブルベースのフレームワークを設計する。また、ウィキペディアアンカーテキストを利用して、コア参照解決モデルをブートストラップする低コストのTL手法を提案する。
論文参考訳（メタデータ） (2023-01-22T18:22:55Z)
Beyond Contrastive Learning: A Variational Generative Model for Multilingual Retrieval [109.62363167257664]
本稿では,多言語テキスト埋め込み学習のための生成モデルを提案する。我々のモデルは、$N$言語で並列データを操作する。本手法は, 意味的類似性, ビットクストマイニング, 言語間質問検索などを含む一連のタスクに対して評価を行う。
論文参考訳（メタデータ） (2022-12-21T02:41:40Z)
A Generative Language Model for Few-shot Aspect-Based Sentiment Analysis [90.24921443175514]
我々は、アスペクト項、カテゴリを抽出し、対応する極性を予測するアスペクトベースの感情分析に焦点を当てる。本稿では,一方向の注意を伴う生成言語モデルを用いて,抽出タスクと予測タスクをシーケンス生成タスクに再構成することを提案する。提案手法は,従来の最先端(BERTをベースとした)の性能を,数ショットとフルショットの設定において,大きなマージンで上回ります。
論文参考訳（メタデータ） (2022-04-11T18:31:53Z)
Investigating Monolingual and Multilingual BERTModels for Vietnamese Aspect Category Detection [0.0]
本稿ではベトナムのアスペクトカテゴリー検出問題における多言語モデルと比較し,モノリンガル事前学習言語モデルの性能について検討する。実験結果は、他の2つのデータセットよりもモノリンガルPhoBERTモデルの有効性を実証した。我々の知識を最大限に活用するために,我々の研究はアスペクトカテゴリー検出タスクにおいて,様々な事前学習言語モデルを実行するための最初の試みである。
論文参考訳（メタデータ） (2021-03-17T09:04:03Z)
Indic-Transformers: An Analysis of Transformer Language Models for Indian Languages [0.8155575318208631]
Transformerアーキテクチャに基づく言語モデルは、幅広いNLPタスクにおいて最先端のパフォーマンスを達成した。しかしながら、このパフォーマンスは通常、英語、フランス語、スペイン語、ドイツ語などの高リソース言語でテストされ、報告される。一方、インドの言語はそのようなベンチマークでは表現されていない。
論文参考訳（メタデータ） (2020-11-04T14:43:43Z)
Mixed-Lingual Pre-training for Cross-lingual Summarization [54.4823498438831]
言語間の要約は、ソース言語の記事に対する対象言語の要約を作成することを目的としている。本稿では,翻訳のような言語間タスクと,マスク付き言語モデルのようなモノリンガルタスクの両方を活用する混合言語事前学習に基づくソリューションを提案する。本モデルでは,2.82(中国語)と1.15(中国語,英語)のROUGE-1スコアを最先端の結果に対して改善する。
論文参考訳（メタデータ） (2020-10-18T00:21:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。