論文の概要: The Model Arena for Cross-lingual Sentiment Analysis: A Comparative Study in the Era of Large Language Models

• arxiv url: http://arxiv.org/abs/2406.19358v1
• Date: Thu, 27 Jun 2024 17:38:45 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-28 13:18:46.366314
• Title: The Model Arena for Cross-lingual Sentiment Analysis: A Comparative Study in the Era of Large Language Models
• Title（参考訳）: 言語間知覚分析のためのモデル領域:大規模言語モデルにおける比較研究
• Authors: Xiliang Zhu, Shayna Gardiner, Tere Roldán, David Rossouw,
• Abstract要約: 本研究では,公共小言語モデル (M) と大規模言語モデル (LLM) の言語間移動能力の比較を行った。 以上の結果から,SMLMは公立モデルの中で,ゼロショットのクロスランガル性能に優れていた。 数ショットの言語間設定では、パブリックLLMは適応ポテンシャルの強化を示す。
• 参考スコア（独自算出の注目度）: 0.4821250031784094
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Sentiment analysis serves as a pivotal component in Natural Language Processing (NLP). Advancements in multilingual pre-trained models such as XLM-R and mT5 have contributed to the increasing interest in cross-lingual sentiment analysis. The recent emergence in Large Language Models (LLM) has significantly advanced general NLP tasks, however, the capability of such LLMs in cross-lingual sentiment analysis has not been fully studied. This work undertakes an empirical analysis to compare the cross-lingual transfer capability of public Small Multilingual Language Models (SMLM) like XLM-R, against English-centric LLMs such as Llama-3, in the context of sentiment analysis across English, Spanish, French and Chinese. Our findings reveal that among public models, SMLMs exhibit superior zero-shot cross-lingual performance relative to LLMs. However, in few-shot cross-lingual settings, public LLMs demonstrate an enhanced adaptive potential. In addition, we observe that proprietary GPT-3.5 and GPT-4 lead in zero-shot cross-lingual capability, but are outpaced by public models in few-shot scenarios.
• Abstract（参考訳）: 知覚分析は自然言語処理(NLP)において重要な要素である。 XLM-RやmT5のような多言語事前学習モデルの進歩は、言語間感情分析への関心の高まりに寄与している。 近年のLarge Language Models (LLM) の出現は, 言語間感情分析におけるLLMの能力は十分に研究されていない。 この研究は、英語、スペイン語、フランス語、中国語の感情分析の文脈において、XLM-Rのような公共の多言語言語モデル(SMLM)とLlama-3のような英語中心のLLMとの言語間伝達能力を比較するための実証的な分析を行う。 以上の結果から,SMLM は LLM と比較してゼロショットのクロスランガル性能が優れていることが示唆された。 しかし、数ショットのクロスランガル設定では、パブリックLLMは適応ポテンシャルの強化を示す。 また,プロプライエタリな GPT-3.5 と GPT-4 はゼロショットの言語機能を持つが,数ショットのシナリオでは公開モデルに勝っている。

関連論文リスト

• Preference Tuning For Toxicity Mitigation Generalizes Across Languages [17.784213168942117]
  本研究は、多言語大言語モデルにおける選好チューニングのゼロショット言語間一般化について考察する。 我々は,英語データのみを用いた直接選好最適化学習が,多言語オープンエンド世代における毒性を著しく低下させることを実証した。
  論文  参考訳（メタデータ） (2024-06-23T22:53:47Z)
• Low-Resource Cross-Lingual Summarization through Few-Shot Learning with Large Language Models [4.9325206373289125]
  言語間要約(XLS)は、ソース言語文書とは異なる対象言語で要約を生成することを目的としている。 大規模言語モデル(LLM)では、ゼロショットXLSのパフォーマンスが期待できるが、このタスクの少数ショット機能はまだ探索されていない。 Mistral-7B-Instruct-v0.2, GPT-3.5, GPT-4など, 各種モデルのXLS性能について検討した。
  論文  参考訳（メタデータ） (2024-06-07T04:31:41Z)
• Optimizing Language Augmentation for Multilingual Large Language Models: A Case Study on Korean [3.4735169184479524]
  大規模言語モデル (LLM) は、事前学習を用いてその後の単語を予測するが、その拡張にはかなりの計算資源が必要である。 本研究では, 公開されているMLLMをベースとしたLRLの性能向上のための3つの手法を提案する。
  論文  参考訳（メタデータ） (2024-03-16T10:26:38Z)
• Analyzing and Adapting Large Language Models for Few-Shot Multilingual NLU: Are We There Yet? [82.02076369811402]
  教師付きファインチューニング(SFT)、教師付きインストラクションチューニング(SIT)、インコンテキストラーニング(ICL)は、3つの代替であり、事実上の標準的アプローチである。 提案手法は,6つの高・低リソース言語,3つの異なるNLUタスク,多種多様な言語とドメインのセットアップを用いて,3つのアプローチを網羅的かつ体系的に比較する。 そこで本研究では,教師あり指導のチューニングが,性能とリソース要件の最良のトレードオフであることを示す。
  論文  参考訳（メタデータ） (2024-03-04T10:48:13Z)
• Language-Specific Neurons: The Key to Multilingual Capabilities in Large Language Models [117.20416338476856]
  大規模言語モデル(LLM)は、特別にキュレートされた多言語並列コーパスで事前訓練されることなく、顕著な多言語機能を示す。 LLM内の言語特異的ニューロンを識別するための新しい検出手法である言語アクティベーション確率エントロピー(LAPE)を提案する。 以上の結果から,LLMが特定の言語を処理できる能力は,神経細胞のサブセットが少なすぎるためであることが示唆された。
  論文  参考訳（メタデータ） (2024-02-26T09:36:05Z)
• Unveiling Linguistic Regions in Large Language Models [49.298360366468934]
  大規模言語モデル (LLM) は言語間アライメントと一般化能力を示す。 本稿では,LLMの言語能力に関するいくつかの調査を行う。
  論文  参考訳（メタデータ） (2024-02-22T16:56:13Z)
• Zero-Shot Cross-Lingual Reranking with Large Language Models for Low-Resource Languages [51.301942056881146]
  アフリカ語における言語間情報検索システムにおいて,大規模言語モデル (LLM) がリランカーとしてどのように機能するかを検討する。 私たちの実装は、英語と4つのアフリカの言語(ハウサ語、ソマリ語、スワヒリ語、ヨルバ語)を対象としています。 我々は、英語のクェリとアフリカの言葉の文節による言語横断的な格付けについて検討する。
  論文  参考訳（メタデータ） (2023-12-26T18:38:54Z)
• MEGAVERSE: Benchmarking Large Language Models Across Languages, Modalities, Models and Tasks [12.665447518524187]
  本研究の目的は、同一の多言語データセットで比較することで、SoTA LLMの非英語能力の徹底的な評価を行うことである。 私たちのベンチマークは、低リソースのアフリカ言語を含む83の言語をカバーする22のデータセットで構成されています。 また、データ汚染に関する研究を行い、複数のモデルが多言語評価ベンチマークで汚染される可能性が示唆された。
  論文  参考訳（メタデータ） (2023-11-13T16:45:37Z)
• SCALE: Synergized Collaboration of Asymmetric Language Translation Engines [105.8983433641208]
  本稿では,コンパクトな特殊翻訳モデル (STM) と汎用大言語モデル (LLM) を1つの統合翻訳エンジンとして結合する協調フレームワークを提案する。 STMからの翻訳を3重項インコンテキストのデモに導入することで、SCALEはLLMの洗練とピボット能力を解放する。 実験の結果,SCALEは低リソース環境において,少数ショットLLM (GPT-4) と特殊モデル (NLLB) の両方を著しく上回っていることがわかった。
  論文  参考訳（メタデータ） (2023-09-29T08:46:38Z)
• Zero- and Few-Shot Prompting with LLMs: A Comparative Study with Fine-tuned Models for Bangla Sentiment Analysis [6.471458199049549]
  本研究では,33,606件のニュースツイートとFacebookコメントを含む手動注釈付きデータセットを提案する。 また,Flan-T5,GPT-4,Bloomzなどの言語モデルを用いて,ゼロショットと少数ショットのインコンテキスト学習についても検討した。 以上の結果から,モノリンガルトランスフォーマーに基づくモデルは,ゼロおよび少数ショットシナリオにおいても,他のモデルよりも一貫して優れていたことが示唆された。
  論文  参考訳（メタデータ） (2023-08-21T15:19:10Z)
• Zero-Shot Cross-Lingual Summarization via Large Language Models [108.30673793281987]
  言語間要約(CLS)は、異なる対象言語で要約を生成する。 近年のLarge Language Models (LLMs) の出現は、計算言語学コミュニティから広く注目を集めている。 本稿では,異なるパラダイムからゼロショットCLSを実行するために,LSMを誘導するために様々なプロンプトを経験的に使用した。
  論文  参考訳（メタデータ） (2023-02-28T01:27:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。