論文の概要: PSK at SemEval-2026 Task 9: Multilingual Polarization Detection Using Ensemble Gemma Models with Synthetic Data Augmentation
- arxiv url: http://arxiv.org/abs/2605.05159v1
- Date: Wed, 06 May 2026 17:29:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-07 18:41:07.961591
- Title: PSK at SemEval-2026 Task 9: Multilingual Polarization Detection Using Ensemble Gemma Models with Synthetic Data Augmentation
- Title（参考訳）: PSK at SemEval-2026 Task 9: Ensemble Gemma Models with Synthetic Data Augmentation を用いた多言語分極検出
- Abstract要約: 我々はSemEval-2026 Task 9: Multilingual Polarization Detection(22言語にまたがる二言語分類タスク)について提案する。
我々のアプローチは、Low-Rank Adaptation (LoRA)を用いて言語毎にGemma3モデルを分離し、Low-Rank Adaptation (LLM)によって生成された合成データで拡張する。
最終システムは22言語で0.811のマクロF1を達成し、参加チームの2位にランクインし、3言語で1位、8言語で3位にランクインした。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present our system for SemEval-2026 Task 9: Multilingual Polarization Detection, a binary classification task spanning 22 languages. Our approach fine-tunes separate Gemma~3 models (12B and 27B parameters) per language using Low-Rank Adaptation (LoRA), augmented with synthetic data generated by a large language model (LLM). We employ three synthetic data strategies (direct generation, paraphrasing, and contrastive pair creation) using GPT-4o-mini, with a multi-stage quality filtering pipeline including embedding-based deduplication. We find that per-language threshold tuning on the development set yields 2 to 4\% F1 improvements without retraining. We also use weighted ensembles of 12B and 27B model predictions with per-language strategy selection. Our final system achieves a mean macro-F1 of 0.811 across all 22 languages, ranking 2nd overall of the participating teams, with 1st place finishes in 3 languages and top-3 in 8 languages. We also find that alternative architectures (XLM-RoBERTa, Qwen3) that showed strong development set performance suffered 30 to 50\% F1 drops on the test set, highlighting the importance of generalization.
- Abstract（参考訳）: 我々はSemEval-2026 Task 9: Multilingual Polarization Detection(22言語にまたがる二言語分類タスク)について提案する。
提案手法は,Low-Rank Adaptation (LoRA) を用いて言語毎にGemma~3モデル(12Bおよび27Bパラメータ)を分離し,Low-Rank Adaptation (LLM) によって生成された合成データを付加する。
我々は,GPT-4o-miniを用いた3つの合成データ戦略(直接生成,パラフレージング,コントラストペア生成)と,組込み型重複を含む多段階品質フィルタリングパイプラインを用いる。
言語ごとのしきい値調整では,再トレーニングをせずにF1の改善率が2～4倍になることがわかった。
また,12Bと27Bの重み付きアンサンブルを用いて,言語ごとの戦略選択を行う。
最終システムは22言語で0.811のマクロF1を達成し、参加チームの2位にランクインし、3言語で1位、8言語で3位にランクインした。
また、強力な開発セットのパフォーマンスを示す代替アーキテクチャ(XLM-RoBERTa, Qwen3)がテストセット上で30～50\%のF1低下を経験し、一般化の重要性を強調した。
関連論文リスト
- HABIB_TAZ at SemEval-2026 Task 11: Disentangling Formal Logic from Content via Synthetic Training and Multi-Objective Optimization [0.0]
本システムでは,12言語にまたがるコンテントから形式論理を解き放つモデルの有効性を評価する。
本課題は、合成規則に基づくシロメトリクススキームのデータセットに基づいて、mDeBERTa-v3ネットワークを微調整して解決する。
トレーニングパイプラインでは,適応群分散ロバスト最適化(DRO),スケジュール付き微分バイアスペナルティ,KL-ダイバージェンス整合正則化を組み合わせた多目的損失関数を用いる。
論文 参考訳（メタデータ） (2026-07-15T20:24:26Z) - MKJ at SemEval-2026 Task 9: A Comparative Study of Generalist, Specialist, and Ensemble Strategies for Multilingual Polarization [0.0]
本研究では,SemEval-2026タスク9(Subtask 1)における22言語間の多言語分極検出の系統的研究を行う。
単一のユニバーサルアーキテクチャを強制するのではなく、多言語ジェネラリスト、言語固有のスペシャリスト、および開発パフォーマンスに基づいたハイブリッドアンサンブルを切り替える言語適応フレームワークを採用する。
論文 参考訳（メタデータ） (2026-04-23T07:34:26Z) - Toward Generalized Cross-Lingual Hateful Language Detection with Web-Scale Data and Ensemble LLM Annotations [1.3912467776690247]
大規模ウェブデータとLLMに基づく合成アノテーションが多言語ヘイトスピーチの検出に有効かどうかを検討する。
我々は、未実装の OWS テキスト上でのマスキングを継続することにより、BERT モデルに事前学習を継続する。
その結果,標準ベースラインよりも平均的なマクロF1ゲインが約3%向上することがわかった。
論文 参考訳（メタデータ） (2026-03-18T13:57:23Z) - Binary Token-Level Classification with DeBERTa for All-Type MWE Identification: A Lightweight Approach with Linguistic Enhancement [1.8429656136522097]
本稿では,バイナリトークンレベルの分類,言語的特徴の統合,データ拡張を組み合わせた,MWE識別のための包括的アプローチを提案する。
我々のDeBERTa-v3大規模モデルは、CoAMデータセット上で69.8%のF1を達成し、このデータセットで最高の結果(Qwen-72B, 57.8% F1)を12ポイント上回り、パラメータは165倍少ない。
論文 参考訳（メタデータ） (2026-01-27T08:42:54Z) - Seed-X: Building Strong Multilingual Translation LLM with 7B Parameters [53.59868121093848]
7Bパラメータサイズを持つオープンソースの言語モデル(LLM)のファミリーであるSeed-Xを紹介する。
ベースモデルは、28言語にわたるモノリンガルコンテンツとバイリンガルコンテンツの両方を含む、多種多様な高品質データセットで事前訓練されている。
その後、インストラクションモデルは、Chain-of-Thought(CoT)推論によって翻訳され、強化学習(RL)によりさらに強化され、多様な言語対をまたいだより良い一般化が達成される。
論文 参考訳（メタデータ） (2025-07-18T03:19:43Z) - DeMuX: Data-efficient Multilingual Learning [57.37123046817781]
DEMUXは、大量の重複しない多言語データからラベルを付けるための正確なデータポイントを規定するフレームワークである。
エンドツーエンドのフレームワークは言語に依存しず、モデル表現を記述し、多言語的ターゲット設定をサポートしています。
論文 参考訳（メタデータ） (2023-11-10T20:09:08Z) - Breaking Language Barriers in Multilingual Mathematical Reasoning: Insights and Observations [59.056367787688146]
本稿では, マルチリンガル数学推論 (xMR) LLM の探索と学習の先駆者である。
我々は10の異なる言語を含む最初の多言語数学推論命令データセットMGSM8KInstructを構築した。
翻訳を利用して、10個の異なる言語を含む最初の多言語数学推論命令データセットMGSM8KInstructを構築した。
論文 参考訳（メタデータ） (2023-10-31T08:09:20Z) - HFL at SemEval-2022 Task 8: A Linguistics-inspired Regression Model with
Data Augmentation for Multilingual News Similarity [16.454545004093735]
本稿では,SemEval-2022 Task 8: Multilingual News Article similarityについて述べる。
我々は,いくつかのタスク固有の戦略で訓練された言語モデルを提案した。
Pearson's correlation Coefficient of 0.818 on the official evaluation set。
論文 参考訳（メタデータ） (2022-04-11T03:08:37Z) - Mixed-Lingual Pre-training for Cross-lingual Summarization [54.4823498438831]
言語間の要約は、ソース言語の記事に対する対象言語の要約を作成することを目的としている。
本稿では,翻訳のような言語間タスクと,マスク付き言語モデルのようなモノリンガルタスクの両方を活用する混合言語事前学習に基づくソリューションを提案する。
本モデルでは,2.82(中国語)と1.15(中国語,英語)のROUGE-1スコアを最先端の結果に対して改善する。
論文 参考訳（メタデータ） (2020-10-18T00:21:53Z) - Explicit Alignment Objectives for Multilingual Bidirectional Encoders [111.65322283420805]
本稿では,多言語エンコーダAMBER(Aligned Multilingual Bi-directional EncodeR)の学習方法を提案する。
AMBERは、異なる粒度で多言語表現を整列する2つの明示的なアライメント目標を使用して、追加の並列データに基づいて訓練される。
実験結果から、AMBERは、シーケンスタグ付けで1.1平均F1スコア、XLMR-大規模モデル上での検索で27.3平均精度を得ることがわかった。
論文 参考訳（メタデータ） (2020-10-15T18:34:13Z) - FiSSA at SemEval-2020 Task 9: Fine-tuned For Feelings [2.362412515574206]
本稿では,スペイン語と英語の混在するソーシャルメディアデータを用いた感情分類手法を提案する。
単言語モデルと多言語モデルの両方を標準微調整法を用いて検討する。
2段階の微調整により、ベースモデルよりも感情分類性能が向上するが、大規模多言語XLM-RoBERTaモデルではF1スコアが最適である。
論文 参考訳（メタデータ） (2020-07-24T14:48:27Z) - Learning to Learn Morphological Inflection for Resource-Poor Languages [105.11499402984482]
本稿では,メタラーニング問題として資源不足言語に対する形態的インフレクション(補題を表象形にマッピングする)の課題を提案する。
それぞれの言語を個別のタスクとして扱うことで、高速ソース言語からのデータを使ってモデルパラメータの集合を学習する。
3つのファミリーから29のターゲット言語を対象とする2つのモデルアーキテクチャの実験により、提案手法がすべてのベースラインを上回ります。
論文 参考訳（メタデータ） (2020-04-28T05:13:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。