論文の概要: Understanding LLM Behavior in Multi-Target Cross-Lingual Summarization
- arxiv url: http://arxiv.org/abs/2606.01252v1
- Date: Sun, 31 May 2026 14:12:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:29.476257
- Title: Understanding LLM Behavior in Multi-Target Cross-Lingual Summarization
- Title（参考訳）: 多目的言語間相互要約におけるLLMの挙動の理解
- Abstract要約: MTXLS (Multi-target cross-lingual text summarization) は、ソース文書を複数のターゲット言語に要約する。
24言語を対象とするMTXLSベンチマークであるMEA(Multi-target cross-lingual element-aware)を導入する。
MTXLSの性能は英語の単言語要約よりもかなり遅れていることを示す。
- 参考スコア（独自算出の注目度）: 38.830551891856125
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multi-target cross-lingual text summarization (MTXLS), which summarizes a source document into multiple target languages, is increasingly important as users consume content in diverse languages, but remains underexplored. To address this gap, we introduce multi-target cross-lingual element-aware (MEA), a new MTXLS benchmark covering 24 target languages. We benchmark end-to-end and pipeline approaches across various LLMs and show that MTXLS performance still substantially lags behind English monolingual summarization. To better understand MTXLS in LLMs, we propose a layer-wise analysis framework for investigating how LLMs internally perform MTXLS. Our analyses suggest that translation and summarization behaviors emerge jointly within later layers rather than as distinctly decomposed stages. Most task-relevant processing occurs within these layers, and errors also tend to arise at similar depths. Motivated by these findings, we introduce an inference-time activation steering method that leverages hidden representations from English summarization to guide MTXLS generation. Experiments show that our method consistently improves MTXLS quality across target languages.
- Abstract（参考訳）: ソース文書を複数のターゲット言語に要約するMTXLS (Multi-target cross-lingual text summarization) は,ユーザが多言語でコンテンツを消費するにつれて重要度が高くなっているが,まだ未検討である。
このギャップに対処するため、24言語を対象にしたMTXLSベンチマークであるMEA(Multi-target cross-lingual element-aware)を導入する。
我々は、様々なLLMのエンドツーエンドとパイプラインのアプローチをベンチマークし、MTXLSの性能が英語の単言語要約よりもかなり遅れていることを示す。
LLMにおけるMTXLSの理解を深めるために,LLMがMTXLSを内部的にどのように動作させるかを研究するための階層解析フレームワークを提案する。
本分析は,翻訳と要約の挙動が,明らかに分解された段階ではなく,後層内で共同的に現れることを示唆している。
ほとんどのタスク関連処理はこれらのレイヤ内で発生し、エラーも同じような深さで発生する傾向がある。
そこで本研究では,英語の要約から隠れ表現を利用してMTXLS生成を誘導する推論時アクティベーションステアリング手法を提案する。
実験の結果,提案手法は対象言語間のMTXLS品質を継続的に改善することがわかった。
関連論文リスト
- PlaM: Training-Free Plateau-Guided Model Merging for Better Visual Grounding in MLLMs [59.78917775399492]
マルチモーダル命令の微調整はパラドックス的にこのテキストの推論能力を低下させる。
この劣化を緩和するためのトレーニング不要のフレームワークを提案する。
論文 参考訳（メタデータ） (2026-01-12T15:27:51Z) - Multilingual Routing in Mixture-of-Experts [45.90403983668531]
並列多言語データセットを用いて、専門家のルーティングパターンを分析する。
MoEモデルは、初期および後期のデコーダ層において、言語固有の方法でトークンをルーティングする。
本稿では,英語で頻繁に活性化される中層タスクエキスパートの促進により,ルータを操る手法を提案する。
論文 参考訳（メタデータ） (2025-10-06T11:09:20Z) - Understanding LLMs' Cross-Lingual Context Retrieval: How Good It Is And Where It Comes From [73.76577052090695]
12言語にわたる40以上の大言語モデル(LLM)の言語間コンテキスト検索を評価する。
訓練後のオープン LLM は、クローズドソース LLM に匹敵する、強い言語間コンテキスト検索能力を示す。
以上の結果から, 大規模プレトレーニングではxMRCの性能が向上できないことが示唆された。
論文 参考訳（メタデータ） (2025-04-15T06:35:27Z) - Exploring the Implicit Semantic Ability of Multimodal Large Language Models: A Pilot Study on Entity Set Expansion [26.47488223403437]
マルチモーダル大言語モデル(MLLM)を用いて,エンティティレベルの粒度の暗黙的な意味情報を理解する。
ローカルスコアをグローバルランキングにマッピングするリストワイズランキング手法であるLUSARを導入する。
我々のLUSARは、MESEタスクにおけるMLLMの性能を大幅に向上させ、ESEタスクに生成MLLMを初めて使用し、リストワイドランキングの適用性を高めた。
論文 参考訳（メタデータ） (2024-12-31T08:03:48Z) - P-MMEval: A Parallel Multilingual Multitask Benchmark for Consistent Evaluation of LLMs [84.24644520272835]
本稿では,P-MMEvalを提案する。P-MMEval,P-MMEval,P-MMEval,P-MMEval,P-MMEval,P-MMEval,P-MMEval,P-MMEval,P-MMEval,P-MMEval,P-MMEval,P -M
P-MMEvalは、さまざまなデータセットにわたって一貫した言語カバレッジを提供し、並列サンプルを提供する。
我々は、モデルとタスク間の性能を比較するために、代表的多言語モデル系列に関する広範な実験を行う。
論文 参考訳（メタデータ） (2024-11-14T01:29:36Z) - Think Carefully and Check Again! Meta-Generation Unlocking LLMs for Low-Resource Cross-Lingual Summarization [108.6908427615402]
CLS(Cross-lingual summarization)は、異なるターゲット言語でソーステキストの要約を生成することを目的としている。
現在、インストラクションチューニング付き大規模言語モデル (LLM) は様々な英語タスクで優れている。
近年の研究では、LCSタスクにおけるLCMの性能は、わずかな設定でも満足できないことが示されている。
論文 参考訳（メタデータ） (2024-10-26T00:39:44Z) - Towards Reliable Detection of LLM-Generated Texts: A Comprehensive Evaluation Framework with CUDRT [9.682499180341273]
大規模言語モデル(LLM)はテキスト生成が大幅に進歩しているが、その出力の人間的な品質は大きな課題を呈している。
中国語と英語の総合的な評価フレームワークとバイリンガルベンチマークであるCUDRTを提案する。
このフレームワークは、スケーラブルで再現可能な実験をサポートし、運用の多様性、多言語トレーニングセット、LLMアーキテクチャが検出性能に与える影響を分析する。
論文 参考訳（メタデータ） (2024-06-13T12:43:40Z) - Adapting Large Language Models for Document-Level Machine Translation [46.370862171452444]
大規模言語モデル(LLM)は、様々な自然言語処理(NLP)タスクを大幅に進歩させた。
近年の研究では、中程度のLLMはタスク固有の微調整後、より大きなLLMよりも優れていることが示されている。
本研究では,特定の言語対に対する文書レベルの機械翻訳(DocMT)にLLMを適用することに焦点を当てた。
論文 参考訳（メタデータ） (2024-01-12T09:29:13Z) - Multilingual Machine Translation with Large Language Models: Empirical Results and Analysis [103.89753784762445]
大規模言語モデル(LLM)は多言語機械翻訳(MMT)の処理において顕著な可能性を示した。
本稿では, MMT における LLM の利点と課題を体系的に検討する。
また,ChatGPTとGPT-4を含む8つのLLMを徹底的に評価した。
論文 参考訳（メタデータ） (2023-04-10T15:51:30Z) - A Primer on Pretrained Multilingual Language Models [18.943173499882885]
MLLM(Multilingual Language Models)は、多数の言語に事前学習の能力をもたらすための実行可能な選択肢として登場した。
本報告では,MLLMに関する研究分野について概説する。
論文 参考訳（メタデータ） (2021-07-01T18:01:46Z) - FILTER: An Enhanced Fusion Method for Cross-lingual Language
Understanding [85.29270319872597]
我々は,XLMファインタニングの入力として言語間データを利用する拡張融合法を提案する。
推論中は、ターゲット言語で入力されたテキストとソース言語の翻訳に基づいて予測を行う。
この問題に対処するため,対象言語における翻訳テキストのための自動生成ソフト擬似ラベルに基づくモデル学習のためのKL分割自己学習損失を提案する。
論文 参考訳（メタデータ） (2020-09-10T22:42:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。