論文の概要: Improving Cross-Lingual Transfer for Sequential Sentence Classification in Research Papers via Structural Similarity
- arxiv url: http://arxiv.org/abs/2609.19650v1
- Date: Thu, 17 Sep 2026 03:47:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-20 08:55:54.092482
- Title: Improving Cross-Lingual Transfer for Sequential Sentence Classification in Research Papers via Structural Similarity
- Title（参考訳）: 構造的類似性による研究論文の逐次文分類における言語間移動の改善
- Abstract要約: 逐次文分類(SSC)は、科学出版物を構築する上で不可欠な課題である。
言語間移動は、非英語言語におけるトレーニングデータの不足に対処するための有望なアプローチである。
- 参考スコア（独自算出の注目度）: 2.966819959179503
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Sequential sentence classification (SSC) is an essential task for structuring scientific publications, and extending SSC research to languages other than English can improve accessibility to scientific knowledge in multilingual digital libraries. Cross-lingual transfer is a promising approach to address the scarcity of training data in non-English languages. Prior work on other natural language processing tasks has shown the benefits of capturing linguistic similarity between source and target languages. However, SSC inherently depends on patterns at the discourse level, such as label sequences and positional regularities, which appear consistently across languages regardless of linguistic differences. To examine the factors that determine transfer success in SSC, we constructed a multilingual SSC dataset covering 13 non-English languages collected from five academic databases. Our cross-lingual transfer experiments, using both encoder-based and generative models, show that linguistic proximity has no consistent predictive power for transfer performance, whereas structural similarity in rhetorical organization shows a weak but consistent positive correlation across models. After controlling for source-language performance, the similarity of label distributions is the most consistent predictor. Building on this finding, we propose a set of three methods that explicitly leverage structural information using generative models. In the in-domain evaluation, the best combination reaches parity with the strongest encoder baselines, and in transfer to languages unseen during training, it outperforms the strongest encoder baseline.
- Abstract（参考訳）: 逐次文分類(SSC)は、学術出版物を構造化し、SSC研究を英語以外の言語に拡張する上で不可欠な課題であり、多言語デジタルライブラリーにおける科学知識へのアクセシビリティを向上させることができる。
言語間移動は、非英語言語におけるトレーニングデータの不足に対処するための有望なアプローチである。
他の自然言語処理タスクに関する以前の研究は、ソース言語とターゲット言語の間の言語的類似性をキャプチャする利点を示している。
しかし、SSCは本質的に、ラベルシーケンスや位置正則といった、言語の違いにかかわらず言語間で一貫して現れるような、談話レベルでのパターンに依存している。
5つの学術データベースから収集した13の非英語言語を対象とした多言語SSCデータセットを構築した。
エンコーダベースモデルと生成モデルの両方を用いた言語間移動実験では,言語間近接は伝達性能に一貫した予測力を持たないが,レトリック構造における構造的類似性はモデル間に弱いが一貫した正の相関関係を示す。
ソース言語の性能を制御した後、ラベル分布の類似性が最も一貫性のある予測器となる。
そこで本研究では,生成モデルを用いて構造情報を明示的に活用する3つの手法を提案する。
ドメイン内評価では、最も優れた組み合わせは最強のエンコーダベースラインと同等に達し、トレーニング中に見つからない言語への転送では、最強のエンコーダベースラインを上回っている。
関連論文リスト
- Multilingual Cognitive Impairment Detection in the Era of Foundation Models [6.141505279958125]
英語,スロベニア語,韓国語における音声の書き起こしから認知障害(CI)分類を評価する。
直接分類器として用いられるゼロショット大言語モデル(LLM)を3つの入力条件下で比較する。
論文 参考訳（メタデータ） (2026-04-08T07:22:43Z) - What Drives Cross-lingual Ranking? Retrieval Approaches with Multilingual Language Models [0.19116784879310025]
リソース、スクリプト、埋め込みモデルにおける弱い言語間セマンティックアライメントの相違により、言語間情報検索は困難である。
既存のパイプラインは、しばしば翻訳と単言語検索に依存し、計算オーバーヘッドとノイズ、パフォーマンスを追加する。
この研究は、文書翻訳、事前訓練されたエンコーダによる多言語密集検索、単語、フレーズ、クエリー文書レベルのコントラスト学習、および3つのベンチマークデータセットにおけるクロスエンコーダの再ランク付けという、4つの介入タイプを体系的に評価する。
論文 参考訳（メタデータ） (2025-11-24T17:17:40Z) - Language Drift in Multilingual Retrieval-Augmented Generation: Characterization and Decoding-Time Mitigation [11.110312833458421]
複数のデータセット,言語,LLMのバックボーンにまたがる多言語RAGにおける出力言語ドリフトについて検討した。
実験の結果,デコーダレベルの崩壊によるドリフトの結果が明らかとなり,そこではトークン分布が支配的であり,高頻度の英文パターンが意図された生成言語を支配下に置くことがわかった。
そこで本研究では,対象言語を優雅に操る軽量でトレーニング不要なデコーディング戦略であるSoft Constrained Decoding (SCD)を提案する。
論文 参考訳（メタデータ） (2025-11-13T05:36:31Z) - Investigating and Scaling up Code-Switching for Multilingual Language Model Pre-Training [58.696660064190475]
コンテクスト内の異なる言語間を交互に交換するコードスイッチの存在が、多言語機能の鍵であることに気付きました。
事前学習における言語アライメントのためのコードスイッチングのパワーをよりよく探求するために,合成コードスイッチングの戦略について検討する。
論文 参考訳（メタデータ） (2025-04-02T15:09:58Z) - Untangling the Influence of Typology, Data and Model Architecture on Ranking Transfer Languages for Cross-Lingual POS Tagging [1.743739675178893]
言語間の伝達学習は、データの不足を克服するための貴重なツールである。
翻訳言語選択における言語型学、訓練データ、モデルアーキテクチャの正確な役割は、完全には理解されていない。
我々は、データセット固有の特徴と微粒な特徴の両方がトランスファー言語の選択にどのように影響するかを総合的に検討する。
論文 参考訳（メタデータ） (2025-03-25T18:05:40Z) - T3L: Translate-and-Test Transfer Learning for Cross-Lingual Text
Classification [50.675552118811]
言語間テキスト分類は通常、様々な言語で事前訓練された大規模多言語言語モデル(LM)に基づいて構築される。
本稿では,古典的な「翻訳とテスト」パイプラインを再考し,翻訳と分類の段階を適切に分離することを提案する。
論文 参考訳（メタデータ） (2023-06-08T07:33:22Z) - Understanding Translationese in Cross-Lingual Summarization [106.69566000567598]
言語間要約(MS)は、異なる対象言語で簡潔な要約を生成することを目的としている。
大規模なCLSデータを集めるために、既存のデータセットは通常、それらの生成に翻訳を伴います。
本稿では、まず、CLSデータセット構築の異なるアプローチが、異なるレベルの翻訳に結びつくことを確認する。
論文 参考訳（メタデータ） (2022-12-14T13:41:49Z) - On Cross-Lingual Retrieval with Multilingual Text Encoders [51.60862829942932]
言語間文書・文検索タスクにおける最先端多言語エンコーダの適合性について検討する。
教師なしのアドホック文と文書レベルのCLIR実験でそれらの性能をベンチマークする。
我々は、ゼロショット言語とドメイン転送CLIR実験のシリーズにおける英語関連データに基づいて、教師付き方式で微調整された多言語エンコーダの評価を行った。
論文 参考訳（メタデータ） (2021-12-21T08:10:27Z) - A Massively Multilingual Analysis of Cross-linguality in Shared
Embedding Space [61.18554842370824]
言語間モデルでは、多くの異なる言語に対する表現は同じ空間に存在している。
我々は,bitext検索性能の形式で,言語間アライメントのタスクベース尺度を計算した。
我々はこれらのアライメント指標の潜在的な予測因子として言語的、準言語的、および訓練関連の特徴について検討する。
論文 参考訳（メタデータ） (2021-09-13T21:05:37Z) - Cross-lingual Text Classification with Heterogeneous Graph Neural
Network [2.6936806968297913]
言語間テキスト分類は、ソース言語上の分類器を訓練し、その知識を対象言語に伝達することを目的としている。
近年の多言語事前学習言語モデル (mPLM) は言語間分類タスクにおいて顕著な結果をもたらす。
言語間テキスト分類のための言語内および言語間における異種情報を統合するための,単純かつ効果的な手法を提案する。
論文 参考訳（メタデータ） (2021-05-24T12:45:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。