論文の概要: Rationale-Guided Knowledge Distillation for Cross-Lingual Stance Detection
- arxiv url: http://arxiv.org/abs/2607.18693v1
- Date: Tue, 21 Jul 2026 04:23:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-22 19:05:05.306958
- Title: Rationale-Guided Knowledge Distillation for Cross-Lingual Stance Detection
- Title（参考訳）: Rationale-Guided Knowledge Distillation for Cross-Lingual Stance Detection (特集:一般)
- Authors: Qiuli Zhou, Jingyuan Yao, Shengeng Tang, Hongzhi Chen, Jun Tang, Richang Hong,
- Abstract要約: 言語間スタンス検出は低リソース言語でトレーニングすることができる。
大規模言語モデルは強力な推論能力を提供しますが、その高い計算コストと推論遅延により、実用的なデプロイメントが制限されます。
言語間姿勢検出のための合理的誘導型知識蒸留フレームワークを提案する。
- 参考スコア（独自算出の注目度）: 45.62120232715304
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Stance detection aims to identify whether a text expresses a favorable or opposing attitude toward a given target, and serves as an important task for various downstream applications. Although existing studies have achieved strong performance in monolingual settings, especially in English, many low-resource languages such as Catalan still lack sufficient annotated data for training effective models. Cross-lingual stance detection alleviates this problem by transferring stance knowledge from resource-rich languages to low-resource languages. However, most existing methods mainly rely on semantic alignment between texts and targets, while ignoring the reasoning process required for reliable stance inference. Although Large Language Models provide strong reasoning ability, their high computational cost and inference latency limit practical deployment. To address these limitations, we propose a rationale-guided knowledge distillation framework for cross-lingual stance detection. Specifically, we use Chain-of-Thought prompting to guide Large Language Models in generating informative rationales, and distill the resulting reasoning knowledge into a compact student model. We further design a dual-path distillation mechanism to align rationale-enhanced and rationale-free representations, together with their prediction distributions. In addition, two contrastive learning strategies are introduced to improve stance discrimination. Experiments on multilingual benchmarks demonstrate that our method consistently outperforms competitive baselines.
- Abstract（参考訳）: スタンス検出は、テキストが所定のターゲットに対して好意的あるいは反対的な態度を示すかどうかを識別することを目的としており、様々な下流アプリケーションにとって重要なタスクである。
既存の研究は、特に英語におけるモノリンガルセッティングにおいて高いパフォーマンスを達成しているが、カタルーニャ語のような低リソース言語の多くは、効果的なモデルのトレーニングに十分なアノテートデータを持っていない。
言語間スタンス検出は資源豊富な言語から低リソース言語にスタンス知識を移すことによってこの問題を軽減する。
しかし、既存の手法のほとんどはテキストとターゲット間のセマンティックアライメントに依存し、信頼性の高いスタンス推論に必要な推論プロセスを無視している。
大規模言語モデルは強力な推論能力を提供するが、その高い計算コストと推論遅延は実際のデプロイを制限している。
これらの制約に対処するために,言語間姿勢検出のための合理的誘導型知識蒸留フレームワークを提案する。
具体的には、Chain-of-Thought プロンプトを用いて、情報的合理性を生成するために大規模言語モデルを誘導し、その結果の推論知識をコンパクトな学生モデルに蒸留する。
さらに,2経路蒸留機構を設計し,その予測分布とともに有理・有理・無理表現を整合させる。
さらに、姿勢差別を改善するために、2つの対照的な学習戦略が導入された。
多言語ベンチマーク実験により,本手法が競争基準線を一貫して上回ることを示す。
関連論文リスト
- Efficient Multilingual Reasoning Transfer via Progressive Code-Switching [51.49388869532955]
トランスファーアプローチは典型的には、強いLEMからの蒸留されたターゲット言語推論のトレースや、外部の審査モデルからのオンライン監視に依存している。
軽量翻訳のみを必要とするより効率的な転送フレームワークであるPCS(Progressive Code-Switching)を提案する。
PCSは、ターゲット言語と英語の推論のパフォーマンスギャップを著しく狭め、より言語に一貫性のある推論をもたらす。
論文 参考訳（メタデータ） (2026-07-01T06:13:16Z) - LANG: Reinforcement Learning for Multilingual Reasoning with Language-Adaptive Hint Guidance [77.58408743830314]
強化学習は大規模言語モデルにおける多段階推論の強化に有効であることが証明されている。
しかし、その利点は多言語文脈に完全には翻訳されていない。
我々は、言語条件付きヒントを利用して、英語以外の推論タスクの探索をガイドする新しいフレームワークを開発する。
論文 参考訳（メタデータ） (2026-05-21T14:47:52Z) - A Comprehensive Evaluation of Multilingual Chain-of-Thought Reasoning: Performance, Consistency, and Faithfulness Across Languages [48.68444770923683]
マルチリンガル・チェーン・オブ・ソート(CoT)推論の最初の包括的研究について述べる。
LRMがターゲット言語ですぐに考えることができる場合、言語コンプライアンス、解答精度、解答一貫性を計測する。
思考の痕跡の質と有効性は、素早い言語によって大きく異なることがわかった。
論文 参考訳（メタデータ） (2025-10-10T17:06:50Z) - Learn Globally, Speak Locally: Bridging the Gaps in Multilingual Reasoning [39.03934159726098]
M2Aは,マルチスケール多言語アライメントと,機械翻訳された質問に対する言語一貫性報酬を組み合わせた新しい手法である。
地理に基づく多言語事実推論ベンチマークであるGeoFact-Xと5言語での推論トレースを紹介する。
以上の結果から,M2Aは数学的および事実的推論タスクにおいて,多言語推論の忠実度を著しく向上させることが示された。
論文 参考訳（メタデータ） (2025-07-07T19:04:36Z) - Crosslingual Reasoning through Test-Time Scaling [51.55526326294275]
英語中心の推論言語モデル(RLM)に対する推論計算のスケールアップは、多くの言語における多言語数学的推論を改善する。
英語中心の RLM の CoT は自然に英語が主流であるが、引用された非英語入力を推論するための引用と思考のパターンは一貫して従っている。
我々は、ドメイン外推論の一般化、特にSTEMから文化常識の知識まで、英語においても、貧弱なドメイン外推論の一般化を観察する。
論文 参考訳（メタデータ） (2025-05-08T16:50:06Z) - AdaMCoT: Rethinking Cross-Lingual Factual Reasoning through Adaptive Multilingual Chain-of-Thought [40.16140566668239]
AdaMCOTは多言語の事実推論を強化するフレームワークである。
AdaMCOTは、ターゲット言語応答を生成する前に、中間言語における思考プロセスを動的にルーティングする。
本評価は, 事実推論品質と言語間整合性の両方において, 大幅な改善を示すものである。
論文 参考訳（メタデータ） (2025-01-27T15:48:57Z) - Improving Neural Cross-Lingual Summarization via Employing Optimal
Transport Distance for Knowledge Distillation [8.718749742587857]
言語間の要約モデルは、2つの言語のトークン間での自己認識機構に依存している。
本稿では,言語間要約のための知識蒸留に基づく新しいフレームワークを提案する。
提案手法は,高解像度および低出力の条件下での最先端モデルよりも優れる。
論文 参考訳（メタデータ） (2021-12-07T03:45:02Z) - Few-Shot Cross-Lingual Stance Detection with Sentiment-Based
Pre-Training [32.800766653254634]
本研究は,現在までの言語間スタンス検出に関する最も包括的な研究である。
6つの言語ファミリーの12言語で15の多様なデータセットを使用します。
実験では,新しいラベルエンコーダの追加を提案し,パターン探索トレーニングを構築した。
論文 参考訳（メタデータ） (2021-09-13T15:20:06Z) - It's All in the Heads: Using Attention Heads as a Baseline for
Cross-Lingual Transfer in Commonsense Reasoning [4.200736775540874]
我々は,重みを重み付けした線形分類器を特徴として訓練するコモンセンス推論への簡単なアプローチを設計する。
本手法は,近年のコモンセンス推論における教師なし・教師なしの手法と競合する。
パフォーマンスの大部分は、すべての研究対象言語に対する注目の小さなサブセットによって与えられる。
論文 参考訳（メタデータ） (2021-06-22T21:25:43Z) - AM2iCo: Evaluating Word Meaning in Context across Low-ResourceLanguages
with Adversarial Examples [51.048234591165155]
本稿では, AM2iCo, Adversarial and Multilingual Meaning in Contextを提案する。
言語間文脈における単語の意味の同一性を理解するために、最先端(SotA)表現モデルを忠実に評価することを目的としている。
その結果、現在のSotAプリトレーニングエンコーダは人間のパフォーマンスにかなり遅れていることが明らかとなった。
論文 参考訳（メタデータ） (2021-04-17T20:23:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。