論文の概要: Steering with Multilingual Lexicons for Sentiment Control in Low-Resource Languages

• arxiv url: http://arxiv.org/abs/2611.03317v1
• Date: Mon, 02 Nov 2026 15:44:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-04 23:36:30.617658
• Title: Steering with Multilingual Lexicons for Sentiment Control in Low-Resource Languages
• Title（参考訳）: 低リソース言語における感性制御のための多言語語彙によるステアリング
• Abstract要約: 多言語感情レキシコンは3つのモデルファミリーにまたがって有効な代用であることを示す。 操舵効果は、表現密度と事前訓練前の両方によって機械的に決定される。
• 参考スコア（独自算出の注目度）: 11.241948778924103
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Activation steering offers a lightweight mechanism for controlling model behavior, but existing methods depend on sentence-level contrastive data that is unavailable for most of the world's languages. We show that multilingual sentiment lexicons are a viable substitute across three model families: aggregated multilingual lexicons outperform English-derived steering vectors for mid- and low-resource languages, while monolingual lexicons remain stronger for languages a model has specialized in during pre-training. The steering efficacy is mechanistically dictated by both representational density and pre-training priors. Large-magnitude English vectors overwhelm the compact representations of low-resource languages, causing "linguistic collapse." This fragility is mitigated by the norm-dampening of multilingual aggregation. Architectural biases, including bilingual specialization penalty and latent numerical rigidity, also heavily constrain cross-lingual steering responsiveness. Ultimately, our work establishes lexicons as a practical steering signal and offers a comprehensive mechanistic account of cross-lingual steering dynamics.
• Abstract（参考訳）: アクティベーションステアリングは、モデル動作を制御するための軽量なメカニズムを提供するが、既存の方法は、世界のほとんどの言語では利用できない文レベルのコントラストデータに依存している。 集約された多言語レキシコンは中・低リソース言語に対して英語由来のステアリングベクターより優れ、一方、単言語レキシコンは事前学習中に特化している言語に対して強く保たれている。 操舵効果は、表現密度と事前訓練前の両方によって機械的に決定される。 大振幅の英語ベクトルは低リソース言語のコンパクト表現を圧倒し、「言語的な崩壊」を引き起こした。 この脆弱性は多言語アグリゲーションのノルムダンピングによって緩和される。 双言語特化ペナルティや潜在数値剛性などのアーキテクチャバイアスもまた、言語間ステアリング応答性を厳しく制限している。 最終的に、我々の研究は、レキシコンを実用的な操舵信号として確立し、言語間操舵力学の包括的な力学的な説明を提供する。

関連論文リスト

• Multilingual Steering by Design: Multilingual Sparse Autoencoders and Principled Layer Selection [16.857692737043198]
  マルチリンガルデータ上でのSAEのトレーニングは、一貫して言語間表現を強化していることを示す。 我々は,多言語アライメントと言語分離性の交差に基づく,強調優先階層選択ルールを導入する。 その結果,多言語SAEと交叉選択層を組み合わせることで,言語識別精度と生成品質のトレードオフを安定化できることがわかった。
  論文  参考訳（メタデータ） (2026-05-21T21:00:32Z)
• English is Not All You Need: Systematically Exploring the Role of Multilinguality in LLM Post-Training [7.141617235075284]
  ポストトレーニングパイプラインは主に英語中心であり、言語間のパフォーマンス格差に寄与している。 本稿では,学習言語カバレッジ,モデルスケール,タスクドメイン間の相互作用を体系的に制御した研究を行う。 ポストトレーニング中の言語カバレッジの増加は、タスクやモデルスケールに大きく影響している。
  論文  参考訳（メタデータ） (2026-04-14T20:26:34Z)
• LiRA: Linguistic Robust Anchoring for Cross-lingual Large Language Models [16.504397960476584]
  LiRA(Linguistic Robust Anchoring for Large Language Models)は、低リソース条件下での言語間表現を改善するトレーニングフレームワークである。 東南アジア5言語と東南アジア2言語を対象とした多言語製品検索データセットを作成した。
  論文  参考訳（メタデータ） (2025-10-16T09:08:24Z)
• Lens: Rethinking Multilingual Enhancement for Large Language Models [70.85065197789639]
  大規模言語モデル(LLM)における多言語機能向上のための新しいアプローチであるLensを提案する。 Lensは2つの部分空間で機能する: 言語に依存しない部分空間で、ターゲット言語と中心言語を一致させて強力な意味表現を継承する部分空間、言語固有の部分空間で、ターゲット言語と中心言語を分離して言語的特異性を保存する部分空間である。 レンズは、モデルの英語能力を維持しながら、多言語のパフォーマンスを著しく向上させ、既存の訓練後のアプローチと比べて計算コストの低い結果を得る。
  論文  参考訳（メタデータ） (2024-10-06T08:51:30Z)
• Zero-shot Sentiment Analysis in Low-Resource Languages Using a Multilingual Sentiment Lexicon [78.12363425794214]
  私たちは、34の言語にまたがるゼロショットの感情分析タスクに重点を置いています。 文レベルの感情データを使用しない多言語語彙を用いた事前学習は、英語の感情データセットに微調整されたモデルと比較して、ゼロショット性能が優れていることを示す。
  論文  参考訳（メタデータ） (2024-02-03T10:41:05Z)
• Soft Language Clustering for Multilingual Model Pre-training [57.18058739931463]
  本稿では,インスタンスを条件付きで符号化するためのフレキシブルガイダンスとして,コンテキスト的にプロンプトを検索するXLM-Pを提案する。 我々のXLM-Pは、(1)言語間における言語不変および言語固有知識の軽量なモデリングを可能にし、(2)他の多言語事前学習手法との容易な統合を可能にする。
  論文  参考訳（メタデータ） (2023-06-13T08:08:08Z)
• Discovering Representation Sprachbund For Multilingual Pre-Training [139.05668687865688]
  多言語事前学習モデルから言語表現を生成し、言語分析を行う。 すべての対象言語を複数のグループにクラスタリングし、表現のスプラックバンドとして各グループに名前を付ける。 言語間ベンチマークで実験を行い、強いベースラインと比較して大幅な改善が達成された。
  論文  参考訳（メタデータ） (2021-09-01T09:32:06Z)
• Improving the Lexical Ability of Pretrained Language Models for Unsupervised Neural Machine Translation [127.81351683335143]
  クロスリンガルプリトレーニングは、2つの言語の語彙的表現と高レベル表現を整列させるモデルを必要とする。 これまでの研究では、これは表現が十分に整合していないためです。 本稿では,語彙レベルの情報で事前学習するバイリンガルマスク言語モデルを,型レベルのクロスリンガルサブワード埋め込みを用いて強化する。
  論文  参考訳（メタデータ） (2021-03-18T21:17:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。