論文の概要: Cross-Lingual Transfer of Evil Vectors Is Directionally Asymmetric

• arxiv url: http://arxiv.org/abs/2610.17880v1
• Date: Tue, 13 Oct 2026 07:36:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.547301
• Title: Cross-Lingual Transfer of Evil Vectors Is Directionally Asymmetric
• Title（参考訳）: 悪ベクトルの言語間移動は方向的非対称である
• Abstract要約: 悪人格ベクトルは有害な行動、脱獄の脆弱性、有害な知識の未学習を理解することに関係している。 我々は、4つのオープンソース命令チューニング LLM 上で、2つの高リソース言語(英語、スペイン語)と2つの低リソース言語(スワヒリ語、テルグ語)の系統的な悪ベクトル移動研究を行う。 移動は方向的に非対称であり、悪ベクトルは低リソース言語から確実に得ることは困難であり、結果として得られるベクトルは、自分自身の言語内であっても、操舵においてほとんど効果がない。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Persona vectors are linear directions in the residual-stream activations of LLMs that encode behavioral traits and enable fine-grained control over model behavior. Among them, the evil persona vector is particularly relevant to understanding harmful behavior, jailbreak vulnerabilities, and the unlearning of harmful knowledge. Yet whether this vector reflects a genuinely cross-lingual concept, rather than an artifact of its extraction language, remains untested. We conduct a systematic evil-vector transfer study across two high-resource languages (English, Spanish) and two low-resource languages (Swahili, Telugu) on four open-source instruction-tuned LLMs, and find that transfer is directionally asymmetric. Evil vectors are harder to obtain reliably from low-resource languages, and the resulting vectors are largely ineffective at steering, even within their own language. In contrast, vectors extracted from high-resource languages transfer effectively to low-resource inputs while largely preserving general knowledge, as measured by MMLU. Geometric analysis further supports this pattern: evil vectors from the two high-resource languages are closely aligned, whereas low-resource vectors align only weakly with this shared direction. These results suggest that a shared cross-lingual evil direction exists and, once reliably extracted from a high-resource language, can be reused to steer behavior in low-resource languages without additional per-language data collection.
• Abstract（参考訳）: ペルソナベクトルは、行動特性を符号化し、モデル行動のきめ細かい制御を可能にするLCMの残ストリーム活性化における線形方向である。 その中でも、悪人格ベクトルは、有害な行動、脱獄の脆弱性、有害な知識の未学習を理解することに特に関係している。 しかし、このベクトルがその抽出言語の人工物ではなく、真に言語横断的な概念を反映しているかどうかはまだ証明されていない。 我々は、4つのオープンソース命令チューニングLDM上で、2つの高ソース言語(英語、スペイン語)と2つの低ソース言語(スワヒリ語、テルグ語)の系統的な悪ベクトル移動研究を行い、転送が方向的に非対称であることを発見した。 悪ベクトルは低リソース言語から確実に得ることは困難であり、結果として得られるベクトルは、自身の言語内であっても、操舵においてほとんど効果がない。 対照的に、高リソース言語から抽出されたベクトルは、MMLUによって測定された一般的な知識をほとんど保存しながら、効率よく低リソース入力に転送される。 幾何解析は、このパターンをさらに支持する: 2つの高リソース言語からの悪ベクトルは密に一致しているが、低リソースベクトルはこの共有方向と弱に一致している。 これらの結果から,共用言語間の邪悪な方向が存在することが示唆され,一度高リソース言語から確実に抽出された場合,低リソース言語において言語毎のデータ収集を必要とせずに,その振る舞いを把握できることがわかった。

関連論文リスト

• Exploring Language-Agnosticity in Function Vectors: A Case Study in Machine Translation [18.767272825748456]
  関数ベクトル(FV)は、コンテキスト内学習中にモデルアクティベーションから抽出されたタスクのベクトル表現である。 FVが言語に依存しないかどうかを,機械翻訳を事例として検討した。
  論文  参考訳（メタデータ） (2026-04-21T16:56:55Z)
• Refusal Direction is Universal Across Safety-Aligned Languages [66.64709923081745]
  本稿では,PolyRefuseを用いた14言語にわたる大規模言語モデル(LLM)の拒絶動作について検討する。 英語から抽出されたベクトルは、ほぼ完全な効果で他の言語での拒絶を回避できる。 この伝達性は、埋め込み空間における言語間の拒否ベクトルの並列性に起因し、言語間ジェイルブレイクの背後にあるメカニズムを同定する。
  論文  参考訳（メタデータ） (2025-05-22T21:54:46Z)
• Pointer-Generator Networks for Low-Resource Machine Translation: Don't Copy That! [13.120825574589437]
  本研究では,Transformer-based neural machine translation (NMT) が高リソース環境において非常に有効であることを示す。 このモデルでは,近縁な言語対と遠縁な言語対に対する改善が示されていない。 この動作の理由に関する議論は、LR NMTのいくつかの一般的な課題を浮き彫りにしている。
  論文  参考訳（メタデータ） (2024-03-16T16:17:47Z)
• InstructAlign: High-and-Low Resource Language Alignment via Continual Crosslingual Instruction Tuning [66.31509106146605]
  命令を調整した大規模言語モデル(LLM)は、様々なタスクや言語で顕著な能力を示している。 しかし、利用可能なデータが不足しているため、表現不足の言語に一般化する能力は限られている。 InstructAlignは、LLMが新しい未知の言語を学習済みの高リソース言語と整列できるようにするために、連続的なクロスリンガル命令チューニングを使用する。
  論文  参考訳（メタデータ） (2023-05-23T02:51:34Z)
• PPT: Parsimonious Parser Transfer for Unsupervised Cross-Lingual Adaptation [37.1075911292287]
  言語間移動は低リソース言語を解析する主要な手法である。 本稿では,教師なし言語間移動手法を提案する。 遠隔言語と近距離言語の両方で最先端のトランスファーモデルを大幅に改善した。
  論文  参考訳（メタデータ） (2021-01-27T05:52:26Z)
• Inducing Language-Agnostic Multilingual Representations [61.97381112847459]
  言語間の表現は、世界中のほとんどの言語でNLP技術が利用可能になる可能性がある。 i) 対象言語のベクトル空間をピボットソース言語に再配置すること、(ii) 言語固有の手段と分散を取り除くこと、(ii) 副産物としての埋め込みの識別性を向上すること、(iii) 形態的制約や文の並べ替えを除去することによって言語間の入力類似性を高めること、の3つのアプローチを検討する。
  論文  参考訳（メタデータ） (2020-08-20T17:58:56Z)
• Refinement of Unsupervised Cross-Lingual Word Embeddings [2.4366811507669124]
  言語間の単語埋め込みは、高リソース言語と低リソース言語のギャップを埋めることを目的としています。 教師なしバイリンガル単語埋め込みのアライメントを改良する自己教師付き手法を提案する。
  論文  参考訳（メタデータ） (2020-02-21T10:39:53Z)
• Cross-lingual, Character-Level Neural Morphological Tagging [57.0020906265213]
  文字レベルのリカレントなニューラルタグをトレーニングし、高リソース言語と低リソース言語を併用して形態的タグ付けを予測する。 複数の関連言語間の共同文字表現の学習は、高リソース言語から低リソース言語への知識伝達を成功させ、モノリンガルモデルの精度を最大30%向上させる。
  論文  参考訳（メタデータ） (2017-08-30T08:14:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。