論文の概要: BabelSteering: Multilingual Safety Alignment via English Steering Vectors

• arxiv url: http://arxiv.org/abs/2608.16577v1
• Date: Mon, 17 Aug 2026 13:40:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-18 19:59:03.719169
• Title: BabelSteering: Multilingual Safety Alignment via English Steering Vectors
• Title（参考訳）: BabelSteering: 英語ステアリングベクトルによる多言語安全アライメント
• Abstract要約: 我々は、英語のような高リソース言語から学んだ安全信号が、多言語安全性を向上させることができるかどうかを検討する。 本稿では,軽量な推論時間介入として機能するアクティベーションステアリング手法であるBabelSteeringを提案する。 結果から,BabelSteeringは言語間の有害な要求の拒絶を増大させることがわかった。
• 参考スコア（独自算出の注目度）: 11.019536451878162
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Large language models (LLMs) are deployed globally in high-stakes settings, yet most safety research and alignment efforts remain concentrated on English. Thus, users interacting with LLMs in other languages may encounter weaker safeguards despite relying on the same systems for similarly sensitive tasks. In this work, we investigate whether safety signals learned from a high-resource language, like English, can improve multilingual safety. We propose BabelSteering, an activation steering method that acts as a lightweight inference- time intervention, using refusal directions derived from English safety supervision to generalize across languages. Our evaluation includes eight languages and jointly measures refusal of harmful requests, over-refusal, and general task utility. The results show that BabelSteering increases the refusal of harmful requests across languages, with only a marginal to no reduction in task utility but with some increase in refusal of pseudo-harmful prompts. For example, for Gemma 7B, we see an average increase in the refusal of harmful prompts across languages of 11 percentage points (pp), with individual languages like Bengali seeing an increase of 17 pp, with no loss of utility on Global MMLU, while pseudo-harmful refusals increase by 13 pp on average. We also introduce a multilingual translation-and-evaluation pipeline to facilitate future work on cross-lingual safety interventions. Overall, our findings suggest that activation steering may provide a practical, low- cost mechanism for extending English-derived safety signals to other languages. Warning: this paper contains examples with unsafe content
• Abstract（参考訳）: 大規模言語モデル (LLM) は、高所で世界中で展開されているが、ほとんどの安全研究やアライメントは英語に集中している。 したがって、他の言語でLLMと対話するユーザは、同様にセンシティブなタスクのために同じシステムに依存しているにもかかわらず、より弱いセーフガードに遭遇する可能性がある。 本研究では、英語のような高リソース言語から学習した安全信号が、多言語安全性を向上させることができるかどうかを検討する。 BabelSteeringは、英語の安全管理から導かれる拒絶方向を用いて、軽量な推論時間介入として機能するアクティベーションステアリング手法である。 評価には, 有害な要求の拒否, 過剰な拒絶, 一般的なタスクユーティリティが8言語と共同で評価されている。 その結果,BabelSteeringは言語間の有害な要求の拒絶を増大させ,タスクユーティリティの削減に限界があるだけでなく,疑似有害なプロンプトの拒絶も増大していることがわかった。 例えば、Gemma 7Bでは、11ポイント(pp)の言語で有害なプロンプトの拒絶が平均で増加し、ベンガル語のような個々の言語では17ppとなり、Global MMLUでは実用性が失われる。 また、多言語翻訳評価パイプラインを導入し、言語間安全介入の今後の取り組みを促進する。 全体として,アクティベーションステアリングは,英語由来の安全信号を他の言語に拡張するための実用的,低コストなメカニズムを提供する可能性が示唆された。 警告:この論文は、安全でないコンテンツを含む例を含む。

関連論文リスト

• IndicSafeEval: Safety Robustness of Large Language Models under Multilingual Persuasive Jailbreak Attacks [33.08360320836576]
  IndicSafeEvalは、インドの言語に対する説得力に基づくジェイルブレイク評価フレームワークである。 私たちのベンチマークでは、安全クリティカルなコンテンツカテゴリー10と、異なる4つのインドの言語にわたる6つの人間のような説得戦略を組み合わせています。 我々の分析は、モデルがすべての言語やプロンプトスタイルに対して均等に振る舞うわけではないことを示している。
  論文  参考訳（メタデータ） (2026-09-03T12:54:44Z)
• The Illusion of Cross-Lingual Safety in Low-Resource Languages [7.471112976694495]
  大規模言語モデル (LLM) における安全性の整合性は、多言語設定にまたがって一般化されることを前提として、主に英語で開発されている。 文化的な局所的なプロンプトとリテラル翻訳を組み合わせた新しい安全データセットであるLoDNAを用いて,アフリカ4言語(Twi,Hausa,Amharic,Swahili)の言語間安全トランスファーを調査した。 実験の結果, 言語間の安全伝達は極めて限定的であり, 有害なプロンプトはほとんどの言語モデルペアで英語の拒絶信号の10%未満を維持していることがわかった。
  論文  参考訳（メタデータ） (2026-08-11T17:05:26Z)
• Schützen: Evaluating LLM Safety in Bulgarian and German Contexts [53.865251738592605]
  本稿では、リスク下でのモデル応答性を評価するために設計された、ドイツとブルガリアの安全データセットであるSchtzenを紹介する。 多言語および言語固有のLLMを用いた実験では、安全行動の言語間差が顕著である。
  論文  参考訳（メタデータ） (2026-06-09T18:01:19Z)
• Refusal Direction is Universal Across Safety-Aligned Languages [66.64709923081745]
  本稿では,PolyRefuseを用いた14言語にわたる大規模言語モデル(LLM)の拒絶動作について検討する。 英語から抽出されたベクトルは、ほぼ完全な効果で他の言語での拒絶を回避できる。 この伝達性は、埋め込み空間における言語間の拒否ベクトルの並列性に起因し、言語間ジェイルブレイクの背後にあるメカニズムを同定する。
  論文  参考訳（メタデータ） (2025-05-22T21:54:46Z)
• MrGuard: A Multilingual Reasoning Guardrail for Universal LLM Safety [56.77103365251923]
  大規模言語モデル(LLM)は、ジェイルブレイクのような敵の攻撃を受けやすい。 この脆弱性は、多言語セーフティアライメントされたデータが制限される多言語設定で悪化する。 素早い分類のための多言語ガードレールを提案する。
  論文  参考訳（メタデータ） (2025-04-21T17:15:06Z)
• TuBA: Cross-Lingual Transferability of Backdoor Attacks in LLMs with Instruction Tuning [63.481446315733145]
  多言語大言語モデル(LLM)に対する言語間バックドア攻撃は未調査である。 本研究は, 教育指導データが有毒でない言語に対して, 教育指導データの有毒化がアウトプットに与える影響について検討した。 本手法は,mT5 や GPT-4o などのモデルにおいて,高い攻撃成功率を示し,12言語中7言語以上で90%以上を突破した。
  論文  参考訳（メタデータ） (2024-04-30T14:43:57Z)
• Multilingual Jailbreak Challenges in Large Language Models [96.74878032417054]
  本研究では,大規模言語モデル(LLM)における多言語ジェイルブレイク問題の存在を明らかにする。 我々は、意図しないシナリオと意図的なシナリオの2つを考えます。 安全な微調整のための多言語学習データを自動的に生成する新しいtextscSelf-Defense フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-10T09:44:06Z)
• Low-Resource Languages Jailbreak GPT-4 [19.97929171158234]
  我々の研究は、AIの安全性トレーニングと大規模言語モデル(LLM)のリピートという、言語横断的な脆弱性を明らかにします。 AdvBenchmarkでは、GPT-4は安全でない翻訳された入力に関わり、ユーザを有害な目標の79%に導く実行可能なアイテムを提供する。 他のハイ/ミッドリソース言語は攻撃成功率を著しく低くしているため、言語間の脆弱性は主に低リソース言語に適用される。
  論文  参考訳（メタデータ） (2023-10-03T21:30:56Z)
• All Languages Matter: On the Multilingual Safety of Large Language Models [96.47607891042523]
  我々は、大規模言語モデル(LLM)のための最初の多言語安全ベンチマークを構築した。 XSafetyは、複数の言語ファミリーにまたがる10言語にわたる14種類の一般的な安全問題をカバーしている。 本稿では,ChatGPTの多言語安全性向上のための簡易かつ効果的なプロンプト手法を提案する。
  論文  参考訳（メタデータ） (2023-10-02T05:23:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。