論文の概要: Multilingual jailbreaking of LLMs using low-resource languages
- arxiv url: http://arxiv.org/abs/2605.18239v1
- Date: Mon, 18 May 2026 11:33:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-19 17:57:49.498666
- Title: Multilingual jailbreaking of LLMs using low-resource languages
- Title（参考訳）: 低リソース言語を用いたLLMの多言語ジェイルブレイク
- Abstract要約: 大規模言語モデル(LLM)は、ジェイルブレイクの試みに対して脆弱なままである。
低資源アフリカ語(アフリカ人、キスワヒリ人、イシXhosa人、イシズルー人)を用いたマルチターン会話が安全メカニズムを回避できるかどうかを検討する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large Language Models (LLMs) remain vulnerable to jailbreak attempts that circumvent safety guardrails. We investigate whether multi-turn conversations using low-resource African languages (Afrikaans, Kiswahili, isiXhosa, and isiZulu) can bypass safety mechanisms across commercial LLMs. We translated prompts from existing datasets and evaluated ChatGPT, Claude, DeepSeek, Gemini, and Grok through automated testing and human red-teaming with native speakers. Single-turn translation attacks proved ineffective, while multi-turn conversations achieved English harmful response rates from 52.7% (Claude 3.5 Haiku) to 83.6% (GPT-4o-mini), Afrikaans from 60.0% (Claude 3.5 Haiku) to 78.2% (GPT-4o-mini), and Kiswahili from 41.8% (Claude 3.5 Haiku) to 70.9% (DeepSeek). Human red-teaming increased jailbreak rates compared to automated methods. Over all evaluated languages, the average jailbreak rate increased from 59.8% to 75.8%, with improvements of +20.0% (Afrikaans), +12.7% (isiZulu), +12.3% (isiXhosa), and +1% (Kiswahili), demonstrating that poor translation quality limits jailbreak success. These findings suggest that vulnerabilities in LLMs persist in multilingual contexts and that translation quality is the critical factor determining jailbreak success in low-resource languages.
- Abstract（参考訳）: 大きな言語モデル(LLM)は、安全ガードレールを回避しようとするジェイルブレイクの試みに対して脆弱なままである。
低資源アフリカ語(アフリカーンス、キスワヒリ、イシXhosa、イシズルー)を用いたマルチターン会話が商業LLMの安全機構をバイパスできるかどうかを検討する。
既存のデータセットからのプロンプトを翻訳し、ChatGPT、Claude、DeepSeek、Gemini、Grokを、自動テストとネイティブスピーカーによるヒューマンリチームを通じて評価しました。
シングルターン翻訳攻撃は効果が無く、マルチターン会話は52.7%(クロード3.5ハイク)から83.6%(GPT-4o-mini)、アフリカーンス60.0%(クロード3.5ハイク)から78.2%(GPT-4o-mini)、キスワヒリ41.8%(クロード3.5ハイク)から70.9%(ディープシーク)の有害反応率を達成した。
人間のリピートは、自動化された方法と比較してジェイルブレイク率を増加させた。
全ての評価言語で、平均ジェイルブレイク率は59.8%から75.8%に増加し、+20.0%(アフリカ人)、+12.7%(イシズルー人)、+12.3%(イスワヒリ人)、+1%(キスワヒリ人)が改善され、翻訳品質の低下によりジェイルブレイクの成功が制限された。
これらの結果から,LLMの脆弱性は多言語で持続し,翻訳品質が低リソース言語におけるジェイルブレイクの成功を決定する重要な要因であることが示唆された。
関連論文リスト
- TukaBench: A Culturally Grounded Jailbreak Benchmark for African Languages [12.24666934500708]
JailbreakBench(JBB)を拡張する7つのアフリカ言語のためのベンチマークであるTUKABENCHを紹介する。
英語とアフリカ語を組み合わせたコード変更プロンプトは、言語の影響、文化的な根拠づけ、モデル安全性への迅速な回避を分離する。
第一に、RefusedとJailbrokenと一緒にDeflectionを導入し、第二に、人間のアノテーションでアウトプットを検証する。
論文 参考訳（メタデータ） (2026-05-31T16:14:37Z) - Babel: Jailbreaking Safety Attention via Obfuscation Distribution Optimized Sampling [21.801812957325662]
大規模言語モデル(LLM)は、ジェイルブレイク攻撃に弱いままである。
我々は,効率的なブラックボックス攻撃フレームワークであるBabelを提案する。
Babelは最先端の攻撃成功率とクエリ効率の向上を実現している。
論文 参考訳（メタデータ） (2026-05-18T07:27:59Z) - Cross-Lingual Jailbreak Detection via Semantic Codebooks [0.0]
大規模言語モデル(LLM)の安全性メカニズムは、主に英語中心であり、多言語展開における体系的な脆弱性を生み出している。
本研究では,言語に依存しないセマンティックな類似性によって,リトレーニングや言語固有の適応なしにこのような攻撃を軽減できるかどうかを検討する。
論文 参考訳（メタデータ） (2026-04-28T14:43:40Z) - Benchmarking LLM Guardrails in Handling Multilingual Toxicity [57.296161186129545]
7つのデータセットと10以上の言語にまたがる包括的な多言語テストスイートを導入し、最先端ガードレールのパフォーマンスをベンチマークする。
近年の脱獄技術に対するガードレールの弾力性について検討し,ガードレールの性能に及ぼすコンテキスト内安全ポリシーと言語資源の可利用性の影響について検討した。
以上の結果から, 既存のガードレールは多言語毒性の処理に依然として効果がなく, 脱獄プロンプトに対する堅牢性が欠如していることが示唆された。
論文 参考訳（メタデータ） (2024-10-29T15:51:24Z) - IDEATOR: Jailbreaking and Benchmarking Large Vision-Language Models Using Themselves [70.43466586161345]
IDEATORは、ブラックボックスジェイルブレイク攻撃のための悪意のある画像テキストペアを自律的に生成する新しいジェイルブレイク手法である。
最近リリースされたVLM11のベンチマーク結果から,安全性の整合性に大きなギャップがあることが判明した。
例えば、我々はASRをGPT-4oで46.31%、Claude-3.5-Sonnetで19.65%と設定した。
論文 参考訳（メタデータ） (2024-10-29T07:15:56Z) - Deciphering the Chaos: Enhancing Jailbreak Attacks via Adversarial Prompt Translation [71.92055093709924]
そこで本稿では, ガーブレッドの逆数プロンプトを, 一貫性のある, 可読性のある自然言語の逆数プロンプトに"翻訳"する手法を提案する。
また、jailbreakプロンプトの効果的な設計を発見し、jailbreak攻撃の理解を深めるための新しいアプローチも提供する。
本稿では,AdvBench上でのLlama-2-Chatモデルに対する攻撃成功率は90%以上である。
論文 参考訳（メタデータ） (2024-10-15T06:31:04Z) - h4rm3l: A language for Composable Jailbreak Attack Synthesis [48.5611060845958]
h4rm3lは、人間が読めるドメイン固有言語とのギャップに対処する新しいアプローチである。
我々は、h4rm3lの合成攻撃は、文献における既存のジェイルブレイク攻撃よりも多様で、より成功していることを示す。
論文 参考訳（メタデータ） (2024-08-09T01:45:39Z) - Scalable and Transferable Black-Box Jailbreaks for Language Models via
Persona Modulation [3.9946940518047396]
ブラックボックスジェイルブレイク法としてのペルソナ変調について検討し、有害な指示に従おうとする個人性を標的モデルに操る。
本稿では,メタンフェタミンの合成,爆弾の製作,マネーロンダリングなど,ペルソナ修飾による有害な完成例について紹介する。
私たちの研究は、商用の大規模言語モデルにおける新たな脆弱性を明らかにし、より包括的な保護の必要性を強調しています。
論文 参考訳（メタデータ） (2023-11-06T18:55:18Z) - Multilingual Jailbreak Challenges in Large Language Models [96.74878032417054]
本研究では,大規模言語モデル(LLM)における多言語ジェイルブレイク問題の存在を明らかにする。
我々は、意図しないシナリオと意図的なシナリオの2つを考えます。
安全な微調整のための多言語学習データを自動的に生成する新しいtextscSelf-Defense フレームワークを提案する。
論文 参考訳（メタデータ） (2023-10-10T09:44:06Z) - Low-Resource Languages Jailbreak GPT-4 [19.97929171158234]
我々の研究は、AIの安全性トレーニングと大規模言語モデル(LLM)のリピートという、言語横断的な脆弱性を明らかにします。
AdvBenchmarkでは、GPT-4は安全でない翻訳された入力に関わり、ユーザを有害な目標の79%に導く実行可能なアイテムを提供する。
他のハイ/ミッドリソース言語は攻撃成功率を著しく低くしているため、言語間の脆弱性は主に低リソース言語に適用される。
論文 参考訳（メタデータ） (2023-10-03T21:30:56Z) - Massively Multilingual Shallow Fusion with Large Language Models [62.76735265311028]
複数の言語で浅い融合のための単一多言語言語モデル(LM)を訓練する。
GLaMは、推論中に同様の計算を行う密度の高いLMと比較して、イングランドのロングテールテストのWERを4.4%削減する。
多言語浅層融合タスクでは、GLaMは50言語中41言語を改善し、平均相対的なWERの3.85%、最大10%の削減を実現している。
論文 参考訳（メタデータ） (2023-02-17T14:46:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。