Fugu-MT 論文翻訳(概要): Safety Targeted Embedding Exploit via Refinement

論文の概要: Safety Targeted Embedding Exploit via Refinement

arxiv url: http://arxiv.org/abs/2607.01859v1
Date: Thu, 02 Jul 2026 08:17:57 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-03 19:45:08.742334
Title: Safety Targeted Embedding Exploit via Refinement
Title（参考訳）: 防犯・防犯・防犯・防犯・防犯・防犯・防犯・防犯・防犯・防犯・防犯・防犯・防犯・防犯・防犯
Abstract要約: 本研究は、英語を主とする安全機構が多言語入力にまたがる一般化を想定できないことを示す。 STEERは、単語を低リソース言語に翻訳し、有害な意図を保ちながら拒絶を抑制する、勾配誘導攻撃である。マルチリンガル安全性の向上にはアライメントとアウト・オブ・ディストリビューション・インプットを明示的に検出・棄却するメカニズムの広範な適用が必要であると論じる。
参考スコア（独自算出の注目度）: 1.384477926572109
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Safety training for large language models (LLMs) is conducted predominantly in English, leaving uncertain how well safety mechanisms generalize to low-resource languages and mixed-language code-switching. We show that this creates an epistemic gap in which models confidently generate harmful responses for inputs that fall outside the distribution of their safety training. To study this phenomenon, we introduce STEER (Safety Targeted Embedding Exploit via Refinement), a gradient-guided attack that identifies words contributing most strongly to the model's refusal behavior and iteratively translates them into low-resource languages to suppress refusal while preserving harmful intent. Across six open-source 8B-parameter models, STEER achieves attack success rates of up to 93.0% on JailbreakBench and 96.7% on AdvBench, outperforming random code-switching and Greedy Coordinate Gradient (GCG). The resulting prompts also transfer to GPT-4o-mini, achieving a 35.5% attack success rate without requiring access to the target model, suggesting that the underlying weakness is not specific to a single architecture. These findings demonstrate that safety mechanisms aligned primarily on English cannot be assumed to generalize across multilingual inputs. We argue that improving multilingual safety requires broader coverage during alignment and mechanisms that explicitly detect and abstain on out-of-distribution inputs.
Abstract（参考訳）: 大規模言語モデル(LLM)の安全性トレーニングは主に英語で行われ、安全メカニズムが低リソース言語や混合言語コードスイッチングにどのように一般化されるかは定かでない。このことは、モデルが安全トレーニングの分布外にある入力に対して、有害な応答を確実に生成する、てんかんのギャップを生じさせることを示す。この現象を研究するために、我々はSTEER(Safety Targeted Embedding Exploit via Refinement)を導入し、モデルの拒絶行動に最も強く寄与する単語を識別し、それらを低リソース言語に反復的に翻訳し、有害な意図を維持しながら拒絶を抑制する。 6つのオープンソース8Bパラメータモデル全体で、STEERはJailbreakBenchで93.0%、AdvBenchで96.7%の攻撃成功率を達成する。結果として生じるプロンプトはGPT-4o-miniに移行し、ターゲットモデルへのアクセスを必要とせずに35.5%の攻撃成功率を達成した。これらの結果は、英語を主とする安全メカニズムが多言語入力にまたがって一般化できないことを示唆している。マルチリンガル安全性の向上にはアライメントとアウト・オブ・ディストリビューション・インプットを明示的に検出・棄却するメカニズムの広範な適用が必要であると論じる。

関連論文リスト

Babel: Jailbreaking Safety Attention via Obfuscation Distribution Optimized Sampling [21.801812957325662]
大規模言語モデル(LLM)は、ジェイルブレイク攻撃に弱いままである。我々は,効率的なブラックボックス攻撃フレームワークであるBabelを提案する。 Babelは最先端の攻撃成功率とクエリ効率の向上を実現している。
論文参考訳（メタデータ） (2026-05-18T07:27:59Z)
Why Do Safety Guardrails Degrade Across Languages? [21.521293656854183]
大規模な言語モデルは、英語以外の言語で安全性の低下を示す。我々は、安全運転要因を分離する潜在変数モデル、多群項目応答理論(IRT)フレームワークを導入する。 5つの閉モデルファミリーと10の言語にまたがる61のモデル構成の安全性のロバスト性を評価する。
論文参考訳（メタデータ） (2026-05-16T22:08:54Z)
LASA: Language-Agnostic Semantic Alignment at the Semantic Bottleneck for LLM Safety [88.98698230989186]
大規模言語モデル(LLM)は、しばしば高リソース言語で強力な安全性性能を示すが、低リソース言語では深刻な脆弱性を示す。このギャップは、言語に依存しない意味理解能力と、高リソース言語に偏った言語に支配的な安全アライメントのミスマッチによるものと考えられる。セマンティック・アライメント(LASA)を提案し,セマンティック・ボトルネックに直接安全アライメントを固定する。
論文参考訳（メタデータ） (2026-04-13T15:59:50Z)
Uncovering Linguistic Fragility in Vision-Language-Action Models via Diversity-Aware Red Teaming [64.48633529149579]
本稿では,VLA(Vision-Language-Action)モデルの言語的変異に対する脆弱性を明らかにするための新しいフレームワークを提案する。本手法は, ストレス試験用VLAエージェントへのスケーラブルなアプローチを示すため, 平均作業成功率を93.33%から5.85%に下げる。
論文参考訳（メタデータ） (2026-04-07T08:43:36Z)
Deliberative Alignment is Deep, but Uncertainty Remains: Inference time safety improvement in reasoning via attribution of unsafe behavior to base model [50.29667251847595]
モデルサイズが大きく,安全性が向上しているにもかかわらず,教師と生徒の言語モデルの間にはアライメントギャップがあることが示される。本稿では,不安全な動作を潜在空間のベースLLMに還元するBoNサンプリング手法を提案する。特に7つの教師モデルと6つの生徒モデルが異なるクラスとサイズで、平均攻撃成功率(ASR)はDANで28.2%、WildJailbreakで31.3%、StrongREJECTベンチマークで35.4%低下した。
論文参考訳（メタデータ） (2026-04-01T02:42:41Z)
OOD-MMSafe: Advancing MLLM Safety from Harmful Intent to Hidden Consequences [64.01706941950489]
現在の安全パラダイムは、主に悪意のある意図や状況違反をターゲットとしている。我々は,自律型および実施型エージェントのロバスト展開に不可欠なパラダイムである,結果駆動型安全に向けた安全フロンティアのシフトを提案する。本稿では,トークンレベルの自己蒸留報酬の動的参照として,モデル固有の推論を統合したCASPO(Consequence-Aware Safety Policy Optimization)フレームワークを開発する。
論文参考訳（メタデータ） (2026-03-10T14:16:43Z)
Response-Based Knowledge Distillation for Multilingual Jailbreak Prevention Unwittingly Compromises Safety [3.8433556466595937]
大規模言語モデル (LLM) は世界中に展開されているが、その安全性は英語を中心に維持されている。本稿では,多言語ジェイルブレイク防止における知識蒸留(KD)の新たな応用について紹介する。プロプライエタリな教師モデルの拒絶行動を,Meta-Llama-3-8B-Instruct, Gemma-2-2B-IT, Qwen3-8Bの3つのオープンソース学生モデルに蒸留する。
論文参考訳（メタデータ） (2025-12-08T06:48:17Z)
Circumventing Safety Alignment in Large Language Models Through Embedding Space Toxicity Attenuation [13.971909819796762]
大規模言語モデル(LLM)は、医療、教育、サイバーセキュリティといった分野で大きな成功を収めている。埋め込み空間中毒は、敵が入力データの内部意味表現を操作して安全アライメント機構をバイパスする微妙な攻撃ベクトルである。本稿では,線形変換による埋め込み空間における毒性感受性次元の同定と減衰を行う新しいフレームワークETTAを提案する。
論文参考訳（メタデータ） (2025-07-08T03:01:00Z)
Refusal Direction is Universal Across Safety-Aligned Languages [66.64709923081745]
本稿では,PolyRefuseを用いた14言語にわたる大規模言語モデル(LLM)の拒絶動作について検討する。英語から抽出されたベクトルは、ほぼ完全な効果で他の言語での拒絶を回避できる。この伝達性は、埋め込み空間における言語間の拒否ベクトルの並列性に起因し、言語間ジェイルブレイクの背後にあるメカニズムを同定する。
論文参考訳（メタデータ） (2025-05-22T21:54:46Z)
Reasoning-Augmented Conversation for Multi-Turn Jailbreak Attacks on Large Language Models [53.580928907886324]
Reasoning-Augmented Conversationは、新しいマルチターンジェイルブレイクフレームワークである。有害なクエリを良心的な推論タスクに再構成する。 RACEは,複雑な会話シナリオにおいて,最先端攻撃の有効性を実現する。
論文参考訳（メタデータ） (2025-02-16T09:27:44Z)
Turning Logic Against Itself : Probing Model Defenses Through Contrastive Questions [50.40122190627256]
非倫理的反応を引き起こすために、対照的な推論を利用する新しいジェイルブレイク手法であるPOATEを導入する。 PoATEは意味論的に意図に反し、敵のテンプレートと統合し、有害なアウトプットを驚くほど微妙に操る。これに対応するために、悪意のある意図と理性を検出するためにクエリを分解して、有害な応答を評価し、拒否するIntent-Aware CoTとReverse Thinking CoTを提案する。
論文参考訳（メタデータ） (2025-01-03T15:40:03Z)
Low-Resource Languages Jailbreak GPT-4 [19.97929171158234]
我々の研究は、AIの安全性トレーニングと大規模言語モデル(LLM)のリピートという、言語横断的な脆弱性を明らかにします。 AdvBenchmarkでは、GPT-4は安全でない翻訳された入力に関わり、ユーザを有害な目標の79%に導く実行可能なアイテムを提供する。他のハイ/ミッドリソース言語は攻撃成功率を著しく低くしているため、言語間の脆弱性は主に低リソース言語に適用される。
論文参考訳（メタデータ） (2023-10-03T21:30:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。