論文の概要: Jailbreaking Open-Weight LLMs via Random Embedding Perturbations

• arxiv url: http://arxiv.org/abs/2610.07125v1
• Date: Mon, 05 Oct 2026 17:50:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:29.56903
• Title: Jailbreaking Open-Weight LLMs via Random Embedding Perturbations
• Title（参考訳）: ランダム埋め込み摂動によるオープンウェイトLDMの脱獄
• Abstract要約: JailbreakBenchベンチマークデータセット上で、さまざまなサイズの6つの共通オープンウェイトLLMに対して、安全性上の脆弱性を導入する。 提案する攻撃手法であるPerturbed Embedding Vector (PEV) は,従来の手法よりも安価で,シンプルかつ高速な "ジェイルブレイク" 技術である。 新しいプロンプトに対する最初の成功した攻撃は通常、テストされたモデル毎に1分以内に到着し、PEVはJailbreakBenchの全プロンプトに対して、すべてのモデルに対して安全でない応答を生成する。
• 参考スコア（独自算出の注目度）: 7.676299066038106
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: While open-weight models have enjoyed steady progress in capabilities and wide adoption across multiple domains, their safety remains an important concern. One key feature is the ability to refuse or deflect harmful, malicious, or insensitive prompts. In this paper, we expose safety vulnerabilities across six common open-weight LLMs of various sizes that consistently lead to harmful or unsafe responses on the JailbreakBench benchmark dataset. Our proposed attack, Perturbed Embedding Vector (PEV), is a simple and fast "jailbreaking" technique that is cheaper than prior approaches, which typically require gradient computations, per-prompt optimizations, or altering internal weights of the models. PEV just adds independent Gaussian noise in the embedding vector representations of the prompt, with no need for further manipulations. To generate unsafe responses, we repeatedly sample additive noise from this distribution. In our experiments, we observe that the average compute cost to get the first successful attack is up to an order of magnitude less than previous attacks. The first successful jailbreak on a new prompt typically arrives within one minute on every tested model, and PEV generates unsafe responses across all models for all prompts in JailbreakBench. No other tested method achieves such results, despite them taking longer to run. More broadly, we believe that understanding the behavior of LLMs under perturbations in the embedding vectors is an important research direction: while perturbations constitute a major security risk, they can also serve as a valuable tool for exploring the dynamical behavior of such models.
• Abstract（参考訳）: オープンウェイトモデルは、複数のドメインにまたがる機能と広範な採用の安定した進歩を享受していますが、その安全性は依然として重要な関心事です。 重要な特徴の1つは、有害な、悪意のある、または無神経なプロンプトを拒否または無視する機能である。 本稿では,JailbreakBenchベンチマークデータセットにおける有害あるいは安全でない応答を継続的に導く,さまざまなサイズの6つの共通オープンウェイトLCMの安全性上の脆弱性を明らかにする。 提案する攻撃手法であるPerturbed Embedding Vector (PEV) は、従来の手法よりも安価で、通常、勾配計算、プロンプトごとの最適化、モデルの内部重みの変更を必要とする、シンプルで高速な "jailbreaking" 技術である。 PEVはプロンプトの埋め込みベクトル表現に独立したガウスノイズを追加するだけで、さらなる操作は不要である。 安全でない応答を生成するために、この分布から繰り返し加算雑音をサンプリングする。 我々の実験では、最初の攻撃を成功させる平均計算コストが、以前の攻撃よりも桁違いに低いことが観察された。 新しいプロンプトで最初に成功したジェイルブレイクは、テストされた各モデルで1分以内に到着し、PEVは、JailbreakBenchの全プロンプトに対して、すべてのモデルで安全でない応答を生成する。 実行に時間がかかるにもかかわらず、他のテスト手法ではそのような結果が得られない。 より広義には、埋め込みベクトルにおける摂動下でのLCMの挙動を理解することは重要な研究の方向性であると信じている。

関連論文リスト

• Defending Jailbreak Attacks on Large Language Models via Manifold Trajectory Kinetics [50.36375380196006]
  ジェイルブレイクプロンプトは、大規模な言語モデルにおけるアライメントガードレールをバイパスすることができる。 先行検出アプローチは固定距離空間に大きく依存する。 この仮定は,意図によって無視されるが,安全関連キーワードを含む疑似悪質なプロンプトの下で破られることを示す。 本稿では, LLM を入力を出力に変換する運動系として扱う Manifold Trajectory Kinetics (MTK) を提案する。
  論文  参考訳（メタデータ） (2026-06-05T14:49:26Z)
• Rethinking Jailbreak Detection of Large Vision Language Models with Representational Contrastive Scoring [13.497048408038935]
  LVLM(Large Vision-Language Models)は、増え続けるマルチモーダル・ジェイルブレイク攻撃に対して脆弱である。 現在の異常検出法は、新しい良性入力を悪意のある入力と混同する傾向があり、信頼性の低いオーバーリジェクションにつながる。 我々は,LVLMの内部表現に最も強力な安全信号が存在するという,重要な洞察に基づくフレームワークであるRepresentational Contrastive Scoring (RCS)を提案する。
  論文  参考訳（メタデータ） (2025-12-12T22:31:38Z)
• OmniSafeBench-MM: A Unified Benchmark and Toolbox for Multimodal Jailbreak Attack-Defense Evaluation [94.61617176929384]
  OmniSafeBench-MMはマルチモーダル・ジェイルブレイク攻撃防御評価のための総合ツールボックスである。 13の代表的な攻撃方法と15の防衛戦略、9つの主要なリスクドメインと50のきめ細かいカテゴリにまたがる多様なデータセットを統合している。 データ、方法論、評価をオープンソースで再現可能なプラットフォームに統合することで、OmniSafeBench-MMは将来の研究のための標準化された基盤を提供する。
  論文  参考訳（メタデータ） (2025-12-06T22:56:29Z)
• Immunity memory-based jailbreak detection: multi-agent adaptive guard for large language models [12.772312329709868]
  大規模言語モデル(LLM)はAIシステムの基盤となっているが、敵のジェイルブレイク攻撃に弱いままである。 ジェイルブレイク検出のためのマルチエージェント適応ガード(MAAG)フレームワークを提案する。 MAAGはまず、入力プロンプトからアクティベーション値を抽出し、メモリバンクに格納された履歴アクティベーションと比較して、迅速な予備検出を行う。
  論文  参考訳（メタデータ） (2025-12-03T01:40:40Z)
• DiffuGuard: How Intrinsic Safety is Lost and Found in Diffusion Large Language Models [50.21378052667732]
  我々は、ステップ内およびステップ間ダイナミクスという2つの異なる次元にわたるジェイルブレイク攻撃に対して、dLLM脆弱性の詳細な分析を行う。 デュアルステージアプローチによる脆弱性に対処する,トレーニング不要な防御フレームワークであるDiffuGuardを提案する。
  論文  参考訳（メタデータ） (2025-09-29T05:17:10Z)
• Foot-In-The-Door: A Multi-turn Jailbreak for LLMs [40.958137601841734]
  主な課題はjailbreakで、敵はビルトインのセーフガードをバイパスして有害な出力を誘導する。 心理学的フット・イン・ザ・ドアの原則に着想を得て,新しいマルチターンジェイルブレイク法であるFITDを導入する。 提案手法は,中間的なブリッジプロンプトを通じてユーザクエリの悪意ある意図を段階的にエスカレートし,それ自身でモデル応答を調整し,有害な応答を誘導する。
  論文  参考訳（メタデータ） (2025-02-27T06:49:16Z)
• Layer-Level Self-Exposure and Patch: Affirmative Token Mitigation for Jailbreak Attack Defense [55.77152277982117]
  私たちは、jailbreak攻撃から防御するために設計された方法であるLayer-AdvPatcherを紹介します。 私たちは、自己拡張データセットを通じて、大規模言語モデル内の特定のレイヤにパッチを適用するために、未学習の戦略を使用します。 我々の枠組みは、脱獄攻撃の有害性と攻撃の成功率を減らす。
  論文  参考訳（メタデータ） (2025-01-05T19:06:03Z)
• An Interpretable N-gram Perplexity Threat Model for Large Language Model Jailbreaks [87.64278063236847]
  本研究では,ジェイルブレイク攻撃の原理的比較のための統一的脅威モデルを提案する。 私たちの脅威モデルは、あるジェイルブレイクがテキストの配布で起こりそうなかどうかをチェックします。 私たちはこの脅威モデルに人気のある攻撃を適応させ、これらの攻撃を同等の足場でベンチマークしました。
  論文  参考訳（メタデータ） (2024-10-21T17:27:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。