論文の概要: Breaking the Assumptions: Auditing Input-Side Jailbreak Defenses Against Semantic Attacks

• arxiv url: http://arxiv.org/abs/2608.21895v1
• Date: Sat, 22 Aug 2026 10:14:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-25 13:29:43.530681
• Title: Breaking the Assumptions: Auditing Input-Side Jailbreak Defenses Against Semantic Attacks
• Title（参考訳）: 想定を破る - セマンティックアタックに対するインプットサイドのジェイルブレイク防衛の監査
• Abstract要約: 本稿では,局所展開モデルに対するジェイルブレイク攻撃時の防御機構の監査を行う。 我々は、それが依存する条件を抽出し、違反する経験的パターンを導出し、その予測を6つのオープンウェイトモデルで検証する。
• 参考スコア（独自算出の注目度）: 9.007829035130884
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Locally deployed Large Language Models (LLMs) via inference engines such as Ollama run without the moderation and abuse detection present in API-served models. Therefore, the safety of LLMs depends on the defense mechanisms used, and their effectiveness depends on the assumptions on which they were designed. This paper does an audit of defense mechanisms under jailbreak attacks on locally deployed models. Some defenses provide formal guarantees (SmoothLLM, Erase-and-Check, Sequential Monitors), while others rely on empirical detection results (Semantic Smoothing, Self-Denoised Smoothing, Perplexity Filtering). Instead of merely observing that defenses fail, we trace each failure back to the specific assumption: for every defense, we extract the condition it relies on, derive the empirical pattern a violation should produce, and test that prediction on six open-weight models (14B to 35B parameters) with a corpus of 100 jailbreak prompts taken from more than 40 public sources, totalling 13,800 evaluation records.
• Abstract（参考訳）: Ollamaのような推論エンジンを介してローカルにデプロイされたLarge Language Models(LLM)は、APIサービスモデルに存在するモデレーションや乱用検出なしで実行される。 したがって, LLMの安全性は使用した防御機構に依存し, その有効性は設計した仮定に依存する。 本稿では,局所展開モデルに対するジェイルブレイク攻撃時の防御機構の監査を行う。 いくつかの防衛は正式な保証(SmoothLLM、Erase-and-Check、Sequential Monitors)を提供する一方、経験的検出結果(Semantic Smoothing、Semantic Smoothing、Self-Denoized Smoothing、Perplexity Filtering)に依存している。 防衛が失敗するのを単に観察する代わりに、それぞれの障害を特定の前提に遡る: すべての防衛において、我々は、それが依存する条件を抽出し、違反する経験的パターンを導出し、その予測を6つのオープンウェイトモデル(14Bから35Bパラメータ)で、40以上の公開ソースから取得した100以上のジェイルブレイクプロンプトで、合計13,800の評価レコードで検証する。

関連論文リスト

• Ellipsoid Control: A White-list Jailbreak Defense via Benign Latent Modeling [42.39487176776296]
  任意の入力に対してリフレクションを課すテストタイムディフェンスであるEllipsoid Controlを提案する。 安全を継続的に強化し、実用性を向上し、脱獄防御のためのホワイトリストアプローチの有効性を実証する。
  論文  参考訳（メタデータ） (2026-05-23T12:39:25Z)
• Babel: Jailbreaking Safety Attention via Obfuscation Distribution Optimized Sampling [21.801812957325662]
  大規模言語モデル(LLM)は、ジェイルブレイク攻撃に弱いままである。 我々は,効率的なブラックボックス攻撃フレームワークであるBabelを提案する。 Babelは最先端の攻撃成功率とクエリ効率の向上を実現している。
  論文  参考訳（メタデータ） (2026-05-18T07:27:59Z)
• Evaluation of Prompt Injection Defenses in Large Language Models [0.0]
  LLMベースのアプリケーションは、システムプロンプトにシークレットを定期的に埋め込むが、モデルを騙してそれらを明らかにすることができる。 私たちはアダプティブアタックを構築し、数百ラウンドにわたって戦略を進化させ、20,000以上の攻撃に対して9つの防御構成に対してテストしました。
  論文  参考訳（メタデータ） (2026-04-26T21:22:35Z)
• AI Security Beyond Core Domains: Resume Screening as a Case Study of Adversarial Vulnerabilities in Specialized LLM Applications [71.27518152526686]
  大きな言語モデル(LLM)はテキストの理解と生成に優れており、コードレビューやコンテンツモデレーションといった自動タスクに最適である。 LLMは履歴書やコードなどの入力データに隠された「逆命令」で操作でき、意図したタスクから逸脱する。 本稿では,特定の攻撃タイプに対して80%以上の攻撃成功率を示すとともに,この脆弱性を再開スクリーニングで評価するためのベンチマークを提案する。
  論文  参考訳（メタデータ） (2025-12-23T08:42:09Z)
• Backdoor Collapse: Eliminating Unknown Threats via Known Backdoor Aggregation in Language Models [75.29749026964154]
  Ourmethodは、複数のベンチマークで平均的な攻撃成功率を4.41%に下げる。 クリーンな精度と実用性はオリジナルのモデルの0.5%以内に保存される。 防衛はさまざまな種類のバックドアをまたいで一般化し、実際のデプロイメントシナリオにおける堅牢性を確認します。
  論文  参考訳（メタデータ） (2025-10-11T15:47:35Z)
• MISLEADER: Defending against Model Extraction with Ensembles of Distilled Models [56.09354775405601]
  モデル抽出攻撃は、クエリアクセスを通じてブラックボックスモデルの機能を複製することを目的としている。 既存のディフェンスでは、アタッカークエリにはオフ・オブ・ディストリビューション(OOD)サンプルがあることを前提としており、不審な入力を検出し破壊することができる。 OOD仮定に依存しない新しい防衛戦略であるMISLEADERを提案する。
  論文  参考訳（メタデータ） (2025-06-03T01:37:09Z)
• STShield: Single-Token Sentinel for Real-Time Jailbreak Detection in Large Language Models [31.35788474507371]
  大規模言語モデル(LLM)は、ジェイルブレイク攻撃に対してますます脆弱になっている。 本稿では,リアルタイムジェイルブレイク判定のための軽量フレームワークSTShieldを紹介する。
  論文  参考訳（メタデータ） (2025-03-23T04:23:07Z)
• Fundamental Limitations in Pointwise Defences of LLM Finetuning APIs [56.84338097581665]
  細調整APIの防御は、細調整攻撃を防ぐ能力に基本的に制限されていることを示す。 我々は、危険知識を隠蔽的に伝達するために、良性モデル出力のエントロピーを再利用する'ポイントワイド検出不能'アタックを構築した。 OpenAIの微調整APIに対する攻撃をテストし、有害な複数の質問に対する回答を導き出すことに成功しました。
  論文  参考訳（メタデータ） (2025-02-20T18:45:01Z)
• HSF: Defending against Jailbreak Attacks with Hidden State Filtering [14.031010511732008]
  隠れ状態フィルタ(HSF)に基づくジェイルブレイク攻撃防御戦略を提案する。 HSFは、推論プロセスが始まる前に、モデルが相手の入力をプリエンプティブに識別し、拒否することを可能にする。 不正なユーザクエリに対する応答を最小限に抑えながら、Jailbreak攻撃の成功率を大幅に低下させる。
  論文  参考訳（メタデータ） (2024-08-31T06:50:07Z)
• DRSM: De-Randomized Smoothing on Malware Classifier Providing Certified Robustness [58.23214712926585]
  我々は,マルウェア検出領域の非ランダム化スムース化技術を再設計し,DRSM(De-Randomized Smoothed MalConv)を開発した。 具体的には,実行可能ファイルの局所構造を最大に保ちながら,逆数バイトの影響を確実に抑制するウィンドウアブレーション方式を提案する。 私たちは、マルウェア実行ファイルの静的検出という領域で、認証された堅牢性を提供する最初の人です。
  論文  参考訳（メタデータ） (2023-03-20T17:25:22Z)
• A Unified Evaluation of Textual Backdoor Learning: Frameworks and Benchmarks [72.7373468905418]
  我々は,テキストバックドア学習の実装と評価を促進するオープンソースツールキットOpenBackdoorを開発した。 また,単純なクラスタリングに基づく防御ベースラインであるCUBEを提案する。
  論文  参考訳（メタデータ） (2022-06-17T02:29:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。