論文の概要: SpecGuard: Detecting Multi-Turn LLM Jailbreaks via Specification-Based Runtime Monitoring
- arxiv url: http://arxiv.org/abs/2610.36258v1
- Date: Mon, 26 Oct 2026 20:36:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-29 04:15:49.198888
- Title: SpecGuard: Detecting Multi-Turn LLM Jailbreaks via Specification-Based Runtime Monitoring
- Title（参考訳）: SpecGuard: 仕様ベースのランタイムモニタリングによるマルチTurn LLMジェイルブレークの検出
- Abstract要約: マルチターンジェイルブレイクは、対話の安全性をトレースプロパティに変える。
マルチターンLDMインタラクションを監視するための,トレーニングフリーで仕様駆動型フレームワークであるSpecGuardを提案する。
- 参考スコア（独自算出の注目度）: 4.799738984957485
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multi-turn jailbreaks turn dialogue safety into a trace property: a violation may become identifiable only when user intent and assistant behavior are considered across multiple turns. Existing guard models largely classify individual messages or exchanges and return risk scores or labels, without executable safety semantics or a formally checkable decision trail. We present SpecGuard, a training-free, specification-driven framework for monitoring multi-turn LLM interactions. SpecGuard uses a fixed atomic-proposition contract to map natural-language observations into causally scoped, evidence-backed facts, and expresses forbidden interaction patterns as Linear Temporal Logic specifications. Each specification is compiled into a symbolic finite automaton that incrementally consumes the resulting dialogue trace. The same monitoring mechanism supports buffered runtime checking and retrospective auditing, while accepting runs produce replayable witnesses that identify the triggered specification, supporting facts, and relevant dialogue turns. Experiments on multi-turn safety benchmarks show that SpecGuard consistently outperforms representative open-source guard models while maintaining controlled false-positive rates. These results demonstrate a practical path from heuristic risk classification toward formally specified, verifiable, and auditable LLM safety monitoring, without learned detector parameters or access to the protected model.
- Abstract（参考訳）: マルチターンジェイルブレイクは、対話の安全性をトレースプロパティに変える: 違反は、ユーザの意図やアシスタントの動作が複数のターンにわたって考慮されている場合にのみ識別される。
既存のガードモデルは、個別のメッセージや交換、リスクスコアやラベルを、実行可能安全性のセマンティクスや正式にチェック可能な決定パスなしで大きく分類する。
マルチターンLDMインタラクションを監視するための,トレーニングフリーで仕様駆動型フレームワークであるSpecGuardを提案する。
SpecGuardは、固定された原子配置契約を使用して、自然言語の観察を因果的スコープで証拠に支えられた事実にマッピングし、禁止された相互作用パターンを線形時間論理の仕様として表現する。
各仕様はシンボリック有限オートマトンにコンパイルされ、結果の対話トレースを漸進的に消費する。
同じ監視メカニズムはバッファリングされたランタイムチェックとリフレクション監査をサポートし、実行を受け入れると、トリガされた仕様を特定し、事実をサポートし、関連する対話ターンを再生可能な目撃者を生成する。
マルチターン安全性ベンチマークの実験によると、SpecGuardは、制御された偽陽性率を維持しながら、オープンソースガードモデルに一貫して勝っている。
これらの結果は, 検出パラメータの学習や保護モデルへのアクセスを必要とせず, 公式な特定, 検証, 監査可能なLLM安全監視へのヒューリスティックリスク分類の実践的な道筋を示すものである。
関連論文リスト
- Behavioural self-monitoring for autonomous earth observation agents: The attribute reliability monitor (ARM) [51.56484100374058]
この研究は、個々のセマンティック属性を評価するために時間をかけて疑念の証拠を蓄積するフレームワークである属性信頼性モニター(ARM)を導入している。
ARMは異なる検出器と時間モニタリング方法に対応し、介入ポリシーを消費システムに残す。
衛星熱赤外画像のための特殊な視覚言語モデルを用いて初期実装を評価した。
論文 参考訳（メタデータ） (2026-10-13T15:25:41Z) - SpecGuard: Inference-Time Backdoor Detection For Free [11.670265492085328]
SpecGuardは、追加のモデル計算コストゼロで投機的復号化を再利用する推論時バックドア検出器である。
入力レベルのフィルタが見えないステルスケースなど、トリガーの動作を確実に検出する。
論文 参考訳（メタデータ） (2026-09-10T16:51:59Z) - Can Formal Specifications Be Synthesized from Tests Alone? [6.705404088685053]
提案手法では,テストコードと動的実行トレースのみから候補仕様を推測するためにLLMを用いる。
候補仕様は有界モデルチェックを用いて局所的に検証され、フィードバックは反復的改善を導く。
SpecGenBenchベンチマークの最初の結果は、テストがLLMを意味のあるJavaモデリング言語仕様へと導くことができることを示唆している。
論文 参考訳（メタデータ） (2026-08-13T13:44:54Z) - Semantic Robustness Probing via Inpainting: An Interactive Tool for Safety-Critical Object Detection [0.47248250311484113]
安全クリティカルな領域で物体検出器をテストするには、ピクセルレベルの破損を超えた意味論的に意味のあるプローブが必要である。
本稿ではセマンティックロバストネス探索ツールSemProbeを紹介する。
論文 参考訳（メタデータ） (2026-05-26T15:15:38Z) - Prompt Overflow: What the Guardrail Inspects Is Not What the Model Infers [22.77036856603702]
Guardrailモデルは、大きな言語モデル(LLM)に到達する前に、ユーザ入力をスクリーニングするために広くデプロイされます。
本稿では,ガードレールモデルの限られた検査窓と下流LLMのかなり大きなコンテキスト推論窓とのミスマッチを利用した,プロンプトオーバーフロー攻撃を提案する。
ショートコンテクスト設定で確実に検出されたプロンプトは、オーバーロング入力に逆向きに操作するとガードレールモデルを回避することができることを示す。
論文 参考訳（メタデータ） (2026-05-22T03:27:18Z) - Detecting Object Tracking Failure via Sequential Hypothesis Testing [80.7891291021747]
ビデオにおけるリアルタイムのオンラインオブジェクト追跡は、コンピュータビジョンにおける中核的なタスクである。
本稿では,物体追跡を逐次的仮説テストとして解釈することを提案する。
本研究では,地中追跡情報と内部追跡情報の両方を活用することにより,教師なしと教師なしの両方の変種を提案する。
論文 参考訳（メタデータ） (2026-02-13T14:57:15Z) - SWAP: Towards Copyright Auditing of Soft Prompts via Sequential Watermarking [58.475471437150674]
ソフトプロンプト(SWAP)のための逐次透かしを提案する。
SWAPは、特定のディフェンダー指定のアウト・オブ・ディストリビューション・クラスを通じて、透かしを符号化する。
11のデータセットの実験では、SWAPの有効性、無害性、および潜在的適応攻撃に対する堅牢性を示す。
論文 参考訳（メタデータ） (2025-11-05T13:48:48Z) - BlindGuard: Safeguarding LLM-based Multi-Agent Systems under Unknown Attacks [58.959622170433725]
BlindGuardは、攻撃固有のラベルや悪意のある振る舞いに関する事前の知識を必要とせずに学習する、教師なしの防御方法である。
BlindGuardはマルチエージェントシステムにまたがる多様な攻撃タイプ(即時注入、メモリ中毒、ツール攻撃)を効果的に検出する。
論文 参考訳（メタデータ） (2025-08-11T16:04:47Z) - CoTGuard: Using Chain-of-Thought Triggering for Copyright Protection in Multi-Agent LLM Systems [55.57181090183713]
我々は、Chain-of-Thought推論内でトリガーベースの検出を活用する著作権保護のための新しいフレームワークであるCoTGuardを紹介する。
具体的には、特定のCoTセグメントをアクティベートし、特定のトリガクエリをエージェントプロンプトに埋め込むことで、未許可コンテンツ再生の中間的推論ステップを監視する。
このアプローチは、協調エージェントシナリオにおける著作権侵害の微細かつ解釈可能な検出を可能にする。
論文 参考訳（メタデータ） (2025-05-26T01:42:37Z) - Towards Copyright Protection for Knowledge Bases of Retrieval-augmented Language Models via Reasoning [58.57194301645823]
大規模言語モデル(LLM)は、現実のパーソナライズされたアプリケーションにますます統合されている。
RAGで使用される知識基盤の貴重かつしばしばプロプライエタリな性質は、敵による不正使用のリスクをもたらす。
これらの知識基盤を保護するための透かし技術として一般化できる既存の方法は、一般的に毒やバックドア攻撃を含む。
我々は、無害な」知識基盤の著作権保護の名称を提案する。
論文 参考訳（メタデータ） (2025-02-10T09:15:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。