論文の概要: HiveTraceGuard-Pro: A Compact Generative Guardrail for Prompt Injection, Jailbreaks, and Adversarial Obfuscation
- arxiv url: http://arxiv.org/abs/2609.01046v1
- Date: Tue, 01 Sep 2026 10:46:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-02 16:31:36.584724
- Title: HiveTraceGuard-Pro: A Compact Generative Guardrail for Prompt Injection, Jailbreaks, and Adversarial Obfuscation
- Title（参考訳）: HiveTraceGuard-Pro: プロンプトインジェクション、ジェイルブレイク、および対向難読化のためのコンパクトな生成ガードレール
- Abstract要約: 本報告では,Qwen3-0.6Bから構築したHiveTraceGuard-Proについて述べる。
ロシア語と英語で訓練され、最終目標のターンに1つの二進法(セーフ/アンセーフ)を用いる。
15モデル比較において、HiveTraceGuard-Proは、ロシアの最もクリーンなロバスト性の組み合わせであるF1(0.88)とロシアのプロンプトインジェクションリコール(0.999)を持つ。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Production LLMs must handle inputs that attempt to override system instructions, bypass safety policies or elicit harmful responses. A common mitigation is a separate guardrail model. Existing reports, however, provide little evidence on Russian prompt injection or Russian surface obfuscation. We present HiveTraceGuard-Pro, a 0.6B generative guardrail LoRA-tuned from Qwen3-0.6B. It is trained on Russian and English and uses one binary scoring rule (safe/unsafe) for the final target turn. Its training corpus pairs harmful examples, where a counterpart exists, with benign examples from the same domain and applies eight obfuscation transforms to both labels. In one harness, we compare HiveTraceGuard-Pro with thirty-four other guards on nineteen benchmark groups, sixteen of which are public. Its aggregate key is 0.7432, behind 0.7641 and 0.7552 for the two higher-scoring guards. Over the sixteen public groups alone, its key is 0.7153 and four of the thirty-four other suite guards score higher. In a fifteen-model comparison, HiveTraceGuard-Pro has the highest clean Russian robustness combined-F1 (0.88) and Russian prompt-injection recall (0.999). Both results use Russian sets assembled by our team, and at least 27.1% of the prompt-injection set overlaps the training corpus. Its 14.3 ms median latency is the lowest among those fifteen models in that run. Across the suite, FPR is 0.268 and FNR is 0.156. All reported response results use a legacy standalone-reply serialization rather than the natural assistant-role path of the shipped chat template. We release the merged weights on Hugging Face under Apache-2.0. The corpus, evaluation sets and evaluation code remain internal.
- Abstract（参考訳）: 生産LSMは、システム命令を無効にしたり、安全ポリシーをバイパスしたり、有害な応答を誘発しようとする入力を処理しなければならない。
一般的な緩和は独立したガードレールモデルである。
しかし、既存の報告では、ロシアのプロンプト注入やロシアの表面難読化についてはほとんど証拠がない。
本稿では,Qwen3-0.6Bから設計した0.6B生成ガードレールであるHiveTraceGuard-Proを紹介する。
ロシア語と英語で訓練され、最終目標のターンに1つの二進法(セーフ/アンセーフ)を用いる。
そのトレーニングコーパスは、同じドメインの良質な例とともに、相手が存在する有害な例をペアリングし、両方のラベルに8つの難読変換を適用する。
あるハーネスでは、HiveTraceGuard-Proを19のベンチマークグループで他の34のガードと比較します。
合計キーは0.7432で、上位2機のガードは0.7641、0.7552である。
16の公共団体だけで、その鍵は0.7153であり、他の34のスイートガードのうち4人がより高いスコアを得ている。
15モデル比較では、HiveTraceGuard-Proは、F1 (0.88) とロシアのプロンプトインジェクションリコール (0.999) を組み合わせた最もクリーンなロシアのロバスト性を持つ。
どちらの結果も我々のチームによって組み立てられたロシアのセットを使用し、少なくとも27.1%のプロンプト・インジェクションセットはトレーニング・コーパスと重なる。
14.3ミリ秒のレイテンシは、その実行中の15モデルの中では最低である。
FPRは0.268、FNRは0.156である。
報告されたすべてのレスポンスは、出荷されたチャットテンプレートの自然なアシスタントロールパスではなく、レガシーなスタンドアロンのリプライシリアライズを使用する。
私たちはApache-2.0の下でHugging Faceのマージウェイトをリリースしています。
コーパス、評価セット、評価コードは内部のままである。
関連論文リスト
- DriftNet: A Dual-Head Trajectory Transformer for Detecting and Localizing Prompt Injection in LLM Agents [0.0]
オペレーターは、攻撃がどこから入ったか、どのステップが破損したか、そして明らかな毒が抵抗されたかの3つの事実を必要とします。
DriftNetは2つのヘッドトラジェクトリ変換器で、ログ化されたツール呼び出しトラジェクトリを読み出し、1つのフォワードパスで3つの質問すべてに答える。
我々の知る限り、このジョイント出力を発生させた最初の検出器である。
論文 参考訳（メタデータ） (2026-09-09T22:52:23Z) - AgentDrift: A Step-Labeled Benchmark of Injection-Hijacked LLM Agent Trajectories [0.0]
LLMエージェントは、ツールコールのシーケンスを発行することでタスクを完了し、彼らが読んだすべての観察は、間接的なプロンプトインジェクションが入力できるチャネルである。
既存のベンチマークは、そのような攻撃がライブエージェントに対して成功するかどうかを測定し、既存のガードモデルは全体のトレースを判断する。
我々は5つのエージェントドメインにまたがる12,536の合成ツールコールトラジェクトリのベンチマークであるAgentDriftを提案する。
論文 参考訳（メタデータ） (2026-09-07T03:10:23Z) - Incident-Data Robustness Analysis of the OWASP Top 10 for LLM Applications (2026): How a Community-Expert Ranking Holds Up Against a Large-Scale LLM Incident Corpus [0.0]
LLMアプリケーションのトップ10は、セキュリティ実践者のコミュニティが最も重要なリスクをランク付けしている。
実際のインシデントの記録に逆らって、専門家のランキングはデータと一致しているか?
論文 参考訳（メタデータ） (2026-08-18T09:28:10Z) - The Recall Trap: A Recall-Maximizing Retriever Configuration Reduces Issue Resolution in Fixed-Budget Code Context [45.88028371034407]
コード修復における制御ケーススタディを報告し,新しい現象ではない。
私たちは、同じスタック上の1つのフラグ(1チャンク毎の重複)を切り替えます。
BM25(3.2pp、重要なパラダイム間相互作用)を逆転させる。
厳格な固定予算では、ファイルごとのハードダイドプリケートや、タスクに対するA/Bパッケージングポリシは、メトリックフラグを調整しないことが示されます。
論文 参考訳（メタデータ） (2026-08-14T19:22:50Z) - Yesterday's Shield, Today's Spear: A Self-Evolving Safety Guardrail in Production [46.70131379857202]
本報告では,SESG(Self-Evolving Safety Guardrails)を運用中のマルチエージェントシステムとして紹介する。
SESGは配置されたガードレールの背後にあるライブトラフィックを監視し、障害の2つのクラスをサーフェスする。
1.7Bガードレールは16時間から24時間で新たな脅威に適応し、約2時間の人的努力と、それに代わる40～90時間の手作業に適応する。
論文 参考訳（メタデータ） (2026-08-09T04:31:05Z) - ChannelGuard: Safe Models Do Not Compose into Safe Multi-Agent Systems [0.0]
本稿では,すべてのエージェント間チャネルに情報コンテナゲートを配置するフレームワークであるChannelGuardを紹介する。
ChannelGuardは、Azure GPT-5, Anthropic Sonnet 4.5, Anthropic Haiku 4.5をまたいで、アプリケーション層で30の30のツールポゾンをブロックする。
また、プロンプト・インジェクションの攻撃成功率を半分(0.333から0.167)下げ、GSM8Kの精度(0.867)を正確に保持する。
論文 参考訳（メタデータ） (2026-07-20T19:11:17Z) - HaloGuard 1.0: An Open Weights Constitutional Classifier for Multilingual AI Safety [0.0]
HaloGuard 1.0は、入力安全性のためのコンスティチューション分類のパラダイムのオープンウェイト実装である。
現在のオープンガードモデルの約10分の1のモデルサイズで、英語と多言語のプロンプトセーフティベンチマークで最先端のパフォーマンスを達成する。
論文 参考訳（メタデータ） (2026-07-02T12:21:16Z) - Reflect-Guard: Enhancing LLM Safeguards against Adversarial Prompts via Logical Self-Reflection [5.902327401962825]
リフレクション・ガード(Reflector-Guard)は,LLMに基づく安全分類器をチェーン・オブ・フォア・セルフ・リフレクション機能で拡張する手法である。
提案手法は,GPT-4o-miniから構造化アノテーションへの解析的推論を蒸留し,QLoRAを介してLlama-Guard-3-8Bを訓練し,論理的自己回帰を生成する。
たった1000のトレーニング例とわずか0.5%のモデルパラメータを使って、Reflect-Guardは2つの挑戦的なベンチマークで大幅に改善した。
論文 参考訳（メタデータ） (2026-05-24T02:58:21Z) - Semalith v1.4: A Calibrated 184M Safety Classifier Achieving State-of-the-Art Prompt-Injection Detection at 44x Fewer Parameters than Llama-Guard-3-8B [0.0]
Semalith v1.4は、即時注入、一般害、金融サービス規制コンプライアンスを含む3軸安全分類を同時に実施する。
22級のヘッドは4級の補助的なスーパーカテゴリーのヘッドで、重み付けされた損失で訓練されている。
v1.4は全てのプロンプトインジェクション評価(7/7)と18のベンチマークのうち11が44倍のパラメータで勝利し、FPR = 0.000が208個のエージェントプロンプトに対して0.063がLlama-Guard-3-8Bである。
論文 参考訳（メタデータ） (2026-05-06T10:14:30Z) - Evaluating Prompt Injection Defenses for Educational LLM Tutors: Security-Usability-Latency Trade-offs [51.56484100374058]
ガードレールの設計には、敵の堅牢性、良質なタスクのユーザビリティ、応答レイテンシの明確なトレードオフが伴う。
決定論的パターンフィルタ,構造検証,コンテキストサンドボックス,セッションレベルの動作チェックを組み合わせた,ドメイン固有のマルチレイヤセーフガードパイプラインの評価を行った。
NeMoは16.22パーセントのFPRと1.5パーセントのレイテンシで0パーセントのバイパスに達し、Prompt Guardは38.48パーセントのFPRと3.60パーセントのバイパスを実現している。
論文 参考訳（メタデータ） (2026-03-29T18:52:01Z) - Hide and Seek in Embedding Space: Geometry-based Steganography and Detection in Large Language Models [44.41218866933059]
微調整LDMは、ステガノグラフィーチャネルを介してプロンプトシークレットを出力に隠蔽的にエンコードすることができる。
任意の写像を埋め込み空間由来のものに置き換えることで、従来のスキームが100%回復可能であることを示す。
我々は、微調整によるステガノグラフィー攻撃を検出するには、従来のステガナシス以上のアプローチが必要であると論じる。
論文 参考訳（メタデータ） (2026-01-30T10:43:43Z) - SemGuard: Real-Time Semantic Evaluator for Correcting LLM-Generated Code [46.20378145112059]
ポストホック修復パイプラインは、実行後にのみそのような障害を検出する。
本稿では,実時間で行レベルのセマンティック監視を行うセマンティック評価フレームワークSemGuardを紹介する。
論文 参考訳（メタデータ） (2025-09-29T09:21:32Z) - Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
完全無害データを用いた新しい毒殺法を提案する。
自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。
LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
論文 参考訳（メタデータ） (2025-05-23T08:13:59Z) - WildGuard: Open One-Stop Moderation Tools for Safety Risks, Jailbreaks, and Refusals of LLMs [54.10865585773691]
LLM安全性のためのオープンで軽量なモデレーションツールであるWildGuardを紹介します。
WildGuardは、ユーザプロンプトにおける悪意のある意図の特定、モデルレスポンスの安全性リスクの検出、モデル拒絶率の決定という3つの目標を達成する。
論文 参考訳（メタデータ） (2024-06-26T16:58:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。