論文の概要: PGuard: A Native, Streaming, and Plug-in Guardrail for Multimodal Large Language Models

• arxiv url: http://arxiv.org/abs/2611.02791v2
• Date: Tue, 03 Nov 2026 06:41:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-04 23:36:30.583881
• Title: PGuard: A Native, Streaming, and Plug-in Guardrail for Multimodal Large Language Models
• Title（参考訳）: PGuard: マルチモーダルな大規模言語モデルのためのネイティブ、ストリーミング、プラグインガードレール
• Abstract要約: PGuardは、外部サービス依存性からバックボーンモデルの統合機能に変換する、ネイティブ、ストリーミング、プラグインガードレールである。 PGuardはトークンレベルの安全性検出にバックボーンの中間表現を直接利用する。 Qwen3.5-9B によるテキストクエリでは、PGuard は F1 スコア 0.836 に達し、専用の外部ガードレールに近づいた。
• 参考スコア（独自算出の注目度）: 37.81951872136241
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As streaming generation becomes the dominant serving paradigm for both text-only and multimodal large language models, ensuring safety throughout the generation process has become a critical challenge. We introduce PGuard, a native, streaming, and plug-in guardrail that transforms safety monitoring from an external serving dependency into an integrated capability of the backbone model. PGuard directly leverages the backbone's intermediate representations for token-level safety detection, without altering its original inference pathway or generation behavior. Specifically, dynamic layer gating selectively aggregates residual-stream representations across layers to extract safety-relevant signals during both prefill and autoregressive decoding. To balance detection accuracy and computational efficiency, PGuard supports multiple representation-modeling architectures, including a lightweight stateless variant and sequence-aware variants built on multi-scale causal EMA-attention and GRU-based recurrent modules. Its design also accounts for the execution characteristics of LLM serving frameworks, such as SGLang, optimizing computation and data access to minimize additional runtime and synchronization overhead. As a result, PGuard incurs only 0.82-2.26% end-to-end overhead on the hundred-billion-parameter backbone Qwen3.5-122B-A10B served by SGLang. Extensive evaluations across more than 30 benchmarks spanning text and multimodal safety, jailbreaks, cyber and CBRN risks, multilingual scenarios, and real-world traffic demonstrate state-of-the-art performance among native guardrails. On text queries with Qwen3.5-9B, PGuard achieves an average F1 score of 0.836, approaching dedicated external guardrails, while supporting deployment-time configuration of category-specific thresholds and enforcement actions.
• Abstract（参考訳）: ストリーミング生成がテキストのみおよびマルチモーダルな大規模言語モデルにおいて支配的な機能パラダイムとなるにつれ、生成プロセス全体の安全性を確保することが重要な課題となっている。 我々は、外部サービス依存性からバックボーンモデルの統合機能に変換する、ネイティブ、ストリーミング、プラグインガードレールであるPGuardを紹介した。 PGuardは、元の推論経路や生成動作を変更することなく、バックボーンの中間表現を直接トークンレベルの安全性検出に活用する。 具体的には、動的層ゲーティングは、プレフィルと自己回帰デコードの両方で安全関連信号を抽出するために、層間で残留ストリーム表現を選択的に集約する。 検出精度と計算効率のバランスをとるために、PGuardはマルチスケールの因果EMAアテンションとGRUベースのリカレントモジュール上に構築された軽量なステートレス変種とシーケンス対応変種を含む複数の表現モデリングアーキテクチャをサポートしている。 また、SGLangのようなLLMサービスフレームワークの実行特性を考慮し、計算とデータアクセスを最適化し、追加のランタイムと同期オーバーヘッドを最小限にする。 その結果、PGuardは100億パラメートルのバックボーン Qwen3.5-122B-A10B で SGLang が供給するエンド・ツー・エンドのオーバーヘッドは 0.82-2.26% に留まった。 テキストとマルチモーダル安全性、ジェイルブレイク、サイバーおよびCBRNリスク、マルチリンガルシナリオ、実世界のトラフィックにまたがる30以上のベンチマークに対する大規模な評価は、ネイティブガードレールの最先端のパフォーマンスを示している。 Qwen3.5-9B によるテキストクエリでは、PGuard は F1 スコア 0.836 に達し、専用の外部ガードレールに近づき、カテゴリ固有のしきい値と強制行動のデプロイ時設定をサポートする。

関連論文リスト

• UniGuard: Multi-View Guardrail Learning for Cross-Interface Safety Generalization [57.669735376863315]
  我々は,同じ安全事例の複数の意味的に整合したビューから,インターフェース不変の安全性表現を学習するトレーニングフレームワークUniGuardを提案する。 また、1000の公安ケースをプロンプト、応答、マルチターン会話、エージェントトレース、マルチエージェントトレースビューに変換することで、UniGuard-FTデータセットを構築する。 UniGuard-0.6Bは、未確認のインターフェースベンチマーク全体で、事前訓練されたガードレールを平均45.12F1ポイント改善し、キャリブレーション誤差を35.41ポイント削減した。
  論文  参考訳（メタデータ） (2026-10-22T05:14:30Z)
• HazardAuditor: From Executable Threats to Safer Computer-Use Agents [50.06351661912873]
  既存のガードモデルは静的なプロンプトと応答をターゲットとしている。 既存の安全プラットフォームは、正規化された監督ではなく、ガードモデルで学ぶ必要がある評価判断を生成する。 両ギャップを埋める実行基盤フレームワークであるHazardAuditorを紹介します。
  論文  参考訳（メタデータ） (2026-09-14T07:09:33Z)
• Privacy-Preserving Topology-Guided Safety for LLM-Based Multi-Agent Systems via Federated Graph Learning [67.04448659688579]
  FGLGuardは、AgentDojoのグランドサクセスレートを、ほぼ無防備なユーティリティ、APIコストゼロ、無視可能な機能損失で43%削減する。 フェデレーションはオプションではなく、オフ・ザ・シェルフ・トランスファーは流通シフトによって崩壊する。 Live FGLGuardは、AgentDojoのグランドサクセスレートを、ほぼ無防備なユーティリティ、APIコストゼロ、無視可能な機能損失で43%削減する。
  論文  参考訳（メタデータ） (2026-09-02T07:57:12Z)
• LMSM: LLM Security Framework Inspired by Linux Security Modules [56.93644694627783]
  大規模言語モデル(LLM)は階層化されたディフェンスでデプロイされることが多いが、悪意のあるプロンプトはそれらをバイパスすることができる。 我々は,Language Model Security Modules (LMSM) という,Linux Security Modules (LSM) の背後にある分離を LLM サービスに適応させるセキュリティフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-08-26T12:13:05Z)
• OneDrive: Unified Multi-Paradigm Driving with Vision-Language-Action Models [69.2503510410147]
  予め訓練されたVLM上に構築した統合自動運転フレームワークを提案する。 トレーニング済みのVLMアテンションは、純粋言語モデリング以上の強い伝達性を示すことを示す。 エンドツーエンドの自動運転ベンチマークの実験は、最先端のパフォーマンスを示している。
  論文  参考訳（メタデータ） (2026-04-20T07:50:00Z)
• DeepGuard: Secure Code Generation via Multi-Layer Semantic Aggregation [22.14448091276763]
  セキュリティ強化のための一般的な戦略は、最終変圧器層から派生した監督を用いてモデルを微調整することである。 この設計は最終レイヤのボトルネックに悩まされる可能性がある。脆弱性を識別するキューは層に分散することができ、次のトーケン予測に最適化された出力表現の近くでは検出されにくくなる。 DeepGuardは、アテンションベースのモジュールを通じて複数の上位層から表現を集約することで、分散セキュリティ関連キューを活用するフレームワークである。
  論文  参考訳（メタデータ） (2026-04-10T08:19:48Z)
• OpenGuardrails: A Configurable, Unified, and Scalable Guardrails Platform for Large Language Models [3.3252656373741547]
  OpenGuardrailsは、大規模なモデルベースの安全性検出、操作防御、デプロイ可能なガードレールインフラストラクチャを統合する、最初の完全なオープンソースプラットフォームです。 OpenGuardrailsは,(1)有害なテキスト生成や明示的なテキスト生成などのコンテンツ安全違反,(2)迅速なインジェクション,ジェイルブレイク,コード・インタプリタの乱用を含むモデル操作攻撃,(3)機密情報や個人情報を含むデータ漏洩,という3つの主要なリスクに対して保護されている。
  論文  参考訳（メタデータ） (2025-10-22T02:02:27Z)
• Qwen3Guard Technical Report [127.69960525219051]
  Qwen3Guardは、多言語安全ガードレールモデルである。 生成的Qwen3Guardは、きめ細かい三級判定を可能にする命令追従タスクとして安全分類をキャストする。 Stream Qwen3Guardは、リアルタイム安全監視のためのトークンレベルの分類ヘッドを導入している。
  論文  参考訳（メタデータ） (2025-10-16T04:00:18Z)
• LoRA-Guard: Parameter-Efficient Guardrail Adaptation for Content Moderation of Large Language Models [15.900125475191958]
  大規模言語モデル(LLM)のコンテンツモデレーションのための安全アライメントの代替としてガードレールが登場した。 LLMとガードレールモデル間の知識共有に依存するパラメータ効率の高いガードレール適応法であるLoRA-Guardを導入する。 LoRA-Guardは100-1000倍のパラメータオーバヘッドで既存の手法より優れ、精度を保ちながらオンデバイスコンテンツのモデレーションを実現している。
  論文  参考訳（メタデータ） (2024-07-03T10:38:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。