論文の概要: GLiNER Guard: Unified Encoder Family for Production LLM Safety and Privacy
- arxiv url: http://arxiv.org/abs/2605.05277v1
- Date: Wed, 06 May 2026 15:22:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-08 22:27:11.3356
- Title: GLiNER Guard: Unified Encoder Family for Production LLM Safety and Privacy
- Title（参考訳）: GLiNER Guard:LLMの安全とプライバシのための統一エンコーダファミリー
- Abstract要約: 本稿では,安全分類とPII検出を行う統一エンコーダであるGLiGuardについて述べる。
1つのA100上の動的モデレーションでは、コンパクトモデルは1秒以下で193リクエスト/秒に達し、スループットは1.6倍になる。
また、エンドツーエンドのパイプラインでPII検出を評価するためのスパンレベルベンチマークであるPII-Benchをリリースする。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Production LLM systems require both safety moderation and PII detection under strict latency and cost constraints. This creates a trade-off: autoregressive moderators are accurate but expensive, while lightweight encoders are faster but less capable. We present GLiNER Guard (GLiGuard), a unified encoder that performs safety classification and PII detection in a single forward pass, simplifying safety pipelines. We introduce three variants: compact uni- and bi-encoders (145-147M) for high-throughput serving, and GLiGuard Omni (209M) for stronger moderation quality. Under dynamic batching on a single A100, the compact model reaches 193 requests/sec with P99 latency below 1s, achieving 1.6x higher throughput than GLiNER2. Omni remains competitive with much larger moderators on public safety benchmarks. We also release PII-Bench, a span-level benchmark for evaluating PII detection in end-to-end pipelines. Overall, encoder-based guardrails offer a practical low-cost alternative for always-on moderation. Models and benchmarks are released on HuggingFace.
- Abstract（参考訳）: LLMシステムは、厳格なレイテンシとコスト制約の下で安全モードとPII検出の両方を必要とする。
自動回帰モデレータは正確だが高価だが、軽量エンコーダは高速だが能力は低い。
GLiNER Guard(GLiGuard)は、安全分類とPII検出を単一のフォワードパスで行い、安全パイプラインを簡素化する統一エンコーダである。
マルチエンコーダ (145-147M) とGLiGuard Omni (209M) の3種類を紹介する。
1つのA100上での動的バッチ処理では、コンパクトモデルは1秒以下で193リクエスト/秒に達し、GLiNER2よりも1.6倍高いスループットを実現している。
Omniは、公衆安全ベンチマークにおいてはるかに大きなモデレーターと競争を続けている。
また、エンドツーエンドのパイプラインでPII検出を評価するためのスパンレベルベンチマークであるPII-Benchをリリースする。
全体として、エンコーダベースのガードレールは、常にオンのモデレーションのための実用的な低コストの代替手段を提供する。
モデルとベンチマークはHuggingFaceでリリースされている。
関連論文リスト
- Reflex-Guard: A Low-Latency Guardrail for LLM Prompt Safety Using Dense Semantic Embeddings [0.0]
本稿では,ローカルに動作する軽量ガードレールであるReflex-Guardを紹介する。
ジェイルブレイク対応の事前処理、コンパクトな文変換器の埋め込み、そして7つの高速バイナリ分類器を使用する。
エンド・ツー・エンドのレイテンシ37.6msで有害なプロンプトを95.9%リコールする。
論文 参考訳（メタデータ） (2026-08-18T09:19:22Z) - SecureForge: Finding and Preventing Vulnerabilities in LLM-Generated Code via Prompt Optimization [61.91729298584227]
SecureForgeは、フロンティアモデルのセキュリティリスクを監査し、監査インフォームされたセキュアなシステムプロンプトを生成する自動化パイプラインである。
SecureForgeは、まず静的に検出可能な脆弱性を生成する良性プロンプトを特定し、その後、さまざまなシナリオの大規模な合成プロンプトコーパスに増幅する。
フロンティアモデルでは、SecureForgeは、ユニットテストの成功と出力セキュリティの両方において統計的に有意な改善をもたらし、出力脆弱性は最大48%削減された。
論文 参考訳（メタデータ） (2026-05-08T18:40:47Z) - GLiGuard: Schema-Conditioned Classification for LLM Safeguard [5.918280835312565]
LLMコンテンツのモデレーションにGLiNER2を応用した双方向エンコーダである textbfGLiGuard を導入する。
キーとなるアイデアは、タスク定義とラベルのセマンティクスを直接、構造化トークンスキーマとして入力シーケンスにエンコードすることだ。
GLiGuardは、23-90$times$小さながら、7B--27Bデコーダベースのガードと競合するF1スコアを達成した。
論文 参考訳（メタデータ） (2026-05-08T16:44:07Z) - DeepGuard: Secure Code Generation via Multi-Layer Semantic Aggregation [22.14448091276763]
セキュリティ強化のための一般的な戦略は、最終変圧器層から派生した監督を用いてモデルを微調整することである。
この設計は最終レイヤのボトルネックに悩まされる可能性がある。脆弱性を識別するキューは層に分散することができ、次のトーケン予測に最適化された出力表現の近くでは検出されにくくなる。
DeepGuardは、アテンションベースのモジュールを通じて複数の上位層から表現を集約することで、分散セキュリティ関連キューを活用するフレームワークである。
論文 参考訳（メタデータ） (2026-04-10T08:19:48Z) - Guardian-as-an-Advisor: Advancing Next-Generation Guardian Models for Trustworthy LLMs [70.81495077853673]
ハードゲートのセーフティチェッカーは、しばしばベンダーのモデル仕様に過度に反抗し、不平を言う。
この研究は、ガーディアン・アズ・ア・アドバイザ(GaaA)というソフトゲーティングパイプラインを導入し、保護者がバイナリリスクラベルを予測し、このアドバイスを元のクエリに再推論する。
全体として、GaaAはモデル仕様に従うようモデルに指示し、過度な拒絶を減らしながら安全性を維持している。
論文 参考訳（メタデータ） (2026-04-08T23:47:29Z) - CMP: Robust Whole-Body Tracking for Loco-Manipulation via Competence Manifold Projection [64.65196237023754]
Manifold Competence Projectionは、アウト・オブ・ディストリビューションの摂動に対する堅牢性を改善する。
我々は、無限水平安全制約を計算効率の良い単段多様体包含に変換するフレーム-ワイズ安全スキームを用いる。
実験により、CMPは典型的なOODシナリオで最大10倍の生存率向上を達成することが示された。
論文 参考訳（メタデータ） (2026-04-08T18:00:39Z) - Layered Safety: Enhancing Autonomous Collision Avoidance via Multistage CBF Safety Filters [18.386652442201665]
本稿では,ロバストで信頼性の高い層状安全フィルタを構築するための汎用的なエンドツーエンドフレームワークを提案する。
ロボット中心の点雲が与えられた場合、我々は、ポアソン安全関数(PSF)を合成するために使用される占有マップを構築することから始める。
PSFは2つの異なる安全濾過段階において制御バリア機能(CBF)として使用される。
論文 参考訳（メタデータ） (2026-02-27T22:19:45Z) - SecCodePRM: A Process Reward Model for Code Security [18.20834502693226]
SecCodePRMは、コンテキスト対応のステップレベルのセキュリティスコアをコード軌道に沿って割り当てるプロセス報酬モデルである。
フルコード脆弱性検出(VD)、部分コードVD、セキュアコード生成(CG)の3つのアプリケーションがある。
論文 参考訳（メタデータ） (2026-02-11T02:00:19Z) - RealSec-bench: A Benchmark for Evaluating Secure Code Generation in Real-World Repositories [58.32028251925354]
LLM(Large Language Models)は、コード生成において顕著な能力を示しているが、セキュアなコードを生成する能力は依然として重要で、未調査の領域である。
我々はRealSec-benchを紹介します。RealSec-benchは、現実世界の高リスクなJavaリポジトリから慎重に構築されたセキュアなコード生成のための新しいベンチマークです。
論文 参考訳（メタデータ） (2026-01-30T08:29:01Z) - Beyond Linear Probes: Dynamic Safety Monitoring for Language Models [67.15793594651609]
従来の安全モニタは、クエリ毎に同じ量の計算を必要とする。
動的アクティベーションモニタリングのための線形プローブの自然な拡張であるTrncated Polynomials (TPCs)を紹介する。
我々の重要な洞察は、TPCを段階的に、短期的に訓練し、評価できるということです。
論文 参考訳（メタデータ） (2025-09-30T13:32:59Z) - Demo: SGCode: A Flexible Prompt-Optimizing System for Secure Generation of Code [21.376863393042022]
本稿では,大規模言語モデル(LLM)でセキュアなコードを生成するフレキシブルなプロンプト最適化システムであるSGCodeを紹介する。
これは、LLMとセキュリティツールを軽量な生成逆グラフニューラルネットワークと組み合わせて、生成されたコードのセキュリティ脆弱性を検出し、修正することで、プロンプトを最適化するアプローチです。
論文 参考訳（メタデータ） (2024-09-11T15:56:15Z) - Practical Conformer: Optimizing size, speed and flops of Conformer for
on-Device and cloud ASR [67.63332492134332]
我々は、デバイス上の制約を満たすのに十分小さく、TPUを高速に推論できる最適化されたコンバータを設計する。
提案するエンコーダは、デバイス上では強力なスタンドアロンエンコーダとして、また高性能なASRパイプラインの第1部として利用することができる。
論文 参考訳（メタデータ） (2023-03-31T23:30:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。