論文の概要: LatentGuard: Efficient and Inspectable Latent Reasoning for LLM Safeguards
- arxiv url: http://arxiv.org/abs/2608.03838v1
- Date: Tue, 04 Aug 2026 15:47:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-05 17:47:10.50674
- Title: LatentGuard: Efficient and Inspectable Latent Reasoning for LLM Safeguards
- Title（参考訳）: LatentGuard: LLM セーフガードの効率的かつ検査可能な遅延推論
- Abstract要約: 推論ベースのガードモデルはLLMセーフガードを改善するが、すべてのインタラクションに対して明確な論理をデコードすることで、デプロイにコストがかかる。
モデルガードに連続的な潜伏推論をもたらす、効率的で検査可能なセーフガードフレームワークであるLatentGuardを提案する。
- 参考スコア（独自算出の注目度）: 21.146106913383868
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Reasoning-based guard models improve LLM safeguards, but decoding explicit rationales for every interaction makes them costly to deploy. Although latent-reasoning methods reduce token generation by moving reasoning into continuous states, they remain underexplored for safety moderation and lack an inspection interface for deployment. In this paper, we propose LatentGuard, an efficient and inspectable safeguard framework that brings continuous latent reasoning to guard models. LatentGuard uses a staged curriculum to progressively compress task-aligned textual rationales into compact latent states, enabling safety verdicts to be predicted directly from continuous representations. To preserve inspectability, an isolated auxiliary decoder generates compact audit artifacts on demand, keeping rationale generation off the standard inference path. Experiments show that LatentGuard-8B improves mean weighted F1 from 83.95 to 84.91 over GuardReasoner-8B, while reducing critical-path reasoning cost from 268.56 generated rationale tokens to 1.60 latent reasoning tokens. Its audit decoder achieves an audit utility score of 85.75, demonstrating an efficient and inspectable path toward deployable LLM safeguards.
- Abstract（参考訳）: 推論ベースのガードモデルはLLMセーフガードを改善するが、すべてのインタラクションに対して明確な論理をデコードすることで、デプロイにコストがかかる。
潜時推論法は、推論を連続状態に移すことによってトークン生成を減らすが、安全性の確保とデプロイのための検査インターフェースの欠如が未検討である。
本稿では、モデルガードに持続的な潜伏推論をもたらす、効率的で検査可能なセーフガードフレームワークであるLatentGuardを提案する。
LatentGuardは、段階的なカリキュラムを使用して、タスク整列したテキストの有理をコンパクトな潜在状態に段階的に圧縮し、連続表現から直接安全性の検証を可能にする。
検査性を維持するため、孤立補助復号器は必要に応じてコンパクトな監査アーティファクトを生成し、標準推論パスから合理的な生成を維持する。
実験の結果、LatntGuard-8Bは平均重み付きF1をGuardReasoner-8Bよりも83.95から84.91に改善し、クリティカルパス推論コストを268.56から1.60に削減した。
その監査デコーダは85.75の監査ユーティリティスコアを達成し、デプロイ可能なLLMセーフガードへの効率的で検査可能なパスを示す。
関連論文リスト
- DT-Guard: Intent-Driven Reasoning-Active Training for Reasoning-Free LLM Safety Guardrail [19.59614205209542]
本稿では、Reasoning-Active Training, Reasoning-Free Inferenceパラダイムに基づくコンテンツ安全ガードレールモデルDT-Guardを提案する。
鍵となる考え方は、推論時にのみ構造化された安全ラベルを出力しながら、トレーニング中に推論監督を使用することである。
論文 参考訳（メタデータ） (2026-07-07T14:25:05Z) - Robust and Efficient Guardrails with Latent Reasoning [23.837448508316513]
推論ベースのガードレールは、相当なクエリレイテンシとトークンオーバーヘッドを引き起こす。
我々は,多段階の安全推論を連続的な潜伏空間に転送するガードレールモデルであるCOLAGUARDを提案する。
以上の結果から, 潜伏推論は, 展開可能なガードレールに対して, 明示的合理的生成に代わる実用的な代替手段となることが示唆された。
論文 参考訳（メタデータ） (2026-05-27T20:15:22Z) - Reflect-Guard: Enhancing LLM Safeguards against Adversarial Prompts via Logical Self-Reflection [5.902327401962825]
リフレクション・ガード(Reflector-Guard)は,LLMに基づく安全分類器をチェーン・オブ・フォア・セルフ・リフレクション機能で拡張する手法である。
提案手法は,GPT-4o-miniから構造化アノテーションへの解析的推論を蒸留し,QLoRAを介してLlama-Guard-3-8Bを訓練し,論理的自己回帰を生成する。
たった1000のトレーニング例とわずか0.5%のモデルパラメータを使って、Reflect-Guardは2つの挑戦的なベンチマークで大幅に改善した。
論文 参考訳（メタデータ） (2026-05-24T02:58:21Z) - Evaluating Prompt Injection Defenses for Educational LLM Tutors: Security-Usability-Latency Trade-offs [51.56484100374058]
ガードレールの設計には、敵の堅牢性、良質なタスクのユーザビリティ、応答レイテンシの明確なトレードオフが伴う。
決定論的パターンフィルタ,構造検証,コンテキストサンドボックス,セッションレベルの動作チェックを組み合わせた,ドメイン固有のマルチレイヤセーフガードパイプラインの評価を行った。
NeMoは16.22パーセントのFPRと1.5パーセントのレイテンシで0パーセントのバイパスに達し、Prompt Guardは38.48パーセントのFPRと3.60パーセントのバイパスを実現している。
論文 参考訳（メタデータ） (2026-03-29T18:52:01Z) - TraceGuard: Process-Guided Firewall against Reasoning Backdoors in Large Language Models [19.148124494194317]
我々は,小規模モデルを堅牢な推論ファイアウォールに変換するプロセス誘導型セキュリティフレームワークであるTraceGuardを提案する。
提案手法は,推理トレースを信頼できないペイロードとして扱い,詳細な防衛戦略を確立する。
グレーボックス設定における適応的敵に対する堅牢性を実証し、TraceGuardを実用的で低レイテンシなセキュリティプリミティブとして確立する。
論文 参考訳（メタデータ） (2026-03-02T22:19:13Z) - DRAFT: Task Decoupled Latent Reasoning for Agent Safety [59.46137757545185]
DRAFT(Task Decoupled Latent Reasoning for Agent Safety)を提案する。
エクストラクターは、完全な軌跡をコンパクトな連続的な潜伏ドラフトに蒸留し、リゾナーはドラフトと元の軌跡に共同で参加して安全性を予測する。
DRAFTの精度は63.27%(LoRA)から91.18%に向上した。
論文 参考訳（メタデータ） (2026-02-11T07:45:14Z) - NExT-Guard: Training-Free Streaming Safeguard without Token-Level Labels [66.70287556682105]
NExT-Guardは、スパースオートエンコーダ(SAE)の解釈可能な潜在機能を監視することで、ストリーミングセーフガードを実現するトレーニング不要フレームワークである。
利用可能なLLMから事前訓練されたSAEを使用しており、トークンレベルの監視なしに柔軟な低コストなデプロイを可能にする。
実験の結果, NExT-Guardは, 教師付きトレーニングに基づいて, ポストホックとストリーミングの保護の両方に優れていた。
論文 参考訳（メタデータ） (2026-02-10T08:54:10Z) - ProGuard: Towards Proactive Multimodal Safeguard [48.89789547707647]
ProGuardは視覚言語プロアクティブガードであり、アウト・オブ・ディストリビューション(OOD)の安全性リスクを特定し記述する。
まず,2次安全ラベルとリスクカテゴリの両方を付加した87Kサンプルのモダリティバランスデータセットを構築した。
次に、強化学習を通して視覚言語ベースモデルを純粋に訓練し、効率的かつ簡潔な推論を実現する。
論文 参考訳（メタデータ） (2025-12-29T16:13:23Z) - ConfGuard: A Simple and Effective Backdoor Detection for Large Language Models [23.236088751922807]
バックドア攻撃は大規模言語モデル(LLM)に重大な脅威をもたらす
既存の防衛手法の多くは、主に分類タスクのために設計されており、自己回帰性やLLMの膨大な出力空間に対して効果がない。
本稿では,トークンの信頼度をスライディングウィンドウに監視してシーケンスロックを識別する,軽量かつ効果的な検出手法ConfGuardを提案する。
論文 参考訳（メタデータ） (2025-08-02T13:38:04Z) - GuardReasoner: Towards Reasoning-based LLM Safeguards [100.85955697211323]
本稿では, LLM の新たなセーフガードである GuardReasoner を提案する。
GuardReasonerTrainデータセットは、117Kのサンプルと460Kの詳細な推論ステップで構成されています。
次に、ガードモデルの推論能力を解き放つための推論SFTを導入する。
このように、GuardReasonerはより良いパフォーマンス、説明可能性、一般化可能性を達成する。
論文 参考訳（メタデータ） (2025-01-30T17:06:06Z) - CoreGuard: Safeguarding Foundational Capabilities of LLMs Against Model Stealing in Edge Deployment [66.72332011814183]
CoreGuardは、エッジデバイスにデプロイされるプロプライエタリな大規模言語モデル(LLM)の計算と通信効率の保護方法である。
CoreGuardは効率的な保護プロトコルを使用して、計算オーバーヘッドを削減し、伝搬プロトコルによる通信オーバーヘッドを最小限にする。
論文 参考訳（メタデータ） (2024-10-16T08:14:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。