論文の概要: ADTGuard: Adaptive Depth-Time Safeguard for Streaming Inference in Large Language Models

• arxiv url: http://arxiv.org/abs/2610.36574v1
• Date: Tue, 27 Oct 2026 03:30:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-28 21:04:31.475001
• Title: ADTGuard: Adaptive Depth-Time Safeguard for Streaming Inference in Large Language Models
• Title（参考訳）: ADTGuard: 大規模言語モデルにおけるストリーミング推論のための適応的な深さ時間保護
• Abstract要約: 大規模言語モデル(LLM)は、多様なユーザ要求に対する流動的な応答を生成することができるが、ストリーミングは、生成が完了する前に有害なコンテンツにユーザをさらけ出す可能性がある。 リリース前に各トークンをチェックし、トークンレベルのトレーニングターゲットを段階的に洗練し、レイヤ選択を現在のプレフィックスに適応するADTGuardを紹介します。 我々は、ADTGuardが、常に強力なストリーミング検出性能、整合性、あるいは最先端のセーフガードを超えることを実証する。
• 参考スコア（独自算出の注目度）: 17.056989857531615
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) can generate fluent responses to diverse user requests, yet streaming may expose users to harmful content before generation is complete. Existing guardrails face two limitations in this setting. First, post-hoc moderation at response or chunk boundaries delays intervention, risking harmful exposure when content is released before verification. Second, even with token-level detection, coarse response-level supervision does not specify when harmful content begins, while fixed-layer readouts may miss relevant safety signals at other depths. To address these limitations, we introduce ADTGuard, which checks each token before release, progressively refines token-level training targets, and adapts layer selection to the current prefix. ADTGuard models risk across depth and time through Depth-Time Safety Dynamics (DTSD), which integrates safety evidence across layers at each token and uses it to guide risk accumulation over successive tokens. To adapt the choice of observation layers to the current prefix, we propose the Causal Depth Router (CDR). With only response-level labels available, we further develop Risk-Onset Target Refinement (RTR) to progressively construct token-level training targets for both components. Through extensive experiments across multiple safety benchmarks, we demonstrate that ADTGuard consistently achieves strong streaming detection performance, matching or surpassing state-of-the-art safeguards while requiring only 16M trainable parameters and maintaining competitive per-token latency.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、多様なユーザ要求に対する流動的な応答を生成することができるが、ストリーミングは、生成が完了する前に有害なコンテンツにユーザをさらけ出す可能性がある。 既存のガードレールはこの設定で2つの制限に直面している。 第一に、応答またはチャンク境界におけるポストホックのモデレーションは介入を遅らせ、検証前にコンテンツがリリースされると有害な露出を危険にさらす。 第二に、トークンレベルの検出であっても、粗い応答レベルの監視は有害なコンテンツがいつ始まるかを特定しない。 これらの制限に対処するため、ADTGuardを導入し、リリース前に各トークンをチェックし、トークンレベルのトレーニングターゲットを段階的に洗練し、レイヤ選択を現在のプレフィックスに適応させる。 ADTGuardは、Depth-Time Safety Dynamics (DTSD)を通じて、深さと時間にわたってリスクをモデル化する。 観測層の選択を現在の接頭辞に適応させるために, 因果深さルータ(CDR)を提案する。 応答レベルラベルのみを使用することで、リスクオンセットターゲットリファインメント(RTR)をさらに発展させ、両方のコンポーネントに対してトークンレベルのトレーニングターゲットを段階的に構築する。 複数の安全ベンチマークにわたる広範な実験を通じて、ADTGuardは、強いストリーミング検出性能、最先端のセーフガードの整合性、あるいは超越性を一貫して達成し、トレーニング可能なパラメータは16Mしか必要とせず、競合する1つのレイテンシを維持することを実証した。

関連論文リスト

• Safeguarding LLMs via Model-Agnostic Latent Safety Signals from Dark Knowledge [58.89692997625976]
  既存のデコードステージの防御には2つの制限がある。 彼らは、安全性と過剰な拒絶の間のトレードオフを導入し、安全を強化することで、良質なクエリに対するモデルの利便性を低下させる。 ダークナレッジから有害クエリと良性クエリを対比して抽出した潜時安全信号を利用するLADEを導入する。
  論文  参考訳（メタデータ） (2026-10-05T23:59:28Z)
• SentGuard: Sentence-Level Streaming Guardrails for Large Language Models [40.00517152303363]
  本稿では,文レベルのストリーミングガードレールであるSentGuardを提案する。 構造化された文毎アノテーションによるベンチマークは、推論と応答セグメントの両方にわたる安全性リスクの進化をキャプチャする。 実験の結果、SentGuardは既存のベースラインを上回り、2文以内に90.5%の安全でないケースを検出し、低ストリーミングの偽陽性率7.41%を維持した。
  論文  参考訳（メタデータ） (2026-06-01T10:30:08Z)
• Prompt Overflow: What the Guardrail Inspects Is Not What the Model Infers [22.77036856603702]
  Guardrailモデルは、大きな言語モデル(LLM)に到達する前に、ユーザ入力をスクリーニングするために広くデプロイされます。 本稿では,ガードレールモデルの限られた検査窓と下流LLMのかなり大きなコンテキスト推論窓とのミスマッチを利用した,プロンプトオーバーフロー攻撃を提案する。 ショートコンテクスト設定で確実に検出されたプロンプトは、オーバーロング入力に逆向きに操作するとガードレールモデルを回避することができることを示す。
  論文  参考訳（メタデータ） (2026-05-22T03:27:18Z)
• NExT-Guard: Training-Free Streaming Safeguard without Token-Level Labels [66.70287556682105]
  NExT-Guardは、スパースオートエンコーダ(SAE)の解釈可能な潜在機能を監視することで、ストリーミングセーフガードを実現するトレーニング不要フレームワークである。 利用可能なLLMから事前訓練されたSAEを使用しており、トークンレベルの監視なしに柔軟な低コストなデプロイを可能にする。 実験の結果, NExT-Guardは, 教師付きトレーニングに基づいて, ポストホックとストリーミングの保護の両方に優れていた。
  論文  参考訳（メタデータ） (2026-02-10T08:54:10Z)
• SafeRedir: Prompt Embedding Redirection for Robust Unlearning in Image Generation Models [67.84174763413178]
  我々はSafeRedirを紹介した。SafeRedirは、迅速な埋め込みリダイレクトによる堅牢なアンラーニングのための軽量な推論時フレームワークである。 SafeRedirは,効果的な非学習能力,意味的・知覚的保存能力,堅牢な画像品質,対人攻撃に対する耐性の向上を実現している。
  論文  参考訳（メタデータ） (2026-01-13T15:01:38Z)
• Building a Foundational Guardrail for General Agentic Systems via Synthetic Data [76.18834864749606]
  LLMエージェントは、計画段階で介入するマルチステップタスクを計画できる。 既存のガードレールは主にポスト・エグゼクティブ(英語版)を運用しており、スケーリングが困難であり、計画レベルで制御可能な監督を行う余地がほとんどない。 我々は、良性軌道を合成し、カテゴリーラベル付きリスクを困難に注入し、自動報酬モデルを介して出力をフィルタリングする制御可能なエンジンであるAuraGenを紹介する。
  論文  参考訳（メタデータ） (2025-10-10T18:42:32Z)
• Kelp: A Streaming Safeguard for Large Models via Latent Dynamics-Guided Risk Detection [29.51645496888383]
  Kelpは、LM生成パイプライン内でのストリーミングリスク検出を可能にする、新しいプラグインフレームワークである。 Kelpは、最先端のポストホックガードレールと以前のプラグインプローブを一貫して上回っている。
  論文  参考訳（メタデータ） (2025-10-09T14:42:50Z)
• Robust Anti-Backdoor Instruction Tuning in LVLMs [53.766434746801366]
  大規模視覚言語モデル(LVLM)のための軽量で認証に依存しない防御フレームワークについて紹介する。 私たちのフレームワークは、命令チューニングの下で、アダプタモジュールとテキスト埋め込み層のみを微調整します。 Flickr30kとMSCOCOに対する7つの攻撃に対する実験は、我々の攻撃の成功率をほぼゼロに低下させることを示した。
  論文  参考訳（メタデータ） (2025-06-04T01:23:35Z)
• One Trigger Token Is Enough: A Defense Strategy for Balancing Safety and Usability in Large Language Models [20.42976162135529]
  大規模言語モデル(LLM)は、仮想アシスタント、自動コード生成、科学研究など、さまざまな領域で広く使われている。 我々は,与えられた安全対応LLMの安全トリガトークンを識別し,明示的に復号する,シンプルで効果的な防衛アルゴリズムであるtextttD-STT を提案する。
  論文  参考訳（メタデータ） (2025-05-12T01:26:50Z)
• Towards Copyright Protection for Knowledge Bases of Retrieval-augmented Language Models via Reasoning [58.57194301645823]
  大規模言語モデル(LLM)は、現実のパーソナライズされたアプリケーションにますます統合されている。 RAGで使用される知識基盤の貴重かつしばしばプロプライエタリな性質は、敵による不正使用のリスクをもたらす。 これらの知識基盤を保護するための透かし技術として一般化できる既存の方法は、一般的に毒やバックドア攻撃を含む。 我々は、無害な」知識基盤の著作権保護の名称を提案する。
  論文  参考訳（メタデータ） (2025-02-10T09:15:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。