論文の概要: When Are Reasoning-Based Guardrails Not Efficient? ResponseGuard: A Fast Vision-Language Guard for Real-Time Moderation

• arxiv url: http://arxiv.org/abs/2607.21401v1
• Date: Thu, 23 Jul 2026 15:02:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-24 18:26:25.448791
• Title: When Are Reasoning-Based Guardrails Not Efficient? ResponseGuard: A Fast Vision-Language Guard for Real-Time Moderation
• Title（参考訳）: Reasoning-based Guardrails are notfficient? ResponseGuard: a Fast Vision-Language Guard for Real-Time Moderation
• Abstract要約: 視覚言語AIアシスタントは、生成されたトークンのストリームとして回答を返す。 その答えを監視できる安全ガードは、ストリームに追随し、ユーザーがそれを読む前に有害な応答を止める必要がある。 最近の視覚言語ガードレールは、判決を出す前に一連の思考を生成する。
• 参考スコア（独自算出の注目度）: 9.68749971398651
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A vision-language AI assistant returns its answer as a stream of generated tokens. Therefore, a safety guard that watches that answer has to keep up with the stream and stop a harmful reply before a user reads it. Recent vision-language guardrails instead generate a chain of thought before they issue a verdict. They believe that step-by-step reasoning yields a safer guard. This design makes the guard heavy and slow, since the model must decode many tokens for harmfulness detection. We pose the question of whether a vision-language guard really needs to reason in order to screen a response. We answer with a guard that has no chain. ResponseGuard reads a harmful verdict from a single pooled representation of the request, the response, and the image in one forward pass. Across a standard multimodal guardrail benchmark, our 2B ResponseGuard outperforms a recent 3B reasoning-based vision-language guard on response harmfulness detection, without any reasoning and at about 150 times lower time cost. On request harmfulness the reasoning guard retains an overall lead, and the remaining gap on both tracks sits on the image-only cells. We observe that the gap may stem from the frozen vision encoders that both designs use rather than from the missing chain. We have also found the reasoning guard directs almost none of its verdict attention to the image. Based on a single-pass detection, ResponseGuard can screen an answer sentence by sentence as it streams and stop a harmful answer before it finishes. For guarding the response of a vision-language model, a calibrated single-pass label may provide a sufficient safety signal. We fully release all source code, trained models, and datasets at https://github.com/ndb796/ResponseGuard.
• Abstract（参考訳）: 視覚言語AIアシスタントは、生成されたトークンのストリームとして回答を返す。 そのため、その回答を監視できる安全ガードは、ストリームに追随し、ユーザがそれを読む前に有害な応答を止める必要がある。 最近の視覚言語ガードレールは、判決を出す前に一連の思考を生成する。 彼らは、ステップバイステップの推論はより安全なガードをもたらすと信じている。 この設計によりガードは重く遅くなり、モデルが有害な検出のために多くのトークンをデコードしなければならない。 我々は、視覚言語ガードが応答をスクリーニングするために本当に理にかなった必要があるかどうかという疑問を提起する。 我々は鎖のない警備員で答える。 ResponseGuardは、リクエスト、レスポンス、イメージを1つのフォワードパスでプールした1つの表現から有害な判定を読み取る。 標準のマルチモーダルガードレールベンチマークで、我々の2B ResponseGuardは、最近の3B推論に基づく視覚言語ガードよりも、応答の有害性の検出が優れている。 要求の有害性について、推論ガードは全体のリードを保持し、両方のトラックの残りのギャップは画像のみのセルに置かれる。 このギャップは、両方の設計で使われている凍結した視覚エンコーダが欠落したチェーンからではなく、それに由来する可能性があることを観察する。 我々はまた、理由づけガードが画像に対する判断のほとんどを指示していることも発見した。 シングルパス検出に基づいて、ResponseGuardは、応答文のストリームが終了する前に、文によって表示し、有害な応答を止めることができる。 視覚言語モデルの応答を保護するため、校正されたシングルパスラベルは十分な安全信号を提供することができる。 すべてのソースコード、トレーニングされたモデル、データセットをhttps://github.com/ndb796/ResponseGuardで完全にリリースしています。

関連論文リスト

• Whose Refusal Is It? The Unmeasured Contribution of Black-Box Multimodal Guardrails [24.794304039477495]
  ガードレールの実際の安全のシェアは、そのすべてから本質的には、どれにも及ばない。 ガードブロックがモデルの応答を置き換えるため、スプリットは余分なコストでリカバリ可能である。
  論文  参考訳（メタデータ） (2026-08-09T11:19:30Z)
• Recover, Decode, Reguard: Guard-Agnostic Defense Amplification againstEncoded VLM Jailbreaks [7.287314790466206]
  我々は視覚言語モデルのためのガード非依存のリカバリ・アンド・デコード増幅器を構築した。 我々はこれを11回の攻撃のアンサンブルに対して評価し、成功しても動作が失敗すると評価した。 これは我々の中心的な発見を露呈し、私たちが評価した非観念的回復防衛のための実証的な安全ユーティリティー天井である。
  論文  参考訳（メタデータ） (2026-07-29T07:53:35Z)
• Do Safety Guardrails Need to Reason? LeanGuard: A Fast and Light Approach for Robust Moderation [9.68749971398651]
  我々は、軽量な双方向エンコーダと推論ガードを同じコーパスで訓練する。 連鎖がモデレーション精度を向上しないことを示す。 395Mラベルのみのエンコーダは、公開ベンチマークで平均82.90$pm$ 0.26のF1に達する。
  論文  参考訳（メタデータ） (2026-06-25T07:15:33Z)
• SentGuard: Sentence-Level Streaming Guardrails for Large Language Models [40.00517152303363]
  本稿では,文レベルのストリーミングガードレールであるSentGuardを提案する。 構造化された文毎アノテーションによるベンチマークは、推論と応答セグメントの両方にわたる安全性リスクの進化をキャプチャする。 実験の結果、SentGuardは既存のベースラインを上回り、2文以内に90.5%の安全でないケースを検出し、低ストリーミングの偽陽性率7.41%を維持した。
  論文  参考訳（メタデータ） (2026-06-01T10:30:08Z)
• Exploring and Developing a Pre-Model Safeguard with Draft Models [21.47104074821029]
  大規模言語モデル(LLM)のアライメントは、Jailbreak攻撃に対して脆弱である。 プレモデルガードは、ターゲットモデルを呼び出す前にプロンプトの安全性を監査する。 ポストモデルガードは、ユーザープロンプトとターゲットモデルの応答を監査することでこの問題に対処する。
  論文  参考訳（メタデータ） (2026-05-19T04:01:36Z)
• One Turn Too Late: Response-Aware Defense Against Hidden Malicious Intent in Multi-Turn Dialogue [55.98008208209856]
  マルチターン対話における隠れた悪意のある意図は、大規模言語モデル(LLM)に対する脅威を増大させる 近年の研究では、安全アライメントや外部ガードレールの進歩にもかかわらず、高度なガードレールを備えた近代的な商用モデルでさえも、このような攻撃に対して脆弱であることが示されている。 そこで本研究では,この課題に対処するため,最も早いタイミングで候補応答を届けることによって,蓄積された相互作用が有害な作用を可能にするのに十分であることを示す。
  論文  参考訳（メタデータ） (2026-05-07T03:35:31Z)
• Guardian-as-an-Advisor: Advancing Next-Generation Guardian Models for Trustworthy LLMs [70.81495077853673]
  ハードゲートのセーフティチェッカーは、しばしばベンダーのモデル仕様に過度に反抗し、不平を言う。 この研究は、ガーディアン・アズ・ア・アドバイザ(GaaA)というソフトゲーティングパイプラインを導入し、保護者がバイナリリスクラベルを予測し、このアドバイスを元のクエリに再推論する。 全体として、GaaAはモデル仕様に従うようモデルに指示し、過度な拒絶を減らしながら安全性を維持している。
  論文  参考訳（メタデータ） (2026-04-08T23:47:29Z)
• Bag of Tricks for Subverting Reasoning-based Safety Guardrails [62.139297207938036]
  推論に基づくガードレールを覆い隠すジェイルブレイク手法の袋を提示する。 攻撃対象は白、グレー、ブラックボックスの設定で、無駄なテンプレート操作から完全に自動化された最適化までさまざまです。
  論文  参考訳（メタデータ） (2025-10-13T16:16:44Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)
• Steering Dialogue Dynamics for Robustness against Multi-turn Jailbreaking Attacks [59.300698230887114]
  大規模言語モデル(LLM)は、有害な応答を誘発するために敵のプロンプトが設計されたジェイルブレイク攻撃に対して脆弱であることが示されている。 安全制御理論に基づく安全ステアリングフレームワークを提案し,マルチターン対話における不変安全性を保証する。
  論文  参考訳（メタデータ） (2025-02-28T21:10:03Z)
• GuardAgent: Safeguard LLM Agents by a Guard Agent via Knowledge-Enabled Reasoning [79.07152553060601]
  安全ガード要求を満たすか否かを動的に確認し,目標エージェントを保護する最初のガードレールエージェントであるガードアジェントを提案する。 特にGuardAgentは、まず安全ガードの要求を分析してタスクプランを生成し、それからその計画をガードレールコードにマップして実行します。 GuardAgentは、それぞれ98%と83%のガードレール精度を持つ2つのベンチマークにおいて、異なる種類のエージェントに対する違反行為を効果的に抑制することを示した。
  論文  参考訳（メタデータ） (2024-06-13T14:49:26Z)
• TextGuard: Provable Defense against Backdoor Attacks on Text Classification [83.94014844485291]
  テキスト分類に対するバックドア攻撃に対する最初の証明可能な防御であるTextGuardを提案する。 特にTextGuardは、(バックドアされた)トレーニングデータをサブトレーニングセットに分割し、各トレーニング文をサブ文に分割する。 本評価では,3つのベンチマークテキスト分類タスクにおけるTextGuardの有効性を示す。
  論文  参考訳（メタデータ） (2023-11-19T04:42:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。