論文の概要: HaloGuard 2.0: An Open-Weights Constitutional Output Guard for Multilingual Response Safety

• arxiv url: http://arxiv.org/abs/2611.02134v1
• Date: Sun, 01 Nov 2026 19:09:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-04 23:36:30.530082
• Title: HaloGuard 2.0: An Open-Weights Constitutional Output Guard for Multilingual Response Safety
• Title（参考訳）: HaloGuard 2.0: 多言語対応安全のためのオープンウェイトな構成出力ガード
• Abstract要約: HaloGuard 2.0はオープンウェイトなストリーミング出力ガードであり、単一のフォワードパス内のすべてのレスポンストークンに安全で安全でない確率を割り当てる。 多言語版であるHaloGuard 2.0-Poly-0.8Bは、PolyGuardMixで訓練され、17言語にわたるPolyGuardPromptのレスポンスラベルで83.1 F1に達した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: An input guard decides whether a request reaches the model, but never sees what the model says. Harm that emerges during generation, because a jailbreak passed the input layer or a benign request drifted into operational detail, is visible only on the output side and only as tokens arrive. We present HaloGuard 2.0, an open-weight streaming output guard that assigns a safe/unsafe probability to every response token in a single forward pass, so a deployment can stop the stream once harm is confirmed. The guard reuses the constitution of HaloGuard 1.0, our input guard, to organise a 478,532-response training corpus, and supervises each token from the point where the response becomes harmful. We find that a guard trained on conventionally shaped data learns a shortcut specific to streaming: it judges the prompt instead of the response, and handles only 13.9% of matched safe/unsafe response pairs correctly. We correct this with a second phase on 106,043 counterfactual responses built around the base guard's own failure modes, and release the equal-weight average of the base and corrective models. On six English response-safety benchmarks, HaloGuard 2.0-0.8B reaches a macro F1 of 83.6 (83.3 on held-out halves of the decision-rule search), up from 72.8, with 38% fewer false positives. It matches the strongest full-response guards with 5-10x fewer parameters and is 2.6 points above the strongest streaming guard, Qwen3Guard-Stream-4B. A multilingual variant, HaloGuard 2.0-Poly-0.8B, trained on PolyGuardMix, reaches 83.1 F1 on the response labels of PolyGuardPrompts across 17 languages, 5.0 points above the strongest baseline. On one H100 the guard costs 0.37 ms per token per stream when moderating 64 concurrent responses. Both guards are hardened continuously through the weekly red-teaming protocol of HaloGuard 1.0, extended here to the output layer.
• Abstract（参考訳）: 入力ガードは、要求がモデルに到達するかどうかを判断するが、モデルが何を言っているかを見ることはない。 ジェイルブレイクが入力層を通過したり、操作詳細にドリフトされた良性要求が出力側でのみ表示され、トークンが到着した時にのみ表示されるため、世代間に出現するハーム。 HaloGuard 2.0はオープンウェイトなストリーミング出力ガードで、1つのフォワードパスですべての応答トークンにセーフ/アンセーフな確率を割り当てます。 ガードは、我々の入力ガードであるHaloGuard 1.0の構成を再利用し、478,532応答トレーニングコーパスを編成し、応答が有害になる時点から各トークンを監督する。 従来型のデータに基づいてトレーニングされた警備員は、ストリーミング特有のショートカットを学習し、応答の代わりにプロンプトを判断し、マッチした安全/安全でない応答ペアの13.9%しか正しく処理しない。 我々は、ベースガード自身の障害モードを中心に構築された106,043個の反ファクト応答の第2フェーズでこれを補正し、ベースガードと修正モデルの等重量平均を解放する。 イギリスの6つの応答安全ベンチマークにおいて、HaloGuard 2.0-0.8B は 83.6 (83.3) のマクロ F1 に達し、72.8 から 38% の偽陽性となった。 最強のフルレスポンスガードと5～10倍のパラメータで一致し、最強のストリーミングガードであるQwen3Guard-Stream-4Bより2.6ポイント高い。 多言語版であるHaloGuard 2.0-Poly-0.8BはPolyGuardMixでトレーニングされ、17言語にわたるPolyGuardPromptのレスポンスラベルで83.1 F1に達した。 1つのH100では、ガードは64の同時応答をモデレートするときに1ストリーム当たり0.37msである。 両方のガードは、毎週行われるHaloGuard 1.0のレッドチームプロトコルを通じて継続的に強化され、ここで出力層に拡張されている。

関連論文リスト

• UniGuard: Multi-View Guardrail Learning for Cross-Interface Safety Generalization [57.669735376863315]
  我々は,同じ安全事例の複数の意味的に整合したビューから,インターフェース不変の安全性表現を学習するトレーニングフレームワークUniGuardを提案する。 また、1000の公安ケースをプロンプト、応答、マルチターン会話、エージェントトレース、マルチエージェントトレースビューに変換することで、UniGuard-FTデータセットを構築する。 UniGuard-0.6Bは、未確認のインターフェースベンチマーク全体で、事前訓練されたガードレールを平均45.12F1ポイント改善し、キャリブレーション誤差を35.41ポイント削減した。
  論文  参考訳（メタデータ） (2026-10-22T05:14:30Z)
• Fooling LLM Safety Guards into Judging the Wrong Text [0.0]
  GuardRebindベンチマークでは、5人の警備員それぞれに攻撃ファミリーがあり、ガード毎に選択され、フラグ付きのアイテムの少なくとも93%をクリアします。 スコア誘導検索は、通常、要求の前に偽造された構造を配置することで、50項目中47項目でこの訓練されたガードを破る。
  論文  参考訳（メタデータ） (2026-10-20T22:00:29Z)
• Recover, Decode, Reguard: Guard-Agnostic Defense Amplification againstEncoded VLM Jailbreaks [7.287314790466206]
  我々は視覚言語モデルのためのガード非依存のリカバリ・アンド・デコード増幅器を構築した。 我々はこれを11回の攻撃のアンサンブルに対して評価し、成功しても動作が失敗すると評価した。 これは我々の中心的な発見を露呈し、私たちが評価した非観念的回復防衛のための実証的な安全ユーティリティー天井である。
  論文  参考訳（メタデータ） (2026-07-29T07:53:35Z)
• When Are Reasoning-Based Guardrails Not Efficient? ResponseGuard: A Fast Vision-Language Guard for Real-Time Moderation [9.68749971398651]
  視覚言語AIアシスタントは、生成されたトークンのストリームとして回答を返す。 その答えを監視できる安全ガードは、ストリームに追随し、ユーザーがそれを読む前に有害な応答を止める必要がある。 最近の視覚言語ガードレールは、判決を出す前に一連の思考を生成する。
  論文  参考訳（メタデータ） (2026-07-23T15:02:24Z)
• HaloGuard 1.0: An Open Weights Constitutional Classifier for Multilingual AI Safety [0.0]
  HaloGuard 1.0は、入力安全性のためのコンスティチューション分類のパラダイムのオープンウェイト実装である。 現在のオープンガードモデルの約10分の1のモデルサイズで、英語と多言語のプロンプトセーフティベンチマークで最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2026-07-02T12:21:16Z)
• SentGuard: Sentence-Level Streaming Guardrails for Large Language Models [40.00517152303363]
  本稿では,文レベルのストリーミングガードレールであるSentGuardを提案する。 構造化された文毎アノテーションによるベンチマークは、推論と応答セグメントの両方にわたる安全性リスクの進化をキャプチャする。 実験の結果、SentGuardは既存のベースラインを上回り、2文以内に90.5%の安全でないケースを検出し、低ストリーミングの偽陽性率7.41%を維持した。
  論文  参考訳（メタデータ） (2026-06-01T10:30:08Z)
• WildGuard: Open One-Stop Moderation Tools for Safety Risks, Jailbreaks, and Refusals of LLMs [54.10865585773691]
  LLM安全性のためのオープンで軽量なモデレーションツールであるWildGuardを紹介します。 WildGuardは、ユーザプロンプトにおける悪意のある意図の特定、モデルレスポンスの安全性リスクの検出、モデル拒絶率の決定という3つの目標を達成する。
  論文  参考訳（メタデータ） (2024-06-26T16:58:20Z)
• TextGuard: Provable Defense against Backdoor Attacks on Text Classification [83.94014844485291]
  テキスト分類に対するバックドア攻撃に対する最初の証明可能な防御であるTextGuardを提案する。 特にTextGuardは、(バックドアされた)トレーニングデータをサブトレーニングセットに分割し、各トレーニング文をサブ文に分割する。 本評価では,3つのベンチマークテキスト分類タスクにおけるTextGuardの有効性を示す。
  論文  参考訳（メタデータ） (2023-11-19T04:42:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。