論文の概要: UniGuard: Multi-View Guardrail Learning for Cross-Interface Safety Generalization
- arxiv url: http://arxiv.org/abs/2610.30742v1
- Date: Thu, 22 Oct 2026 05:14:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:08:44.218412
- Title: UniGuard: Multi-View Guardrail Learning for Cross-Interface Safety Generalization
- Title（参考訳）: UniGuard: 対面安全性の一般化のための多視点ガードレール学習
- Abstract要約: 我々は,同じ安全事例の複数の意味的に整合したビューから,インターフェース不変の安全性表現を学習するトレーニングフレームワークUniGuardを提案する。
また、1000の公安ケースをプロンプト、応答、マルチターン会話、エージェントトレース、マルチエージェントトレースビューに変換することで、UniGuard-FTデータセットを構築する。
UniGuard-0.6Bは、未確認のインターフェースベンチマーク全体で、事前訓練されたガードレールを平均45.12F1ポイント改善し、キャリブレーション誤差を35.41ポイント削減した。
- 参考スコア（独自算出の注目度）: 57.669735376863315
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Guardrail models are increasingly used as safety layers for LLMs and agentic systems, but most are trained on fixed prompt or response interfaces and become unreliable when the same safety case appears as a conversation, agent trajectory, multi-agent trace, or policy-conditioned input. We propose UniGuard, a training framework that learns interface-invariant safety representations from multiple semantically aligned views of the same safety case. We also construct the UniGuard-FT dataset by transforming 1,000 public safety cases into prompt, response, multi-turn conversation, agent-trace, and multi-agent-trace views, and train UniGuard-0.6B with classification, supervised contrastive learning, and asymmetric confidence calibration losses. Across unseen-interface benchmarks ATBench, PolicyGuardBench, and DynaBench, UniGuard-0.6B improves over its pretrained guardrail by 45.12 F1 points on average and reduces expected calibration error by 35.41 points, while remaining competitive with much larger guardrails such as Claude-Sonnet-4.5 and GPT-5.2 - despite being a 0.6B model and trained only with synthetic data.
- Abstract（参考訳）: ガードレールモデルは、LSMやエージェントシステムの安全層としてますます使われているが、多くの場合、固定されたプロンプトや応答インタフェースで訓練されており、会話、エージェントの軌跡、マルチエージェントのトレース、ポリシー条件の入力として同じ安全ケースが現れると信頼性が低下する。
我々は,同じ安全事例の複数の意味的に整合したビューから,インターフェース不変の安全性表現を学習するトレーニングフレームワークUniGuardを提案する。
また、1000の公衆安全事例をプロンプト、応答、多ターン会話、エージェントトレース、マルチエージェントトレースビューに変換することでUniGuard-FTデータセットを構築し、UniGuard-0.6Bを分類、教師付きコントラスト学習、非対称信頼度校正損失で訓練する。
ATBench、PhysageGuardBench、DynaBenchの未確認のベンチマークで、UniGuard-0.6Bは事前訓練されたガードレールを平均45.12F1ポイント改善し、キャリブレーション誤差を35.41ポイント削減した。
関連論文リスト
- SafeAtlas-VL: Beyond Binary Multimodal Safety with Large-Scale Data and Guard Models [73.04773649437375]
マルチモーダル・セーフティ・モデレーションは、視覚的コンテンツ、ユーザ意図、およびアシスタント行動から生じるリスクを区別する必要がある。
SafeAtlas-VLは、1.5Mのトレーニングインスタンスのデータセットで、画像、要求レベル、応答レベルを5段階の順序で判定する。
SafeAtlas-Benchは5段階の予測と継続的なリスクスコアを評価するための5000のインスタンスである。
論文 参考訳（メタデータ） (2026-08-29T07:08:01Z) - StepGuard: Learning Step-Level Guardrails with Scalable Supervision and Safety-Utility Balancing [80.39644823192113]
StepGuardは、完了したエージェントの軌跡を監査し、実行前にツールアクションをチェックするステップレベルのガードモデルである。
StepGuardは、GPT-5.4に匹敵するパフォーマンスで、オープンウェイトガードモデルの中で最高の平均精度を達成した。
AgentDojoとAgentDynのエージェントを保護するために使用される場合、StepGuardは平均攻撃成功率を77.3%削減する。
論文 参考訳（メタデータ） (2026-08-25T16:17:27Z) - kNNGuard: Turning LLM Hidden Activations into a Training-Free Configurable Guardrail [1.4914567984930789]
kNNGuardは、市販のLLMの活性化空間を利用する、トレーニングフリーのガードレールである。
最高級のガードレールより2.7倍速く、グラデーション更新や微調整無しで微調整された安全分類器より10倍速い。
論文 参考訳（メタデータ） (2026-07-02T12:07:00Z) - BraveGuard: From Open-World Threats to Safer Computer-Use Agents [68.38397514360227]
BraveGuardは、オープンワールドの脅威信号とリアルエージェントの軌道からモデルを訓練するための自己進化型防衛フレームワークである。
我々は、Qwen3-GuardやLlama-Guardなど複数のガードバックボーンをトレーニングしてBraveGuardをインスタンス化し、トラジェクトリレベルのエージェントセーフティベンチマークの結果のガードを評価する。
論文 参考訳（メタデータ） (2026-05-31T11:16:18Z) - TraceGuard: Structured Multi-Dimensional Monitoring as a Collusion-Resistant Control Protocol [1.0195618602298684]
TraceGuardは5次元にわたるエージェントアクションを評価する構造化多次元監視プロトコルである。
オープンソースのControlArenaフレームワーク用の新しいモニタタイプとして実装されている。
論文 参考訳（メタデータ） (2026-04-05T05:05:59Z) - Robust Multimodal Safety via Conditional Decoding [52.92816441364308]
マルチモーダル大規模言語モデル(MLLM)は、有害なクエリが相互モーダル相互作用を悪用した場合、しばしば安全性の低下を経験する。
本稿では,MLLMの内部表現を利用して応答生成前の二項安全トークンを予測する,シンプルな条件付きデコード戦略であるCASAを提案する。
論文 参考訳（メタデータ） (2026-03-31T23:19:50Z) - SGuard-v1: Safety Guardrail for Large Language Models [9.229602223310485]
SGuard-v1は、大規模言語モデル(LLM)のための軽量安全ガードレールである。
それは、人間とAIの会話環境における有害なコンテンツと画面の敵対的プロンプトを検出するための2つの特殊なモデルから構成される。
論文 参考訳（メタデータ） (2025-11-16T08:15:54Z) - AdaptiveGuard: Towards Adaptive Runtime Safety for LLM-Powered Software [11.606665113249298]
ガードレールは、LLM(Large Language Models)ベースのソフトウェアを安全にデプロイするために重要である。
本稿では,新しい脱獄攻撃をアウト・オブ・ディストリビューション(OOD)入力として検出する適応ガードレールであるAdaptiveGuardを提案する。
我々は、AdaptiveGuardがOOD検出精度96%を達成し、2回の更新ステップで新たな攻撃に適応し、85%以上のF1スコアを分散後のデータに保持していることを示す。
論文 参考訳（メタデータ） (2025-09-21T01:22:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。