論文の概要: CorrectGuard: Eyes-Off Correctness Estimation for Black-Box Security Guardrails
- arxiv url: http://arxiv.org/abs/2610.03470v1
- Date: Fri, 02 Oct 2026 15:42:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 00:14:30.457453
- Title: CorrectGuard: Eyes-Off Correctness Estimation for Black-Box Security Guardrails
- Title（参考訳）: CorrectGuard: Black-Boxセキュリティガードレールの視線正当性推定
- Abstract要約: CorrectGuardは、人間の入力とマシンアクセス不能な入力の両方に対して、視線から正当性を推定するフレームワークである。
我々は,文脈内学習,埋め込み,微調整に基づく正当性モデルの評価を行った。
外部の正当性モデルは,ガードレールへの特権的アクセスを伴わずに,系統的な障害を露呈し,ガードレール決定の棄権を支援することができることを示す。
- 参考スコア（独自算出の注目度）: 1.0514231683620514
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: AI services increasingly rely on black-box security guardrails, yet privacy-preserving model auditing regimes often cannot measure how well these systems perform in both a human eyes-off production setting, which disallows human inspection of user input, and a machine eyes-off setting, which disallows model inspection of such input. We introduce CorrectGuard, an eyes-off correctness estimation framework for both settings, which involves an independent model-based evaluator predicting whether guardrail decisions on human- and machine-inaccessible inputs are correct using only labeled eyes-on data and without access to the guardrail's internals. We evaluate in-context learning, embedding, and finetuning-based correctness models under leave-one-dataset-out evaluation across 13 safety and security datasets spanning harmful content, jailbreaks, prompt injection, and extraction, and across open-weight guardrails treated uniformly as black boxes. Across both human and machine eyes-off settings (the latter implemented using privacy-preserving fingerprinting of inputs), in-context-learning-based correctness classifiers substantially improve error identification across guardrails, achieving up to a 25 percentage-point increase in macro accuracy, as do finetuning-based approaches which provide a nearly 15-point boost, although performance varies sharply across guardrails and held-out datasets. Correctness scores also support guardrail decision ranking and abstention: across 3 guardrails, the best correctness rankings reduce AURC from unranked baselines of 0.33-0.44 to 0.17-0.22, while the best operating points retain 37.5-52.0% of guardrail decisions at 15% observed risk. These results show that external correctness models can expose systematic failures and support guardrail decision abstention without privileged access to the guardrail.
- Abstract（参考訳）: AIサービスは、ブラックボックスのセキュリティガードレールにますます依存しているが、プライバシ保護モデル監査体制は、ユーザー入力の人間の検査を許可する人間の目と、そのような入力のモデル検査を許可するマシンの目の両方で、これらのシステムがどれだけうまく機能するかを測定することができないことが多い。
このフレームワークは、人や機械でアクセスできない入力に対するガードレールの決定が、ラベル付きアイオンデータのみを使用して正しいか、ガードレールの内部にアクセスせずに正しいかを予測する独立モデルベース評価器を含む。
有害コンテンツ,ジェイルブレイク,迅速な注入,抽出,ブラックボックスとしての一様に処理されたオープンウェイトガードレールにまたがる13の安全およびセキュリティデータセットに対して,文脈学習,埋め込み,微調整に基づく正当性モデルの評価を行った。
人間と機械の両方のアイオフ設定(後者は入力のプライバシ保存指紋で実装されている)において、コンテキスト学習ベースの正当性分類器はガードレール間のエラー識別を大幅に改善し、最大25ポイントのマクロ精度向上を実現している。
3つのガードレールでAURCを0.33-0.44から0.17-0.22に減らし、最高の運用ポイントは37.5-52.0%のガードレール決定を15%のリスクで保持する。
これらの結果から,外的正当性モデルは,ガードレールへの特権的アクセスを伴わずに,系統的障害を露呈し,ガードレール決定の棄権を支援することができることがわかった。
関連論文リスト
- Cybersecurity Detection Classification with Reasoning-enabled Language Models [50.72675435043546]
セキュリティオペレーションセンター(SOC)の大きな問題は、警告疲労である。
以前の作業では、大きな言語モデル(LLM)がトリアージラベルを直接出力するように促すか、あるいは微調整するが、検出が真の脅威であるかどうかを判断するよう訓練することはない。
我々は、実際の人間ラベルのWindowsエンドポイント検出に対して、推論可能なトリアージ分類器(CoT)を訓練する。
論文 参考訳（メタデータ） (2026-07-30T16:22:13Z) - Behind the Refusal: Determining Guardrail Activation via Behavioral Monitoring [1.1391142149008149]
悪意のある命令を検出してブロックするガードレールシステムは、AIセキュリティの重要なコンポーネントである。
対象AIシステム内にガードレールが存在することを検知する最初のブラックボックスガードレール偵察手法を提案する。
論文 参考訳（メタデータ） (2026-07-02T12:59:28Z) - Guardian-as-an-Advisor: Advancing Next-Generation Guardian Models for Trustworthy LLMs [70.81495077853673]
ハードゲートのセーフティチェッカーは、しばしばベンダーのモデル仕様に過度に反抗し、不平を言う。
この研究は、ガーディアン・アズ・ア・アドバイザ(GaaA)というソフトゲーティングパイプラインを導入し、保護者がバイナリリスクラベルを予測し、このアドバイスを元のクエリに再推論する。
全体として、GaaAはモデル仕様に従うようモデルに指示し、過度な拒絶を減らしながら安全性を維持している。
論文 参考訳（メタデータ） (2026-04-08T23:47:29Z) - Evaluating Prompt Injection Defenses for Educational LLM Tutors: Security-Usability-Latency Trade-offs [51.56484100374058]
ガードレールの設計には、敵の堅牢性、良質なタスクのユーザビリティ、応答レイテンシの明確なトレードオフが伴う。
決定論的パターンフィルタ,構造検証,コンテキストサンドボックス,セッションレベルの動作チェックを組み合わせた,ドメイン固有のマルチレイヤセーフガードパイプラインの評価を行った。
NeMoは16.22パーセントのFPRと1.5パーセントのレイテンシで0パーセントのバイパスに達し、Prompt Guardは38.48パーセントのFPRと3.60パーセントのバイパスを実現している。
論文 参考訳（メタデータ） (2026-03-29T18:52:01Z) - Uncertainty-Driven Reliability: Selective Prediction and Trustworthy Deployment in Modern Machine Learning [1.2183405753834562]
この論文は、不確実性推定が機械学習(ML)システムの安全性と信頼性を高める方法について考察する。
まず、モデルのトレーニング軌道は、アーキテクチャの変更や損失を伴わずに活用できるような、豊富な不確実性信号を含むことを示す。
本稿では,タスク間で動作し,深層アンサンブルのコストを回避し,最先端の選択的予測性能を実現する軽量なポストホック禁忌手法を提案する。
論文 参考訳（メタデータ） (2025-08-11T02:33:53Z) - Confidential Guardian: Cryptographically Prohibiting the Abuse of Model Abstention [65.47632669243657]
不正直な機関は、不確実性の観点からサービスを差別または不正に否定する機構を利用することができる。
我々は、ミラージュと呼ばれる不確実性誘導攻撃を導入することで、この脅威の実践性を実証する。
本研究では,参照データセット上のキャリブレーションメトリクスを分析し,人工的に抑制された信頼度を検出するフレームワークであるConfidential Guardianを提案する。
論文 参考訳（メタデータ） (2025-05-29T19:47:50Z) - Lie Detector: Unified Backdoor Detection via Cross-Examination Framework [68.45399098884364]
半正直な設定で一貫したバックドア検出フレームワークを提案する。
本手法は,SoTAベースラインよりも5.4%,1.6%,11.9%の精度で検出性能が向上する。
特に、マルチモーダルな大規模言語モデルにおいて、バックドアを効果的に検出するのは、これが初めてである。
論文 参考訳（メタデータ） (2025-03-21T06:12:06Z) - ThinkGuard: Deliberative Slow Thinking Leads to Cautious Guardrails [33.96886111900147]
ThinkGuardは、高容量言語モデルから知識を抽出する、批判的な拡張されたガードレールモデルである。
平均的なF1とAUPRCを達成し、全てのベースラインを上回ります。
ラベルのみの微調整モデルを超え、構造化された批評によって分類精度とニュアンス付き安全推論の両方が向上することを確認した。
論文 参考訳（メタデータ） (2025-02-19T06:09:58Z) - Pre-trained Encoders in Self-Supervised Learning Improve Secure and
Privacy-preserving Supervised Learning [63.45532264721498]
自己教師付き学習は、ラベルのないデータを使ってエンコーダを事前訓練するための新しいテクニックである。
我々は、事前訓練されたエンコーダがセキュア・プライバシ保護型学習アルゴリズムの限界に対処できるかどうかを理解するための、最初の体系的、原則的な測定研究を行う。
論文 参考訳（メタデータ） (2022-12-06T21:35:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。