論文の概要: COGNIT-Guard: Calibrated Standalone Direct-Decision Guardrails with Heterogeneous CPU-NPU Confidence Cascading under Explicit Latency and False-Positive Constraints
- arxiv url: http://arxiv.org/abs/2609.33671v1
- Date: Sun, 27 Sep 2026 15:32:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-04 17:48:51.12402
- Title: COGNIT-Guard: Calibrated Standalone Direct-Decision Guardrails with Heterogeneous CPU-NPU Confidence Cascading under Explicit Latency and False-Positive Constraints
- Title（参考訳）: COGNIT-Guard:不均質なCPU-NPU信頼度カスケードと偽陽性制約下でのキャリブレーション付スタンドアローン直接決定ガードレール
- Abstract要約: 実時間プレインジェクション安全ガードレールの独立直接決定基盤モデルの校正について検討した。
検証校正型CPUゲートキーパと信頼ゲートエスカレーションを結合したCOGNIT-GuardをNPUレジデント322M双方向直接決定モデルに提案する。
- 参考スコア（独自算出の注目度）: 6.078726431806193
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: When must a foundation-model safety gateway generate tokens, and when should it directly output a calibrated decision? We study calibrated standalone direct-decision foundation models for real-time pre-ingestion safety guardrails, jointly addressing probability calibration, dual-use false-positive control, and heterogeneous CPU-NPU routing under explicit latency SLOs. Pre-ingestion guardrails must screen prompts prior to target-LLM prefill with low false alarms on benign compliance inquiries; however, shallow classifiers are brittle to phrasing shifts, hidden-state probes require coupling to a target LLM, and generative guards incur high decoding latency and dual-use false positives. We present COGNIT-Guard, coupling a validation-calibrated CPU fast gatekeeper with confidence-gated escalation to an NPU-resident 322M bidirectional direct-decision model (Laya-322M) under an asymmetric false-positive penalty. On the clean unseen DUCS-Bench test split ($N=607$), COGNIT-Guard achieves 98.85% accuracy (McNemar $p = 1.19 \times 10^{-4}$ vs. ML), reduces benign FPR to 0.42% ($1/238$; Fisher's exact $p = 8.23 \times 10^{-4}$ vs. ML), and attains 1.12% ECE and 0.0104 Brier score. On Huawei Ascend 910C NPUs, pure NPU inference runs in 21.77 ms mean latency (45.90 QPS), while the live serial CPU-NPU cascade ($θ^*_{\mathrm{deploy}}=0.70$) achieves 41.63 ms mean latency (P50: 39.47 ms, 99.23% accuracy, 0.00% FPR). Evaluation on SafetyBench-ZH ($N=2,100$) and comparison against a bi-encoder direct-decision baseline (CLM-8B) disentangle in-domain gains, OOD alignment tax (60.33% $\to$ 56.81% on Laya; 55.10% on domain CLM-8B), and experience replay recovery, restoring OOD accuracy to 64.10%-65.05% and reaching 99.67%-99.84% in-domain accuracy with 0.00%-0.42% FPR.
- Abstract（参考訳）: ファンデーションモデル安全ゲートウェイはトークンを生成しなければならない。
本研究では, リアルタイムプリインジェクション安全ガードレール, 確率キャリブレーション, デュアルユース偽陽性制御, 不均質なCPU-NPUルーティングを, 明示的なレイテンシSLO下で適用するために, キャリブレーションされたスタンドアロン直接決定基盤モデルについて検討する。
プリインジェクションガードレールは、目標-LLM前処理の前のプロンプトを、良性コンプライアンスの問い合わせに対して低い偽のアラームでチェックしなければならないが、浅い分類器は、変動の表現に脆弱であり、隠れ状態プローブは、ターゲットLLMに結合する必要がある。
非対称な偽陽性のペナルティの下で, 検証校正型CPU高速ゲートキーパと信頼ゲートエスカレーションをNPUレジデント322M双方向直接決定モデル(Laya-322M)に結合するCOGNIT-Guardを提案する。
クリーンな未確認のDUCS-Benchテストスプリット(N=607$)では、COGNIT-Guardは98.85%の精度(McNemar $p = 1.19 \times 10^{-4}$ vs. ML)を獲得し、良性FPRを0.42%(1/238$; Fisher's exact $p = 8.23 \times 10^{-4}$ vs. ML)に減らし、1.12%のECEと0.0104 Brierスコアを得る。
Huawei Ascend 910C NPUでは、純粋なNPU推論は21.77ミリ秒平均レイテンシ(45.90 QPS)で実行され、ライブシリアルCPU-NPUカスケード(θ^*_{\mathrm{deploy}}=0.70$)は41.63ミリ秒平均レイテンシ(P50:39.47ミリ秒、99.23%、0.00%FPR)を達成する。
SafetyBench-ZH(N=2,100$)と、両エンコーダの直接決定ベースライン(CLM-8B)との比較、ドメイン内利得の分散、OODアライメント税(60.33%$\to$56.81%、ドメインCLM-8Bの55.10%)、リプレイリカバリの経験、OOD精度の64.10%-65.05%、ドメイン内正確度99.67%-99.84%、FPR0.0%-0.42%である。
関連論文リスト
- MAD-Guard: Controlled Study of Autoregressive Generation versus Direct Decision Interfaces for Closed Multimodal Forensic Tasks [6.078726431806193]
閉鎖型マルチモーダル法医学的タスクに対する出力-決定インタフェースの制御に関する研究であるMAD-Guardを提案する。
我々は、決定インターフェース(AR-SFT [generate] $to$ Logit Slice $to$ Binary Direct Head $to$ +choice $to$ +act $to$ CLM-Head)の進行を評価し、遅延をバックボーン表現に分解する。
5つのベンチマークから5000枚以上のアウトオブサンプル画像が得られ、私たちのフレームワークは合成、カモフラージュ、文書偽造に優れています。
論文 参考訳（メタデータ） (2026-09-27T15:45:14Z) - The Price of Peeking: Anytime-Valid Leakage Detection on ML-KEM EM Traces [45.88028371034407]
本研究は, ベットによる検査に基づく漏洩検出について検討する。
13000～20000のサンプルに対して繰り返し表示される$|t|>4.5$は2.7-12.9%の複製で誤報を発生させた。
論文 参考訳（メタデータ） (2026-09-27T14:14:10Z) - One Human, $N$ Agents: Audit-Budget Allocation for LLM Agent Fleets under Miscalibrated, Correlated Confidence [41.99844472131922]
一人の人間が1ラウンド当たり$N$ LLMエージェントを予算$B ll N$監査で監査しなければならない。
我々はこれを、2段階のガウス的コーパスに対する予算付きノイズ検査としてモデル化し、信頼度の高い監査がランダムである場合の誤校正しきい値($*$過去)を特定する。
論文 参考訳（メタデータ） (2026-07-30T14:52:36Z) - Level, Sharpness, and Corpus: Why Zero-Shot OOD Detector Rankings Do Not Transfer [36.02174685737611]
各検出器は、少なくとも1つのドメインで80%$ FPR95 を超え、所望の検出器は、分配データと基礎となる VLM の両方に依存する。
本稿では, ベース検出器, レベル, シャープネスの非補償融合により, 補完的証拠を保存する検出器非依存ラッパーであるComplementary Evidence Guard(CEG)を紹介する。
論文 参考訳（メタデータ） (2026-07-29T08:00:49Z) - Mean-to-Score Discrete Diffusion: Posterior-Mean Denoisers for Score Entropy [17.48959208263029]
我々は,クリーンな後進平均を予測し,正確なカーネル依存線形写像を用いてスコアに変換するEmphmean-to-score (M2S)を導入する。
均一な汚職のために、確率的単純度をブリッジポリトープにマッピングし、吸収マスクの破損のためにMD4を正確に回収する。
論文 参考訳（メタデータ） (2026-07-23T14:37:30Z) - Calibrated e-CUSUM Decoding for Quantized Reasoning Models: Why Token Log-Probability Is the Wrong Observable for Decoding Monitors [0.6999740786886536]
低ビット量子化により、小さな推論モデルは安価に展開できるが、思考の連鎖を分解することができる。
中心となるトークンのlog-probabilityは$log p(w_t)+H_t$が間違ったオブザーバブルであることを示します。
本稿では,トークンの不確実性と明示的な繰り返しを混在させるデジェネレーションを意識したアラームスコアを組み合わせた,トレーニング不要な復号制御手法を提案する。
論文 参考訳（メタデータ） (2026-07-13T09:34:36Z) - Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。
個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。
構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
論文 参考訳（メタデータ） (2026-05-15T17:08:27Z) - BitCal-TTS: Bit-Calibrated Test-Time Scaling for Quantized Reasoning Models [0.0]
BitCal-TTSは、greedy 4ビット推論のための軽量ランタイムコントローラである。
標準のHugging Face 4ビット推論と統合され、フォワードフックを使ってログとラストレイヤーの隠蔽状態を生成する。
Qwen2.5インストラクトモデルによるGSM8Kの評価シャードについて、BitCal-TTSは、非ビット対応ベースラインよりも正確なマッチング精度を向上させる。
論文 参考訳（メタデータ） (2026-05-07T01:10:34Z) - Between the Layers Lies the Truth: Uncertainty Estimation in LLMs Using Intra-Layer Local Information Scores [36.86032736109853]
大きな言語モデル(LLM)は、しばしば自信を持って間違っているため、確実な不確実性推定(UE)が不可欠である。
本稿では,1つのフォワードパスを用いて内部表現における層間パターンをスコアリングする,コンパクトでインスタンスごとのUE手法を提案する。
論文 参考訳（メタデータ） (2026-03-17T08:35:14Z) - CarBoN: Calibrated Best-of-N Sampling Improves Test-time Reasoning [62.56541355300587]
本稿では,高逆推論経路に向けてモデルを適応的に修正する一般的なテスト時間校正フレームワークを提案する。
本フレームワークでは,まず解空間を探索し,次にロジットの校正を学習する二相法であるCarBoNを提案する。
MATH-500とAIME-2024の実験では、CarBoNは効率を向上し、同じ精度に達するために最大4倍のロールアウトが可能である。
論文 参考訳（メタデータ） (2025-10-17T14:04:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。