論文の概要: Non-Degenerate Risk Certification for Automated Security Decisions: A Decision-Contract Theory with ATT\&CK-Aligned Triage as a Worked Instance

• arxiv url: http://arxiv.org/abs/2608.12444v1
• Date: Wed, 12 Aug 2026 16:59:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-14 18:29:38.29104
• Title: Non-Degenerate Risk Certification for Automated Security Decisions: A Decision-Contract Theory with ATT\&CK-Aligned Triage as a Worked Instance
• Title（参考訳）: 自動セキュリティ決定のための非退化リスク認定:ATT\&CK対応トライアージを作業事例とする決定-契約理論
• Abstract要約: 自動決定に縛られる無条件のリスクは、何も自動化せずに満足することができる。 リスク証明書は、決定契約上で定義され、システムが行動する入力に加えて、出力が正しいと判断する意味関係が定義される。 誤りを示すエラー保存法は, 有害な自動化, ヒューマン・デフェラル, セマンティック・マスキングによってのみ再割り当てされる。
• 参考スコア（独自算出の注目度）: 1.4915002678801434
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: An unconditional risk bound on automated decisions can be satisfied without automating anything, since a selector that never acts drives the bound to zero. We show this is structural: any risk certificate is defined over a decision contract, the inputs a system acts on plus the semantic relation under which an output counts correct, and weakening either hides base-classifier error. We develop a decision-contract theory: an error-conservation law showing error is only reassigned among harmful automation, human deferral, and semantic masking; a label-free singleton capacity certifying structural incapacity, with a risk-feasible refinement separating recoverable threshold misalignment from risk-constrained incapacity; and a non-degenerate actionability certificate excluding all-abstain solutions by construction. We instantiate this on ATT\&CK-aligned alert triage for LLM-based intrusion detection, the setting that exposed the vacuity failure. Across 3 IDS datasets, 6 LLMs, and 4 error-rate thresholds, empirical false-attribution risk stays at or below target in 90.3% of configurations, with 83.4% mean correct automation. The capacity diagnostic explains every low-utility configuration; its refinement separates genuine misalignment from risk-constrained incapacity, confirmed by an exhibited alternative threshold; a training-stability re-run finds no confirmed structural-incapacity instance; and real fine-grained attack-subtype labels confirm the coarsening-transfer identity under a genuine many-to-one map, with small but non-zero masking mass.
• Abstract（参考訳）: 自動決定に縛られる無条件のリスクは、何も自動化せずに満足することができる。 リスク証明書は、決定契約上で定義され、システムは、出力が正しいと判断する意味関係に加えて、システムに作用し、ベース分類器エラーを隠蔽する。 本研究では, 誤りを示すエラー保存法を, 有害な自動化, 人体遅延, セマンティックマスキングにのみ再割り当てし, ラベルのないシングルトンキャパシティで構造的不備を証明し, リスク制約から回復可能なしきい値の不整合を分離し, 建設による全許容解を除く非退化動作性証明書を作成した。 ATT\&CK対応の警告トリアージでこれをインスタンス化して,LLMによる侵入検知,すなわち空洞障害を露呈する設定を行う。 IDSデータセット3つ、LSM6つ、エラーレートのしきい値4つにまたがって、実験的な誤帰リスクは90.3%の構成で目標以下であり、83.4%は正しい自動化を意味する。 キャパシティ診断は、すべての低ユーティリティ構成を説明し、その改善は、リスク制約された非能力から真のミスアライメントを分離し、展示された代替しきい値によって確認され、トレーニング-安定性の再実行は、確認された構造的非能力のインスタンスを見つけず、実際のきめ細かい攻撃-サブタイプラベルは、真の多対一のマップの下で、小さいがゼロでないマスを持つ粗大化-トランスファーのアイデンティティを確認する。

関連論文リスト

• A distribution-free certification framework for trustworthy crash-severity prediction [1.089614199781423]
  厳密なモデルを修正せずにラップする認証層を開発します。 テキサス州の7つのベースモデルにまたがる520万件の記録では、同層は同一の妥当性を持つ。 フレームワークは定理レベルのテストを備えたオープンソースパッケージとしてリリースされている。
  論文  参考訳（メタデータ） (2026-09-10T14:20:08Z)
• AI Slop and Hallucinations in Vulnerability Assessment: A Survey on Reasoning Failures and Trustworthy Mitigation [48.55515767840701]
  AIスロープ(AI slop)は、アーティファクト、幻覚的脆弱性、可視だが正しくないパッチ、セマンティックに再パッケージされたバグレポートである。 本稿では,実証的証拠を調査し,統一メカニズムを特定し,信頼に値するトリアージへの道筋をたどる。
  論文  参考訳（メタデータ） (2026-08-26T11:48:38Z)
• Self-Certification of Representation Adequacy: Sequential Certification at Minimum Task Loss [4.6304326752276985]
  本稿では,表現の自己証明に関する4層理論を考案する。 シーケンシャルレイヤは、タスク損失の通貨において最適な停止問題として認定される。 最終的な境界層は、ポリシーの切り替えや表現の修復をカバーするのに必要なオープン定理を特定する。
  論文  参考訳（メタデータ） (2026-08-03T14:09:34Z)
• When Certificates Fail: A Unified Safety Framework for Embedded Neural Interface Models [0.0]
  本稿では,検証不足,プロキシ・フィデリティのばらつき,潜伏情報抽出という,3つの障害を中心に構成された統合的実証監査フレームワークを提案する。 複数の深部および古典的なEEGデコーダ、公式セッションレベルの検証、nullコントロール、ペア統計テストを用いて、BCIコンペティションIV 2aとSEED-IVのフレームワークをインスタンス化する。 この結果から,認証認証のみではなく,運用安全監査が神経インターフェース展開の責任を負う上で重要であることが確認された。
  論文  参考訳（メタデータ） (2026-07-07T13:03:45Z)
• When Can Conformal Risk Control Certify LLM Outputs? Bounds, Impossibility, and Adaptation for Structured Generation [0.11280931253550518]
  構造化世代 (NER, 抽出, QA, 分類) にデプロイされる大規模言語モデル (LLM) には、正式な信頼性保証がない。 我々は、共形リスク制御(CRC)が構造化LLM出力を証明でき、かつ、それが証明不可能な場合に特徴付ける。
  論文  参考訳（メタデータ） (2026-06-27T19:25:07Z)
• From Sparse Features to Trustworthy Proxies: Certifying SAE-Based Interpretability [53.681678236115836]
  我々は,SAEに基づく説明を,基盤となる凍結LMの忠実な見方として扱うことができるかを検討した。 この枠組みは, 4つの測定可能な量を用いて, 基本モデルの予測リスクの上限を導出する。 我々は, GPT-2 Small, Gemma-2B, Llama-3-8B のサンプルサイズにおいて, 境界が非空洞となることを示す。
  論文  参考訳（メタデータ） (2026-06-16T18:28:23Z)
• Semantic Quorum Assurance: Collective Certification for Non-Deterministic AI Infrastructure [2.124730017640531]
  非決定論的エージェント基盤を管理するためのコントロールプレーンプリミティブであるQuorum Semantic Assurance(SQA)を紹介する。 SQAは暗号エビデンスチェーンに縛られた宣言的実行契約として提案を表現し、それを読み取り専用でサンドボックス化されたバリデータエージェントのさまざまなパネルにルーティングする。 インフラにインスパイアされた500の突然変異シナリオでは、曖昧なシナリオを除く安全/安全でない試験の安全性が報告され、SQAはシングルエージェント検証の18.5%から0.3%まで安全でない承認を減じている。
  論文  参考訳（メタデータ） (2026-06-06T07:31:04Z)
• PRISM: : Planning and Reasoning with Intent in Simulated Embodied Environments [59.07829883257003]
  5つの集合住宅の上に建設され、PRISMは300の人間認証タスクを3つの能力レベルに構成する。 PRISMはエージェントに依存しない実行可能なアクションAPIを公開し、任意のエージェントをエンドツーエンドで評価できるようにする。
  論文  参考訳（メタデータ） (2026-05-12T04:59:47Z)
• From Agent Failure Paths to Quantified Residual Risk: A Compositional Framework for Resilient Agentic AI [8.947753534117298]
  エージェントAIは、現在のリスクモデルが表現できるよりも早く、信頼境界を越えています。 レジリエントなエージェント・エンボディAIのためのメカニズム・ツー・マグニチュードパイプラインを提案する。 本稿では,リアルタイム倉庫ロボットとガバナンスによる金融サービスエージェントの2つのコントラストシナリオに関するフレームワークについて述べる。
  論文  参考訳（メタデータ） (2026-04-28T23:40:24Z)
• SafeThinker: Reasoning about Risk to Deepen Safety Beyond Shallow Alignment [43.86865924673546]
  軽量なゲートウェイ分類器を介して防御資源を割り当てる適応型フレームワークであるSafeThinkerを提案する。 実験によると、SafeThinkerは、堅牢性を損なうことなく、さまざまなジェイルブレイク戦略における攻撃の成功率を大幅に低下させる。
  論文  参考訳（メタデータ） (2026-01-23T07:12:53Z)
• LEC: Linear Expectation Constraints for False-Discovery Control in Selective Prediction and Routing Systems [95.35293543918762]
  大規模言語モデル(LLM)はしばしば信頼できない答えを生成するが、不確実性のある手法は誤った予測と完全に区別することができない。 我々は、この問題を、偽発見率(FDR)制御のレンズを通して解決し、全ての許容された予測のうち、エラーの割合が目標のリスクレベルを超えないことを保証する。 本稿では,線形期待制約を強制することで,選択予測を制約付き決定問題として再解釈するLECを提案する。
  論文  参考訳（メタデータ） (2025-12-01T11:27:09Z)
• Building a Foundational Guardrail for General Agentic Systems via Synthetic Data [76.18834864749606]
  LLMエージェントは、計画段階で介入するマルチステップタスクを計画できる。 既存のガードレールは主にポスト・エグゼクティブ(英語版)を運用しており、スケーリングが困難であり、計画レベルで制御可能な監督を行う余地がほとんどない。 我々は、良性軌道を合成し、カテゴリーラベル付きリスクを困難に注入し、自動報酬モデルを介して出力をフィルタリングする制御可能なエンジンであるAuraGenを紹介する。
  論文  参考訳（メタデータ） (2025-10-10T18:42:32Z)
• Unsupervised Conformal Inference: Bootstrapping and Alignment to Control LLM Uncertainty [49.19257648205146]
  生成のための教師なし共形推論フレームワークを提案する。 我々のゲートは、分断されたUPPよりも厳密で安定した閾値を提供する。 その結果は、ラベルのない、API互換の、テスト時間フィルタリングのゲートになる。
  論文  参考訳（メタデータ） (2025-09-26T23:40:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。