論文の概要: Bridging the First-Hour Gap: Evaluating AI Reliability and Benchmarking Deficiencies in Cyber Incident Response for Law Enforcement
- arxiv url: http://arxiv.org/abs/2609.12681v1
- Date: Fri, 11 Sep 2026 10:25:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-15 07:38:31.71657
- Title: Bridging the First-Hour Gap: Evaluating AI Reliability and Benchmarking Deficiencies in Cyber Incident Response for Law Enforcement
- Title（参考訳）: 第一時間ギャップのブリッジ: 法執行に対するサイバーインシデント対応におけるAI信頼性の評価と欠陥のベンチマーク
- Abstract要約: 本稿では,サイバー犯罪の最初の対応者を支援するために設計された意思決定支援アーキテクチャを体系的に調査する。
本稿では,RAGに基づくシステムを自然言語適応性から,比較的有効な中間解として認識する。
我々は, 確実な堅牢性クエリとエビデンス保存に着目した新しい評価ベンチマークの必要性を論じる。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The actions of frontline law enforcement officers in the initial hour of a cyber incident play a vital role in determining the ultimate success of an investigation. The minor mistakes they commit might result in irreversible critical impacts. The integrity of the investigation can be compromised, and the prosecution of cyber criminals can be hindered due to minor mistakes that happen in the initial hour. These are mainly because of the volatile nature of digital artifacts that might lead to procedural errors and evidence attrition. This paper provides a systematic survey of decision-support architectures designed to assist first responders of a cybercrime, categorizing them into playbooks, Large Language Models (LLMs), Retrieval-Augmented Generation (RAG) frameworks, and Agentic AI systems. The survey critically considers the constraints of limited technical proficiency and inconsistent forensic infrastructure in a practical scenario. Our analysis identifies RAG-based systems as a relatively viable intermediate solution due to their natural language adaptability. However, significant risk factors like prompt sensitivity and the potential for confident hallucinations in legal contexts pose a major challenge. Furthermore, we review current benchmarks in cybersecurity and demonstrate that they are not sufficient to capture the specific safety and legal requirements of law enforcement, focusing on the initial hour of the cybercrime. We conclude by arguing for the necessity of a new evaluation benchmark focused on naive query robustness and evidence preservation, so as to ensure that AI-driven guidance aligns with the mandatory demands of judicial proceedings.
- Abstract（参考訳）: サイバー事件発生時における最前線法執行官の行動は、捜査の最終的な成功を決定する上で重要な役割を担っている。
彼らが犯した小さなミスは、不可逆的な致命的な影響をもたらすかもしれない。
捜査の完全性は損なわれ、サイバー犯罪者の起訴は、最初の1時間に起きた小さなミスによって妨げられる。
これらは主にデジタルアーティファクトの不安定な性質が、手続き上の誤りや証拠の取締りにつながる可能性があるためである。
本稿では,サイバー犯罪の最初の対応者を支援するために設計された意思決定支援アーキテクチャを,プレイブック,LLM(Large Language Models),RAG(Retrieval-Augmented Generation)フレームワーク,エージェントAIシステムに分類する。
この調査は、実用シナリオにおいて、限られた技術的熟練度と矛盾する法医学的インフラの制約を批判的に検討する。
本稿では,RAGに基づくシステムを自然言語適応性から,比較的有効な中間解として認識する。
しかし、急激な感受性や法的な文脈における自信ある幻覚の可能性といった重大なリスク要因が大きな課題となっている。
さらに、サイバーセキュリティの現在のベンチマークをレビューし、サイバー犯罪の開始時刻に焦点をあてて、法執行機関の特定の安全と法的要件を捉えるには不十分であることを実証する。
我々は,AIによる指導が司法手続の必須要求に合致することを確実にするため,クエリの堅牢性や証拠保存に重点を置く新たな評価基準の必要性を論じて結論付けた。
関連論文リスト
- AI Slop and Hallucinations in Vulnerability Assessment: A Survey on Reasoning Failures and Trustworthy Mitigation [48.55515767840701]
AIスロープ(AI slop)は、アーティファクト、幻覚的脆弱性、可視だが正しくないパッチ、セマンティックに再パッケージされたバグレポートである。
本稿では,実証的証拠を調査し,統一メカニズムを特定し,信頼に値するトリアージへの道筋をたどる。
論文 参考訳（メタデータ） (2026-08-26T11:48:38Z) - Cyber-Capable AI Agents: Vulnerabilities, Evaluation Containment, and Defensive Response [0.0]
サイバー対応AIエージェントは、言語モデルとツール、メモリ、実行環境を組み合わせて、攻撃的なセキュリティタスクを実行する。
このレビューでは、その境界における5つの脆弱性クラスを合成する。マルチステップ攻撃チェーン、サンドボックス境界と競合する目的、サプライチェーンとクレデンシャル露出、永続的なコマンド・アンド・コントロール、自動アクションのスピード。
論文 参考訳（メタデータ） (2026-07-28T07:34:37Z) - The safety failures we are not instrumenting: a perspective on hidden safety-critical challenges in modern AI systems [26.594498540217568]
デプロイされたシステムでは、最も連続的な障害の多くは、目覚ましいよりも静かで、単一のアウトプットに局所化するのではなく、コンポーネントに分散し、障害として認識される前にエコシステムによって正規化される。
現代のAIシステムにおける中心的な安全性の課題は、モデルが有害な応答を放出するかどうかだけではなく、より広範な社会技術システムが、エラーが可視で、競合可能で、封じ込め可能で、回復可能な状態を維持しているかどうかである。
論文 参考訳（メタデータ） (2026-07-21T17:02:37Z) - Provably Secure Agent Guardrail [89.79561918065122]
既存の防衛アーキテクチャは経験的セマンティックガードレールと確率論的大モデル調整器に依存している。
本稿では,論理的推論の基本的制約に基づくエージェントのための新しいセキュリティパラダイムを提案する。
論文 参考訳（メタデータ） (2026-05-28T02:12:41Z) - Agents of Chaos [50.53354213047402]
実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。
20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。
我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
論文 参考訳（メタデータ） (2026-02-23T16:28:48Z) - Toward Risk Thresholds for AI-Enabled Cyber Threats: Enhancing Decision-Making Under Uncertainty with Bayesian Networks [0.3151064009829256]
我々は、AIサイバーリスク閾値の開発と評価のための構造化アプローチを提案する。
まず、既存の業界におけるサイバーしきい値を分析し、共通しきい値要素を同定する。
第2に,AI可能なサイバーリスクをモデル化するためのツールとしてベイズネットワークを提案する。
論文 参考訳（メタデータ） (2026-01-23T23:23:12Z) - SAFE-QAQ: End-to-End Slow-Thinking Audio-Text Fraud Detection via Reinforcement Learning [52.29460857893198]
既存の不正検出方法は、書き起こされたテキストに依存しており、ASRのエラーや、声調や環境条件のような重要な音響的手がかりが欠けている。
音声に基づくスロー思考詐欺検出のためのエンドツーエンド包括的フレームワークSAFE-QAQを提案する。
本フレームワークは,ライブコール中に動的リスクアセスメントフレームワークを導入し,不正の早期検出と防止を可能にする。
論文 参考訳（メタデータ） (2026-01-04T06:09:07Z) - Towards Trustworthy GUI Agents: A Survey [64.6445117343499]
本調査では,GUIエージェントの信頼性を5つの重要な次元で検証する。
敵攻撃に対する脆弱性、シーケンシャルな意思決定における障害モードのカスケードなど、大きな課題を特定します。
GUIエージェントが普及するにつれて、堅牢な安全基準と責任ある開発プラクティスを確立することが不可欠である。
論文 参考訳（メタデータ） (2025-03-30T13:26:00Z) - AILuminate: Introducing v1.0 of the AI Risk and Reliability Benchmark from MLCommons [62.374792825813394]
本稿ではAI製品リスクと信頼性を評価するための業界標準ベンチマークとして,AIluminate v1.0を紹介する。
このベンチマークは、危険、違法、または望ましくない行動を12の危険カテゴリーで引き起こすように設計されたプロンプトに対するAIシステムの抵抗を評価する。
論文 参考訳（メタデータ） (2025-02-19T05:58:52Z) - Autonomous Identity-Based Threat Segmentation in Zero Trust Architectures [4.169915659794567]
Zero Trust Architectures (ZTA) は,"信頼せず,すべてを検証する" アプローチを採用することで,ネットワークセキュリティを根本的に再定義する。
本研究は、ZTAにおけるAI駆動型、自律型、アイデンティティベースの脅威セグメンテーションに適用する。
論文 参考訳（メタデータ） (2025-01-10T15:35:02Z) - Principled Data-Driven Decision Support for Cyber-Forensic
Investigations [3.2823784475650077]
サイバー法医学的調査におけるデータ駆動型意思決定支援の原則的アプローチを提案する。
そこで本稿では,k-NN回帰を用いたモンテカルロ木探索手法を提案する。
提案手法をMITRE ATT&CKデータセットの複数バージョンに対して評価した。
論文 参考訳（メタデータ） (2022-11-23T23:18:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。