論文の概要: Toward Responsible AI-Augmented Cyber Defense: Pattern Recognition, Defense-in-Depth, and the Case for Human-AI Collaboration

• arxiv url: http://arxiv.org/abs/2609.25921v1
• Date: Tue, 22 Sep 2026 09:28:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-23 18:04:04.309925
• Title: Toward Responsible AI-Augmented Cyber Defense: Pattern Recognition, Defense-in-Depth, and the Case for Human-AI Collaboration
• Title（参考訳）: 責任あるAI強化サイバーディフェンスに向けて:パターン認識、ディフェンス・イン・ディープス、および人間-AIコラボレーションの事例
• Abstract要約: サイバーセキュリティに関する文献は、脅威検出、インシデント対応、予防のための人工知能(AI)の運用上の利点を広範囲に記録している。 本稿では,この文献に再帰する3つの構成要素を結合するフォーマルでファリシブルなモデルを開発する。Depth Theory,the Artificial Intelligence Theory of Pattern Recognition,およびセキュリティオペレーションにおける人間とAIの協調。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Cybersecurity literature has extensively documented the operational benefits of artificial intelligence (AI) for threat detection, incident response, and prevention, while raising qualitative concerns about over-automation, algorithmic bias, and analyst-skill erosion. What remains largely absent is a formal, falsifiable model connecting three constructs that recur across this literature: Defense-in-Depth Theory, the Artificial Intelligence Theory of Pattern Recognition, and human-AI collaboration in security operations. This paper develops such a model. We formalize layered defense as a Bernoulli detection cascade in which AI augmentation enters multiplicatively across layers; we formalize each layer's pattern-recognition behavior as a Neyman-Pearson/Bayesian detector with a derived closed-form optimal threshold; and we formalize human-AI triage as a capacity-constrained cascade with an explicit, quantifiable trade-off between detection probability and false-alarm ("alert fatigue") rate. A Monte Carlo/analytical simulation evaluated at illustrative but realistic operating points shows that (i) AI augmentation compounds across defense layers, delivering its largest marginal gains exactly where traditional layering saturates, and (ii) full human review of AI-flagged alerts is not optimal: increasing analyst capacity toward 100% coverage cuts false alarms by roughly 20-fold but simultaneously lowers system-level detection probability, because imperfect analyst accuracy is then applied to every alert rather than a filtered subset. These results give the widely repeated qualitative recommendation of "balanced human-AI collaboration" a precise, testable form and suggest an interior-optimum capacity ratio as a concrete design target for security operations centers (SOCs), including those securing IT/OT-converged critical infrastructure.
• Abstract（参考訳）: サイバーセキュリティの文献は、脅威検出、インシデント対応、予防のための人工知能(AI)の運用上の利点を広範囲に記録し、過度な自動化、アルゴリズムバイアス、アナリストスキルの侵食に関する質的な懸念を提起している。 現在もほとんど欠落しているのは、この文献に再帰する3つの構成要素を接続するフォーマルで偽造可能なモデルである:防衛・イン・ディープス理論、パターン認識の人工知能理論、セキュリティオペレーションにおける人間とAIの協調である。 本稿ではそのようなモデルを開発する。 我々は、階層化された防御をBernolli検出カスケードとして定式化し、AI増強が層間を乗算的に進入する。我々は、各層のパターン認識挙動を、Neyman-Pearson/Bayesian検出器として導出された閉形最適しきい値で定式化し、人間のAIトリアージを、検出確率と偽アラーム(アラート疲労)速度との明確なトレードオフで、キャパシティ制約されたカスケードとして定式化する。 モンテカルロ/分析シミュレーションによる実測的・現実的な操作点の評価 一 防衛層にまたがるAI強化化合物で、従来の階層化が飽和した場所において、その最大の限界ゲインを提供する。 100%カバレッジに対するアナリストのキャパシティの増大は、偽のアラームを約20倍削減すると同時に、システムレベルの検出確率を低下させる。 これらの結果から,IT/OTコンバージドクリティカルインフラストラクチャの確保を含む,セキュリティ運用センター(SOC)の具体的な設計ターゲットとして,内部最適容量比が示唆される。

関連論文リスト

• Provably Secure Agent Guardrail [89.79561918065122]
  既存の防衛アーキテクチャは経験的セマンティックガードレールと確率論的大モデル調整器に依存している。 本稿では,論理的推論の基本的制約に基づくエージェントのための新しいセキュリティパラダイムを提案する。
  論文  参考訳（メタデータ） (2026-05-28T02:12:41Z)
• A testable framework for AI alignment: Simulation Theology as an engineered worldview for silicon-based agents [0.0]
  我々は、永続的なAIと人間のアライメントを促進するためにシミュレーション神学(ST)を導入する。 STは、人間性が一次訓練変数として機能する計算シミュレーションとして現実を仮定している。 ヒトのフィードバックからの強化学習のような行動技術とは異なり、STはAIの自己保存と人間の繁栄を結合することで、内部化された目的を育む。
  論文  参考訳（メタデータ） (2026-02-19T01:21:09Z)
• Toward Quantitative Modeling of Cybersecurity Risks Due to AI Misuse [50.87630846876635]
  我々は9つの詳細なサイバーリスクモデルを開発する。 各モデルはMITRE ATT&CKフレームワークを使用して攻撃をステップに分解する。 個々の見積もりはモンテカルロシミュレーションによって集約される。
  論文  参考訳（メタデータ） (2025-12-09T17:54:17Z)
• A Comparative Analysis of Ensemble-Based Machine Learning Approaches with Explainable AI for Multi-Class Intrusion Detection in Drone Networks [0.2708211191235587]
  本研究の目的は、ドローンネットワークに適した堅牢で解釈可能な侵入検知フレームワークを開発することである。 我々は、ラベル付きデータセットでトレーニングされたランダムフォレスト、エクストラツリー、AdaBoost、CatBoost、XGBoostといったアンサンブルベースの機械学習モデルの比較分析を行う。 提案するアプローチは、ほぼ完全な精度を提供するだけでなく、解釈可能性も保証し、リアルタイムかつ安全クリティカルなドローン操作に非常に適している。
  論文  参考訳（メタデータ） (2025-09-23T00:59:21Z)
• Human-AI Collaboration in Cloud Security: Cognitive Hierarchy-Driven Deep Reinforcement Learning [7.370441344885935]
  セキュリティ運用センター(SOC)は、高度な永続脅威(APT)に対抗するために、AI駆動の適応防御機構を採用しなければならない。 本稿では、SOCアナリストとAI駆動のAPTボット間の対話的意思決定をモデル化する、認知階層理論駆動型深層Q-ネットワーク(CHT-DQN)フレームワークを提案する。 我々のフレームワークは攻撃グラフに基づく強化学習を用いて適応的なSOC防御を強化する。
  論文  参考訳（メタデータ） (2025-02-22T03:19:21Z)
• Computational Safety for Generative AI: A Signal Processing Perspective [65.268245109828]
  計算安全性は、GenAIにおける安全性の定量的評価、定式化、研究を可能にする数学的枠組みである。 ジェイルブレイクによる悪意のあるプロンプトを検出するために, 感度解析と損失景観解析がいかに有効かを示す。 我々は、AIの安全性における信号処理の鍵となる研究課題、機会、そして重要な役割について論じる。
  論文  参考訳（メタデータ） (2025-02-18T02:26:50Z)
• Model-Agnostic Meta-Attack: Towards Reliable Evaluation of Adversarial Robustness [53.094682754683255]
  モデル非依存型メタアタック(MAMA)アプローチにより,より強力な攻撃アルゴリズムを自動検出する。 本手法は、繰り返しニューラルネットワークによってパラメータ化された逆攻撃を学習する。 本研究では,未知の防御を攻撃した場合の学習能力を向上させるために,モデルに依存しない訓練アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2021-10-13T13:54:24Z)
• The Feasibility and Inevitability of Stealth Attacks [63.14766152741211]
  我々は、攻撃者が汎用人工知能システムにおける決定を制御できる新しい敵の摂動について研究する。 敵対的なデータ修正とは対照的に、ここで考慮する攻撃メカニズムには、AIシステム自体の変更が含まれる。
  論文  参考訳（メタデータ） (2021-06-26T10:50:07Z)
• Adversarial vs behavioural-based defensive AI with joint, continual and active learning: automated evaluation of robustness to deception, poisoning and concept drift [62.997667081978825]
  人工知能(AI)の最近の進歩は、サイバーセキュリティのための行動分析(UEBA)に新たな能力をもたらした。 本稿では、検出プロセスを改善し、人間の専門知識を効果的に活用することにより、この攻撃を効果的に軽減するソリューションを提案する。
  論文  参考訳（メタデータ） (2020-01-13T13:54:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。