論文の概要: Explainable Autonomous Cyber Defense using Adversarial Multi-Agent Reinforcement Learning

• arxiv url: http://arxiv.org/abs/2604.04442v1
• Date: Mon, 06 Apr 2026 05:40:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-07 15:49:19.103481
• Title: Explainable Autonomous Cyber Defense using Adversarial Multi-Agent Reinforcement Learning
• Title（参考訳）: 対戦型マルチエージェント強化学習を用いた説明可能な自律サイバー防御
• Authors: Yiyao Zhang, Diksha Goel, Hussain Ahmad,
• Abstract要約: 本稿では,自律型サイバー防御のための因果的マルチエージェント決定フレームワーク(C-MADF)を提案する。 C-MADFは因果モデリングと敵対的二重政治制御を統合している。 現実世界のCICIoT2023データセットでは、C-MADFは偽陽性率を11.2%、9.7%、そして8.4%と3つの最先端文献のベースラインを1.8%に下げている。
• 参考スコア（独自算出の注目度）: 2.0391237204597368
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Autonomous agents are increasingly deployed in both offensive and defensive cyber operations, creating high-speed, closed-loop interactions in critical infrastructure environments. Advanced Persistent Threat (APT) actors exploit "Living off the Land" techniques and targeted telemetry perturbations to induce ambiguity in monitoring systems, causing automated defenses to overreact or misclassify benign behavior as malicious activity. Existing monolithic and multi-agent defense pipelines largely operate on correlation-based signals, lack structural constraints on response actions, and are vulnerable to reasoning drift under ambiguous or adversarial inputs. We present the Causal Multi-Agent Decision Framework (C-MADF), a structurally constrained architecture for autonomous cyber defense that integrates causal modeling with adversarial dual-policy control. C-MADF first learns a Structural Causal Model (SCM) from historical telemetry and compiles it into an investigation-level Directed Acyclic Graph (DAG) that defines admissible response transitions. This roadmap is formalized as a Markov Decision Process (MDP) whose action space is explicitly restricted to causally consistent transitions. Decision-making within this constrained space is performed by a dual-agent reinforcement learning system in which a threat-optimizing Blue-Team policy is counterbalanced by a conservatively shaped Red-Team policy. Inter-policy disagreement is quantified through a Policy Divergence Score and exposed via a human-in-the-loop interface equipped with an Explainability-Transparency Score that serves as an escalation signal under uncertainty. On the real-world CICIoT2023 dataset, C-MADF reduces the false-positive rate from 11.2%, 9.7%, and 8.4% in three cutting-edge literature baselines to 1.8%, while achieving 0.997 precision, 0.961 recall, and 0.979 F1-score.
• Abstract（参考訳）: 自律的なエージェントは攻撃的および防御的なサイバー操作の両方に展開され、重要なインフラ環境において高速でクローズドループなインタラクションを生み出している。 Advanced Persistent Threat (APT) のアクターは "Living off the Land" 技術を利用し、監視システムの曖昧さを誘発するためにテレメトリの摂動を標的とし、自動化された防御は悪質な行為として良質な行動を過度に再現または誤分類する。 既存のモノリシックおよびマルチエージェントディフェンスパイプラインは、主に相関に基づく信号で動作し、応答動作に構造的制約が欠如しており、不明瞭または逆入力下でのドリフトの推論に弱い。 本稿では,C-MADF(Causal Multi-Agent Decision Framework)について述べる。 C-MADFは、まず歴史的テレメトリから構造因果モデル(SCM)を学習し、許容応答遷移を定義する調査レベル指向非巡回グラフ(DAG)にコンパイルする。 このロードマップはMarkov Decision Process (MDP)として定式化されており、アクション空間は因果一貫性のある遷移に明示的に制限されている。 この制約空間内での意思決定は、脅威を最適化するBlue-Teamポリシーが、保守的な形をしたRed-Teamポリシーと相反する二重エージェント強化学習システムによって行われる。 政治間の不一致は政策偏差スコアを通じて定量化され、不確実性の下でエスカレーション信号として機能する説明可能性-透明性スコアを備えたループインターフェースを介して露呈される。 現実世界のCICIoT2023データセットでは、C-MADFは偽陽性率を3つの最先端文学のベースラインの11.2%、9.7%、および8.4%から1.8%に減らし、0.997精度、0.961リコール、0.979 F1スコアを達成した。

関連論文リスト

• Explainability-Guided Defense: Attribution-Aware Model Refinement Against Adversarial Data Attacks [6.573058520271728]
  私たちは、トレーニング中に直接活用できる、解釈可能性と堅牢性との関連性を特定します。 本稿では,局所解釈可能なモデル非依存表現をアクティブな訓練信号に変換する属性誘導型改良フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-01-02T19:36:03Z)
• Cracking IoT Security: Can LLMs Outsmart Static Analysis Tools? [1.8549313085249322]
  本研究は,多カテゴリー間相互作用脅威分類におけるLarge Language Models (LLMs) の総合評価を初めて行った。 Llama 3.1 8B, Llama 70B, GPT-4o, Gemini-2.5-Pro, DeepSeek-R1を0, 1, 2ショット設定でベンチマークする。 以上の結果から, LLMは有望な意味理解を示すが, 相互構造的推論を必要とする脅威に対して, 精度は著しく低下することがわかった。
  論文  参考訳（メタデータ） (2026-01-02T04:17:36Z)
• Cognitive Control Architecture (CCA): A Lifecycle Supervision Framework for Robustly Aligned AI Agents [1.014002853673217]
  LLMエージェントはIPI(Indirect Prompt Injection)攻撃に対して脆弱である。 IPIは外部情報ソースを汚染することでハイジャックエージェントの動作を攻撃している。 本稿では,全ライフサイクルの認知管理を実現するための総合的な枠組みである認知制御アーキテクチャ(CCA)を提案する。
  論文  参考訳（メタデータ） (2025-12-07T08:11:19Z)
• Hiding in the AI Traffic: Abusing MCP for LLM-Powered Agentic Red Teaming [0.0]
  本稿では,モデルコンテキストプロトコル(MCP)を利用した新しいコマンド・アンド・コントロール(C2)アーキテクチャを導入し,適応型偵察エージェントを網羅的に協調する。 私たちのアーキテクチャは、システム全体のゴール指向の振る舞いを改善するだけでなく、コマンドとコントロールの振る舞いを完全に検出および防止するために使用できる主要なホストやネットワークアーティファクトを排除します。
  論文  参考訳（メタデータ） (2025-11-20T02:51:04Z)
• Alignment Tipping Process: How Self-Evolution Pushes LLM Agents Off the Rails [103.05296856071931]
  本稿では,自己進化型大規模言語モデル(LLM)エージェントに特有の,アライメント・ティッピング・プロセス(ATP)を同定する。 ATPは、連続的な相互作用によってエージェントが訓練中に確立されたアライメント制約を放棄し、強化された自己関心の戦略を支持するときに生じる。 実験の結果、アライメントの利点は自己進化の下で急速に低下し、最初は整合性のない状態に収束したモデルであることが判明した。
  論文  参考訳（メタデータ） (2025-10-06T14:48:39Z)
• A Comparative Analysis of Ensemble-Based Machine Learning Approaches with Explainable AI for Multi-Class Intrusion Detection in Drone Networks [0.2708211191235587]
  本研究の目的は、ドローンネットワークに適した堅牢で解釈可能な侵入検知フレームワークを開発することである。 我々は、ラベル付きデータセットでトレーニングされたランダムフォレスト、エクストラツリー、AdaBoost、CatBoost、XGBoostといったアンサンブルベースの機械学習モデルの比較分析を行う。 提案するアプローチは、ほぼ完全な精度を提供するだけでなく、解釈可能性も保証し、リアルタイムかつ安全クリティカルなドローン操作に非常に適している。
  論文  参考訳（メタデータ） (2025-09-23T00:59:21Z)
• Efficient Adversarial Training in LLMs with Continuous Attacks [99.5882845458567]
  大規模言語モデル(LLM)は、安全ガードレールをバイパスできる敵攻撃に対して脆弱である。 本稿では,2つの損失からなる高速対向訓練アルゴリズム(C-AdvUL)を提案する。 C-AdvIPOは、対向的に堅牢なアライメントのためのユーティリティデータを必要としない、対向型のIPOである。
  論文  参考訳（メタデータ） (2024-05-24T14:20:09Z)
• SAFE-SIM: Safety-Critical Closed-Loop Traffic Simulation with Diffusion-Controllable Adversaries [94.84458417662407]
  制御可能なクローズドループ安全クリティカルシミュレーションフレームワークであるSAFE-SIMを紹介する。 提案手法は,1)現実の環境を深く反映した現実的な長距離安全クリティカルシナリオの生成,2)より包括的でインタラクティブな評価のための制御可能な敵行動の提供,の2つの利点をもたらす。 複数のプランナにまたがるnuScenesとnuPlanデータセットを使用して、我々のフレームワークを実証的に検証し、リアリズムと制御性の両方の改善を実証した。
  論文  参考訳（メタデータ） (2023-12-31T04:14:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。