論文の概要: Explainable Autonomous Cyber Defense using Adversarial Multi-Agent Reinforcement Learning

• arxiv url: http://arxiv.org/abs/2604.04442v1
• Date: Mon, 06 Apr 2026 05:40:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-07 15:49:19.103481
• Title: Explainable Autonomous Cyber Defense using Adversarial Multi-Agent Reinforcement Learning
• Title（参考訳）: 対戦型マルチエージェント強化学習を用いた説明可能な自律サイバー防御
• Abstract要約: 本稿では,自律型サイバー防御のための因果的マルチエージェント決定フレームワーク(C-MADF)を提案する。 C-MADFは因果モデリングと敵対的二重政治制御を統合している。 現実世界のCICIoT2023データセットでは、C-MADFは偽陽性率を11.2%、9.7%、そして8.4%と3つの最先端文献のベースラインを1.8%に下げている。
• 参考スコア（独自算出の注目度）: 2.0391237204597368
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Autonomous agents are increasingly deployed in both offensive and defensive cyber operations, creating high-speed, closed-loop interactions in critical infrastructure environments. Advanced Persistent Threat (APT) actors exploit "Living off the Land" techniques and targeted telemetry perturbations to induce ambiguity in monitoring systems, causing automated defenses to overreact or misclassify benign behavior as malicious activity. Existing monolithic and multi-agent defense pipelines largely operate on correlation-based signals, lack structural constraints on response actions, and are vulnerable to reasoning drift under ambiguous or adversarial inputs. We present the Causal Multi-Agent Decision Framework (C-MADF), a structurally constrained architecture for autonomous cyber defense that integrates causal modeling with adversarial dual-policy control. C-MADF first learns a Structural Causal Model (SCM) from historical telemetry and compiles it into an investigation-level Directed Acyclic Graph (DAG) that defines admissible response transitions. This roadmap is formalized as a Markov Decision Process (MDP) whose action space is explicitly restricted to causally consistent transitions. Decision-making within this constrained space is performed by a dual-agent reinforcement learning system in which a threat-optimizing Blue-Team policy is counterbalanced by a conservatively shaped Red-Team policy. Inter-policy disagreement is quantified through a Policy Divergence Score and exposed via a human-in-the-loop interface equipped with an Explainability-Transparency Score that serves as an escalation signal under uncertainty. On the real-world CICIoT2023 dataset, C-MADF reduces the false-positive rate from 11.2%, 9.7%, and 8.4% in three cutting-edge literature baselines to 1.8%, while achieving 0.997 precision, 0.961 recall, and 0.979 F1-score.
• Abstract（参考訳）: 自律的なエージェントは攻撃的および防御的なサイバー操作の両方に展開され、重要なインフラ環境において高速でクローズドループなインタラクションを生み出している。 Advanced Persistent Threat (APT) のアクターは "Living off the Land" 技術を利用し、監視システムの曖昧さを誘発するためにテレメトリの摂動を標的とし、自動化された防御は悪質な行為として良質な行動を過度に再現または誤分類する。 既存のモノリシックおよびマルチエージェントディフェンスパイプラインは、主に相関に基づく信号で動作し、応答動作に構造的制約が欠如しており、不明瞭または逆入力下でのドリフトの推論に弱い。 本稿では,C-MADF(Causal Multi-Agent Decision Framework)について述べる。 C-MADFは、まず歴史的テレメトリから構造因果モデル(SCM)を学習し、許容応答遷移を定義する調査レベル指向非巡回グラフ(DAG)にコンパイルする。 このロードマップはMarkov Decision Process (MDP)として定式化されており、アクション空間は因果一貫性のある遷移に明示的に制限されている。 この制約空間内での意思決定は、脅威を最適化するBlue-Teamポリシーが、保守的な形をしたRed-Teamポリシーと相反する二重エージェント強化学習システムによって行われる。 政治間の不一致は政策偏差スコアを通じて定量化され、不確実性の下でエスカレーション信号として機能する説明可能性-透明性スコアを備えたループインターフェースを介して露呈される。 現実世界のCICIoT2023データセットでは、C-MADFは偽陽性率を3つの最先端文学のベースラインの11.2%、9.7%、および8.4%から1.8%に減らし、0.997精度、0.961リコール、0.979 F1スコアを達成した。

関連論文リスト

• Modality-Decoupled Federated Learning for Privacy-Preserving Embodied Intelligence in 6G [90.42669277637026]
  第6世代(6G)無線ネットワークは、大規模なインボディードインテリジェンスのための重要な基盤を提供すると期待されている。 本稿では、6Gネットワークにおけるプライバシー保護型インテリジェンスのためのモダリティ分離FLフレームワークであるFedMVLAを提案する。
  論文  参考訳（メタデータ） (2026-09-09T01:36:44Z)
• Defense Against LLM Backdoors using Critical Neuron Isolation Pruning [29.131051732315157]
  大規模言語モデル(LLM)は、隠れたトリガーが悪意のある出力を誘導するバックドア攻撃に対して脆弱である。 既存の防御は、推論時検出またはトレーニング時緩和に該当するが、2つの重要な制限に直面している。 DeCNIP (Defense with critical Neuron isolated Pruning) は、クロスエントロピー損失を最適化することによりトリガーのような振る舞いを識別する。 その後、バックドアクリティカルニューロン(BCN)を分離し、悪意のある影響を取り除くために選択的にプーンする。
  論文  参考訳（メタデータ） (2026-07-22T08:29:06Z)
• Provably Secure Agent Guardrail [89.79561918065122]
  既存の防衛アーキテクチャは経験的セマンティックガードレールと確率論的大モデル調整器に依存している。 本稿では,論理的推論の基本的制約に基づくエージェントのための新しいセキュリティパラダイムを提案する。
  論文  参考訳（メタデータ） (2026-05-28T02:12:41Z)
• Real-Time Evaluation of Autonomous Systems under Adversarial Attacks [0.29360071145551064]
  本研究は,実世界の交差点運転データに基づくオフライン軌道学習および対向ロバストネス評価フレームワークを提案する。 我々は、MLP(Multi-Layer Perceptron)ベースの行動クローン(BC)、トランスフォーマーベースのオブジェクトトークン化BC、逆強化学習(IRL)の3つの学習パラダイムを訓練し比較する。 予測時間ロバスト性は、複数の交叉シナリオをまたいだ勾配に基づく逆摂動に対して、訓練されたポリシーを適用することによって評価される。
  論文  参考訳（メタデータ） (2026-05-05T08:30:18Z)
• TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning [60.68349524623048]
  分解されたジェイルブレイクは、大きな言語モデルにとって重大な脅威となる。 我々はステートフルなデュアルエンコーダ防御フレームワークであるTwinGateを紹介する。 我々は、8600の異なる悪意のある意図にまたがる360万以上の命令の包括的なデータセットを構築した。
  論文  参考訳（メタデータ） (2026-04-30T13:44:01Z)
• From Agent Failure Paths to Quantified Residual Risk: A Compositional Framework for Resilient Agentic AI [8.947753534117298]
  エージェントAIは、現在のリスクモデルが表現できるよりも早く、信頼境界を越えています。 レジリエントなエージェント・エンボディAIのためのメカニズム・ツー・マグニチュードパイプラインを提案する。 本稿では,リアルタイム倉庫ロボットとガバナンスによる金融サービスエージェントの2つのコントラストシナリオに関するフレームワークについて述べる。
  論文  参考訳（メタデータ） (2026-04-28T23:40:24Z)
• Beyond Single-Agent Alignment: Preventing Context-Fragmented Violations in Multi-Agent Systems [10.660248467840821]
  新たなセキュリティリスクの特定と形式化:CFV(Context-Fragmented Violations) CFVは、個々のエージェントの行動が局所的に安全かつ合理的に見えるが、全体として組織的方針に反する政策違反の類である。 分散ゼロトラスト適用アーキテクチャである分散センチネルを提案する。
  論文  参考訳（メタデータ） (2026-04-24T03:08:52Z)
• The Cognitive Penalty: Ablating System 1 and System 2 Reasoning in Edge-Native SLMs for Decentralized Consensus [0.0]
  本稿では,Qwen-3.5-9B 上で厳密なモデル内アブレーションを実行する 840-inference 実験フレームワーク Sentinel-Bench を紹介する。 システム1は、100%対逆ロバスト性、100%法線の整合性、および状態の整合性を13秒未満で達成した。 システム2の推論は破滅的な不安定を招き、基本的に26.7%の反響非収束(認知的崩壊)率によって引き起こされた。
  論文  参考訳（メタデータ） (2026-04-18T08:46:37Z)
• Explainability-Guided Defense: Attribution-Aware Model Refinement Against Adversarial Data Attacks [6.573058520271728]
  私たちは、トレーニング中に直接活用できる、解釈可能性と堅牢性との関連性を特定します。 本稿では,局所解釈可能なモデル非依存表現をアクティブな訓練信号に変換する属性誘導型改良フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-01-02T19:36:03Z)
• Cracking IoT Security: Can LLMs Outsmart Static Analysis Tools? [1.8549313085249322]
  本研究は,多カテゴリー間相互作用脅威分類におけるLarge Language Models (LLMs) の総合評価を初めて行った。 Llama 3.1 8B, Llama 70B, GPT-4o, Gemini-2.5-Pro, DeepSeek-R1を0, 1, 2ショット設定でベンチマークする。 以上の結果から, LLMは有望な意味理解を示すが, 相互構造的推論を必要とする脅威に対して, 精度は著しく低下することがわかった。
  論文  参考訳（メタデータ） (2026-01-02T04:17:36Z)
• Cognitive Control Architecture (CCA): A Lifecycle Supervision Framework for Robustly Aligned AI Agents [1.014002853673217]
  LLMエージェントはIPI(Indirect Prompt Injection)攻撃に対して脆弱である。 IPIは外部情報ソースを汚染することでハイジャックエージェントの動作を攻撃している。 本稿では,全ライフサイクルの認知管理を実現するための総合的な枠組みである認知制御アーキテクチャ(CCA)を提案する。
  論文  参考訳（メタデータ） (2025-12-07T08:11:19Z)
• Hiding in the AI Traffic: Abusing MCP for LLM-Powered Agentic Red Teaming [0.0]
  本稿では,モデルコンテキストプロトコル(MCP)を利用した新しいコマンド・アンド・コントロール(C2)アーキテクチャを導入し,適応型偵察エージェントを網羅的に協調する。 私たちのアーキテクチャは、システム全体のゴール指向の振る舞いを改善するだけでなく、コマンドとコントロールの振る舞いを完全に検出および防止するために使用できる主要なホストやネットワークアーティファクトを排除します。
  論文  参考訳（メタデータ） (2025-11-20T02:51:04Z)
• Alignment Tipping Process: How Self-Evolution Pushes LLM Agents Off the Rails [103.05296856071931]
  本稿では,自己進化型大規模言語モデル(LLM)エージェントに特有の,アライメント・ティッピング・プロセス(ATP)を同定する。 ATPは、連続的な相互作用によってエージェントが訓練中に確立されたアライメント制約を放棄し、強化された自己関心の戦略を支持するときに生じる。 実験の結果、アライメントの利点は自己進化の下で急速に低下し、最初は整合性のない状態に収束したモデルであることが判明した。
  論文  参考訳（メタデータ） (2025-10-06T14:48:39Z)
• A Comparative Analysis of Ensemble-Based Machine Learning Approaches with Explainable AI for Multi-Class Intrusion Detection in Drone Networks [0.2708211191235587]
  本研究の目的は、ドローンネットワークに適した堅牢で解釈可能な侵入検知フレームワークを開発することである。 我々は、ラベル付きデータセットでトレーニングされたランダムフォレスト、エクストラツリー、AdaBoost、CatBoost、XGBoostといったアンサンブルベースの機械学習モデルの比較分析を行う。 提案するアプローチは、ほぼ完全な精度を提供するだけでなく、解釈可能性も保証し、リアルタイムかつ安全クリティカルなドローン操作に非常に適している。
  論文  参考訳（メタデータ） (2025-09-23T00:59:21Z)
• Efficient Adversarial Training in LLMs with Continuous Attacks [99.5882845458567]
  大規模言語モデル(LLM)は、安全ガードレールをバイパスできる敵攻撃に対して脆弱である。 本稿では,2つの損失からなる高速対向訓練アルゴリズム(C-AdvUL)を提案する。 C-AdvIPOは、対向的に堅牢なアライメントのためのユーティリティデータを必要としない、対向型のIPOである。
  論文  参考訳（メタデータ） (2024-05-24T14:20:09Z)
• SAFE-SIM: Safety-Critical Closed-Loop Traffic Simulation with Diffusion-Controllable Adversaries [94.84458417662407]
  制御可能なクローズドループ安全クリティカルシミュレーションフレームワークであるSAFE-SIMを紹介する。 提案手法は,1)現実の環境を深く反映した現実的な長距離安全クリティカルシナリオの生成,2)より包括的でインタラクティブな評価のための制御可能な敵行動の提供,の2つの利点をもたらす。 複数のプランナにまたがるnuScenesとnuPlanデータセットを使用して、我々のフレームワークを実証的に検証し、リアリズムと制御性の両方の改善を実証した。
  論文  参考訳（メタデータ） (2023-12-31T04:14:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。