論文の概要: Towards Hierarchical Cyber Defense with Large Language Models: From Planning to Execution
- arxiv url: http://arxiv.org/abs/2610.00590v1
- Date: Wed, 30 Sep 2026 18:53:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:23.722706
- Title: Towards Hierarchical Cyber Defense with Large Language Models: From Planning to Execution
- Title(参考訳): 大規模言語モデルによる階層型サイバー防衛を目指して:計画から実行へ
- Abstract要約: 強化学習(RL)で訓練された自律サイバーディフェンダーは、訓練されたネットワークに縛られるのが一般的である。
我々は,ゼロショット大言語モデル (LLM) が階層型サイバー防御においてリトレーニング不要な制御を実現できるかどうかを検討する。
- 参考スコア(独自算出の注目度): 8.56054061802862
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: An autonomous cyber defender trained with reinforcement learning (RL) is typically tied to the network on which it was trained, limiting its ability to generalize as network scale changes. Hierarchical RL reduces decision complexity by separating strategic targeting from tactical execution, but it does not eliminate this retraining dependence. We investigate whether frozen, zero-shot large language models (LLMs) can provide retraining-free control in hierarchical cyber defense and how performance changes as LLM control is extended from planning to execution. We formulate a controller-agnostic planner-executor hierarchy in which the planner selects a subnet to defend over a fixed horizon and the executor selects defensive actions within that subnet. Using the high fidelity Cyberwheel environment, with its built-in automated red team agent mapped to the MITRE ATT&CK framework, we compare RL+RL, LLM+RL, and LLM+LLM configurations using six models ranging from 3B to 70B parameters, including two cybersecurity-specialized models, across small, medium, and large networks. Replacing only the planner with an LLM yields limited gains as network size increases. In contrast, extending LLM control to execution produces notable improvements for sufficiently capable models. For instance, a frozen general purpose 70B model holds successful lateral movement to approximately 1% of steps and attacker impact near zero across all three network scales using the same model weights, while the RL baseline is retrained for each scale. Our results show that sufficiently capable frozen LLMs can maintain strong defensive performance across the evaluated network scales without task-specific retraining, while also indicating that strong tactical execution is important to realizing the benefits of LLM-based control.
- Abstract(参考訳): 強化学習(RL)で訓練された自律サイバーディフェンダーは、訓練されたネットワークに縛られ、ネットワークスケールの変化に合わせて一般化する能力を制限する。
階層的RLは戦略的ターゲティングを戦術的実行から切り離すことによって決定の複雑さを低減するが、この再訓練依存を排除しない。
ゼロショット大言語モデル (LLM) が階層型サイバー防御においてリトレーニング不要な制御を実現することができるかどうか, LLM制御が計画から実行へ拡張されるにつれて, 性能がどう変化するかを検討する。
制御系に依存しないプランナー・エグゼクタ階層を定式化し、プランナーが固定地平線上で防御するサブネットを選択し、エグゼクタがそのサブネット内の防御行動を選択する。
高忠実度Cyberwheel環境を用いて、MITRE ATT&CKフレームワークに自動化されたレッドチームエージェントをマッピングし、RL+RL、LLM+RL、LLM+LLM構成を、3Bから70Bパラメータの6つのモデルを用いて比較する。
LLMでプランナのみをリプレースすると、ネットワークサイズが大きくなると、利得が制限される。
対照的に、LLM制御を実行に拡張することは、十分な能力を持つモデルに対して顕著な改善をもたらす。
例えば、凍結された汎用70Bモデルは、およそ1%のステップに横移動を成功させ、同じモデル重みを使って攻撃者は3つのネットワークスケールにほぼゼロで衝突し、RLベースラインは各スケールで再訓練される。
この結果から,LLMはタスク固有のリトレーニングを伴わずに,評価ネットワーク規模で強力な防御性能を維持でき,かつ,LLM制御の利点を実現する上では,強力な戦術的実行が重要であることが示された。
関連論文リスト
- No One Architecture Fits All: A Cross-Environment Evaluation of Hierarchical Red Team Agents [19.289664650815286]
強化学習(RL)と大規模言語モデル(LLM)は、そのようなエージェントが必要とする計画と実行を補完するメカニズムを提供する。
我々は、RLエグゼキュータ(RL+RL)とLLMエグゼキュータ(LLM+LLM)の2つの均質な階層型レッドチームアーキテクチャを比較した。
RL+RLはコンパクトで高報酬のCAGE-4(78.5%は破壊的成功、最強のLLM構成では18.0%)と100ホストのCyberwheelネットワーク(81.0%対50.5%)に勝利する。
キルチェーン解析はアーキテクチャによる逆転を説明する-
論文 参考訳(メタデータ) (2026-09-30T18:32:50Z) - Distilling Knowledge from Large Language Models into Lightweight Reinforcement Learning Agents for Autonomous Cyber Operations [0.7090965808928492]
大規模言語モデルは、ACO環境における自律的な防御的意思決定を改善する。
オンライン政策蒸留フレームワークは、モデルのサイズを桁違いに削減する。
報酬駆動型RL最適化と教師誘導型防衛戦略の間の政策調整制限の提言。
論文 参考訳(メタデータ) (2026-07-30T20:28:02Z) - A Red Teaming Framework for Evaluating Robustness of AI-enabled Security Orchestration, Automation, and Response Systems [8.56054061802862]
大規模言語モデル(LLM)と強化学習(RL)を統合した,自律的なレッドチーム編成フレームワークを導入する。
階層設計では、戦略目的のためのLSMベースのプランナーと戦術実行のためのRLコントローラを組み合わせる。
論文 参考訳(メタデータ) (2026-05-16T16:46:06Z) - Large Language Model (LLM)-enabled Reinforcement Learning for Wireless Network Optimization [79.27012080083603]
大型言語モデル(LLM)は、無線ネットワークにおける強化学習を強化するための有望なツールを提供する。
マルチエージェント強化学習フレームワークを強化するために,LLM支援状態表現と意味抽出を提案する。
論文 参考訳(メタデータ) (2026-01-15T01:42:39Z) - Enhancing Cloud Network Resilience via a Robust LLM-Empowered Multi-Agent Reinforcement Learning Framework [9.460661802313835]
CyberOps-Botsは、Large Language Models (LLM)によって強化された階層型マルチエージェント強化学習フレームワークである。
実際のクラウドデータセットの実験では、最先端のアルゴリズムと比較して、CyberOps-Botsはネットワーク可用性を68.5%高く維持している。
当社のフレームワークをコミュニティにリリースし、クラウドネットワークにおける堅牢で自律的な防衛の進展を促進します。
論文 参考訳(メタデータ) (2026-01-12T01:25:41Z) - Planning without Search: Refining Frontier LLMs with Offline Goal-Conditioned RL [62.984693936073974]
大きな言語モデル(LLM)は、質問応答や対話といったタスクに優れています。
交渉や説得のような相互作用を必要とする複雑なタスクは、さらなる長期の推論と計画を必要とする。
目的条件付き値関数を用いて LLM エージェントの推論を導出する手法を提案する。
論文 参考訳(メタデータ) (2025-05-23T16:51:54Z) - Towards Efficient LLM Grounding for Embodied Multi-Agent Collaboration [68.29746557968107]
本稿では,多エージェント協調のための新しいフレームワークを提案する。これは,効率的な自己調整のための強化アドバンテージフィードバック(Reinforced Advantage feedback, ReAd)を導入する。
Over-AIと難解なRoCoBenchの実験は、ReAdが成功率のベースラインを超え、エージェントの相互作用ステップを著しく減少させることを示している。
論文 参考訳(メタデータ) (2024-05-23T08:33:19Z) - ArCHer: Training Language Model Agents via Hierarchical Multi-Turn RL [80.10358123795946]
大規模言語モデルを微調整するためのマルチターンRLアルゴリズムを構築するためのフレームワークを開発する。
我々のフレームワークは階層的なRLアプローチを採用し、2つのRLアルゴリズムを並列に実行している。
実験により,ArCHerはエージェントタスクの効率と性能を大幅に向上させることがわかった。
論文 参考訳(メタデータ) (2024-02-29T18:45:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。