論文の概要: NASimJax: GPU-Accelerated Policy Learning Framework for Penetration Testing
- arxiv url: http://arxiv.org/abs/2603.19864v1
- Date: Fri, 20 Mar 2026 11:30:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-23 19:48:39.118837
- Title: NASimJax: GPU-Accelerated Policy Learning Framework for Penetration Testing
- Title(参考訳): NASimJax: 侵入テストのためのGPUアクセラレーション学習フレームワーク
- Authors: Raphael Simon, José Carrasquel, Wim Mees, Pieter Libin,
- Abstract要約: NASimJaxは、ネットワーク攻撃シミュレータ(NASim)の完全なJAXベースの再実装である。
NASimJaxは、オリジナルのシミュレータよりも100倍高い環境スループットを実現している。
このフレームワークを使用して、最大40ホストのネットワークにわたるアクション空間のスケーリングと一般化を調査します。
- 参考スコア(独自算出の注目度): 0.2624902795082451
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Penetration testing, the practice of simulating cyberattacks to identify vulnerabilities, is a complex sequential decision-making task that is inherently partially observable and features large action spaces. Training reinforcement learning (RL) policies for this domain faces a fundamental bottleneck: existing simulators are too slow to train on realistic network scenarios at scale, resulting in policies that fail to generalize. We present NASimJax, a complete JAX-based reimplementation of the Network Attack Simulator (NASim), achieving up to 100x higher environment throughput than the original simulator. By running the entire training pipeline on hardware accelerators, NASimJax enables experimentation on larger networks under fixed compute budgets that were previously infeasible. We formulate automated penetration testing as a Contextual POMDP and introduce a network generation pipeline that produces structurally diverse and guaranteed-solvable scenarios. Together, these provide a principled basis for studying zero-shot policy generalization. We use the framework to investigate action-space scaling and generalization across networks of up to 40 hosts. We find that Prioritized Level Replay better handles dense training distributions than Domain Randomization, particularly at larger scales, and that training on sparser topologies yields an implicit curriculum that improves out-of-distribution generalization, even on topologies denser than those seen during training. To handle linearly growing action spaces, we propose a two-stage action decomposition (2SAS) that substantially outperforms flat action masking at scale. Finally, we identify a failure mode arising from the interaction between Prioritized Level Replay's episode-reset behaviour and 2SAS's credit assignment structure. NASimJax thus provides a fast, flexible, and realistic platform for advancing RL-based penetration testing.
- Abstract(参考訳): サイバー攻撃をシミュレーションして脆弱性を特定する浸透テストは、本質的に部分的に観察可能であり、大きなアクションスペースを特徴とする複雑なシーケンシャルな意思決定タスクである。
既存のシミュレータは、大規模に現実的なネットワークシナリオでトレーニングするには遅すぎるため、一般化に失敗するポリシが発生します。
ネットワーク攻撃シミュレータ (NASim) の完全な JAX ベースの再実装であるNASimJax について述べる。
ハードウェアアクセラレータ上でトレーニングパイプライン全体を実行することで、NASimJaxは、以前実現不可能だった固定された計算予算の下で、大規模なネットワーク上での実験を可能にする。
自動浸透試験をコンテキストPOMDPとして定式化し、構造的に多様で保証可能なシナリオを生成するネットワーク生成パイプラインを導入する。
これらとともに、ゼロショットポリシーの一般化を研究するための原則的な基礎を提供する。
このフレームワークを使用して、最大40ホストのネットワークにわたるアクション空間のスケーリングと一般化を調査します。
優先順位付きレベルリプレイは、特に大規模で、ドメインランダム化よりも密集したトレーニング分布をうまく処理し、スペーサートポロジのトレーニングは、トレーニング中のトポロジよりも密集したトポロジであっても、分布外一般化を改善する暗黙のカリキュラムをもたらす。
線形に成長する動作空間を扱うために,2段階の動作分解(2SAS)を提案する。
最後に、優先度付きレベルリプレイのエピソードリセット動作と2SASのクレジット割り当て構造との相互作用から発生する障害モードを特定する。
したがって、NASimJaxはRLベースの浸透テストを進めるための高速で柔軟で現実的なプラットフォームを提供する。
関連論文リスト
- Sample-Efficient Neurosymbolic Deep Reinforcement Learning [49.60927398960061]
本稿では,背景記号知識を統合し,サンプル効率を向上させるニューロシンボリックディープRL手法を提案する。
オンライン推論は2つのメカニズムを通じてトレーニングプロセスのガイドを行う。
我々は、最先端の報奨機ベースラインよりも優れた性能を示す。
論文 参考訳(メタデータ) (2026-01-06T09:28:53Z) - SPEAR++: Scaling Gradient Inversion via Sparsely-Used Dictionary Learning [48.41770886055744]
Federated Learningは最近、現実世界のシナリオへのデプロイが増えている。
いわゆる勾配反転攻撃の導入は、プライバシー保護特性に挑戦している。
本稿では,ReLU活性化を伴う線形層の勾配の理論的解析に基づくSPEARを紹介する。
新たな攻撃であるSPEAR++は、DPノイズに対する堅牢性やFedAvgアグリゲーションなど、SPEARの望ましい特性をすべて保持しています。
論文 参考訳(メタデータ) (2025-10-28T09:06:19Z) - PLANRL: A Motion Planning and Imitation Learning Framework to Bootstrap Reinforcement Learning [13.564676246832544]
PLANRLは、ロボットがいつ古典的な動き計画を使うべきか、いつポリシーを学ぶべきかを選択するためのフレームワークである。
PLANRLは2つの操作モードを切り替える: オブジェクトから離れたときに古典的なテクニックを使ってウェイポイントに到達し、オブジェクトと対話しようとするときに細かい操作制御を行う。
我々は,複数の課題のあるシミュレーション環境と実世界のタスクにまたがってアプローチを評価し,既存手法と比較して適応性,効率,一般化の点で優れた性能を示す。
論文 参考訳(メタデータ) (2024-08-07T19:30:08Z) - Adversarial Training of Two-Layer Polynomial and ReLU Activation Networks via Convex Optimization [40.68266398473983]
敵対的攻撃に対して堅牢なニューラルネットワークのトレーニングは、ディープラーニングにおいて依然として重要な問題である。
凸プログラムとして2層ReLUおよびfty$アクティベーションネットワークのトレーニング問題を再構成する。
本研究では,大規模問題に対する凸対向訓練の実用性を示す。
論文 参考訳(メタデータ) (2024-05-22T22:08:13Z) - Efficient Stagewise Pretraining via Progressive Subnetworks [53.00045381931778]
一般的な見方では、レイヤのドロップのような段階的なドロップ戦略は、スタック方式のアプローチと比べて効果がない。
本稿では, 適切な設計で, 戦略の廃止は, 積み重ね手法よりも競争力があることを示すことによって, この概念に挑戦する。
本稿では,各ステップでランダムサブネットワークのみを選択し,訓練し,段階的に拡大するランダムパートトレーニング(RAPTR)を提案する。
論文 参考訳(メタデータ) (2024-02-08T18:49:09Z) - FIRE: A Failure-Adaptive Reinforcement Learning Framework for Edge Computing Migrations [54.34189781923818]
FIREは、エッジコンピューティングのディジタルツイン環境でRLポリシーをトレーニングすることで、まれなイベントに適応するフレームワークである。
ImREは重要なサンプリングに基づくQ-ラーニングアルゴリズムであり、希少事象をその値関数への影響に比例してサンプリングする。
FIREは故障時にバニラRLやグリーディベースラインと比較してコストを削減できることを示す。
論文 参考訳(メタデータ) (2022-09-28T19:49:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。