論文の概要: Alignment of Autonomous Cyber Defense Agents via Adaptive Policy Shaping
- arxiv url: http://arxiv.org/abs/2610.33234v1
- Date: Fri, 23 Oct 2026 19:36:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.278239
- Title: Alignment of Autonomous Cyber Defense Agents via Adaptive Policy Shaping
- Title(参考訳): 適応型政策形成による自律型サイバー防衛エージェントの配向
- Abstract要約: 本稿では,RLをベースとしたACDエージェントと人為的操作目的の整合性の問題について,費用対効果を伴わずに検討する。
本稿では,現在進行中のサイバー攻撃において,運用上の優先順位変更としてアライメント-パフォーマンストレードオフを動的に制御する適応的アプローチを提案する。
その結果,適応型テストタイムポリシーの整形は,コアサイバー防御性能を維持しつつアライメントを著しく向上させることができることがわかった。
- 参考スコア(独自算出の注目度): 1.8991228030272393
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Cybersecurity operators increasingly encounter sophisticated and fast-paced attacks, making autonomous cyber defense (ACD) a critical approach for supporting timely and effective decision-making. Reinforcement learning (RL)-based ACD agents have the ability to autonomously observe network states and take actions to defend and recover system assets, making them well suited for ACD. However, these agents often face critical trade-offs, such as improving network security while inadvertently degrading service availability or violating other operational priorities such as confidentiality and integrity, raising the core challenge of aligning agent behavior with human-specified goals and intent. In this work, we study the problem of aligning RL-based ACD agents with human-specified operational objectives without requiring costly retraining. We formalize alignment for ACD as a policy shaping problem, where a pretrained RL decision-making policy can be adjusted at test time using predicted attributes over agent actions. We also propose an adaptive approach that dynamically controls the alignment--performance trade-off as operational priorities shift during an ongoing cyber attack. We evaluate our method in a simulated cyber defense environment, CybORG, analyzing performance across multiple alignment objectives using the Confidentiality, Integrity, and Availability (CIA) information security triad. Our results show that adaptive test-time policy shaping can significantly improve alignment while preserving core cyber defense performance, offering a practical and scalable alternative to training-time alignment methods in RL. Our code is publicly available at https://github.com/ITM-Kitware/alignment-cage-challenge-2.
- Abstract(参考訳): サイバーセキュリティのオペレータは、高度で急激な攻撃に遭遇し、自律的なサイバー防衛(ACD)をタイムリーで効果的な意思決定を支援する重要なアプローチにしている。
強化学習(RL)ベースのACDエージェントは、自律的にネットワーク状態を観察し、システム資産の防衛と回復のための行動を取る能力があり、ACDに適している。
しかしながら、これらのエージェントは、サービスの可用性を意図的に低下させながらネットワークセキュリティを改善したり、機密性や整合性といった他の運用上の優先事項を侵害したり、エージェントの振る舞いを人間の指定した目標や意図と整合させるという中核的な課題を提起するなど、重要なトレードオフに直面します。
本研究では,RLをベースとしたACDエージェントと人為的操作目的との整合性の問題について,費用対効果を伴わずに検討する。
我々は,ACDのアライメントを政策形成問題として定式化し,エージェントアクションよりも予測属性を用いて,事前訓練されたRL決定ポリシーをテスト時に調整することができる。
また,現在進行中のサイバー攻撃において,運用上の優先順位変更としてアライメント・パフォーマンストレードオフを動的に制御する適応的アプローチを提案する。
我々は,CybORG(CybORG)を模擬サイバー防衛環境で評価し,機密性,統合性,アベイラビリティ(CIA)情報セキュリティトリアドを用いて複数のアライメント目標にまたがる性能を解析した。
その結果, 適応型テストタイムポリシーの整合性は, コアサイバー防御性能を保ちながら, 整合性を大幅に向上し, RLの訓練時間整合性に代わる実用的かつスケーラブルな代替手段を提供することが示唆された。
私たちのコードはhttps://github.com/ITM-Kitware/alignment-cage-challenge-2で公開されています。
関連論文リスト
- Distributed Secure Learning Control for Large-scale Multirobots under Stealthy Actuator Attacks [24.92429415447018]
本稿では,ステルス攻撃下での大規模ロボットのためのセキュアな分散学習制御フレームワークを提案する。
オンライン上で最適な防御と攻撃ポリシーを学ぶために、分散型アタッカー-アクター-クリティカルアーキテクチャを採用している。
様々な制御タスクを通じて、多輪ロボットの総合シミュレーションや実世界実験を通じて検証される。
論文 参考訳(メタデータ) (2026-09-07T00:39:28Z) - CAST: Critique-Aware Supervision for Training Reliable Long-Horizon Tool-Calling Agents [66.9575676266637]
大規模言語モデル(LLM)エージェントは、長期的、インタラクティブでステートフルな環境にますますデプロイされている。
これらの設定では、間違った購入を返金するなどの1つの間違ったアクションは、不可逆なタスクの失敗を引き起こし、実行前にインターセプトされなければならない。
CASTは、スパースタスクの結果を批判学習と政策最適化のためのアクションレベル監視に変換する、批判に意識したトレーニングフレームワークである。
論文 参考訳(メタデータ) (2026-08-31T01:59:51Z) - CyberFactory: Scaling Cyber Security Capabilities with Instances from the Wild [49.44069582581181]
CyberFactoryは、CVEを含む公開脆弱性アーティファクトをワイルドから実行可能で検証可能なタスクインスタンスに変換する。
再利用可能な脆弱性分析スキルを使用して、ソースインスペクション、ドメイン前の問題解決、エビデンスベースのバリデーションを通じて教師を指導する。
CyberGymでは1時間の予算で52.4%のPass@1に達し、Qwen3.5ベースモデルを+22.8ポイント改善した。
論文 参考訳(メタデータ) (2026-08-24T12:30:10Z) - Distilling Knowledge from Large Language Models into Lightweight Reinforcement Learning Agents for Autonomous Cyber Operations [0.7090965808928492]
大規模言語モデルは、ACO環境における自律的な防御的意思決定を改善する。
オンライン政策蒸留フレームワークは、モデルのサイズを桁違いに削減する。
報酬駆動型RL最適化と教師誘導型防衛戦略の間の政策調整制限の提言。
論文 参考訳(メタデータ) (2026-07-30T20:28:02Z) - Adapting Generalist Robot Policies with Semantic Reinforcement Learning [59.009122725071386]
ジェネラリストロボットポリシーは、大規模な事前訓練から多様な行動のレパートリーを学ぶ。
本稿では,オンラインインタラクションを通じて,このプロンプト空間を最適化するためのセマンティック・アクション強化学習(SARL)を提案する。
我々は、SARLが基本的に新しい機能をアンロックしていることを示します。
論文 参考訳(メタデータ) (2026-06-30T17:00:33Z) - Contextualized Privacy Defense for LLM Agents [84.30907378390512]
LLMエージェントはますますユーザーの個人情報に作用するが、既存のプライバシー保護は設計と適応性の両方において制限されている。
我々は,新たなプライバシ防衛パラダイムであるCDI(Contextualized Defense Instructing)を提案する。
我々のCDIは、ベースラインよりもプライバシー保護(94.2%)と有用性(80.6%)のバランスが良好であることを示します。
論文 参考訳(メタデータ) (2026-03-03T13:35:33Z) - Aligning Machiavellian Agents: Behavior Steering via Test-Time Policy Shaping [5.161558858101654]
モデル誘導型ポリシー整形に基づくテスト時間アライメント手法を提案する。
本手法は,多様な強化学習環境にまたがって,個々の行動特性を正確に制御する。
我々の結果は、テストタイムポリシーの整形が非倫理的行動を緩和するための効果的でスケーラブルなソリューションを提供することを示した。
論文 参考訳(メタデータ) (2025-11-14T18:42:18Z) - Safety Correction from Baseline: Towards the Risk-aware Policy in
Robotics via Dual-agent Reinforcement Learning [64.11013095004786]
本稿では,ベースラインと安全エージェントからなる二重エージェント型安全強化学習戦略を提案する。
このような分離されたフレームワークは、RLベースの制御に対して高い柔軟性、データ効率、リスク認識を可能にする。
提案手法は,難易度の高いロボットの移動・操作作業において,最先端の安全RLアルゴリズムより優れる。
論文 参考訳(メタデータ) (2022-12-14T03:11:25Z) - Policy Smoothing for Provably Robust Reinforcement Learning [109.90239627115336]
入力のノルム有界対向摂動に対する強化学習の証明可能な堅牢性について検討する。
我々は、スムーズなポリシーによって得られる全報酬が、入力の摂動のノルムバウンドな逆数の下で一定の閾値以下に収まらないことを保証した証明書を生成する。
論文 参考訳(メタデータ) (2021-06-21T21:42:08Z) - Constraints Satisfiability Driven Reinforcement Learning for Autonomous
Cyber Defense [7.321728608775741]
強化学習(RL)の防御政策の最適化と検証を目的とした新しいハイブリッド自律エージェントアーキテクチャを紹介します。
我々は、安全かつ効果的な行動に向けてRL決定を操るために、制約検証(SMT(Satisfiability modulo theory))を用いる。
シミュレーションCPS環境における提案手法の評価は,エージェントが最適方針を迅速に学習し,99%のケースで多種多様な攻撃戦略を破ることを示す。
論文 参考訳(メタデータ) (2021-04-19T01:08:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。