論文の概要: Reinforcement Learning for Feedback-Enabled Cyber Resilience

• arxiv url: http://arxiv.org/abs/2107.00783v1
• Date: Fri, 2 Jul 2021 01:08:45 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-05 12:42:02.785903
• Title: Reinforcement Learning for Feedback-Enabled Cyber Resilience
• Title（参考訳）: フィードバック型サイバーレジリエンスのための強化学習
• Authors: Yunhan Huang, Linan Huang, Quanyan Zhu
• Abstract要約: サイバーレジリエンスは、不適切な保護とレジリエンスメカニズムを補完する新しいセキュリティパラダイムを提供する。 CRM(Cyber-Resilient Mechanism)は、既知の、あるいはゼロデイの脅威や、リアルタイムでの不確実性に適応するメカニズムである。 サイバーレジリエンスに関するRLに関する文献をレビューし、3つの主要な脆弱性に対するサイバーレジリエンスの防御について論じる。
• 参考スコア（独自算出の注目度）: 24.92055101652206
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The rapid growth in the number of devices and their connectivity has enlarged the attack surface and weakened cyber systems. As attackers become increasingly sophisticated and resourceful, mere reliance on traditional cyber protection, such as intrusion detection, firewalls, and encryption, is insufficient to secure cyber systems. Cyber resilience provides a new security paradigm that complements inadequate protection with resilience mechanisms. A Cyber-Resilient Mechanism (CRM) adapts to the known or zero-day threats and uncertainties in real-time and strategically responds to them to maintain the critical functions of the cyber systems. Feedback architectures play a pivotal role in enabling the online sensing, reasoning, and actuation of the CRM. Reinforcement Learning (RL) is an important class of algorithms that epitomize the feedback architectures for cyber resiliency, allowing the CRM to provide dynamic and sequential responses to attacks with limited prior knowledge of the attacker. In this work, we review the literature on RL for cyber resiliency and discuss the cyber-resilient defenses against three major types of vulnerabilities, i.e., posture-related, information-related, and human-related vulnerabilities. We introduce moving target defense, defensive cyber deception, and assistive human security technologies as three application domains of CRMs to elaborate on their designs. The RL technique also has vulnerabilities itself. We explain the major vulnerabilities of RL and present several attack models in which the attacks target the rewards, the measurements, and the actuators. We show that the attacker can trick the RL agent into learning a nefarious policy with minimum attacking effort, which shows serious security concerns for RL-enabled systems. Finally, we discuss the future challenges of RL for cyber security and resiliency and emerging applications of RL-based CRMs.
• Abstract（参考訳）: デバイス数と接続の急速な増加は、攻撃面を拡大し、サイバーシステムを弱体化させている。 攻撃者がますます高度でリソースに富むようになるにつれて、侵入検知、ファイアウォール、暗号化といった従来のサイバー保護に頼るだけでは、セキュアなサイバーシステムには不十分である。 サイバーレジリエンスは、不適切な保護とレジリエンスメカニズムを補完する新しいセキュリティパラダイムを提供する。 CRM(Cyber-Resilient Mechanism)は、既知の、あるいはゼロデイの脅威に適応し、リアルタイムで不確実性に対処し、戦略的にサイバーシステムの重要な機能を維持する。 フィードバックアーキテクチャはCRMのオンラインセンシング、推論、動作を可能にする上で重要な役割を担います。 強化学習(Reinforcement Learning, RL)は、サイバーレジリエンスのためのフィードバックアーキテクチャを模倣する重要なアルゴリズムのクラスであり、CRMは攻撃者の事前知識に制限された攻撃に対して動的かつシーケンシャルな応答を提供することができる。 本稿では,サイバーレジリエンスに関するRLに関する文献をレビューし,姿勢関連,情報関連,人為的脆弱性の3つの主要な脆弱性に対するサイバーレジリエントな防御について論じる。 我々は,CRMの3つのアプリケーションドメインとして,移動目標防衛,サイバー詐欺,ヒューマンセキュリティ技術を導入し,その設計を詳述する。 RLテクニックにも脆弱性がある。 本稿では、RLの主な脆弱性を説明し、攻撃が報酬、測定、アクチュエータを標的とするいくつかの攻撃モデルを示す。 攻撃者はRLエージェントを騙して最小限の攻撃力で悪質なポリシーを学習し、RL対応システムに対する重大なセキュリティ上の懸念を示す。 最後に、サイバーセキュリティとレジリエンスにおけるRLの今後の課題と、RLベースのCRMの新たな応用について論じる。

関連論文リスト

• Countering Autonomous Cyber Threats [40.00865970939829]
  ファンデーションモデルは、サイバードメイン内で広く、特に二元的関心事を提示します。 近年の研究では、これらの先進的なモデルが攻撃的なサイバースペース操作を通知または独立に実行する可能性を示している。 この研究は、孤立したネットワークでマシンを妥協する能力について、最先端のいくつかのFMを評価し、そのようなAIによる攻撃を倒す防御メカニズムを調査する。
  論文  参考訳（メタデータ） (2024-10-23T22:46:44Z)
• Multi-Agent Actor-Critics in Autonomous Cyber Defense [0.5261718469769447]
  マルチエージェントディープ強化学習(MADRL)は、自律型サイバーオペレーションの有効性とレジリエンスを高めるための有望なアプローチである。 シミュレーションサイバー攻撃シナリオにおいて,各エージェントが迅速に学習し,MADRLを用いて自律的に脅威に対処できることを実証する。
  論文  参考訳（メタデータ） (2024-10-11T15:15:09Z)
• Enhancing cybersecurity defenses: a multicriteria decision-making approach to MITRE ATT&CK mitigation strategy [0.0]
  本稿では、どのセキュリティ制御を行うべきかを判断・優先順位付けすることで、提示されたセキュリティ脅威に対する防衛戦略を提案する。 このアプローチは、組織がより堅牢でレジリエントなサイバーセキュリティ姿勢を達成するのに役立つ。
  論文  参考訳（メタデータ） (2024-07-27T09:47:26Z)
• Rethinking the Vulnerabilities of Face Recognition Systems:From a Practical Perspective [53.24281798458074]
  顔認識システム(FRS)は、監視やユーザー認証を含む重要なアプリケーションにますます統合されている。 最近の研究によると、FRSの脆弱性は敵(例えば、敵パッチ攻撃)やバックドア攻撃(例えば、データ中毒の訓練)であることが明らかになっている。
  論文  参考訳（メタデータ） (2024-05-21T13:34:23Z)
• The MESA Security Model 2.0: A Dynamic Framework for Mitigating Stealth Data Exfiltration [0.0]
  ステルスデータ流出は、隠蔽侵入、拡張された検出不能、機密データの不正な拡散を特徴とする重要なサイバー脅威である。 以上の結果から,従来の防衛戦略はこれらの高度な脅威に対処するには不十分であることが判明した。 この複雑な風景をナビゲートする上で、潜在的な脅威を予測し、防衛を継続的に更新することが重要です。
  論文  参考訳（メタデータ） (2024-05-17T16:14:45Z)
• Designing an attack-defense game: how to increase robustness of financial transaction models via a competition [69.08339915577206]
  金融セクターにおける悪意ある攻撃のエスカレートリスクを考えると、機械学習モデルの敵戦略と堅牢な防御メカニズムを理解することが重要である。 本研究の目的は、逐次的な財務データを入力として使用するニューラルネットワークモデルに対する敵攻撃と防御の現状とダイナミクスを調査することである。 我々は、現代の金融取引データにおける問題の現実的かつ詳細な調査を可能にする競争を設計した。 参加者は直接対決するので、実生活に近い環境で攻撃や防御が検討される。
  論文  参考訳（メタデータ） (2023-08-22T12:53:09Z)
• On the Security Risks of Knowledge Graph Reasoning [71.64027889145261]
  我々は、敵の目標、知識、攻撃ベクトルに応じて、KGRに対するセキュリティ脅威を体系化する。 我々は、このような脅威をインスタンス化する新しいタイプの攻撃であるROARを提示する。 ROARに対する潜在的な対策として,潜在的に有毒な知識のフィルタリングや,対向的な拡張クエリによるトレーニングについて検討する。
  論文  参考訳（メタデータ） (2023-05-03T18:47:42Z)
• Fixed Points in Cyber Space: Rethinking Optimal Evasion Attacks in the Age of AI-NIDS [70.60975663021952]
  ネットワーク分類器に対するブラックボックス攻撃について検討する。 我々は、アタッカー・ディフェンダーの固定点がそれ自体、複雑な位相遷移を持つ一般サムゲームであると主張する。 攻撃防御力学の研究には連続的な学習手法が必要であることを示す。
  論文  参考訳（メタデータ） (2021-11-23T23:42:16Z)
• Review: Deep Learning Methods for Cybersecurity and Intrusion Detection Systems [6.459380657702644]
  人工知能(AI)と機械学習(ML)はサイバー防衛の鍵となる技術として活用することができる。 本稿では,ネットワーク侵入検出に使用される様々な深層学習手法について検討する。
  論文  参考訳（メタデータ） (2020-12-04T23:09:35Z)
• Adversarial Machine Learning Attacks and Defense Methods in the Cyber Security Domain [58.30296637276011]
  本稿では,機械学習技術に基づくセキュリティソリューションに対する敵攻撃に関する最新の研究を要約する。 サイバーセキュリティドメインでエンドツーエンドの敵攻撃を実装するという、ユニークな課題を議論するのは、これが初めてである。
  論文  参考訳（メタデータ） (2020-07-05T18:22:40Z)
• Challenges and Countermeasures for Adversarial Attacks on Deep Reinforcement Learning [48.49658986576776]
  深層強化学習(Dep Reinforcement Learning, DRL)は、周囲の環境に適応する優れた能力のおかげで、現実世界に多くの応用がある。 その大きな利点にもかかわらず、DRLは現実のクリティカルシステムやアプリケーションでの使用を妨げている敵攻撃の影響を受けやすい。 本稿では,DRLベースのシステムにおける新たな攻撃と,これらの攻撃を防御するための潜在的対策について述べる。
  論文  参考訳（メタデータ） (2020-01-27T10:53:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。