論文の概要: Red Teaming with Artificial Intelligence-Driven Cyberattacks: A Scoping Review
- arxiv url: http://arxiv.org/abs/2503.19626v1
- Date: Tue, 25 Mar 2025 13:14:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-26 16:50:31.272921
- Title: Red Teaming with Artificial Intelligence-Driven Cyberattacks: A Scoping Review
- Title(参考訳): 人工知能によるサイバー攻撃と組む:スコーピングのレビュー
- Authors: Mays Al-Azzawi, Dung Doan, Tuomo Sipola, Jari Hautamäki, Tero Kokkonen,
- Abstract要約: 本稿では,サイバーセキュリティ攻撃におけるAI技術の利用について検討する。
機密データ、システム、ソーシャルメディアプロファイル、パスワード、URLをターゲットとして、様々なサイバー攻撃方法が特定された。
サイバー犯罪におけるAIの多目的攻撃モデル開発への応用は、脅威が増大していることを示している。
- 参考スコア(独自算出の注目度): 0.8388591755871736
- License:
- Abstract: The progress of artificial intelligence (AI) has made sophisticated methods available for cyberattacks and red team activities. These AI attacks can automate the process of penetrating a target or collecting sensitive data. The new methods can also accelerate the execution of the attacks. This review article examines the use of AI technologies in cybersecurity attacks. It also tries to describe typical targets for such attacks. We employed a scoping review methodology to analyze articles and identify AI methods, targets, and models that red teams can utilize to simulate cybercrime. From the 470 records screened, 11 were included in the review. Various cyberattack methods were identified, targeting sensitive data, systems, social media profiles, passwords, and URLs. The application of AI in cybercrime to develop versatile attack models presents an increasing threat. Furthermore, AI-based techniques in red team use can provide new ways to address these issues.
- Abstract(参考訳): 人工知能(AI)の進歩により、サイバー攻撃やレッドチームの活動に洗練された手法が利用できるようになった。
これらのAI攻撃は、ターゲットを侵入したり、機密データを収集するプロセスを自動化することができる。
新しいメソッドは、攻撃の実行を加速することもできる。
本稿では,サイバーセキュリティ攻撃におけるAI技術の利用について検討する。
また、そのような攻撃の典型的な標的についても記述しようとする。
我々は、スコーピングレビュー手法を使用して、記事を分析し、レッドチームがサイバー犯罪をシミュレートするために使用できるAIメソッド、ターゲット、モデルを識別した。
審査された470件のうち11件が審査対象となった。
機密データ、システム、ソーシャルメディアプロファイル、パスワード、URLをターゲットとして、様々なサイバー攻撃方法が特定された。
サイバー犯罪におけるAIの多目的攻撃モデル開発への応用は、脅威が増大していることを示している。
さらに、レッドチームでのAIベースのテクニックは、これらの問題に対処するための新しい方法を提供することができる。
関連論文リスト
- Intelligent Attacks on Cyber-Physical Systems and Critical Infrastructures [0.0]
この章は、サイバー物理システムと重要なインフラにおける攻撃の進化の状況の概要を提供する。
人工知能(AI)アルゴリズムによるインテリジェントなサイバーアタックの開発の可能性を強調している。
論文 参考訳(メタデータ) (2025-01-22T09:54:58Z) - Is Generative AI the Next Tactical Cyber Weapon For Threat Actors? Unforeseen Implications of AI Generated Cyber Attacks [0.0]
本稿では,AIの誤用によるエスカレート脅威,特にLarge Language Models(LLMs)の使用について述べる。
一連の制御された実験を通じて、これらのモデルがどのようにして倫理的およびプライバシー保護を回避し、効果的にサイバー攻撃を発生させるかを実証する。
私たちはまた、サイバー攻撃の自動化と実行のために特別に設計されたカスタマイズされた微調整のLLMであるOccupy AIを紹介します。
論文 参考訳(メタデータ) (2024-08-23T02:56:13Z) - Towards more Practical Threat Models in Artificial Intelligence Security [66.67624011455423]
最近の研究で、人工知能のセキュリティの研究と実践のギャップが特定されている。
我々は、AIセキュリティ研究で最も研究されている6つの攻撃の脅威モデルを再検討し、実際にAIの使用と一致させる。
論文 参考訳(メタデータ) (2023-11-16T16:09:44Z) - The State-of-the-Art in AI-Based Malware Detection Techniques: A Review [0.0]
このレビューは、マルウェアの検出と防止に使用される最先端のAI技術の概要を明らかにすることを目的としている。
研究対象のアルゴリズムは、浅層学習、深層学習、バイオインスパイアド・コンピューティングである。
この調査はまた、より高度なマルウェアを作成する手段として、サイバー犯罪者によるAIの急速な採用にも触れている。
論文 参考訳(メタデータ) (2022-10-12T16:44:52Z) - Proceedings of the Artificial Intelligence for Cyber Security (AICS)
Workshop at AAAI 2022 [55.573187938617636]
ワークショップは、サイバーセキュリティの問題へのAIの適用に焦点を当てる。
サイバーシステムは大量のデータを生成し、これを効果的に活用することは人間の能力を超えます。
論文 参考訳(メタデータ) (2022-02-28T18:27:41Z) - Automating Privilege Escalation with Deep Reinforcement Learning [71.87228372303453]
本研究では,エージェントの訓練に深層強化学習を用いることで,悪意あるアクターの潜在的な脅威を実証する。
本稿では,最先端の強化学習アルゴリズムを用いて,局所的な特権エスカレーションを行うエージェントを提案する。
我々のエージェントは、実際の攻撃センサーデータを生成し、侵入検知システムの訓練と評価に利用できる。
論文 参考訳(メタデータ) (2021-10-04T12:20:46Z) - The Threat of Offensive AI to Organizations [52.011307264694665]
この調査は、組織に対する攻撃的なAIの脅威を調査する。
まず、AIが敵の方法、戦略、目標、および全体的な攻撃モデルをどのように変えるかについて議論する。
そして、文献レビューを通じて、敵が攻撃を強化するために使用できる33の攻撃的AI能力を特定します。
論文 参考訳(メタデータ) (2021-06-30T01:03:28Z) - The Feasibility and Inevitability of Stealth Attacks [63.14766152741211]
我々は、攻撃者が汎用人工知能システムにおける決定を制御できる新しい敵の摂動について研究する。
敵対的なデータ修正とは対照的に、ここで考慮する攻撃メカニズムには、AIシステム自体の変更が含まれる。
論文 参考訳(メタデータ) (2021-06-26T10:50:07Z) - Prospective Artificial Intelligence Approaches for Active Cyber Defence [1.443536831322927]
一部のサイバーセキュリティ専門家は、AIが対応するサイバー防衛対策の新たなクラスを可能にすると推測している。
このポジショニングペーパーは、最も有望なAIアプローチの2つのロードマップを更新する。
バランスを守備隊に戻すのに役立てる理由を説明している。
論文 参考訳(メタデータ) (2021-04-20T14:07:34Z) - Security and Privacy for Artificial Intelligence: Opportunities and
Challenges [11.368470074697747]
近年、ほとんどのAIモデルは高度なハッキング技術に弱い。
この課題は、敵AIの研究努力を共同で進めるきっかけとなった。
我々は、AIアプリケーションに対する敵攻撃を実証する総合的なサイバーセキュリティレビューを提示する。
論文 参考訳(メタデータ) (2021-02-09T06:06:13Z) - Adversarial Machine Learning Attacks and Defense Methods in the Cyber
Security Domain [58.30296637276011]
本稿では,機械学習技術に基づくセキュリティソリューションに対する敵攻撃に関する最新の研究を要約する。
サイバーセキュリティドメインでエンドツーエンドの敵攻撃を実装するという、ユニークな課題を議論するのは、これが初めてである。
論文 参考訳(メタデータ) (2020-07-05T18:22:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。