論文の概要: AI-Generated PowerShell Malware: An Experimental Framework and Dataset
- arxiv url: http://arxiv.org/abs/2606.30819v1
- Date: Mon, 29 Jun 2026 18:46:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 18:27:18.972756
- Title: AI-Generated PowerShell Malware: An Experimental Framework and Dataset
- Title(参考訳): AI生成PowerShellマルウェア - 実験フレームワークとデータセット
- Abstract要約: ジェネレーティブAIは、重要なサイバーセキュリティの脅威として浮上している。
我々は、自然言語で注釈付けされた現実世界のマルウェアの、手動でキュレートされた新しいデータセットを提示する。
以上の結果から,OSの悪質な事象が引き起こされるという点で,実際のマルウェアとLLM生成マルウェアとの類似性が高いことが明らかとなった。
- 参考スコア(独自算出の注目度): 3.315877207045108
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generative AI has emerged as a significant cybersecurity threat, with several recent attack campaigns leveraging LLMs to generate code for malicious purposes via scripting languages such as PowerShell. Consequently, for cybersecurity analysts, it is imperative to investigate the offensive capabilities of AI code generators. In this paper, we propose an experimental framework to assess LLM-generated PowerShell malware, which comprises a novel sandbox approach for dynamic analysis of AI-generated malware. Furthermore, we present a novel, manually curated dataset of real-world PowerShell malware, annotated in natural language to assist the training and evaluation of LLMs. Finally, this study evaluates permissive, open-weight LLMs adapted to PowerShell malware generation. Our results reveal a high degree of similarity between real malware and LLM-generated ones in terms of triggered OS malicious events, with a median Jaccard index of 84.5% and 48.4% of instances achieving complete overlap.
- Abstract(参考訳): ジェネレーティブAIは重要なサイバーセキュリティの脅威として現れており、最近の攻撃キャンペーンでは、PowerShellなどのスクリプト言語を介して、悪意のある目的でコードを生成するためにLLMを活用している。
したがって、サイバーセキュリティアナリストにとって、AIコードジェネレータの攻撃能力を調査することが不可欠である。
本稿では,AI 生成マルウェアを動的に解析するためのサンドボックスアプローチを含む LLM 生成 PowerShell マルウェアを評価する実験フレームワークを提案する。
さらに,LLMのトレーニングと評価を支援するために,自然言語で注釈を付した実世界のPowerShellマルウェアを手作業でキュレートした新しいデータセットを提案する。
最後に,PowerShell マルウェア生成に適応した寛容でオープンウェイトな LLM の評価を行った。
以上の結果から,OSの悪質な事象が引き起こされた場合,実際のマルウェアとLLMの生成したマルウェアの類似度が高く,中央値のJaccard指数は84.5%と48.4%で完全に重複していることがわかった。
関連論文リスト
- Automatically Attacking Software Reverse Engineering AI Agents [0.3277163122167433]
Ghidraのようなリバースエンジニアリング実行可能バイナリファイルのためのソフトウェアツールは、マルウェアアナリストが元のソースコードにアクセスすることなく、安全に堅牢な静的解析を行うことを可能にする。
本稿では,AutoDANとして知られる敵攻撃の修正である,遺伝的アルゴリズムによるプロンプト生成を用いた敵攻撃手法を提案する。
論文 参考訳(メタデータ) (2026-05-28T23:58:25Z) - Towards Automated Pentesting with Large Language Models [0.0]
大きな言語モデル(LLM)は、人間の介入を最小限に抑えた有害なマシンコードの生成を可能にすることで、攻撃的なサイバーセキュリティを再定義している。
Microsoft Windowsの脆弱性をターゲットとした悪意のあるコードを生成するフレームワークであるRedShellを紹介する。
論文 参考訳(メタデータ) (2026-04-13T17:41:51Z) - Lightweight Yet Secure: Secure Scripting Language Generation via Lightweight LLMs [14.355160053196824]
大規模言語モデル(LLM)は、コード生成、脆弱性検出、PythonやJavaScriptなどの言語の自動修正において、強力な機能を示している。
SecGenEval-PSは,セキュアなスクリプティング生成,セキュリティ解析,自動修復においてLLMを評価するために設計されたベンチマークである。
モデルセキュリティ機能を強化するために,データ合成と微調整を組み合わせたフレームワークPSSecを提案する。
論文 参考訳(メタデータ) (2026-01-10T04:00:56Z) - Can LLMs effectively provide game-theoretic-based scenarios for cybersecurity? [51.96049148869987]
大規模言語モデル(LLM)は、コンピュータシステムのセキュリティに新しいツールと課題を提供する。
従来のゲーム理論フレームワークが,LLM駆動型アクターやボットの動作を効果的に捉えることができるかどうかを検討する。
論文 参考訳(メタデータ) (2025-08-04T08:57:14Z) - AgentVigil: Generic Black-Box Red-teaming for Indirect Prompt Injection against LLM Agents [54.29555239363013]
本稿では,間接的なインジェクション脆弱性を自動的に検出し,悪用するための汎用的なブラックボックスファジリングフレームワークであるAgentVigilを提案する。
我々はAgentVigilをAgentDojoとVWA-advの2つの公開ベンチマークで評価し、o3-miniとGPT-4oに基づくエージェントに対して71%と70%の成功率を達成した。
攻撃を現実世界の環境に適用し、悪質なサイトを含む任意のURLに誘導するエージェントをうまく誘導する。
論文 参考訳(メタデータ) (2025-05-09T07:40:17Z) - Global Challenge for Safe and Secure LLMs Track 1 [57.08717321907755]
LLM(Global Challenge for Safe and Secure Large Language Models)は、AI Singapore(AISG)とCyberSG R&D Programme Office(CRPO)が主催する先駆的イニシアチブである。
本稿では,AI Singapore(AISG)とCyberSG R&D Programme Office(CRPO)が組織した先駆的イニシアチブであるLLM(Global Challenge for Safe and Secure Large Language Models)を紹介する。
論文 参考訳(メタデータ) (2024-11-21T08:20:31Z) - Exploring LLMs for Malware Detection: Review, Framework Design, and Countermeasure Approaches [0.24578723416255752]
マルウェアの作成と拡散にLarge Language Modelsの利用が増加していることは、サイバーセキュリティの重大な課題となっている。
本稿では,LSMと各種ソースからのマルウェア検出におけるその役割について概説する。
マルウェアハニーポット、テキストベースの脅威の識別、悪意のある意図を検出するためのコード解析、マルウェアの傾向分析、非標準的な偽装マルウェアの検出。
論文 参考訳(メタデータ) (2024-09-11T19:33:44Z) - ShadowCode: Towards (Automatic) External Prompt Injection Attack against Code LLMs [56.46702494338318]
本稿では,コード指向の大規模言語モデルに対する(自動)外部プロンプトインジェクションという,新たな攻撃パラダイムを紹介する。
コードシミュレーションに基づいて誘導摂動を自動生成する,シンプルで効果的な方法であるShadowCodeを提案する。
3つの人気のあるプログラミング言語にまたがる31の脅威ケースを発生させるため、13の異なる悪意のある目標に対して本手法を評価した。
論文 参考訳(メタデータ) (2024-07-12T10:59:32Z) - S-Eval: Towards Automated and Comprehensive Safety Evaluation for Large Language Models [46.148439517272024]
生成型大規模言語モデル (LLMs) は、自然言語処理に革命をもたらした。
最近の証拠は、LLMが社会規範に反する有害なコンテンツを生成できることを示している。
S-Evalは,新たに定義された包括的リスク分類を持つ自動安全評価フレームワークである。
論文 参考訳(メタデータ) (2024-05-23T05:34:31Z) - Assessing LLMs in Malicious Code Deobfuscation of Real-world Malware Campaigns [7.776434991976473]
本稿では,大規模言語モデル(LLM)の難読化機能について検討する。
我々は,悪名高いEmotetマルウェアキャンペーンで使用されている現実の悪意のあるスクリプトを用いた4つのLSMを評価した。
以上の結果から,まだ完全には正確ではないものの,これらのペイロードを効率よく除去できるLCMが存在することが示唆された。
論文 参考訳(メタデータ) (2024-04-30T17:06:27Z) - Attack Prompt Generation for Red Teaming and Defending Large Language
Models [70.157691818224]
大規模言語モデル (LLM) は、有害なコンテンツを生成するためにLSMを誘導するレッド・チーム・アタックの影響を受けやすい。
本稿では、手動と自動の手法を組み合わせて、高品質な攻撃プロンプトを経済的に生成する統合的アプローチを提案する。
論文 参考訳(メタデータ) (2023-10-19T06:15:05Z) - Red Teaming Language Model Detectors with Language Models [114.36392560711022]
大規模言語モデル(LLM)は、悪意のあるユーザによって悪用された場合、重大な安全性と倫理的リスクをもたらす。
近年,LLM生成テキストを検出し,LLMを保護するアルゴリズムが提案されている。
1) LLMの出力中の特定の単語を, 文脈が与えられたシノニムに置き換えること, 2) 生成者の書き方を変更するための指示プロンプトを自動で検索すること,である。
論文 参考訳(メタデータ) (2023-05-31T10:08:37Z) - Not what you've signed up for: Compromising Real-World LLM-Integrated
Applications with Indirect Prompt Injection [64.67495502772866]
大規模言語モデル(LLM)は、様々なアプリケーションに統合されつつある。
本稿では、プロンプトインジェクション攻撃を用いて、攻撃者が元の命令をオーバーライドし、制御を採用する方法を示す。
我々は、コンピュータセキュリティの観点から、影響や脆弱性を体系的に調査する包括的な分類法を導出する。
論文 参考訳(メタデータ) (2023-02-23T17:14:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。