論文の概要: Large Language Models (LLMs) and Generative AI in Cybersecurity and Privacy: A Survey of Dual-Use Risks, AI-Generated Malware, Explainability, and Defensive Strategies
- arxiv url: http://arxiv.org/abs/2607.06963v1
- Date: Wed, 08 Jul 2026 03:40:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-09 22:50:30.274558
- Title: Large Language Models (LLMs) and Generative AI in Cybersecurity and Privacy: A Survey of Dual-Use Risks, AI-Generated Malware, Explainability, and Defensive Strategies
- Title（参考訳）: サイバーセキュリティとプライバシにおける大規模言語モデル(LLM)と生成AI:デュアルユースリスク、AI生成されたマルウェア、説明可能性、防御戦略の調査
- Abstract要約: 大規模言語モデル(LLM)と生成AI(GenAI)システムは、サイバーセキュリティに革命をもたらしている。
これらの技術は、リアルタイムの脅威検出、フィッシング防御、セキュアなコード生成、および前例のない規模での脆弱性のエクスプロイトを駆動する。
本稿では,サイバーセキュリティにおけるLSMの有益かつ有害な応用に関する包括的調査を行う。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large Language Models (LLMs) and generative AI (GenAI) systems, such as ChatGPT, Claude, Gemini, LLaMA, Copilot, Stable Diffusion by OpenAI, Anthropic, Google, Meta, Microsoft, Stability AI, respectively, are revolutionizing cybersecurity, enabling both automated defense and sophisticated attacks. These technologies power real-time threat detection, phishing defense, secure code generation, and vulnerability exploitation at unprecedented scales. Following a rapid surge where LLM-generated malware grew to account for an estimated 50% of detected threats by 2025, up from just 2% in 2021, navigating this highly automated threat landscape in 2026 demands next-generation security frameworks. This paper presents a comprehensive survey of the beneficial and malicious applications of LLMs in cybersecurity, including zero-day detection, DevSecOps, federated learning, synthetic content analysis, and explainable AI (XAI). Drawing on a review of over 70 academic papers, industry reports, and technical documents, this work synthesizes insights from real-world case studies across platforms like Google Play Protect, Microsoft Defender, Amazon Web Services (AWS), Apple App Store, OpenAI Plugin Stores, Hugging Face Spaces, and GitHub, alongside emerging initiatives like the SAFE Framework and AI-driven anomaly detection. We conclude with practical recommendations for responsible and transparent LLM deployment and trustworthy AI, including model watermarking, adversarial defense, and cross-industry collaboration, setting a new benchmark for rigorous, holistic cybersecurity research at the intersection of AI and threat defense, and offering a roadmap for secure, scalable LLM systems that serves as a critical reference for researchers, engineers, and security leaders navigating the complex challenges of AI-driven cybersecurity.
- Abstract（参考訳）: ChatGPT, Claude, Gemini, LLaMA, Copilot, Stable Diffusion by OpenAI, Anthropic, Google, Meta, Microsoft, Stability AIなど,大規模言語モデル(LLM)とジェネレーティブAI(GenAI)システムはそれぞれ,サイバーセキュリティに革命をもたらし,自動防御と高度な攻撃の両方を可能にしている。
これらの技術は、リアルタイムの脅威検出、フィッシング防御、セキュアなコード生成、および前例のない規模での脆弱性のエクスプロイトを駆動する。
LLMが生成するマルウェアが急増し、2025年までに検出された脅威の50%を占めるようになった。
本稿では、ゼロデイ検出、DevSecOps、フェデレーション学習、合成コンテンツ分析、説明可能なAI(XAI)など、サイバーセキュリティにおけるLLMの有益で悪意のある応用に関する総合的な調査を行う。
この研究は、70を超える学術論文、業界レポート、技術ドキュメントのレビューに基づいて、Google Play Protect、Microsoft Defender、Amazon Web Services(AWS)、Apple App Store、OpenAI Plugin Stores、Hugging Face Spaces、GitHubといったプラットフォームにおける実世界のケーススタディから、SAFE FrameworkやAI駆動の異常検出といった新たなイニシアチブとともに、洞察を合成する。
我々は、モデルウォーターマーキング、敵防衛、産業間協力を含む、責任があり透明なLLMデプロイメントと信頼できるAIに対する実践的な推奨、AIと脅威防衛の交差点における厳格で包括的なサイバーセキュリティ研究のための新しいベンチマークの設定、そしてAI駆動型サイバーセキュリティの複雑な課題をナビゲートする研究者、エンジニア、セキュリティリーダにとって重要な基準となる、セキュアでスケーラブルなLLMシステムのロードマップを提供する。
関連論文リスト
- CyberGym-E2E: Scalable Real-World Benchmark for AI Agents' End-to-End Cybersecurity Capabilities [66.48570184296857]
CyberGym-E2Eは大規模かつ現実的なエンドツーエンドのサイバーセキュリティベンチマークである。
脆弱性発見、PoC生成、パッチ生成の全ライフサイクルにわたって、AIエージェントの能力を包括的に評価する。
ベンチマークは、139の異なるオープンソースプロジェクトで920の現実世界の脆弱性で構成されている。
論文 参考訳（メタデータ） (2026-06-03T05:06:37Z) - Agentic AI and the Industrialization of Cyber Offense: Forecast, Consequences, and Defensive Priorities for Enterprises and the Mittelstand [0.0]
エージェントAIシステムは、計画し、ツールを呼び、コードを検査し、Webアプリケーションと対話し、サイバー犯罪の多段階経済を調整できる。
Agentic AIは、偵察、フィッシング、クレデンシャル悪用、脆弱性トリアージ、エクスプロイト適応、コンパイル後決定サポートのコストを下げることで、攻撃ライフサイクルを圧縮する。
本稿では,国家サイバーセキュリティ機関,産業脅威報告,エージェントセキュリティガイダンス,エージェントサイバー能力の研究から,現在の公的な証拠を合成する。
論文 参考訳（メタデータ） (2026-05-06T23:23:26Z) - Safety in Embodied AI: A Survey of Risks, Attacks, and Defenses [168.50301366360344]
Embodied AI (Embodied AI) は、知覚、認知、計画、相互作用を、安全クリティカルな環境で機能するエージェントに統合する。
デジタルAIシステムとは異なり、エンボディエージェントは不確実な検知、不完全な知識、動的な人間とロボットの相互作用の下で行動しなければならない。
この調査は、エンボディされたAIにおける安全性研究の包括的なレビューを提供し、完全なエンボディされたパイプラインにわたる攻撃と防御を調査している。
論文 参考訳（メタデータ） (2026-03-28T13:21:44Z) - SoK: The Attack Surface of Agentic AI -- Tools, and Autonomy [3.340255811686752]
最近のAIシステムは、大規模な言語モデルとツール、検索強化生成(RAG)による外部知識を組み合わせている。
このエージェントAIパラダイムは、能力を大幅に拡張すると同時に、攻撃面を大きく拡大する。
我々は、即時レベルの注射、知識ベース中毒、ツール/プラグインエクスプロイト、マルチエージェント緊急脅威にまたがる攻撃の包括的分類を開発する。
論文 参考訳（メタデータ） (2026-03-24T08:21:51Z) - LLM Scalability Risk for Agentic-AI and Model Supply Chain Security [1.1205855201611814]
大規模言語モデル(LLM)とジェネレーティブAIはサイバーセキュリティを変革し、高度な防衛と新たな攻撃の両方を可能にしている。
本稿では,GenAIによるサイバーセキュリティに対する攻撃的・防衛的視点を統合した統合分析を行う。
論文 参考訳（メタデータ） (2026-02-22T03:20:49Z) - Cisco Integrated AI Security and Safety Framework Report [3.162988913169078]
本稿では,CiscoのIntegrated AI Security and Safety Framework(AI Security Framework)について述べる。
このフレームワークは、AIリスクの全範囲を分類、統合、運用するために使用することができる。
モダリティ、エージェント、パイプライン、そしてより広範なエコシステムにわたって、AIセキュリティとAI安全性を統合している。
論文 参考訳（メタデータ） (2025-12-15T02:12:12Z) - ANNIE: Be Careful of Your Robots [48.89876809734855]
エンボディドAIシステムに対する敵の安全攻撃に関する最初の体系的研究について述べる。
すべての安全カテゴリーで攻撃の成功率は50%を超えている。
結果は、実証済みのAIシステムにおいて、これまで未調査だったが、非常に連続的な攻撃面を露呈する。
論文 参考訳（メタデータ） (2025-09-03T15:00:28Z) - A Systematic Survey of Model Extraction Attacks and Defenses: State-of-the-Art and Perspectives [65.3369988566853]
近年の研究では、敵が対象モデルの機能を複製できることが示されている。
モデル抽出攻撃は知的財産権、プライバシー、システムのセキュリティに脅威をもたらす。
本稿では,攻撃機構,防衛手法,計算環境に応じてMEAを分類する新しい分類法を提案する。
論文 参考訳（メタデータ） (2025-08-20T19:49:59Z) - Global Challenge for Safe and Secure LLMs Track 1 [57.08717321907755]
LLM(Global Challenge for Safe and Secure Large Language Models)は、AI Singapore(AISG)とCyberSG R&D Programme Office(CRPO)が主催する先駆的イニシアチブである。
本稿では,AI Singapore(AISG)とCyberSG R&D Programme Office(CRPO)が組織した先駆的イニシアチブであるLLM(Global Challenge for Safe and Secure Large Language Models)を紹介する。
論文 参考訳（メタデータ） (2024-11-21T08:20:31Z) - Is Generative AI the Next Tactical Cyber Weapon For Threat Actors? Unforeseen Implications of AI Generated Cyber Attacks [0.0]
本稿では,AIの誤用によるエスカレート脅威,特にLarge Language Models(LLMs)の使用について述べる。
一連の制御された実験を通じて、これらのモデルがどのようにして倫理的およびプライバシー保護を回避し、効果的にサイバー攻撃を発生させるかを実証する。
私たちはまた、サイバー攻撃の自動化と実行のために特別に設計されたカスタマイズされた微調整のLLMであるOccupy AIを紹介します。
論文 参考訳（メタデータ） (2024-08-23T02:56:13Z) - Proceedings of the Artificial Intelligence for Cyber Security (AICS)
Workshop at AAAI 2022 [55.573187938617636]
ワークショップは、サイバーセキュリティの問題へのAIの適用に焦点を当てる。
サイバーシステムは大量のデータを生成し、これを効果的に活用することは人間の能力を超えます。
論文 参考訳（メタデータ） (2022-02-28T18:27:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。