論文の概要: Large Language Models in Cybersecurity: State-of-the-Art
- arxiv url: http://arxiv.org/abs/2402.00891v1
- Date: Tue, 30 Jan 2024 16:55:25 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-11 17:29:38.640049
- Title: Large Language Models in Cybersecurity: State-of-the-Art
- Title(参考訳): サイバーセキュリティにおける大規模言語モデル
- Authors: Farzad Nourmohammadzadeh Motlagh, Mehrdad Hajizadeh, Mehryar Majd,
Pejman Najafi, Feng Cheng, Christoph Meinel
- Abstract要約: 大規模言語モデル(LLM)の台頭は、私たちの知性の理解に革命をもたらした。
本研究は, サイバーセキュリティの領域におけるLLMの防衛的, 敵的応用の徹底的な評価を, 既存の文献を考察した。
- 参考スコア(独自算出の注目度): 4.990712773805833
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The rise of Large Language Models (LLMs) has revolutionized our comprehension
of intelligence bringing us closer to Artificial Intelligence. Since their
introduction, researchers have actively explored the applications of LLMs
across diverse fields, significantly elevating capabilities. Cybersecurity,
traditionally resistant to data-driven solutions and slow to embrace machine
learning, stands out as a domain. This study examines the existing literature,
providing a thorough characterization of both defensive and adversarial
applications of LLMs within the realm of cybersecurity. Our review not only
surveys and categorizes the current landscape but also identifies critical
research gaps. By evaluating both offensive and defensive applications, we aim
to provide a holistic understanding of the potential risks and opportunities
associated with LLM-driven cybersecurity.
- Abstract(参考訳): 大規模言語モデル(llm)の台頭は、人工知能に近づいた知性の理解に革命をもたらした。
導入以来、研究者は様々な分野にまたがるLSMの応用を積極的に探求してきた。
サイバーセキュリティは、伝統的にデータ駆動ソリューションに耐性があり、機械学習を受け入れるのが遅い。
本研究は,サイバーセキュリティ分野におけるllmの防御的及び敵対的応用の徹底的な特徴を述べるとともに,既存の文献を考察する。
本総説では, 現状を調査, 分類するだけでなく, 重要な研究ギャップも明らかにする。
攻撃的および防御的双方のアプリケーションを評価することにより,LSMによるサイバーセキュリティに関連する潜在的なリスクと機会の包括的理解を目指す。
関連論文リスト
- Rethinking Machine Unlearning for Large Language Models [89.99791628154274]
大規模言語モデル(LLM)の領域における機械学習の研究
このイニシアチブは、望ましくないデータの影響(機密情報や違法情報など)と関連するモデル機能を排除することを目的としている。
論文 参考訳(メタデータ) (2024-02-13T20:51:58Z) - Security and Privacy Challenges of Large Language Models: A Survey [2.9480813253164535]
LLM(Large Language Models)は、テキストの生成や要約、言語翻訳、質問応答など、非常に優れた機能を示し、複数の分野に貢献している。
これらのモデルは、Jailbreak攻撃、データ中毒攻撃、Personally Identible Information(PII)漏洩攻撃など、セキュリティやプライバシ攻撃にも脆弱である。
この調査では、トレーニングデータとユーザの両方に対するLLMのセキュリティとプライバシの課題と、輸送、教育、医療といったさまざまな領域におけるアプリケーションベースのリスクについて、徹底的にレビューする。
論文 参考訳(メタデータ) (2024-01-30T04:00:54Z) - LLMs Perform Poorly at Concept Extraction in Cyber-security Research
Literature [1.2874569408514918]
大規模言語モデル(LLM)を用いて、サイバーセキュリティ関連のテキストから関連する知識エンティティを抽出する。
そこで本研究では,いくつかの統計的解析を付加した名詞抽出装置を開発し,そのドメインから特定の,関連する化合物の名詞を抽出する。
いくつかの制限を観察するが、急激なトレンドの進化を監視するための有望な結果を提供する。
論文 参考訳(メタデータ) (2023-12-12T09:39:03Z) - Towards more Practical Threat Models in Artificial Intelligence Security [71.53333444240076]
我々は、AIセキュリティ研究で最も研究されている6つの攻撃の脅威モデルを再検討し、実際にAIの使用と一致させる。
我々の論文は、人工知能のセキュリティにおけるより実用的な脅威モデルを研究するための行動である。
論文 参考訳(メタデータ) (2023-11-16T16:09:44Z) - A Survey on Detection of LLMs-Generated Content [97.87912800179531]
LLMの生成する内容を検出する能力が最重要視されている。
既存の検出戦略とベンチマークの詳細な概要を提供する。
また、様々な攻撃から守るための多面的アプローチの必要性を示唆する。
論文 参考訳(メタデータ) (2023-10-24T09:10:26Z) - Evaluating LLMs for Privilege-Escalation Scenarios [0.0]
侵入テストにより、組織はシステム内の脆弱性を積極的に識別し、修正することができる。
浸透試験の領域における最近の進歩の1つは言語モデル(LLM)の利用である。
LLMと浸透試験の交わりを探索し、私的エスカレーションの文脈におけるそれらの能力と課題について考察する。
論文 参考訳(メタデータ) (2023-10-17T17:15:41Z) - Survey of Vulnerabilities in Large Language Models Revealed by
Adversarial Attacks [5.860289498416911]
大規模言語モデル(LLM)はアーキテクチャと能力において急速に進歩しています。
複雑なシステムに深く統合されるにつれて、セキュリティ特性を精査する緊急性が高まっている。
本稿では,LSMに対する対人攻撃の新たな学際的分野について調査する。
論文 参考訳(メタデータ) (2023-10-16T21:37:24Z) - A Survey on Large Language Model based Autonomous Agents [107.8237473711049]
大規模言語モデル(LLM)は、人間レベルの知性を達成する上で、顕著な可能性を示している。
本稿では,LLMに基づく自律エージェントの分野を総合的な観点から体系的に検討する。
本稿では、社会科学、自然科学、工学の分野におけるLLMベースの自律エージェントの多様な応用について概観する。
論文 参考訳(メタデータ) (2023-08-22T13:30:37Z) - Building Resilient SMEs: Harnessing Large Language Models for Cyber
Security in Australia [0.0]
オーストラリアの中小企業では、サイバー脅威に対する脆弱性が増加している。
人工知能(AI)、機械学習(ML)、大規模言語モデル(LLM)は、オーストラリアの中小企業のサイバーセキュリティポリシーを強化する可能性がある。
本研究は、オーストラリアの中小企業におけるサイバーセキュリティ政策の強化におけるLLMの役割について、包括的理解を提供する。
論文 参考訳(メタデータ) (2023-06-05T06:01:00Z) - On the Risk of Misinformation Pollution with Large Language Models [127.1107824751703]
本稿では,現代大規模言語モデル (LLM) の誤用の可能性について検討する。
本研究は, LLMが効果的な誤情報発生器として機能し, DOQAシステムの性能が著しく低下することを明らかにする。
論文 参考訳(メタデータ) (2023-05-23T04:10:26Z) - Inspect, Understand, Overcome: A Survey of Practical Methods for AI
Safety [54.478842696269304]
安全クリティカルなアプリケーションにディープニューラルネットワーク(DNN)を使用することは、多数のモデル固有の欠点のために困難です。
近年,これらの安全対策を目的とした最先端技術動物園が出現している。
本稿は、機械学習の専門家と安全エンジニアの両方に対処する。
論文 参考訳(メタデータ) (2021-04-29T09:54:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。