論文の概要: SpearBot: Leveraging Large Language Models in a Generative-Critique Framework for Spear-Phishing Email Generation

• arxiv url: http://arxiv.org/abs/2412.11109v1
• Date: Sun, 15 Dec 2024 08:13:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-17 13:53:42.958879
• Title: SpearBot: Leveraging Large Language Models in a Generative-Critique Framework for Spear-Phishing Email Generation
• Title（参考訳）: SpearBot:spear-phishing電子メール生成のための生成批判フレームワークにおける大規模言語モデルの活用
• Authors: Qinglin Qi, Yun Luo, Yijia Xu, Wenbo Guo, Yong Fang,
• Abstract要約: 大規模言語モデル(LLM)は、コンテンツ生成などのタスクを支援する能力が増している。 本稿では,スピアフィッシングメールを生成するための敵対的フレームワークであるSpearBotを提案する。
• 参考スコア（独自算出の注目度）: 9.322176274376774
• License:
• Abstract: Large Language Models (LLMs) are increasingly capable, aiding in tasks such as content generation, yet they also pose risks, particularly in generating harmful spear-phishing emails. These emails, crafted to entice clicks on malicious URLs, threaten personal information security. This paper proposes an adversarial framework, SpearBot, which utilizes LLMs to generate spear-phishing emails with various phishing strategies. Through specifically crafted jailbreak prompts, SpearBot circumvents security policies and introduces other LLM instances as critics. When a phishing email is identified by the critic, SpearBot refines the generated email based on the critique feedback until it can no longer be recognized as phishing, thereby enhancing its deceptive quality. To evaluate the effectiveness of SpearBot, we implement various machine-based defenders and assess how well the phishing emails generated could deceive them. Results show these emails often evade detection to a large extent, underscoring their deceptive quality. Additionally, human evaluations of the emails' readability and deception are conducted through questionnaires, confirming their convincing nature and the significant potential harm of the generated phishing emails.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、コンテンツ生成などのタスクを補助する能力が高くなっているが、特に有害なスピアフィッシングメールの生成においてリスクも生じている。 これらのメールは、悪意のあるURLのクリックを誘惑するために作られ、個人情報のセキュリティを脅かす。 本稿では,LLMを用いて各種フィッシング戦略を用いて,スピアフィッシングメールを生成する,敵対的フレームワークであるSpearBotを提案する。 具体的に作られたジェイルブレイクプロンプトを通じて、SpearBotはセキュリティポリシーを回避し、他のLLMインスタンスを批判者として導入する。 批判者によってフィッシングメールが特定されると、SpearBotは、フィッシングとして認識されなくなるまで、批判的なフィードバックに基づいて生成されたメールを精査する。 SpearBotの有効性を評価するため、各種のマシンベースのディフェンダーを実装し、生成したフィッシングメールがどの程度騙されるかを評価する。 その結果、これらのメールは検出をかなり回避し、その偽りの質を損なうことが多かった。 さらに,電子メールの可読性と偽造に関する人間による評価は,質問紙を通じて行われ,その説得力のある性質と,生成されたフィッシングメールの潜在的影響を確認する。

関連論文リスト

• APOLLO: A GPT-based tool to detect phishing emails and generate explanations that warn users [2.3618982787621]
  大規模言語モデル(LLM)は、様々なドメインでテキスト処理を約束する。 我々は,OpenAIのGPT-4oに基づくツールであるAPOLLOを紹介し,フィッシングメールを検出し,説明メッセージを生成する。 また,20名の被験者を対象に,フィッシング警告として提示された4つの説明を比較検討した。
  論文  参考訳（メタデータ） (2024-10-10T14:53:39Z)
• Eyes on the Phish(er): Towards Understanding Users' Email Processing Pattern and Mental Models in Phishing Detection [0.4543820534430522]
  本研究では, 作業負荷がフィッシングに対する感受性に与える影響について検討した。 我々は、視線追跡技術を用いて、参加者の読書パターンやフィッシングメールとのインタラクションを観察する。 以上の結果から,メール送信者への注意がフィッシングの感受性を低下させる可能性が示唆された。
  論文  参考訳（メタデータ） (2024-09-12T02:57:49Z)
• BaThe: Defense against the Jailbreak Attack in Multimodal Large Language Models by Treating Harmful Instruction as Backdoor Trigger [67.75420257197186]
  本研究では,単純なジェイルブレイク防御機構である$textbfBaTheを提案する。 ジェイルブレイクバックドア攻撃は、手作りの弦と組み合わされた有害な命令をトリガーとして使用し、バックドアモデルが禁止された応答を生成する。 有害な命令がトリガーとして機能し、代わりにリジェクション応答をトリガー応答として設定すれば、バックドアモデルがジェイルブレイク攻撃に対して防御できると仮定する。
  論文  参考訳（メタデータ） (2024-08-17T04:43:26Z)
• Analysis and prevention of AI-based phishing email attacks [0.0]
  生成AIを使用して、潜在的な犠牲者それぞれに異なるメールを送ることができる。 我々は、AIが生成するフィッシングメールを識別する自動テキスト分析機能をテストするために、さまざまな機械学習ツールを使用します。 また、AIが生成したフィッシングメールのコーパスを公開している。
  論文  参考訳（メタデータ） (2024-05-08T21:40:49Z)
• Evaluating the Efficacy of Large Language Models in Identifying Phishing Attempts [2.6012482282204004]
  何十年にもわたるサイバー犯罪戦術であるフィッシングは、今日のデジタル世界において大きな脅威となっている。 本稿では,15大言語モデル (LLM) がフィッシング手法の検出に有効であることを示す。
  論文  参考訳（メタデータ） (2024-04-23T19:55:18Z)
• ChatSpamDetector: Leveraging Large Language Models for Effective Phishing Email Detection [2.3999111269325266]
  本研究では,大規模な言語モデル(LLM)を用いてフィッシングメールを検出するシステムChatSpamDetectorを紹介する。 LLM解析に適したプロンプトに電子メールデータを変換することにより、電子メールがフィッシングされているか否かを高精度に判定する。 総合的なフィッシングメールデータセットを用いて評価を行い,複数のLLMおよびベースラインシステムと比較した。
  論文  参考訳（メタデータ） (2024-02-28T06:28:15Z)
• Prompted Contextual Vectors for Spear-Phishing Detection [41.26408609344205]
  スパイアフィッシング攻撃は重大なセキュリティ上の課題を示す。 本稿では,新しい文書ベクトル化手法に基づく検出手法を提案する。 提案手法は, LLM生成したスピアフィッシングメールの識別において, 91%のF1スコアを達成する。
  論文  参考訳（メタデータ） (2024-02-13T09:12:55Z)
• SmoothLLM: Defending Large Language Models Against Jailbreaking Attacks [99.23352758320945]
  SmoothLLMは,大規模言語モデル(LLM)に対するジェイルブレーキング攻撃を軽減するために設計された,最初のアルゴリズムである。 敵が生成したプロンプトが文字レベルの変化に対して脆弱であることから、我々の防衛はまず、与えられた入力プロンプトの複数のコピーをランダムに摂動し、対応する予測を集約し、敵の入力を検出する。
  論文  参考訳（メタデータ） (2023-10-05T17:01:53Z)
• Deep convolutional forest: a dynamic deep ensemble approach for spam detection in text [219.15486286590016]
  本稿では,スパム検出のための動的深層アンサンブルモデルを提案する。 その結果、このモデルは高い精度、リコール、f1スコア、98.38%の精度を達成した。
  論文  参考訳（メタデータ） (2021-10-10T17:19:37Z)
• Robust and Verifiable Information Embedding Attacks to Deep Neural Networks via Error-Correcting Codes [81.85509264573948]
  ディープラーニングの時代、ユーザは、サードパーティの機械学習ツールを使用して、ディープニューラルネットワーク(DNN)分類器をトレーニングすることが多い。 情報埋め込み攻撃では、攻撃者は悪意のあるサードパーティの機械学習ツールを提供する。 本研究では,一般的なポストプロセッシング手法に対して検証可能で堅牢な情報埋め込み攻撃を設計することを目的とする。
  論文  参考訳（メタデータ） (2020-10-26T17:42:42Z)
• Phishing and Spear Phishing: examples in Cyber Espionage and techniques to protect against them [91.3755431537592]
  フィッシング攻撃は、2012年以降、サイバー攻撃の91%以上を突破し、オンライン詐欺で最も使われているテクニックとなっている。 本研究は, フィッシングとスピア・フィッシングによる攻撃が, 結果を大きくする5つのステップを通じて, フィッシングとスピア・フィッシングによる攻撃の実施方法についてレビューした。
  論文  参考訳（メタデータ） (2020-05-31T18:10:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。