論文の概要: APOLLO: A GPT-based tool to detect phishing emails and generate explanations that warn users

• arxiv url: http://arxiv.org/abs/2410.07997v1
• Date: Thu, 10 Oct 2024 14:53:39 GMT
• ステータス: 処理完了
• システム内更新日: 2024-10-31 06:05:02.975444
• Title: APOLLO: A GPT-based tool to detect phishing emails and generate explanations that warn users
• Title（参考訳）: フィッシングメールを検出し、ユーザーに警告する説明を生成するGPTベースのツールAPOLLO
• Authors: Giuseppe Desolda, Francesco Greco, Luca Viganò,
• Abstract要約: 大規模言語モデル(LLM)は、様々なドメインでテキスト処理を約束する。 我々は,OpenAIのGPT-4oに基づくツールであるAPOLLOを紹介し,フィッシングメールを検出し,説明メッセージを生成する。 また,20名の被験者を対象に,フィッシング警告として提示された4つの説明を比較検討した。
• 参考スコア（独自算出の注目度）: 2.3618982787621
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Phishing is one of the most prolific cybercriminal activities, with attacks becoming increasingly sophisticated. It is, therefore, imperative to explore novel technologies to improve user protection across both technical and human dimensions. Large Language Models (LLMs) offer significant promise for text processing in various domains, but their use for defense against phishing attacks still remains scarcely explored. In this paper, we present APOLLO, a tool based on OpenAI's GPT-4o to detect phishing emails and generate explanation messages to users about why a specific email is dangerous, thus improving their decision-making capabilities. We have evaluated the performance of APOLLO in classifying phishing emails; the results show that the LLM models have exemplary capabilities in classifying phishing emails (97 percent accuracy in the case of GPT-4o) and that this performance can be further improved by integrating data from third-party services, resulting in a near-perfect classification rate (99 percent accuracy). To assess the perception of the explanations generated by this tool, we also conducted a study with 20 participants, comparing four different explanations presented as phishing warnings. We compared the LLM-generated explanations to four baselines: a manually crafted warning, and warnings from Chrome, Firefox, and Edge browsers. The results show that not only the LLM-generated explanations were perceived as high quality, but also that they can be more understandable, interesting, and trustworthy than the baselines. These findings suggest that using LLMs as a defense against phishing is a very promising approach, with APOLLO representing a proof of concept in this research direction.
• Abstract（参考訳）: フィッシングは最も多彩なサイバー犯罪行為の1つであり、攻撃はますます洗練されつつある。 したがって、技術と人間の両面にわたるユーザー保護を改善するために、新しい技術を探求することが不可欠である。 大規模言語モデル (LLM) は、様々なドメインでテキスト処理に重要な保証を提供するが、フィッシング攻撃に対する防御手段としての使用はいまだにほとんど検討されていない。 本稿では,OpenAIのGPT-4oをベースとしたツールであるAPOLLOを提案する。 我々は、フィッシングメールの分類におけるAPOLLOの性能を評価し、その結果、LLMモデルはフィッシングメールの分類における模範的な能力(GPT-4oの場合の97%の精度)を持ち、サードパーティのサービスからのデータを統合することにより、その性能をさらに向上し、その結果、ほぼ完全な分類率(99%の精度)が得られることを示した。 また,本ツールによる説明文の知覚を評価するため,20名の被験者を対象に,フィッシング警告として提示された4つの説明文を比較した。 LLMの生成した説明を,手作業による警告,Chrome,Firefox,Edgeブラウザからの警告の4つのベースラインと比較した。 その結果, LLMによる説明は高品質であるだけでなく, ベースラインよりも理解しやすく, 興味深く, 信頼に足るものであることがわかった。 これらの結果は, LLMをフィッシングに対する防御として用いることが非常に有望なアプローチであり, APOLLOはこの研究の方向性における概念実証を表していることを示唆している。

関連論文リスト

• Next-Generation Phishing: How LLM Agents Empower Cyber Attackers [10.067883724547182]
  フィッシングメールのエスカレートする脅威は、Large Language Models(LLMs)の台頭により、ますます洗練されつつある。 攻撃者はLSMを利用して、より説得力があり回避的なフィッシングメールを作成するため、現在のフィッシング防御のレジリエンスを評価することが不可欠である。 我々は、Gmail Spam Filter、Apache SpamAssassin、Proofpointなどの従来のフィッシング検出と、SVM、Logistic Regression、Naive Bayesといった機械学習モデルに関する包括的な評価を行います。 以上の結果から,全検知器にまたがるリフレッシュメールの検出精度は著しく低下し,現在のフィッシング防御における重大な弱点が浮き彫りになった。
  論文  参考訳（メタデータ） (2024-11-21T06:20:29Z)
• Evaluating the Efficacy of Large Language Models in Identifying Phishing Attempts [2.6012482282204004]
  何十年にもわたるサイバー犯罪戦術であるフィッシングは、今日のデジタル世界において大きな脅威となっている。 本稿では,15大言語モデル (LLM) がフィッシング手法の検出に有効であることを示す。
  論文  参考訳（メタデータ） (2024-04-23T19:55:18Z)
• ChatSpamDetector: Leveraging Large Language Models for Effective Phishing Email Detection [2.3999111269325266]
  本研究では,大規模な言語モデル(LLM)を用いてフィッシングメールを検出するシステムChatSpamDetectorを紹介する。 LLM解析に適したプロンプトに電子メールデータを変換することにより、電子メールがフィッシングされているか否かを高精度に判定する。 総合的なフィッシングメールデータセットを用いて評価を行い,複数のLLMおよびベースラインシステムと比較した。
  論文  参考訳（メタデータ） (2024-02-28T06:28:15Z)
• ASETF: A Novel Method for Jailbreak Attack on LLMs through Translate Suffix Embeddings [58.82536530615557]
  本稿では, 連続的な逆接接尾辞埋め込みを一貫性のある, 理解可能なテキストに変換するために, ASETF (Adversarial Suffix Embedding Translation Framework) を提案する。 本手法は,逆接接尾辞の計算時間を著しく短縮し,既存の手法よりもはるかに優れた攻撃成功率を実現する。
  論文  参考訳（メタデータ） (2024-02-25T06:46:27Z)
• Prompted Contextual Vectors for Spear-Phishing Detection [45.07804966535239]
  スパイアフィッシング攻撃は重大なセキュリティ上の課題を示す。 本稿では,新しい文書ベクトル化手法に基づく検出手法を提案する。 提案手法は, LLM生成したスピアフィッシングメールの識別において, 91%のF1スコアを達成する。
  論文  参考訳（メタデータ） (2024-02-13T09:12:55Z)
• From Chatbots to PhishBots? -- Preventing Phishing scams created using ChatGPT, Google Bard and Claude [3.7741995290294943]
  本研究では,一般的な4つの大規模言語モデルを用いてフィッシング攻撃を発生させる可能性について検討する。 我々は、悪意のあるプロンプトの早期検出に使用できるBERTベースの自動検出ツールを構築した。 我々のモデルは4つの商用LCM間で転送可能であり、フィッシングサイトプロンプトの平均精度は96%、フィッシングメールプロンプトの平均精度は94%である。
  論文  参考訳（メタデータ） (2023-10-29T22:52:40Z)
• Baseline Defenses for Adversarial Attacks Against Aligned Language Models [109.75753454188705]
  最近の研究は、テキストのモデレーションが防御をバイパスするジェイルブレイクのプロンプトを生み出すことを示している。 検出(複雑度に基づく)、入力前処理(言い換えと再帰化)、対人訓練の3種類の防衛について検討する。 テキストに対する既存の離散化の弱点と比較的高いコストの最適化が組み合わさって、標準適応攻撃をより困難にしていることがわかった。
  論文  参考訳（メタデータ） (2023-09-01T17:59:44Z)
• Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection [64.67495502772866]
  大規模言語モデル(LLM)は、様々なアプリケーションに統合されつつある。 本稿では、プロンプトインジェクション攻撃を用いて、攻撃者が元の命令をオーバーライドし、制御を採用する方法を示す。 我々は、コンピュータセキュリティの観点から、影響や脆弱性を体系的に調査する包括的な分類法を導出する。
  論文  参考訳（メタデータ） (2023-02-23T17:14:38Z)
• Targeted Phishing Campaigns using Large Scale Language Models [0.0]
  フィッシングメール(英: Phishing email)とは、個人を騙して機密情報を明らかにしたり、攻撃者に利益をもたらす行動を起こさせる不正なメッセージである。 生成したテキストの品質など,様々な基準に基づき,これらの電子メールを生成する際のNLMの性能を評価するためのフレームワークを提案する。 評価の結果,NLMは個人を騙すのが難しいフィッシングメールを生成することができるが,その有効性は特定のNLMとトレーニングデータに基づいて異なることがわかった。
  論文  参考訳（メタデータ） (2022-12-30T03:18:05Z)
• Robust and Verifiable Information Embedding Attacks to Deep Neural Networks via Error-Correcting Codes [81.85509264573948]
  ディープラーニングの時代、ユーザは、サードパーティの機械学習ツールを使用して、ディープニューラルネットワーク(DNN)分類器をトレーニングすることが多い。 情報埋め込み攻撃では、攻撃者は悪意のあるサードパーティの機械学習ツールを提供する。 本研究では,一般的なポストプロセッシング手法に対して検証可能で堅牢な情報埋め込み攻撃を設計することを目的とする。
  論文  参考訳（メタデータ） (2020-10-26T17:42:42Z)
• Phishing and Spear Phishing: examples in Cyber Espionage and techniques to protect against them [91.3755431537592]
  フィッシング攻撃は、2012年以降、サイバー攻撃の91%以上を突破し、オンライン詐欺で最も使われているテクニックとなっている。 本研究は, フィッシングとスピア・フィッシングによる攻撃が, 結果を大きくする5つのステップを通じて, フィッシングとスピア・フィッシングによる攻撃の実施方法についてレビューした。
  論文  参考訳（メタデータ） (2020-05-31T18:10:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。