論文の概要: GuardPhish: Securing Open-Source LLMs from Phishing Abuse

• arxiv url: http://arxiv.org/abs/2604.17313v1
• Date: Sun, 19 Apr 2026 08:02:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-21 21:52:52.458392
• Title: GuardPhish: Securing Open-Source LLMs from Phishing Abuse
• Title（参考訳）: GuardPhish: フィッシングの悪用からオープンソース LLM を保護する
• Authors: Rina Mishra, Gaurav Varshney, Doddipatla Sesha Sahithi,
• Abstract要約: オフラインおよびエンタープライズ環境でのオープンソースのLarge Language Models(LLM)は、ほとんど検討されていないセキュリティリスクを導入している。 大規模マルチベクトルフィッシングプロンプトデータセットであるGuardPhishを用いて,この脆弱性を調査した。 決定論的5つのモデルアンサンブルをラベル付けに用いて、ほぼ完全なモデル間合意を実現する。
• 参考スコア（独自算出の注目度）: 0.7009487789080343
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The rapid adoption of open-source Large Language Models (LLMs) in offline and enterprise environments has introduced a largely unexamined security risk like susceptibility to adversarial phishing prompts under static safety configurations. In this work, we systematically investigate this vulnerability through GuardPhish, a large scale multi-vector phishing prompt dataset comprising 70,015 samples spanning web, email, SMS, and voice attack scenarios derived from real world campaigns. Using a deterministic five model ensemble for labeling, we achieve near perfect inter model agreement (Fleiss kappa = 0.9141), with residual disagreements resolved through expert adjudication. By evaluating eight open-source LLMs under fully offline inference conditions, we uncover a substantial enforcement gap like models that correctly identify phishing intent with detection rates up to 96% nevertheless generate actionable phishing content from identical prompts, with attack success rates reaching 98.5% in voice-based scenarios. These findings demonstrate that intent classification alone does not guarantee generative refusal in the absence of dynamic guardrails. To mitigate this risk, we train transformer based classifiers on GuardPhish, achieving up to 98.27% accuracy as modular pre-generation filters deployable without modifying the underlying generative model. Our results highlight a critical weakness in current open-source LLM deployments and provide a reproducible foundation for strengthening defenses against phishing and social engineering attacks.
• Abstract（参考訳）: オフラインおよびエンタープライズ環境でのオープンソースのLarge Language Models(LLMs)の急速な採用により、静的な安全設定下での敵のフィッシングプロンプトに対する感受性など、ほとんど検討されていないセキュリティリスクが導入された。 本研究では,Web,メール,SMS,および実世界のキャンペーンから派生した音声攻撃シナリオにまたがる70,015のサンプルからなる大規模マルチベクトルフィッシングプロンプトデータセットであるGuardPhishを通じて,この脆弱性を系統的に調査する。 ラベル付けのための決定論的5つのモデルアンサンブルを用いて、ほぼ完全なモデル間合意(Fleiss kappa = 0.9141)を達成する。 完全にオフラインの推論条件下で8つのオープンソースLCMを評価することで、検出率でフィッシング意図を96%まで正確に識別するモデルのような、実質的な強制的ギャップが明らかになった。 これらの結果から,動的ガードレールの欠如による生成的拒絶は,意図的分類だけでは保証されないことが示唆された。 このリスクを軽減するために、我々はGuardPhishで変換器ベースの分類器を訓練し、基礎となる生成モデルを変更することなく、モジュラープレジェネレーションフィルタをデプロイできるため、最大98.27%の精度を実現した。 この結果は,現在のオープンソースLLMデプロイメントにおける重大な弱点を浮き彫りにして,フィッシングや社会工学的攻撃に対する防御を強化するための再現可能な基盤を提供するものである。

関連論文リスト

• The System Prompt Is the Attack Surface: How LLM Agent Configuration Shapes Security and Creates Exploitable Vulnerabilities [0.0]
  PhishNChipsは、10の迅速な戦略に基づく11のモデルの研究である。 単一モデルのフィッシングバイパス速度は、設定方法によって1%未満から97%の範囲である。 高い予測信号に関するプロンプトの最適化により,ベンチマーク性能が向上することを示す。
  論文  参考訳（メタデータ） (2026-03-26T05:48:37Z)
• The Trojan Knowledge: Bypassing Commercial LLM Guardrails via Harmless Prompt Weaving and Adaptive Tree Search [58.8834056209347]
  大規模言語モデル(LLM)は、有害な出力を誘導するために安全ガードレールをバイパスするジェイルブレイク攻撃に弱いままである。 CKA-Agent(Correlated Knowledge Attack Agent)は、ターゲットモデルの知識基盤の適応的木構造探索としてジェイルブレイクを再構成する動的フレームワークである。
  論文  参考訳（メタデータ） (2025-12-01T07:05:23Z)
• DiffuGuard: How Intrinsic Safety is Lost and Found in Diffusion Large Language Models [50.21378052667732]
  我々は、ステップ内およびステップ間ダイナミクスという2つの異なる次元にわたるジェイルブレイク攻撃に対して、dLLM脆弱性の詳細な分析を行う。 デュアルステージアプローチによる脆弱性に対処する,トレーニング不要な防御フレームワークであるDiffuGuardを提案する。
  論文  参考訳（メタデータ） (2025-09-29T05:17:10Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)
• EXPLICATE: Enhancing Phishing Detection through Explainable AI and LLM-Powered Interpretability [44.2907457629342]
  EXPLICATEは、三成分アーキテクチャによるフィッシング検出を強化するフレームワークである。 既存のディープラーニング技術と同等ですが、説明性が向上しています。 自動AIとフィッシング検出システムにおけるユーザ信頼の重大な隔たりに対処する。
  論文  参考訳（メタデータ） (2025-03-22T23:37:35Z)
• ASPIRER: Bypassing System Prompts With Permutation-based Backdoors in LLMs [17.853862145962292]
  システムプロンプトを体系的に回避する新しいバックドアアタックを導入する。 本手法は,98.58%のクリーン精度(CACC)を維持しつつ,攻撃成功率(ASR)を99.50%まで達成する。
  論文  参考訳（メタデータ） (2024-10-05T02:58:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。