論文の概要: Context-Aware Spear Phishing: Generative AI-Enabled Attacks Against Individuals via Public Social Media Data

• arxiv url: http://arxiv.org/abs/2605.11268v1
• Date: Mon, 11 May 2026 21:46:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-13 21:48:56.446523
• Title: Context-Aware Spear Phishing: Generative AI-Enabled Attacks Against Individuals via Public Social Media Data
• Title（参考訳）: コンテキスト認識のスパイアフィッシング: 公共のソーシャルメディアデータによる個人に対するAIによる生成的攻撃
• Authors: Elham Pourabbas Vafa, Sayak Saha Roy, Shirin Nilizadeh,
• Abstract要約: ソーシャルメディアデータと生成AI(GenAI)が、高度にパーソナライズされたコンテキスト対応のスピアフィッシングキャンペーンを自動化し、スケールするために、どのように悪用されるかを示す。 マルチモーダル信号抽出、通信スタイルのプロファイリング、攻撃型インスタンス化を7つの戦略で組み合わせたモジュラーフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 3.275342475988451
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We demonstrate how publicly available social-media data and generative AI (GenAI) can be misused to automate and scale highly personalized, context-aware spear-phishing campaigns. With minimal attacker effort, a small amount of public activity per target is sufficient for GenAI models to extract interests and contextual cues, producing persuasive messages that mirror a target's style while bypassing generic content-moderation safeguards. We introduce a modular framework that combines multimodal signal extraction, communication-style profiling, and attack-type instantiation across seven strategies (baiting, scareware, honey trap, tailgating, impersonation, quid pro quo, and personalized emotional exploitation). We conduct a large-scale, multi-model evaluation covering thousands of generated emails and eight security-relevant criteria, benchmarking against a corpus of real-world phishing messages. The GenAI-produced emails exhibit markedly higher personalization, contextual grounding, and persuasive leverage. Importantly, a complementary user study corroborates these results, revealing that LLM-generated attacks consistently outperform APWG eCrimeX emails across eight dimensions while eliciting lower suspicion among human recipients. Finally, we measure and analyze the behavior of existing proactive, prompt-level defense mechanisms, which incorporate adaptive mechanisms, as well as two complementary defense approaches-policy-augmented SOTA safeguard models and system-instruction chain-of-thought moderation. We document how these defenses respond to contextualized and adaptive attack prompts, underscoring the need for platform-level safeguards that explicitly account for contextualized abuse at scale.
• Abstract（参考訳）: ソーシャルメディアデータと生成AI(GenAI)が、高度にパーソナライズされた、コンテキスト対応のスピアフィッシングキャンペーンを自動化し、スケールするために、どのように悪用されるかを実証する。 攻撃の最小限の努力により、GenAIモデルが関心や文脈の手がかりを抽出するのには、ターゲットのスタイルを反映した説得的なメッセージを生成しながら、一般的なコンテンツモデレーションの保護を回避できる。 マルチモーダル信号抽出、コミュニケーションスタイルのプロファイリング、攻撃型インスタンス化を7つの戦略(ベイティング、スケアウェア、ハニートラップ、尾行、偽装、クイドプロクオ、パーソナライズされた感情的搾取)で組み合わせたモジュラーフレームワークを提案する。 我々は,実世界のフィッシングメッセージのコーパスに対してベンチマークを行い,数千件のメールと8つのセキュリティ関連基準を網羅した大規模マルチモデル評価を行う。 GenAIが生成した電子メールは、パーソナライズ、文脈的根拠、説得力のあるレバレッジを著しく高めている。 重要なことは、補完的なユーザー調査がこれらの結果を裏付け、LLMが生成した攻撃がAPWG eCrimeXメールを8次元にわたって一貫して上回っており、人間の受信者の間での疑念の低さを招いていることを明らかにしている。 最後に, 適応機構を組み込んだ既存の能動的・即時防御機構の挙動を計測・解析し, 2つの相補的な防衛手法-政治強化型SOTAセーフガードモデルとシステム・インストラクション・チェーン・オブ・シークレット・モデレーションについて検討した。 我々は、これらの防衛が文脈的かつ適応的な攻撃プロンプトにどのように反応するかを文書化し、大規模な文脈的虐待を明示的に考慮するプラットフォームレベルの安全ガードの必要性を強調する。

関連論文リスト

• Prompt-Unknown Promotion Attacks against LLM-based Sequential Recommender Systems [51.504307822017985]
  大規模言語モデルを用いたシーケンシャルレコメンデータシステム(LLM-SRS)は,最近顕著な性能を示した。 本稿では, LLM-SRSにおけるアイテムプロモーション攻撃について, 攻撃者に対してシステムプロンプトと被害者モデルの両方が未知な状況下で, より現実的な状況下で検討する。
  論文  参考訳（メタデータ） (2026-04-26T10:09:26Z)
• Jailbreaking Large Language Models through Iterative Tool-Disguised Attacks via Reinforcement Learning [26.571996871795154]
  iMIST (underlineinteractive underlineMulti-step underlineProgreunderlinessive underlineTool-disguised Jailbreak Attack) は、現在の防御機構の脆弱性を利用する新しい適応型ジェイルブレイク手法である。 広く使われているモデルの実験では、iMISTは低い拒絶率を維持しながら高い攻撃効果を発揮することが示された。
  論文  参考訳（メタデータ） (2026-01-09T01:41:39Z)
• AutoAdv: Automated Adversarial Prompting for Multi-Turn Jailbreaking of Large Language Models [0.0]
  大規模言語モデル(LLM)は、ジェイルブレイク攻撃の脆弱性を示し続けている。 本稿では,敵対的即時生成を自動化する新しいフレームワークであるAutoAdvを紹介する。 我々の攻撃は、有害なコンテンツ生成に対して最大86%のジェイルブレイク成功率を達成したことを示す。
  論文  参考訳（メタデータ） (2025-04-18T08:38:56Z)
• Personalized Attacks of Social Engineering in Multi-turn Conversations: LLM Agents for Simulation and Detection [19.604708321391012]
  ソーシャルメディアプラットフォームに対する社会工学(SE)攻撃は重大なリスクをもたらす。 マルチターン会話を生成することで,SE攻撃機構をシミュレートするLLM-agentic framework,SE-VSimを提案する。 本研究は,被害者の人格に関する事前知識を活用することで,ユーザに対してパーソナライズされた保護を提供するための概念実証SE-OmniGuardを提案する。
  論文  参考訳（メタデータ） (2025-03-18T19:14:44Z)
• Reasoning-Augmented Conversation for Multi-Turn Jailbreak Attacks on Large Language Models [53.580928907886324]
  Reasoning-Augmented Conversationは、新しいマルチターンジェイルブレイクフレームワークである。 有害なクエリを良心的な推論タスクに再構成する。 RACEは,複雑な会話シナリオにおいて,最先端攻撃の有効性を実現する。
  論文  参考訳（メタデータ） (2025-02-16T09:27:44Z)
• Reformulation is All You Need: Addressing Malicious Text Features in DNNs [53.45564571192014]
  本稿では,敵攻撃とバックドア攻撃の両方に対して有効な,統一的かつ適応的な防御フレームワークを提案する。 我々のフレームワークは、様々な悪意あるテキスト機能において、既存のサンプル指向の防御基準よりも優れています。
  論文  参考訳（メタデータ） (2025-02-02T03:39:43Z)
• Turning Logic Against Itself : Probing Model Defenses Through Contrastive Questions [50.40122190627256]
  非倫理的反応を引き起こすために、対照的な推論を利用する新しいジェイルブレイク手法であるPOATEを導入する。 PoATEは意味論的に意図に反し、敵のテンプレートと統合し、有害なアウトプットを驚くほど微妙に操る。 これに対応するために、悪意のある意図と理性を検出するためにクエリを分解して、有害な応答を評価し、拒否するIntent-Aware CoTとReverse Thinking CoTを提案する。
  論文  参考訳（メタデータ） (2025-01-03T15:40:03Z)
• You Know What I'm Saying: Jailbreak Attack via Implicit Reference [22.520950422702757]
  本研究は、以前見過ごされた脆弱性を特定し、Implicit Reference (AIR) による攻撃(Attack)と呼ぶ。 AIRは悪意のある目的を許容可能な目的に分解し、コンテキスト内の暗黙の参照を通してそれらをリンクする。 我々の実験は、AIRが最先端のLLMに対して有効であることを示し、ほとんどのモデルで90%を超える攻撃成功率(ASR)を達成した。
  論文  参考訳（メタデータ） (2024-10-04T18:42:57Z)
• Mutual-modality Adversarial Attack with Semantic Perturbation [81.66172089175346]
  本稿では,相互モダリティ最適化スキームにおける敵攻撃を生成する新しい手法を提案する。 我々の手法は最先端の攻撃方法より優れており、プラグイン・アンド・プレイ・ソリューションとして容易にデプロイできる。
  論文  参考訳（メタデータ） (2023-12-20T05:06:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。