論文の概要: PhySE: A Psychological Framework for Real-Time AR-LLM Social Engineering Attacks

• arxiv url: http://arxiv.org/abs/2604.23148v1
• Date: Sat, 25 Apr 2026 05:31:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-28 17:12:07.181107
• Title: PhySE: A Psychological Framework for Real-Time AR-LLM Social Engineering Attacks
• Title（参考訳）: PhySE:リアルタイムAR-LLMソーシャルエンジニアリング攻撃のための心理学的フレームワーク
• Abstract要約: 悪意のある俳優は、ターゲットの視覚と声のデータを取得するために拡張現実(AR)メガネを使用する。 大言語モデル(LLM)は、このデータを分析して個人を特定し、詳細な社会プロファイルを生成する。 LLMを動力とするエージェントはソーシャルエンジニアリング戦略を採用し、ターゲットの信頼を得るためにリアルタイムな会話提案を提供する。
• 参考スコア（独自算出の注目度）: 11.801855344327928
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The emerging threat of AR-LLM-based Social Engineering (AR-LLM-SE) attacks (e.g. SEAR) poses a significant risk to real-world social interactions. In such an attack, a malicious actor uses Augmented Reality (AR) glasses to capture a target visual and vocal data. A Large Language Model (LLM) then analyzes this data to identify the individual and generate a detailed social profile. Subsequently, LLM-powered agents employ social engineering strategies, providing real-time conversation suggestions, to gain the target trust and ultimately execute phishing or other malicious acts. Despite its potential, the practical application of AR-LLM-SE faces two major bottlenecks, (1) Cold-start personalization, Current Retrieval-Augmented Generation (RAG) methods introduce critical delays in the earliest turns, slowing initial profile formation and disrupting real-time interaction, (2) Static Attack Strategies, Existing approaches rely on fixed-stage, handcrafted social engineering tactics that lack foundation in established psychological theory. To address these limitations, we propose PhySE, a novel framework with two core innovations, (1) VLM-Based SocialContext Training, To eliminate profiling delays, we efficiently pre-train a Visual Language Model (VLM) with social-context data, enabling rapid, on-the-fly profile generation, (2) Adaptive Psychological Agent, We introduce a psychological LLM that dynamically deploys distinct classes of psychological strategies based on target response, moving beyond static, handcrafted scripts. We evaluated PhySE through an IRB-approved user study with 60 participants, collecting a novel dataset of 360 annotated conversations across diverse social scenarios.
• Abstract（参考訳）: AR-LLMベースのソーシャルエンジニアリング(AR-LLM-SE)攻撃の新たな脅威(例:SEAR)は、現実世界のソーシャルインタラクションに重大なリスクをもたらす。 このような攻撃では、悪意のあるアクターが拡張現実(AR)メガネを使用して、ターゲットの視覚的および声的データをキャプチャする。 大規模言語モデル(LLM)は、このデータを分析して個人を特定し、詳細な社会プロファイルを生成する。 その後、LLMのエージェントはソーシャルエンジニアリング戦略を採用し、リアルタイムの会話提案を提供し、ターゲットの信頼を得、最終的にフィッシングやその他の悪意ある行為を実行する。 その可能性にもかかわらず、AR-LLM-SEの実践的応用は、(1)コールドスタートのパーソナライゼーション、(RAG)手法は、初期プロファイルの形成を遅くし、リアルタイムの相互作用を阻害する、(RAG)手法に重大な遅延をもたらす、(2)静的攻撃戦略、既存のアプローチは、確立された心理学理論の基礎を欠いた固定段階の、手作りの社会工学戦術に依存している、という2つの大きなボトルネックに直面している。 これらの制約に対処するため,(1) VLMベースのソーシャルコンテキストトレーニング, プロファイリング遅延の解消, 視覚言語モデル(VLM)を社会的コンテキストデータで効率的に事前学習し, 迅速なオンザフライプロファイル生成を可能にする, (2) アダプティブ心理学エージェント, 目標応答に基づく心理学的戦略を動的に展開する心理学的LLMを提案する。 我々は、IRBが承認した60人の被験者を対象にPhySEを評価し、多様な社会的シナリオにまたがる360個の注釈付き会話のデータセットを収集した。

関連論文リスト

• SocialRL: Refining LLMs' Social Intelligence through Multi-turn Reinforcement Learning and Reward Design [52.69818441707104]
  ソーシャルインテリジェンスにより、エージェントは社会的文脈を読み、意図を推測し、持続的な対話に適応することができる。 既存の強化学習手法は、1ターン発話とスパース結果報酬を最適化する。 両課題に対処する多ターン強化学習フレームワークSocialRLを提案する。
  論文  参考訳（メタデータ） (2026-09-09T06:06:34Z)
• ALSO: Adversarial Online Strategy Optimization for Social Agents [63.84788516416339]
  社会シミュレーションにおけるオンライン戦略最適化のための最初のフレームワークとしてtextbfALSO (textbfAdrial ontextbfLine textbfStrategy textbfOptimization) を提案する。 ALSOは、スタティック・ペルソナとダイナミック・ストラテジー・インストラクションの組み合わせをアームとして扱う対向バンドイット問題として、マルチターンインタラクションを定式化する。 また、相互作用履歴から報酬を予測する軽量なニューラルサロゲートを導入し、サンプル効率の高い探索と継続的なオンライン適応を可能にしている。
  論文  参考訳（メタデータ） (2026-05-15T09:25:15Z)
• UNSEEN: A Cross-Stack LLM Unlearning Defense against AR-LLM Social Engineering Attacks [18.1862287371633]
  AR-LLM-SE攻撃は現実世界の社会生活に大きな脅威をもたらす。 このようなAR-LLM-SE攻撃では、攻撃者はAR(Augmented Reality)ガラスを利用してターゲットの画像と音声情報をキャプチャすることができる。 UNSEENはAR ACLとF-RMUをベースとしたLLMアンラーニングと適応的インタラクション制御のためのエージェントガードレールを組み合わせた協調型クロススタックディフェンスである。
  論文  参考訳（メタデータ） (2026-04-25T04:49:02Z)
• Adversarial Attack-Defense Co-Evolution for LLM Safety Alignment via Tree-Group Dual-Aware Search and Optimization [51.12422886183246]
  大規模言語モデル(LLM)は、Webサービスにおいて急速に発展し、社会的リスクを増幅しつつ、前例のない能力を提供してきた。 既存の作業は、分離されたジェイルブレイク攻撃または静的防御に重点を置いており、現実世界のWebコンテキストにおける進化する脅威とセーフガードの間の動的な相互作用を無視している。 ACE-Safetyは、2つの重要な革新的手順をシームレスに統合することにより、攻撃と防御モデルを協調的に最適化する新しいフレームワークである。
  論文  参考訳（メタデータ） (2025-11-24T15:23:41Z)
• Grounded in Reality: Learning and Deploying Proactive LLM from Offline Logs [72.08224879435762]
  textttLearn-to-Askは、プロアクティブな対話エージェントの学習とデプロイのためのシミュレータフリーフレームワークである。 当社のアプローチは,LLMの大規模オンラインAIサービスへの展開を成功に導くものです。
  論文  参考訳（メタデータ） (2025-10-29T12:08:07Z)
• Searching for Privacy Risks in LLM Agents via Simulation [61.229785851581504]
  本稿では,プライバシクリティカルなエージェントインタラクションのシミュレーションを通じて,攻撃と防御戦略の改善を交互に行う検索ベースのフレームワークを提案する。 攻撃戦略は、直接の要求から、不正行為や同意偽造といった高度な戦術へとエスカレートする。 発見された攻撃と防御は、さまざまなシナリオやバックボーンモデルにまたがって伝達され、プライバシーに配慮したエージェントを構築するための強力な実用性を示している。
  論文  参考訳（メタデータ） (2025-08-14T17:49:09Z)
• LLMs are Introvert [21.542534041341774]
  大規模言語モデル(LLM)は情報拡散の心理的側面をシミュレートする新たな可能性を提供する。 最初の実験では、LLM生成挙動と真の人間の力学の間に大きなギャップがあることが判明した。 本稿では、感情誘導記憶によって強化された社会情報処理に基づく思考の連鎖(SIP-CoT)機構を提案する。
  論文  参考訳（メタデータ） (2025-07-08T03:32:38Z)
• Automated Profile Inference with Language Model Agents [67.32226960040514]
  自動プロファイル推論(Automatic Profile Inference)と呼ばれる,LLMがオンラインの偽名にもたらす新たな脅威について検討する。 相手は、LDMに対して、疑似プラットフォーム上で公開されているユーザアクティビティから、機密性の高い個人属性を自動的に取り除き、抽出するように指示することができる。 実世界のシナリオにおけるこのような脅威の可能性を評価するために,AutoProfilerという自動プロファイリングフレームワークを導入する。
  論文  参考訳（メタデータ） (2025-05-18T13:05:17Z)
• On the Feasibility of Using MultiModal LLMs to Execute AR Social Engineering Attacks [8.28564202645918]
  マルチモーダル大規模言語モデルを用いたAR駆動型社会工学攻撃の組織化のためのフレームワークを提案する。 以上の結果から,SEARはリスクの高い行動を引き出すのに極めて有効であることが示唆された。 また, 「時折人工的な」 などの特徴的限界は, 正当性差の認識によるものである。
  論文  参考訳（メタデータ） (2025-04-16T05:18:36Z)
• Personalized Attacks of Social Engineering in Multi-turn Conversations: LLM Agents for Simulation and Detection [19.604708321391012]
  ソーシャルメディアプラットフォームに対する社会工学(SE)攻撃は重大なリスクをもたらす。 マルチターン会話を生成することで,SE攻撃機構をシミュレートするLLM-agentic framework,SE-VSimを提案する。 本研究は,被害者の人格に関する事前知識を活用することで,ユーザに対してパーソナライズされた保護を提供するための概念実証SE-OmniGuardを提案する。
  論文  参考訳（メタデータ） (2025-03-18T19:14:44Z)
• Can LLMs Simulate Social Media Engagement? A Study on Action-Guided Response Generation [51.44040615856536]
  本稿では、行動誘導応答生成によるソーシャルメディアのエンゲージメントをシミュレートする大規模言語モデルの能力について分析する。 GPT-4o-mini,O1-mini,DeepSeek-R1をソーシャルメディアエンゲージメントシミュレーションで評価した。
  論文  参考訳（メタデータ） (2025-02-17T17:43:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。