論文の概要: UNSEEN: A Cross-Stack LLM Unlearning Defense against AR-LLM Social Engineering Attacks

• arxiv url: http://arxiv.org/abs/2604.23141v1
• Date: Sat, 25 Apr 2026 04:49:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-28 17:12:07.179271
• Title: UNSEEN: A Cross-Stack LLM Unlearning Defense against AR-LLM Social Engineering Attacks
• Title（参考訳）: UNSEEN:AR-LLMソーシャルエンジニアリング攻撃に対するクロススタックLLM未学習防衛
• Authors: Tianlong Yu, Yang Yang, Xiao Luo, Lihong Liu, Fudu Xing, Zui Tao, Kailong Wang, Gaoyang Liu, Ting Bi,
• Abstract要約: AR-LLM-SE攻撃は現実世界の社会生活に大きな脅威をもたらす。 このようなAR-LLM-SE攻撃では、攻撃者はAR(Augmented Reality)ガラスを利用してターゲットの画像と音声情報をキャプチャすることができる。 UNSEENはAR ACLとF-RMUをベースとしたLLMアンラーニングと適応的インタラクション制御のためのエージェントガードレールを組み合わせた協調型クロススタックディフェンスである。
• 参考スコア（独自算出の注目度）: 18.1862287371633
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Emerging AR-LLM-based Social Engineering attack (e.g., SEAR) is at the edge of posing great threats to real-world social life. In such AR-LLM-SE attack, the attacker can leverage AR (Augmented Reality) glass to capture the image and vocal information of the target, using the LLM to identify the target and generate the social profile, using the LLM agents to apply social engineering strategies for conversation suggestion to win the target trust and perform phishing afterwards. Current defensive approaches, such as role-based access control or data flow tracking, are not directly applicable to the convergent AR-LLM ecosystem (considering embedded AR device and opaque LLM inference), leaving an emerging and potent social engineering threat that existing privacy paradigms are ill-equipped to address. This necessitates a shift beyond solely human-centric measures like legislation and user education toward enforceable vendor policies and platform-level restrictions. Realizing this vision, however, faces significant technical challenges: securing resource-constrained AR-embedded devices, implementing fine-grained access control within opaque LLM inferences, and governing adaptive interactive agents. To address these challenges, we present UNSEEN, a coordinated cross-stack defense that combines an AR ACL (Access Control Layer) for identity-gated sensing, F-RMU-based LLM unlearning for sensitive profile suppression, and runtime agent guardrails for adaptive interaction control. We evaluate UNSEEN in an IRB-approved user study with 60 participants and a dataset of 360 annotated conversations across realistic social scenarios.
• Abstract（参考訳）: 新興AR-LLMベースのソーシャルエンジニアリング攻撃(例:SEAR)は、現実世界の社会生活に大きな脅威を与えようとしている。 このようなAR-LLM-SE攻撃において、攻撃者はAR(拡張現実)ガラスを利用して目標の画像と音声情報を捕捉し、LLMを使用して目標を特定し、社会プロファイルを生成し、LLMエージェントを使用して会話提案のためのソーシャルエンジニアリング戦略を適用して、目標信頼を獲得し、その後フィッシングを行う。 ロールベースのアクセス制御やデータフロートラッキングといった現在の防御的アプローチは、収束したAR-LLMエコシステム(組み込みARデバイスと不透明なLCM推論)に直接適用されず、既存のプライバシーパラダイムに対処できないという、新たな強力な社会的エンジニアリングの脅威を残している。 これは、法律やユーザー教育のような人間中心の手段から、強制可能なベンダーポリシーやプラットフォームレベルの制限へとシフトする必要がある。 しかし、このビジョンを実現するには、リソースに制限されたAR組み込みデバイスを確保すること、不透明なLSM推論内できめ細かいアクセス制御を実装すること、適応的な対話エージェントを管理すること、といった、重要な技術的課題に直面している。 これらの課題に対処するため、UNSEENはAR ACL(Access Control Layer)とF-RMUベースのLLMアンラーニング、適応的インタラクション制御のためのランタイムエージェントガードレールを組み合わせた、協調型クロススタックディフェンスである。 我々は、IRBが承認したユーザスタディにおいて、60人の参加者によるUNSEENと、現実的な社会的シナリオにわたる360の注釈付き会話のデータセットを評価した。

関連論文リスト

• PhySE: A Psychological Framework for Real-Time AR-LLM Social Engineering Attacks [11.801855344327928]
  悪意のある俳優は、ターゲットの視覚と声のデータを取得するために拡張現実(AR)メガネを使用する。 大言語モデル(LLM)は、このデータを分析して個人を特定し、詳細な社会プロファイルを生成する。 LLMを動力とするエージェントはソーシャルエンジニアリング戦略を採用し、ターゲットの信頼を得るためにリアルタイムな会話提案を提供する。
  論文  参考訳（メタデータ） (2026-04-25T05:31:40Z)
• When Safety Becomes a Vulnerability: Exploiting LLM Alignment Homogeneity for Transferable Blocking in RAG [16.528679832019854]
  TabooRAGは、厳格なブラックボックス設定の下で動作する、転送可能なブロッキング攻撃フレームワークである。 我々は,TabooRAGが安定なクロスモデル転送性と最先端のブロッキング成功率を実現し,GPT-5.2で最大96%に達することを示す。
  論文  参考訳（メタデータ） (2026-03-04T10:27:09Z)
• Grounded in Reality: Learning and Deploying Proactive LLM from Offline Logs [72.08224879435762]
  textttLearn-to-Askは、プロアクティブな対話エージェントの学習とデプロイのためのシミュレータフリーフレームワークである。 当社のアプローチは,LLMの大規模オンラインAIサービスへの展開を成功に導くものです。
  論文  参考訳（メタデータ） (2025-10-29T12:08:07Z)
• Enterprise AI Must Enforce Participant-Aware Access Control [9.68210477539956]
  大規模言語モデル(LLM)は、複数のユーザと対話し、センシティブな内部データに基づいてトレーニングあるいは微調整されるエンタープライズ環境に、ますます多くデプロイされている。 敵は、現在の微調整アーキテクチャやRAGアーキテクチャを利用して、アクセス制御の強制力の欠如を活用して機密情報を漏洩することができることを示す。 本稿では, LLM による学習, 検索, 生成に使用されるコンテンツは, インセンティブに関わるユーザに対して明示的に認証される,という原則に基づくフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-09-18T04:30:49Z)
• Searching for Privacy Risks in LLM Agents via Simulation [61.229785851581504]
  本稿では,プライバシクリティカルなエージェントインタラクションのシミュレーションを通じて,攻撃と防御戦略の改善を交互に行う検索ベースのフレームワークを提案する。 攻撃戦略は、直接の要求から、不正行為や同意偽造といった高度な戦術へとエスカレートする。 発見された攻撃と防御は、さまざまなシナリオやバックボーンモデルにまたがって伝達され、プライバシーに配慮したエージェントを構築するための強力な実用性を示している。
  論文  参考訳（メタデータ） (2025-08-14T17:49:09Z)
• Adversarial Attacks on Robotic Vision Language Action Models [118.02118618146568]
  視覚言語行動モデル(VLA)に対する敵対的攻撃について検討する。 我々のアルゴリズムの主な貢献は、完全な制御権限を得るためのLLMジェイルブレイク攻撃の適応と応用である。 LLMのジェイルブレイク文学とは大きく異なるのは、現実世界の攻撃は害の概念と意味的に結びついている必要はないからである。
  論文  参考訳（メタデータ） (2025-06-03T19:43:58Z)
• On the Feasibility of Using MultiModal LLMs to Execute AR Social Engineering Attacks [8.28564202645918]
  マルチモーダル大規模言語モデルを用いたAR駆動型社会工学攻撃の組織化のためのフレームワークを提案する。 以上の結果から,SEARはリスクの高い行動を引き出すのに極めて有効であることが示唆された。 また, 「時折人工的な」 などの特徴的限界は, 正当性差の認識によるものである。
  論文  参考訳（メタデータ） (2025-04-16T05:18:36Z)
• Targeting the Core: A Simple and Effective Method to Attack RAG-based Agents via Direct LLM Manipulation [4.241100280846233]
  大規模言語モデル(LLM)を駆使したAIエージェントは、シームレスで自然な、コンテキスト対応のコミュニケーションを可能にすることによって、人間とコンピュータのインタラクションを変革した。 本稿では,AIエージェント内のLLMコアを標的とした敵攻撃という,重大な脆弱性について検討する。
  論文  参考訳（メタデータ） (2024-12-05T18:38:30Z)
• Compromising Embodied Agents with Contextual Backdoor Attacks [69.71630408822767]
  大型言語モデル(LLM)は、エンボディドインテリジェンスの発展に変化をもたらした。 本稿では,このプロセスにおけるバックドアセキュリティの重大な脅威を明らかにする。 ほんの少しの文脈的デモンストレーションを毒殺しただけで、攻撃者はブラックボックスLDMの文脈的環境を隠蔽することができる。
  論文  参考訳（メタデータ） (2024-08-06T01:20:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。