論文の概要: An Empirical Evaluation of Prompt Injection Vulnerabilities in Large Language Models Across Multilingual and Obfuscated Attack Scenarios
- arxiv url: http://arxiv.org/abs/2606.29602v1
- Date: Sun, 28 Jun 2026 20:56:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:15.979847
- Title: An Empirical Evaluation of Prompt Injection Vulnerabilities in Large Language Models Across Multilingual and Obfuscated Attack Scenarios
- Title（参考訳）: 多言語および難解な攻撃シナリオにおける大規模言語モデルにおけるプロンプト注入脆弱性の実証評価
- Abstract要約: 大規模言語モデル(LLM)は急速に発展し、複雑なタスクを自動化し、人間に似たコンテンツを生成することで産業を変革している。
採用が加速するにつれて、インジェクションの迅速な脆弱性がますます明らかになっている。
本稿では,様々なシナリオ下での6つの最先端LCMの実証評価について述べる。
- 参考スコア（独自算出の注目度）: 0.3499870393443268
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Large Language Models (LLMs) have rapidly evolved, transforming industries by automating complex tasks and generating human-like content. However, as their adoption accelerates, prompt injection vulnerabilities have become increasingly apparent. Malicious actors exploit these weaknesses to generate phishing emails, deceptive websites, nd malware, posing serious security risks. This paper presents an empirical evaluation of six state-of-the-art LLMs (DeepSeek, GPT, Gemini, Grok, Llama, and Qwen) under diverse adversarial prompt scenarios, including direct and multi-stage obfuscated attacks across multiple languages and character encodings. The proposed framework measures how effectively current LLMs resist manipulation into performing harmful actions. Our findings reveal systematic vulnerabilities across all tested models. Even direct prompt injections frequently induce the generation of phishing content, websites, and malware, while elaborate prompts achieve even higher malicious compliance rates, particularly for phishing. Models such as DeepSeek, Gemini, and Grok show especially high susceptibility under complex instructions. Notably, non-English languages consistently exhibit higher compliance rates than English, exposing significant gaps in multilingual safety alignment. Although simple character encodings reduce malicious outputs, they do not eliminate them. These results highlight persistent challenges in LLM safety and underscore the urgent need for stronger defenses and improved security mechanisms to support the ethical and secure deployment of LLMs in cybersecurity sensitive contexts.
- Abstract（参考訳）: 大規模言語モデル(LLM)は急速に発展し、複雑なタスクを自動化し、人間に似たコンテンツを生成することで産業を変革している。
しかし、採用が加速するにつれて、インジェクションのインジェクションの脆弱性がますます明らかになっている。
悪意あるアクターは、これらの弱点を利用してフィッシングメール、偽りのウェブサイト、マルウェアを発生させ、重大なセキュリティリスクを生じさせる。
本稿では,複数の言語にまたがる直接的および多段階の難読化攻撃や文字エンコーディングを含む,さまざまなシナリオ下での6つの最先端LCM(DeepSeek,GPT,Gemini,Grok,Llama,Qwen)の実証評価について述べる。
提案手法は,LLMを効果的に操作し,有害な作用を起こさないかを測定する。
以上の結果から,全試験モデルにまたがる系統的脆弱性が判明した。
直接のプロンプトインジェクションでさえ、フィッシングコンテンツ、ウェブサイト、マルウェアの生成を頻繁に引き起こす一方、精巧なプロンプトは、特にフィッシングにおいて、より高い悪意のあるコンプライアンスレートを達成する。
DeepSeek、Gemini、Grokといったモデルは、複雑な命令の下で特に高い感受性を示す。
特に、英語以外の言語は一貫して英語よりも高いコンプライアンス率を示し、多言語間の安全アライメントにおいて大きなギャップを露呈している。
単純な文字エンコーディングは悪意のある出力を減らすが、それらを排除しない。
これらの結果は、LLMの安全性における永続的な課題を浮き彫りにし、サイバーセキュリティに敏感な状況下でのLLMの倫理的かつセキュアな展開を支援するために、より強力な防衛の必要性と、セキュリティメカニズムの改善を緊急に求めている。
関連論文リスト
- When Prompts Become Payloads: A Framework for Mitigating SQL Injection Attacks in Large Language Model-Driven Applications [4.213098466542674]
大規模言語モデル(LLM)では、ユーザがsqlのような形式的なクエリ言語ではなく、会話型入力を使ってデータをクエリすることができる。
悪意のあるユーザは、モデル動作を操作し、安全でないクエリを生成する敵のプロンプトを作成することで、これらのメカニズムを利用することができる。
LLMを介在するsqlインジェクション攻撃を検知・緩和する多層セキュリティフレームワークを提案する。
論文 参考訳（メタデータ） (2026-05-11T08:28:45Z) - The Promptware Kill Chain: How Prompt Injections Gradually Evolved Into a Multi-Step Malware [6.5249834967502744]
大規模言語モデル(LLM)ベースのシステムは、既存のセキュリティフレームワークが不十分に対処する新たなアタックサーフェスを作成している。
我々は,LSMをベースとしたアプリケーションを対象とした攻撃が,thisttpromptwareと呼ばれるマルウェア群を構成することを提案し,これらの脅威を解析するための5段階のキルチェーンモデルを提案する。
論文 参考訳（メタデータ） (2026-01-14T16:57:04Z) - Behind the Mask: Benchmarking Camouflaged Jailbreaks in Large Language Models [0.0]
カモフラージュされたジェイルブレイクは 明らかに良心的な言語の中に 悪意のある意図を埋め込んで 既存の安全メカニズムを回避している
本稿では, 従来のキーワードベース検出手法の誤り特性と限界に着目し, カモフラージュされたジェイルブレイクプロンプトの構築と影響について検討する。
論文 参考訳（メタデータ） (2025-09-05T19:57:38Z) - SafePTR: Token-Level Jailbreak Defense in Multimodal LLMs via Prune-then-Restore Mechanism [123.54980913741828]
MLLM(Multimodal Large Language Models)は、視覚的推論をサポートするためにLLMを拡張する。
MLLMは、マルチモーダルなジェイルブレイク攻撃や安全なデプロイメントを妨げる可能性がある。
セーフ・プルー・テン・レストア(Safe Prune-then-Restore, SafePTR)は、有害なトークンを脆弱な層で選択的にプルーすると同時に、その後の層で良質な機能を復元する、トレーニング不要の防御フレームワークである。
論文 参考訳（メタデータ） (2025-07-02T09:22:03Z) - Align is not Enough: Multimodal Universal Jailbreak Attack against Multimodal Large Language Models [83.80177564873094]
マルチモーダル・ユニバーサル・ジェイルブレイク・アタック・フレームワークを提案する。
LLaVA,Yi-VL,MiniGPT4,MiniGPT-v2,InstructBLIPなどのMLLMの望ましくないコンテキスト生成を評価する。
本研究は,MLLMにおける堅牢な安全対策の必要性を浮き彫りにするものである。
論文 参考訳（メタデータ） (2025-06-02T04:33:56Z) - Human-Readable Adversarial Prompts: An Investigation into LLM Vulnerabilities Using Situational Context [45.821481786228226]
本研究では,状況文脈を利用した状況駆動型逆転フルプロンプトが効果的であるが,検出がはるかに困難であることを示す。
映画脚本を状況的文脈の枠組みとして利用する攻撃を開発した。
我々は, p-核サンプリングによるAdvPrompterフレームワークを拡張し, 多様な可読テキストを生成する。
論文 参考訳（メタデータ） (2024-12-20T21:43:52Z) - Endless Jailbreaks with Bijection Learning [3.5963161678592828]
ランダムに生成したエンコーディングを用いて,安全性上の脆弱性に対してLLMをファジリングする強力な攻撃アルゴリズムを提案する。
私たちの攻撃は、幅広いフロンティア言語モデルに対して非常に効果的です。
論文 参考訳（メタデータ） (2024-10-02T07:40:56Z) - Applying Pre-trained Multilingual BERT in Embeddings for Improved Malicious Prompt Injection Attacks Detection [5.78117257526028]
大きな言語モデル(LLM)は、その優れた能力と広範囲のアプリケーションに適用できることで有名である。
この研究は、実際のLLMアプリケーションに最も危険な脆弱性の1つである悪意のあるプロンプトインジェクション攻撃の影響に焦点を当てている。
正規のプロンプトから悪意のあるプロンプトを分類するために、多言語BERTやDistilBertのような様々なBERT(Bidirectional Representations from Transformers)を適用する。
論文 参考訳（メタデータ） (2024-09-20T08:48:51Z) - CodeAttack: Revealing Safety Generalization Challenges of Large Language Models via Code Completion [117.178835165855]
本稿では,自然言語入力をコード入力に変換するフレームワークであるCodeAttackを紹介する。
我々の研究は、コード入力に対するこれらのモデルの新たな、普遍的な安全性の脆弱性を明らかにした。
CodeAttackと自然言語の分布ギャップが大きくなると、安全性の一般化が弱くなる。
論文 参考訳（メタデータ） (2024-03-12T17:55:38Z) - Benchmarking and Defending Against Indirect Prompt Injection Attacks on Large Language Models [79.0183835295533]
我々は,このような脆弱性のリスクを評価するために,BIPIAと呼ばれる間接的インジェクション攻撃のための最初のベンチマークを導入した。
我々の分析では、LLMが情報コンテキストと動作可能な命令を区別できないことと、外部コンテンツ内での命令の実行を回避できないことの2つの主要な要因を同定した。
ブラックボックスとホワイトボックスという2つの新しい防御機構と、これらの脆弱性に対処するための明確なリマインダーを提案する。
論文 参考訳（メタデータ） (2023-12-21T01:08:39Z) - Multilingual Jailbreak Challenges in Large Language Models [96.74878032417054]
本研究では,大規模言語モデル(LLM)における多言語ジェイルブレイク問題の存在を明らかにする。
我々は、意図しないシナリオと意図的なシナリオの2つを考えます。
安全な微調整のための多言語学習データを自動的に生成する新しいtextscSelf-Defense フレームワークを提案する。
論文 参考訳（メタデータ） (2023-10-10T09:44:06Z) - Not what you've signed up for: Compromising Real-World LLM-Integrated
Applications with Indirect Prompt Injection [64.67495502772866]
大規模言語モデル(LLM)は、様々なアプリケーションに統合されつつある。
本稿では、プロンプトインジェクション攻撃を用いて、攻撃者が元の命令をオーバーライドし、制御を採用する方法を示す。
我々は、コンピュータセキュリティの観点から、影響や脆弱性を体系的に調査する包括的な分類法を導出する。
論文 参考訳（メタデータ） (2023-02-23T17:14:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。