論文の概要: Beware EviLLM: Enabling Vulnerability Injection via Large Language Models

• arxiv url: http://arxiv.org/abs/2610.03857v1
• Date: Fri, 02 Oct 2026 17:32:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:45:09.967148
• Title: Beware EviLLM: Enabling Vulnerability Injection via Large Language Models
• Title（参考訳）: Beware EviLLM: 大規模言語モデルによる脆弱性注入の実現
• Abstract要約: サードパーティの敵がAIコード生成パイプラインを妥協して、故意に脆弱性を導入します。 EviLLMのインスタンスを2つ実装しましたが、それぞれのインスタンスはLLMの基盤となるアカウントやブラウザからのみアクセスする必要があります。 ユーザスタディでは,EviLLMの2例中8例,10例中7例,EviLLMの2例中13例が,EviLLMのような攻撃のリスクを考慮に入れた21例中13例が,EviLLMの脆弱性に気付かなかった。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Advances in large language models (LLMs) have enabled AI-driven code generation from natural language specifications, introducing new attack surfaces for injecting vulnerabilities into software. Prior work has studied this problem only in benign settings where vulnerabilities are introduced inadvertently, or under unconventional threat models where the LLM itself is malicious (backdooring) or the user is the attacker (jailbreaking). In this paper, we study a more realistic threat model: a third-party adversary, with capabilities comparable to existing cybercriminals, compromises the AI code generation pipeline to deliberately introduce vulnerabilities. We call this the EviLLM attack. We have implemented two instances of EviLLM, each of which only requires the underlying LLM to be accessed through a compromised account or browser, and can inject vulnerabilities from 13 CWE classes. As we show in our feasibility study, both attack vectors are already used to implement many existing cyberattacks. Our user study shows that 7 out of 8 and 10 out of 13 participants did not notice the vulnerabilities injected by the two instances of EviLLM, and 13 out of 21 participants "rarely" or "never" considered the risk of an attack like EviLLM.
• Abstract（参考訳）: 大規模言語モデル(LLM)の進歩により、自然言語仕様からAI駆動のコード生成が可能になり、ソフトウェアに脆弱性を注入するための新たなアタックサーフェスが導入されている。 これまでの研究では、脆弱性が不注意に導入されたり、LLM自体が悪意のある(バックドア)か、あるいはユーザが攻撃者である(ジェイルブレイク)という、従来からある脅威モデルの下でのみ、この問題を調査してきた。 本稿では、より現実的な脅威モデルについて検討する:既存のサイバー犯罪者に匹敵する能力を持つサードパーティの敵が、AIコード生成パイプラインを侵害して、故意に脆弱性を導入する。 これをEviLLM攻撃と呼ぶ。 我々は、EviLLMの2つのインスタンスを実装しました。それぞれのインスタンスは、基盤となるLLMへのアクセスのみを必要とし、13のCWEクラスから脆弱性を注入することができます。 私たちが実現可能性調査で示したように、どちらの攻撃ベクトルも既存のサイバー攻撃の実装にすでに使われています。 ユーザスタディでは,EviLLMの2例中8例,10例中7例,EviLLMの2例中13例が,EviLLMのような攻撃のリスクを考慮に入れた21例中13例が,EviLLMの脆弱性に気付かなかった。

関連論文リスト

• Invisible Ink Threats: Adversarial Goals Behind Legitimate Tasks in Computer-Use Agents [10.553545687886928]
  我々は、一見無害な敵タスクのコレクションであるII-Benchを提示する。 II-Benchは、3つのプラットフォームにわたる機密性および整合性攻撃をターゲットにした444の例で構成されている。 また,包括的対角テストフレームワークHITLCUAを構築した。
  論文  参考訳（メタデータ） (2026-08-03T10:16:53Z)
• Making MLLMs Blind: Adversarial Smuggling Attacks in MLLM Content Moderation [54.38271718421492]
  敵の密輸攻撃は人間とAIの能力ギャップを悪用する。 有害なコンテンツを人間の読みやすい視覚形式にエンコードする。 我々は緩和戦略の予備的な調査を行う。
  論文  参考訳（メタデータ） (2026-04-08T11:13:16Z)
• Cuckoo Attack: Stealthy and Persistent Attacks Against AI-IDE [64.47951172662745]
  Cuckoo Attackは、悪意のあるペイロードを構成ファイルに埋め込むことで、ステルス性と永続的なコマンド実行を実現する新しい攻撃である。 攻撃パラダイムを初期感染と持続性という2つの段階に分類する。 当社は、ベンダーが製品のセキュリティを評価するために、実行可能な7つのチェックポイントを提供しています。
  論文  参考訳（メタデータ） (2025-09-19T04:10:52Z)
• Poison Once, Control Anywhere: Clean-Text Visual Backdoors in VLM-based Mobile Agents [54.35629963816521]
  この研究は、VLMベースのモバイルエージェントをターゲットにした最初のクリーンテキストバックドアアタックであるVIBMAを紹介する。 この攻撃は、視覚的な入力だけを変更することによって、悪意ある振る舞いをモデルに注入する。 クリーンタスクの動作を保ちながら高い成功率を達成できることを示す。
  論文  参考訳（メタデータ） (2025-06-16T08:09:32Z)
• Commercial LLM Agents Are Already Vulnerable to Simple Yet Dangerous Attacks [88.84977282952602]
  最近のMLセキュリティ文献は、整列型大規模言語モデル(LLM)に対する攻撃に焦点を当てている。 本稿では,LLMエージェントに特有のセキュリティとプライバシの脆弱性を分析する。 我々は、人気のあるオープンソースおよび商用エージェントに対する一連の実証的な攻撃を行い、その脆弱性の即時的な影響を実証した。
  論文  参考訳（メタデータ） (2025-02-12T17:19:36Z)
• ShadowCode: Towards (Automatic) External Prompt Injection Attack against Code LLMs [56.46702494338318]
  本稿では,コード指向の大規模言語モデルに対する(自動)外部プロンプトインジェクションという,新たな攻撃パラダイムを紹介する。 コードシミュレーションに基づいて誘導摂動を自動生成する,シンプルで効果的な方法であるShadowCodeを提案する。 3つの人気のあるプログラミング言語にまたがる31の脅威ケースを発生させるため、13の異なる悪意のある目標に対して本手法を評価した。
  論文  参考訳（メタデータ） (2024-07-12T10:59:32Z)
• Double Backdoored: Converting Code Large Language Model Backdoors to Traditional Malware via Adversarial Instruction Tuning Attacks [15.531860128240385]
  本研究では、バックドアをAI/MLドメインから従来のコンピュータマルウェアに移行するための新しいテクニックについて検討する。 命令チューニングされたコードLLMのサイバーセキュリティ脆弱性を評価するためのフレームワークであるMalInstructCoderを提案する。 我々は,3つの最先端の Code LLM を含むコード固有命令チューニングプロセスの活用性について,包括的調査を行う。
  論文  参考訳（メタデータ） (2024-04-29T10:14:58Z)
• DeepPayload: Black-box Backdoor Attack on Deep Learning Models through Neural Payload Injection [17.136757440204722]
  我々は,コンパイルされたディープラーニングモデルに対して,リバースエンジニアリング技術を用いて,極めて実用的なバックドアアタックを導入する。 注入されたバックドアは93.5%の成功率で起動できるが、遅延オーバーヘッドは2ms以下で精度は1.4%以下である。 人気アプリやセキュリティクリティカルアプリなど、攻撃に対して脆弱な54のアプリが見つかりました。
  論文  参考訳（メタデータ） (2021-01-18T06:29:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。