論文の概要: Just Testing, Move Along: Evasion of LLM-based System Log Interpretation by Prompt Injection

• arxiv url: http://arxiv.org/abs/2607.24174v1
• Date: Mon, 27 Jul 2026 08:59:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-28 22:34:15.369294
• Title: Just Testing, Move Along: Evasion of LLM-based System Log Interpretation by Prompt Injection
• Title（参考訳）: 単なるテスト, 移動 – プロンプトインジェクションによるLLMベースのシステムログ解釈の普及
• Authors: Max Landauer, Florian Skopik, Markus Wurzenberger, Franciszek Górski, Mateusz Krzysztoń,
• Abstract要約: 本稿では,システムログに基づく大規模言語モデル(LLM)に対する迅速なインジェクション攻撃を評価するためのフレームワークを提案する。 実際のサイバー攻撃時に生成されたログトレースを用いて、ジェネリックインジェクションの生成、改善、攻撃固有の最適化を通じて、敵の例を生成する。 以上の結果から,これらのインジェクションが悪質なログトレースをベニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグ
• 参考スコア（独自算出の注目度）: 2.900900313242943
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Large Language Models (LLMs) are increasingly integrated into Security Operations Center (SOC) workflows, where they support analysts in tasks such as the interpretation of system logs. However, the ability of LLMs to directly process untrusted textual input also introduces new attack surfaces. In particular, attackers can inject contextual information or explicit instructions into log entries in order to influence how malicious activity is interpreted by the model. Despite the growing adoption of LLMs for log analytics, the robustness of such systems against adversarial log injection remains largely unexplored. To address this gap, this paper presents a framework for evaluating prompt injection attacks against LLM-based log interpretation. Using log traces generated during real cyber attacks, our approach creates adversarial examples through generic injection generation, refinement, and attack-specific optimization. Our evaluation across multiple state-of-the-art LLMs shows that these injections can cause malicious log traces to be classified as benign despite containing clear indicators of compromise. As a potential remedy, we show that the explanations generated by the LLMs alongside their classifications frequently contain indicators of adversarial manipulation that can be leveraged to detect such attacks.
• Abstract（参考訳）: 大規模言語モデル(LLM)はセキュリティオペレーションセンター(SOC)ワークフローに統合され、システムログの解釈などのタスクでアナリストをサポートする。 しかし、LLMが信頼できないテキスト入力を直接処理できることは、新たな攻撃面も導入する。 特に攻撃者は、モデルによって悪意あるアクティビティがどのように解釈されるかに影響を与えるために、コンテキスト情報や明示的な命令をログエントリに注入することができる。 ログ分析にLLMが普及しているにもかかわらず、このようなシステムによる対向ログ注入に対する堅牢性はほとんど未解明のままである。 このギャップに対処するため,本論文では,LPMに基づくログ解釈に対する迅速なインジェクション攻撃を評価するためのフレームワークを提案する。 実際のサイバー攻撃時に生成されたログトレースを用いて、ジェネリックインジェクションの生成、改善、攻撃固有の最適化を通じて、敵の例を生成する。 複数の最先端LCMに対して評価したところ、これらの注入は、妥協の明確な指標を含むにもかかわらず、悪意のあるログトレースを良性として分類する可能性があることが判明した。 潜在的な対策として,LSMの分類と並行して発生する説明には,このような攻撃を検出するために活用できる敵操作の指標がしばしば含まれていることが示されている。

関連論文リスト

• Context Contamination in LLM Analysis of Network Security Logs: Poison with Passive Prompt Injection and Mitigation Evaluation [8.339789704552706]
  大きな言語モデルは、ログ分析タスクのためにセキュリティオペレーションセンターにますますデプロイされています。 ストレージに持続するログ生成フィールドに,プロンプトインジェクションペイロードを埋め込むことができることを示す。 これらの脅威を評価するための体系的なフレームワークであるLogInjectを提案する。
  論文  参考訳（メタデータ） (2026-07-16T02:15:35Z)
• AdversarialCoT: Single-Document Retrieval Poisoning for LLM Reasoning [115.3243260783674]
  Retrieval-augmented Generation (RAG) は、外部文書を取得することにより、大きな言語モデル(LLM)推論を強化する。 攻撃者が悪意のあるコンテンツを検索コーパスに注入するRAGにおける知識ベース中毒攻撃について検討した。 AdversarialCoTは、コーパス内の1つのドキュメントだけを毒化するクエリ固有の攻撃である。
  論文  参考訳（メタデータ） (2026-04-14T02:10:23Z)
• Defending against Indirect Prompt Injection by Instruction Detection [109.30156975159561]
  InstructDetectorは、LLMの動作状態を利用して潜在的なIPI攻撃を特定する、新しい検出ベースのアプローチである。 InstructDetectorは、ドメイン内設定で99.60%、ドメイン外設定で96.90%の検出精度を達成し、攻撃成功率をBIPIAベンチマークで0.03%に下げる。
  論文  参考訳（メタデータ） (2025-05-08T13:04:45Z)
• Robustness via Referencing: Defending against Prompt Injection Attacks by Referencing the Executed Instruction [68.6543680065379]
  大型言語モデル(LLM)はインジェクション攻撃に弱い。 本研究では,LLMの命令追従能力を抑えるのではなく,新たな防御手法を提案する。
  論文  参考訳（メタデータ） (2025-04-29T07:13:53Z)
• Towards More Robust Retrieval-Augmented Generation: Evaluating RAG Under Adversarial Poisoning Attacks [45.07581174558107]
  Retrieval-Augmented Generation (RAG) システムは幻覚を緩和するための有望な解決策として登場した。 RAGシステムは、検索コーパスに注入された悪意のある通路が、モデルに誤った結果をもたらす可能性がある、敵の毒殺攻撃に対して脆弱である。 本稿では、RAGシステムがこのような攻撃下でどのように振る舞うか、その堅牢性がどのように改善されるかについて、厳密に制御された実証研究を示す。
  論文  参考訳（メタデータ） (2024-12-21T17:31:52Z)
• Benchmarking and Defending Against Indirect Prompt Injection Attacks on Large Language Models [79.0183835295533]
  我々は,このような脆弱性のリスクを評価するために,BIPIAと呼ばれる間接的インジェクション攻撃のための最初のベンチマークを導入した。 我々の分析では、LLMが情報コンテキストと動作可能な命令を区別できないことと、外部コンテンツ内での命令の実行を回避できないことの2つの主要な要因を同定した。 ブラックボックスとホワイトボックスという2つの新しい防御機構と、これらの脆弱性に対処するための明確なリマインダーを提案する。
  論文  参考訳（メタデータ） (2023-12-21T01:08:39Z)
• Hijacking Large Language Models via Adversarial In-Context Learning [10.416972293173993]
  In-context Learning (ICL) は、ラベル付き例を事前条件付きプロンプトのデモ(デム)として活用することで、特定の下流タスクにLLMを活用する強力なパラダイムとして登場した。 既存の攻撃は検出しやすく、ユーザーの入力にトリガーを必要とするか、ICLに対する特異性を欠いている。 本研究は、ILCに対する新規なトランスファー可能なプロンプトインジェクション攻撃を導入し、LSMをハイジャックしてターゲット出力を生成したり、有害な応答を誘発する。
  論文  参考訳（メタデータ） (2023-11-16T15:01:48Z)
• Evaluating the Instruction-Following Robustness of Large Language Models to Prompt Injection [70.28425745910711]
  LLM(Large Language Models)は、命令追従に非常に熟練した言語である。 この能力は、迅速なインジェクション攻撃のリスクをもたらす。 このような攻撃に対する命令追従LDMの堅牢性を評価する。
  論文  参考訳（メタデータ） (2023-08-17T06:21:50Z)
• Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection [64.67495502772866]
  大規模言語モデル(LLM)は、様々なアプリケーションに統合されつつある。 本稿では、プロンプトインジェクション攻撃を用いて、攻撃者が元の命令をオーバーライドし、制御を採用する方法を示す。 我々は、コンピュータセキュリティの観点から、影響や脆弱性を体系的に調査する包括的な分類法を導出する。
  論文  参考訳（メタデータ） (2023-02-23T17:14:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。