論文の概要: Prompt Injection Through Forensic Evidence: A Taxonomy and Proof of Concept of Anti-Forensic Attacks on LLM-Assisted Digital Investigations

• arxiv url: http://arxiv.org/abs/2610.29747v1
• Date: Wed, 21 Oct 2026 13:48:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 00:40:06.375534
• Title: Prompt Injection Through Forensic Evidence: A Taxonomy and Proof of Concept of Anti-Forensic Attacks on LLM-Assisted Digital Investigations
• Title（参考訳）: 法医学的証拠を通してのプロンプト注入:LDM支援デジタル調査における反法医学的攻撃の概念の分類と証明
• Abstract要約: 大型言語モデル(LLM)は、試験助手や自律エージェントとしてデジタル法医学に参入している。 デジタル法医学は、間接的プロンプト注入の通常の設定を逆転し、分析対象の証拠は定義によって攻撃者によって制御される。 これにより、データとツールの古典的なものの隣に、推論層が新たな反法学的ターゲットとなる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Large language models (LLMs) are entering digital forensics as examination assistants and autonomous agents. Digital forensics inverts the usual setting for indirect prompt injection: the evidence under analysis is attacker-controlled by definition, and the examiner is obliged to read it closely. This makes the reasoning layer a new anti-forensic target, next to the classical ones of data and tools. Classical anti-forensic taxonomies do not cover it, and prompt injection defences do not anticipate it. We extend the anti-forensic model to reflect the manipulation of reasoning, and present a taxonomy of attacks carried through adversarial evidence: an attacker selects an objective, a technique, a payload location, and a concealment method. We observe a perception gap, i.e., the fact that deterministic tools, the human examiner, and the model perceive the same evidence differently, which is what lets an injection reach the model unseen by the examiner. We demonstrate three attacks against an LLM-assisted analysis pipeline, changing a reported conclusion, writing attacker-chosen content to the analyst's workstation, and causing outbound network traffic, each driven only by text planted on the seized device. Mitigations to these attacks are also proposed.
• Abstract（参考訳）: 大型言語モデル(LLM)は、試験助手や自律エージェントとしてデジタル法医学に参入している。 デジタル法医学は間接的インジェクションの通常の設定を逆転し、分析対象の証拠は定義によって攻撃者によって制御され、検査官はそれを注意深く読まなければならない。 これにより、データとツールの古典的なものの隣に、推論層が新たな反法学的ターゲットとなる。 古典的な反法学の分類学はそれをカバーしておらず、即効性の注射防御はそれを予測しない。 我々は、反法学モデルを拡張して、推論の操作を反映し、攻撃者が目的、技術、ペイロード位置、隠蔽方法を選択するという敵の証拠によって行われる攻撃の分類を提示する。 我々は、認知ギャップ、すなわち、決定論的なツール、人間の検査者、そしてモデルは、同じ証拠を異なる形で知覚するという事実を観察する。 我々は,LSM支援分析パイプラインに対する3つの攻撃を実演し,報告された結論を変更し,攻撃者によるコンテンツをアナリストのワークステーションに書き込み,それぞれが押収されたデバイスに埋め込まれたテキストによってのみ駆動されるアウトバウンドネットワークトラフィックを引き起こすことを示した。 これらの攻撃の軽減も提案されている。

関連論文リスト

• SoK: Understanding Anti-Forensics Concepts and Research Practices Across Forensic Subdomains [0.2892345243321258]
  反法医学はあいまいであり、その使用には相容れない。 研究実践の適切性や分野自体の正当性に関する倫理的な課題を提起する。
  論文  参考訳（メタデータ） (2026-04-07T12:12:53Z)
• Can Indirect Prompt Injection Attacks Be Detected and Removed? [94.67980597764245]
  間接的インジェクション攻撃の検出・除去の可能性について検討した。 検出のために,既存のLCMとオープンソースの検出モデルの性能を評価する。 そこで本研究では,(1) インジェクション命令を含む部分をセグメント化して除去するセグメンテーション除去法,(2) 抽出モデルを訓練してインジェクション命令を識別・除去する抽出除去法,の2つの直感的手法を評価する。
  論文  参考訳（メタデータ） (2025-02-23T14:02:16Z)
• Evading Detection Actively: Toward Anti-Forensics against Forgery Localization [40.124726174594024]
  反法医学は、改ざんするアーティファクトの痕跡を排除または隠蔽しようとする。 従来の敵攻撃法は、偽の局所化に対して直接使用することはできない。 本稿では,SEAR(Self-supErvised Anti-foRensics)を提案する。
  論文  参考訳（メタデータ） (2023-10-16T03:44:10Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)
• Fact-Saboteurs: A Taxonomy of Evidence Manipulation Attacks against Fact-Verification Systems [80.3811072650087]
  証拠のクレームサレントスニペットを微調整し,多様かつクレームアラインな証拠を生成することが可能であることを示す。 この攻撃は、主張のポストホックな修正に対しても堅牢である。 これらの攻撃は、インスペクタブルとヒューマン・イン・ザ・ループの使用シナリオに有害な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2022-09-07T13:39:24Z)
• ExAD: An Ensemble Approach for Explanation-based Adversarial Detection [17.455233006559734]
  説明手法のアンサンブルを用いて逆例を検出するフレームワークであるExADを提案する。 3つの画像データセットに対する6つの最先端の敵攻撃によるアプローチの評価を行った。
  論文  参考訳（メタデータ） (2021-03-22T00:53:07Z)
• A Transferable Anti-Forensic Attack on Forensic CNNs Using A Generative Adversarial Network [24.032025811564814]
  畳み込みニューラルネットワーク(CNN)はマルチメディア法医学で広く使われている。 これらのCNNベースのフォレンジックアルゴリズムをだますために、反フォレンジック攻撃が開発されている。 様々な操作操作で残されている法医学的痕跡を除去する新しい対法医学的攻撃フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-01-23T19:31:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。