論文の概要: ResumeShield: Channel Separation and an Open Benchmark for Indirect Prompt Injection in AI Resume Screening

• arxiv url: http://arxiv.org/abs/2609.20188v1
• Date: Fri, 24 Jul 2026 15:17:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.630296
• Title: ResumeShield: Channel Separation and an Open Benchmark for Indirect Prompt Injection in AI Resume Screening
• Title（参考訳）: ResumeShield:AIリポジトリスクリーニングにおけるチャネル分離と間接プロンプトインジェクションのためのオープンベンチマーク
• Abstract要約: 履歴書審査者は、評価対象者が提供した文書を読み出し、評価対象者と評価対象の資料との通常の信頼関係を反転させる。 候補は、白文字、フォントサイズゼロ、隠れた要素、マークアップコメント、ドキュメントメタデータ、またはゼロ幅文字を使用して履歴書内の命令を隠すことでこれを悪用する。 人間のレビュアーは何も見えず、ナイーブ抽出パイプラインは隠されたテキストをモデルプロンプトに配置し、そこで命令として読み取られ、従う。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: An AI resume screener reads a document supplied by the person it is evaluating, inverting the usual trust relationship between an assessor and the material it assesses. Candidates exploit this by concealing instructions inside a resume using white text, zero font size, hidden elements, markup comments, document metadata, or zero width characters. A human reviewer sees nothing, while a naive extraction pipeline places the concealed text into the model prompt, where it is read as an instruction and obeyed. This is indirect prompt injection, listed as LLM01:2025 by OWASP, and recent measurement work reports it in roughly one percent of resumes in a production screening corpus. We present ResumeShield, an open-source defense and benchmark. The defense combines three filtering stages with a fourth architectural stage that places candidate content in an explicitly fenced data channel that the operator's trusted instructions declare inert. The benchmark builds a seeded synthetic corpus spanning nine concealment techniques and two payload families, one using documented phrasings and one modeling an adaptive attacker who paraphrases around the filter, and it scores an attack as successful only when the screening outcome changes. On a corpus of 104 documents, the naive pipeline is manipulated in every injected case while the defended pipeline is never manipulated. Detection reaches a precision of 1.000 and a recall of 0.944 with no false positives on clean resumes. An ablation shows that channel separation alone removes all measured attack success, whereas the complete filtering stack without separation still leaves 16.7 percent of attacks effective. We also identify a concealment dilemma: every payload that evaded detection was one the attacker left visible, surrendering the invisibility that motivates the attack. ResumeShield is released under the Apache 2.0 license with synthetic data only.
• Abstract（参考訳）: AI履歴表示装置は、評価対象者が提供した文書を読み出し、評価対象と評価対象の資料との通常の信頼関係を反転させる。 候補は、白文字、フォントサイズゼロ、隠れた要素、マークアップコメント、ドキュメントメタデータ、またはゼロ幅文字を使用して履歴書内の命令を隠すことでこれを悪用する。 人間のレビュアーは何も見えず、ナイーブ抽出パイプラインは隠されたテキストをモデルプロンプトに配置し、そこで命令として読み取られ、従う。 これはOWASPによって LLM01:2025 にリストされた間接的プロンプトインジェクションであり、最近の測定作業では、プロダクションスクリーニングコーパスの約1%の履歴書で報告されている。 オープンソースのディフェンスとベンチマークであるResumeShieldを紹介します。 ディフェンスは3つのフィルタリングステージと第4のアーキテクチャステージを組み合わせることで、オペレータの信頼できる命令が不活性であると宣言する、明示的にフェンスで囲まれたデータチャネルに候補コンテンツを置く。 ベンチマークでは、9つの隠蔽テクニックと2つのペイロードファミリーからなるシード合成コーパスを構築し、1つは文書化されたフレーズを使用しており、もう1つは、フィルターの周りにパラフレーズを言い換えるアダプティブアタックをモデル化し、スクリーニング結果が変化する場合にのみ、攻撃を成功と評価する。 104の文書からなるコーパスでは、防御されたパイプラインが操作されない間、ナイーブパイプラインは注入されたすべてのケースで操作される。 検出精度は10,000、リコール率0.944に達し、クリーンな履歴書に偽陽性はない。 アブレーションは、チャンネル分離だけで全ての測定された攻撃成功を除去することを示しているが、分離のない完全なフィルタリングスタックは攻撃の16.7%を効果的に残している。 検出を回避したすべてのペイロードは、攻撃者が残したペイロードであり、攻撃を動機付ける視認性を放棄する。 ResumeShieldはApache 2.0ライセンスでリリースされており、合成データのみである。

関連論文リスト

• AgentDrift: A Step-Labeled Benchmark of Injection-Hijacked LLM Agent Trajectories [0.0]
  LLMエージェントは、ツールコールのシーケンスを発行することでタスクを完了し、彼らが読んだすべての観察は、間接的なプロンプトインジェクションが入力できるチャネルである。 既存のベンチマークは、そのような攻撃がライブエージェントに対して成功するかどうかを測定し、既存のガードモデルは全体のトレースを判断する。 我々は5つのエージェントドメインにまたがる12,536の合成ツールコールトラジェクトリのベンチマークであるAgentDriftを提案する。
  論文  参考訳（メタデータ） (2026-09-07T03:10:23Z)
• Overcoming the Retrieval Barrier: Indirect Prompt Injection in the Wild for LLM Systems [7.15710884787427]
  大規模言語モデル(LLM)は、外部コーパスから情報を取得することにますます依存している。 これにより新たな攻撃面が生成される:間接的プロンプトインジェクション(IPI) 本稿では,自然クエリと現実的な外部コーパスに基づいて,エンド・ツー・エンド IPI エクスプロイトを初めて提示する。
  論文  参考訳（メタデータ） (2026-01-11T21:33:59Z)
• AI Security Beyond Core Domains: Resume Screening as a Case Study of Adversarial Vulnerabilities in Specialized LLM Applications [71.27518152526686]
  大きな言語モデル(LLM)はテキストの理解と生成に優れており、コードレビューやコンテンツモデレーションといった自動タスクに最適である。 LLMは履歴書やコードなどの入力データに隠された「逆命令」で操作でき、意図したタスクから逸脱する。 本稿では,特定の攻撃タイプに対して80%以上の攻撃成功率を示すとともに,この脆弱性を再開スクリーニングで評価するためのベンチマークを提案する。
  論文  参考訳（メタデータ） (2025-12-23T08:42:09Z)
• Paper Summary Attack: Jailbreaking LLMs through LLM Safety Papers [61.57691030102618]
  我々は新しいジェイルブレイク手法であるペーパー・サプリメント・アタック(llmnamePSA)を提案する。 攻撃に焦点をあてたLLM安全紙からコンテンツを合成し、敵のプロンプトテンプレートを構築する。 実験では、ベースLLMだけでなく、Deepseek-R1のような最先端の推論モデルにも重大な脆弱性がある。
  論文  参考訳（メタデータ） (2025-07-17T18:33:50Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)
• Document Screenshot Retrievers are Vulnerable to Pixel Poisoning Attacks [72.4498910775871]
  ヴィジュアル言語モデル(VLM)ベースのレトリバーは、ベクターとして埋め込まれた文書のスクリーンショットを活用して、効率的な検索を可能にし、従来のテキストのみの手法よりも単純化されたパイプラインを提供する。 本研究では,VLMをベースとしたレトリバーを危険にさらすために,3つのピクセル中毒攻撃手法を提案する。
  論文  参考訳（メタデータ） (2025-01-28T12:40:37Z)
• ExpShield: Safeguarding Web Text from Unauthorized Crawling and Language Modeling Exploitation [17.71790411163849]
  そこで本研究では,非知覚的テキスト摂動によるサンプル固有の記憶を緩和する,能動的自己防衛機構であるExpShiledを提案する。 当社のアプローチでは、オリジナルの可読性を維持しながら外部とのコラボレーションは必要ありません。 プライバシーのバックドアがあっても、MIA(Community Inference Attack)のAUCは0.95から0.55に低下し、インスタンスエクスプロイトは0に近づいた。
  論文  参考訳（メタデータ） (2024-12-30T17:52:02Z)
• Backdoor Attacks on Dense Retrieval via Public and Unintentional Triggers [46.19574403393449]
  本稿では,攻撃者が検索システムを誤認して攻撃者の特定内容を検索する新たな攻撃シナリオについて検討する。 これらのコンテンツは、攻撃者によって検索コーパスに注入され、ヘイトスピーチやスパムのような有害なテキストを含むことができる。 モデル重みに頼り、顕著で不自然な出力を生成する従来の手法とは異なり、文法エラーによって引き起こされる隠れたバックドア攻撃を提案する。
  論文  参考訳（メタデータ） (2024-02-21T05:03:07Z)
• Improving the Adversarial Robustness for Speaker Verification by Self-Supervised Learning [95.60856995067083]
  この研究は、特定の攻撃アルゴリズムを知らずにASVの敵防衛を行う最初の試みの一つである。 本研究の目的は,1) 対向摂動浄化と2) 対向摂動検出の2つの視点から対向防御を行うことである。 実験の結果, 検出モジュールは, 約80%の精度で対向検体を検出することにより, ASVを効果的に遮蔽することがわかった。
  論文  参考訳（メタデータ） (2021-06-01T07:10:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。