論文の概要: Prompt Injection in Automated Résumé Screening with Large Language Models: Single and Multi-Injection Settings

• arxiv url: http://arxiv.org/abs/2606.27287v1
• Date: Thu, 25 Jun 2026 17:04:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-26 18:46:32.372857
• Title: Prompt Injection in Automated Résumé Screening with Large Language Models: Single and Multi-Injection Settings
• Title（参考訳）: 大規模言語モデルを用いたRésumé自動スクリーニングにおけるプロンプト注入:単射・多射設定
• Abstract要約: 大規模言語モデル(LLM)は、求職者のスクリーニングやランク付けにますます利用されている。 本研究は, 自己感情の微妙なテキストとして定義される自動レサムスクリーニングにおけるプロンプトインジェクションについて検討する。 その結果,プロンプトインジェクションは,レサム品質が均質であり,候補者がほとんどいない場合に,応募者のランキングを確実に改善することを示した。
• 参考スコア（独自算出の注目度）: 0.055997926295092294
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are increasingly used to screen and rank job applicants, creating incentives for candidates to strategically manipulate algorithmic hiring systems. We study prompt injection in automated résumé screening, defined as subtle self-promotional text that introduces no new qualifications but is designed to influence LLM evaluations. Using controlled experiments, we show that prompt injection reliably improves applicant rankings when résumé quality is homogeneous and few candidates inject. However, its effectiveness rapidly diminishes as more candidates inject, collapsing when manipulation becomes widespread. When candidate quality is heterogeneous, prompt injection is less effective on average, but can occasionally allow lower-quality candidates to outrank higher-quality ones, raising fairness concerns. Overall, LLM-based screening is most vulnerable when manipulation is rare and candidate quality differences are small. Code and resources are publicly available at: https://github.com/preetb1199/Prompt_Injection_ACL26
• Abstract（参考訳）: 大規模言語モデル(LLM)は、求職者のスクリーニングとランク付けにますます使われており、候補者がアルゴリズム採用システムを戦略的に操作するためのインセンティブを生み出している。 LLM評価に影響を及ぼすように設計された,新たな資格を導入しない微妙な自己宣伝テキストとして定義される自動レサムスクリーニングにおける即時注入について検討する。 制御された実験により,プロンプトインジェクションはレズメの品質が均質であり,候補者がほとんどいない場合に,応募者のランキングを確実に改善することを示す。 しかし、その効果は、より多くの候補が注入されると急速に減少し、操作が広まると崩壊する。 候補品質が不均一な場合、プロンプトインジェクションは平均よりも効果が低いが、低品質の候補が高品質の候補を上回り、公正な懸念を生じさせることがある。 全体として、LSMベースのスクリーニングは、操作が稀で、候補品質の差が小さい場合に最も脆弱である。 コードとリソースは、https://github.com/preetb1199/Prompt_Injection_ACL26で公開されている。

関連論文リスト

• Measuring Real-World Prompt Injection Attacks in LLM-based Resume Screening [101.09427874773901]
  広範に利用されているアプリケーションにおいて,最初のシステマティック・インジェクション・アタックについて述べる。 我々の分析は、数年以上にわたって雇用EZによって収集された約200万の現実世界の履歴書に基づいている。
  論文  参考訳（メタデータ） (2026-05-27T18:56:19Z)
• Enhancing Security in LLM Applications: A Performance Evaluation of Early Detection Systems [1.03590082373586]
  迅速なインジェクション攻撃では、攻撃者はシステム命令を悪意を持って操作し、システムの機密性を侵害する。 本研究では,早期インジェクション検出システムの性能について検討し,様々なオープンソースソリューションで実装された技術の検出性能に着目した。 本研究は, 突発的漏洩検出手法の異なる解析方法と, それらの手法を実装した複数の検出方法の比較分析を行った。
  論文  参考訳（メタデータ） (2025-06-23T20:39:43Z)
• Prompt Candidates, then Distill: A Teacher-Student Framework for LLM-driven Data Annotation [35.1208076670736]
  本稿では,大言語モデルにおいて不確実性発生時に可能なラベルを全て出力することを推奨する新しい候補アノテーションパラダイムを提案する。 下流タスクにユニークなラベルを提供することを保証するため,小言語モデルを用いて候補アノテーションを蒸留する教師学習フレームワークCanDistを開発した。
  論文  参考訳（メタデータ） (2025-06-04T11:42:37Z)
• DataSentinel: A Game-Theoretic Detection of Prompt Injection Attacks [87.66245688589977]
  LLM統合されたアプリケーションとエージェントは、インジェクション攻撃に弱い。 検出方法は、入力が注入プロンプトによって汚染されているかどうかを判定することを目的とする。 本研究では,迅速なインジェクション攻撃を検出するゲーム理論手法であるDataSentinelを提案する。
  論文  参考訳（メタデータ） (2025-04-15T16:26:21Z)
• On the effectiveness of LLMs for automatic grading of open-ended questions in Spanish [0.8224695424591679]
  本稿では,異なるLLMの性能について検討し,オープンエンド質問に対する短文回答を自動的に評価する手法を提案する。 結果は、プロンプトのスタイルに特に敏感であり、プロンプト内の特定の単語やコンテンツに対するバイアスを示唆している。
  論文  参考訳（メタデータ） (2025-03-23T13:43:27Z)
• LLMs Can Generate a Better Answer by Aggregating Their Own Responses [83.69632759174405]
  大きな言語モデル(LLM)はタスク間で顕著な機能を示しているが、複雑な問題に直面している場合、追加のプロンプト技術を必要とすることが多い。 この制限は、共通LLMポストトレーニング手順が差別的判断タスクの明示的な監督を欠いているという事実に起因している、と我々は主張する。 本稿では,モデルの識別機能を必要とせず,解答品質を向上させる手法である生成自己集合(GSA)を提案する。
  論文  参考訳（メタデータ） (2025-03-06T05:25:43Z)
• PromptShield: Deployable Detection for Prompt Injection Attacks [1.8146155083014202]
  本稿では、デプロイ可能なプロンプトインジェクション検出器のトレーニングと評価のためのベンチマークであるPromptShieldを紹介する。 我々のベンチマークは慎重にキュレートされ、対話型データとアプリケーション構造化データの両方を含んでいる。 我々の研究は、トレーニングデータとより大きなモデルの慎重なキュレーションが、強力な検出器性能に寄与することを示唆している。
  論文  参考訳（メタデータ） (2025-01-25T09:03:19Z)
• AdvPrompter: Fast Adaptive Adversarial Prompting for LLMs [51.217126257318924]
  大規模言語モデル(LLM)は、不適切または有害なコンテンツの生成につながるジェイルブレイク攻撃に対して脆弱である。 本稿では,AdvPrompter という別の LLM を用いて,人間可読な逆数プロンプトを数秒で生成する手法を提案する。
  論文  参考訳（メタデータ） (2024-04-21T22:18:13Z)
• Optimization-based Prompt Injection Attack to LLM-as-a-Judge [69.27584941296875]
  LLM-as-a-Judgeは、大きな言語モデル(LLM)を使用して、ある質問に対する候補セットから最適な応答を選択する。 LLM-as-a-Judgeに対する最適化に基づくプロンプトインジェクション攻撃であるJiceDeceiverを提案する。 評価の結果,JiceDeceiveは既存のプロンプトインジェクション攻撃よりも効果的であることがわかった。
  論文  参考訳（メタデータ） (2024-03-26T13:58:00Z)
• RLPrompt: Optimizing Discrete Text Prompts With Reinforcement Learning [84.75064077323098]
  本稿では、強化学習(RL)を用いた離散的高速最適化手法RLPromptを提案する。 RLPromptは、マスク付きジベリッシュ(例:grammaBERT)や左から右へのモデル(例:GPT)など、様々な種類のLMに柔軟に適用可能である。 少数ショット分類と教師なしテキストスタイル転送の実験は、既存のファインタニングやプロンプト手法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2022-05-25T07:50:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。