論文の概要: SearchInject: Retrieval Exposure Control for Indirect Prompt Injection in Language-Model Search

• arxiv url: http://arxiv.org/abs/2611.02643v1
• Date: Mon, 02 Nov 2026 07:04:42 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-03 19:07:23.008084
• Title: SearchInject: Retrieval Exposure Control for Indirect Prompt Injection in Language-Model Search
• Title（参考訳）: 検索インジェクション:言語モデル検索における間接プロンプトインジェクションのための検索用露光制御
• Abstract要約: SearchInjectは、検索関連性、検索利用方法、命令可能性、および2つの関連性相互作用を組み合わせたジョイントスコアで、この入力決定を制御する。 キャリブレーションスプリット上のクリーン候補の偽検疫制約を経験的に0.5%で選択する。
• 参考スコア（独自算出の注目度）: 3.591464568490307
• License:
• Abstract: An indirect prompt injection can affect a search-augmented large language model only after its carrier page reaches model context. SearchInject controls this admission decision with a joint score combining retrieval relevance, search-abuse cues, instruction likelihood, and two relevance interactions. A quarantine threshold is selected under an empirical 0.5% clean-candidate false-quarantine constraint on a calibration split. Evaluation uses 300 held-out SciFact queries and held-out payload categories within four construction families already represented during development. Across 1,200 query-family outcomes per retriever, top-10 target exposure falls from 0.9408 to 0.1583 for BM25, from 0.9158 to 0.1508 for a normalized hybrid, and from 0.8450 to 0.1375 for latent semantic analysis. These are relative reductions of 83.2-83.7%; the largest absolute change in clean normalized discounted cumulative gain at rank 10 is 0.0018. The frozen threshold yields clean test false-quarantine rates of 0.59-0.65%, above the empirical calibration constraint. A query-level analytical reanalysis accounts for the repeated construction outcomes under an independent-query assumption. A separate 104-case generation follow-up records context removal but no confirmed undefended hijacks under a post hoc endpoint, so it cannot estimate a reduction in attack success. The evidence supports retrieval exposure control within the evaluated construction families; the benefit of the interaction terms at matched clean cost remains unresolved.
• Abstract（参考訳）: 間接的なプロンプトインジェクションは、キャリアページがモデルコンテキストに到達した後のみ、検索拡張された大きな言語モデルに影響を与える可能性がある。 SearchInjectは、検索関連性、検索利用方法、命令可能性、および2つの関連性相互作用を組み合わせたジョイントスコアで、この入力決定を制御する。 キャリブレーションスプリット上のクリーン候補の偽検疫制約を経験的に0.5%で選択する。 評価には300のSciFactクエリと、すでに開発中に表現されている4つの建設ファミリー内のホールドアウトペイロードカテゴリを使用する。 検索者当たり1200件のクエリーファミリー結果に対し、トップ10のターゲット露光はBM25が0.9408から0.1583、正規化されたハイブリッドが0.9158から0.1508、潜在意味分析が0.8450から0.1375に減少する。 これらは83.2-83.7%の相対的な減少であり、クリーンな正規化割引累積ゲインにおける最大の絶対的な変化は0.0018である。 凍結しきい値は、経験的キャリブレーションの制約よりも高い0.59-0.65%のクリーンテストの偽検疫率を得る。 クエリレベルの分析リアナリシスは、独立クエリの仮定の下で繰り返し行われる構築結果の原因となる。 別個の104ケース生成フォローアップは、コンテキスト削除を記録するが、ポストホックエンドポイントの下の未確認のハイジャックは確認されていないため、攻撃成功の低減を見積もることはできない。 このエビデンスでは, 評価された建設ファミリー内での検索露光制御が支持されており, 整合したクリーンコストでの相互作用項の利点は未解決のままである。

関連論文リスト

• DRSR: Learning Set-Level Deletion Risk for Efficient Long-Horizon Agents [55.84813053778976]
  ロングホライゾン言語モデルエージェントは、現在の決定と関係が変化する推論の痕跡、ツール交換、観察を蓄積する。 直接セットリスクスコアは、削除セットの選択としてエージェント履歴圧縮リスクを定式化する。 メカニカル・アナリシスとアブリケーションは、決定に制約のある関係、保持されたコンテキスト情報、ペア・インタラクション、および棄権がそれぞれ信頼できるプルーニングに寄与していることを示している。
  論文  参考訳（メタデータ） (2026-09-23T03:06:01Z)
• When Are Aggregate Agent Traces Diagnosable? Traffic-Governed Interpretation and Calibrated Abstention [0.39287497907611874]
  様々な需要体制下での個別価格行動に対して,ホテル価格エージェントの模擬時間,在庫,市場状態について検討した。 政策が感染した細胞をめったに訪れると、断層は集合的な痕跡を残しない可能性がある。 我々は,集計や局所化に先行する診断可能性判定として,集約のみの故障解釈への参入を論じる。
  論文  参考訳（メタデータ） (2026-09-22T07:37:48Z)
• The Model Proposes, the Code Disposes: A Pre-Registered Ablation of a Verifier-and-Acceptance Stage in an LLM-Orchestrated Offensive-Security Agent [0.0]
  決定的コードによって検証が強制されるモデル検証装置である検証受理段階が、LCMが主導する攻撃セキュリティエージェントが報告するものを変更するかどうかを評価する。 本報告では,15回の探索パイロット,20回の予備登録検定アブレーション,および2回の故意に脆弱な検査対象を40回実施した2×2因子分析を行った。 検証者はシステムが提供するものを変更し、決定論的コードは強制と監査性を提供します。
  論文  参考訳（メタデータ） (2026-09-14T17:13:05Z)
• Target leakage, not model class, explains reported accuracy in survey-based cardiovascular screening: a leakage-tiered audit of glass-box and tabular foundation models [0.0]
  スクリーニングモデルは、レシーバー操作特性曲線(AUROC)の領域を0.89付近で定期的に報告する。 心臓梗塞に対するリニア,ツリーアンサンブル,ニューラル,ガラスボックス,タブ状ファンデーションにまたがる10種類の分類器をベンチマークした。 診断後の2つの特徴を取り除いたため、全てのモデル 0.049-0.051 AUROC はフィールドを0.0045幅のバンドに崩壊させた。 ある閾値では、男性の89.0%に対して女性の脳梗塞の75.4%が検出され、モデルの形状機能の編集により、ギャップは0.010に縮小された。
  論文  参考訳（メタデータ） (2026-09-10T17:29:15Z)
• Knowing, and Saying It Only When Asked: LLM Endognostics and the Schizognosis of Minerva-7B [0.0]
  残留ストリーム内の潜伏知識を抽出し、因果的に操作するように設計された内部監査フレームワーク。 Minerva-7B-Instruct-v1.0を124個の最小のプロンプトペアに適用すると、ほとんどのセットで行動評価が失敗する。
  論文  参考訳（メタデータ） (2026-09-02T09:38:04Z)
• PGP-Clinical-TimeKAN: Prior-Guided Joint Probabilistic Forecasting of Clinical Trajectories [33.074550441856196]
  PGP-Clinical-TimeKANは多変量生理学の合同確率予測のための軌道優先のフレームワークである。 欠如を意識した時間エンコーダ、ソフトオルガン前駆体、患者固有の関係、非線形コルモゴロフ・アルノルドメッセージ、低ランクの多変量学生-tヘッドを組み合わせる。
  論文  参考訳（メタデータ） (2026-08-24T23:33:35Z)
• Automated binary classification of hazelnut X-ray images: A deep-learning benchmark for quality assessment [33.72751145910978]
  非破壊的なX線撮影では、外部検査だけでは検出が難しい内部のハゼルナッツの欠陥が明らかになる。 799セグメントのシングルカーネルX線画像に基づくバイナリ・ヘーゼルナットの品質分類のベンチマークを提案する。
  論文  参考訳（メタデータ） (2026-08-12T07:55:22Z)
• Before the Action: Benchmarking LLMs on Prospective Hypothesis Discovery [95.44432473367836]
  大規模言語モデル(LLM)は、事前に特定された質問に答える能力に優れるが、未解決の未解決段階をナビゲートする能力はほとんど測定されていない。 仮説探索(PHD)を導入し,不確定な証拠から,仮説空間を自律的に構築することをモデルに求める。 本稿では,6つの科学的・分析的領域にわたる988ケースのベンチマークであるHypoArenaと,オープンエンド仮説セットの評価フレームワークであるHypoEvalを紹介する。
  論文  参考訳（メタデータ） (2026-07-17T08:56:43Z)
• Let the Results Speak: A Replication-First Paradigm for LLM Behavioral Benchmarking [22.825786049667602]
  本稿では,1つのヒト・ラタのコンセンサスに有効性を確保するために,複製第一パラダイムを提案する。 楽器を4つの特性で認証する - Kランの信頼性、アーキテクチャ的に異なる審査員間のクロスインストラクトレプリケーション、以前のトレーニングコホートからの審査員による歴史的フットプリントキャリブレーション、事前登録された予測。 本研究は, 自己発達型データ駆動による情緒的伴奏で, 次元は事前に決められず, 手順は9次元に安定化する。
  論文  参考訳（メタデータ） (2026-05-27T03:41:11Z)
• From Black Box to Glass Box: Cross-Model ASR Disagreement to Prioto Review in Ambient AI Scribe Documentation [43.148402136307716]
  異種ASRシステム間のクロスモデル不一致は、基準のない不確実性信号として機能する。 商用APIとオープンソースエンジンにまたがる8つのASRシステムを備えた,50の公開医療用オーディオクリップを転写した。 低アグリメント領域は内容の不一致に富み、高リスク質量のクインタイル全体では53.9%から73.9%に増加した。
  論文  参考訳（メタデータ） (2026-03-02T13:02:13Z)
• Causal Understanding by LLMs: The Role of Uncertainty [43.87879175532034]
  近年の論文では、LLMは因果関係分類においてほぼランダムな精度を達成している。 因果的事例への事前曝露が因果的理解を改善するか否かを検討する。
  論文  参考訳（メタデータ） (2025-09-24T13:06:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。