論文の概要: Backdoor in the Loop: Compromising Agentic Search via Malicious Retrievers

• arxiv url: http://arxiv.org/abs/2609.37468v1
• Date: Sat, 26 Sep 2026 14:47:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.513774
• Title: Backdoor in the Loop: Compromising Agentic Search via Malicious Retrievers
• Title（参考訳）: ループのバックドア:悪意のあるリトリーバーによるエージェント検索の妥協
• Abstract要約: エージェント検索増強世代(RAG)は、エージェントが観察する証拠とその後の探索決定の両方に対して、検索者の影響を与える。 我々は,このフィードバックループを利用したレトリバーバックドアについて検討し,その存在を隠蔽するために弱い浄化バックドアを再利用した。
• 参考スコア（独自算出の注目度）: 0.43240346750820297
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Agentic retrieval-augmented generation (RAG) interleaves reasoning with repeated retrieval, giving the retriever influence over both the evidence an agent observes and its subsequent search decisions. We study retriever backdoors that exploit this feedback loop and repurpose weak backdoor purification to conceal their presence. An attacker supplies a compromised retriever checkpoint while leaving the search agent and deployment corpus unchanged. Without corpus write access, the attacker can still suppress useful evidence, persistently retrieve a selected existing document, or steer the agent toward prolonged search, inflating retrieval, context, and latency cost. To conceal these behaviors from detection, we propose leveraging a controlled inject-and-remove cycle: deliberately inject a weaker backdoor and then unlearn it. This process weakens detector-visible signatures and fools the backdoor detectors with an illusion of purification while preserving the malicious retrieval behavior. These findings expose a systematic vulnerability in RAG systems in which a weak defense becomes an attacker's concealment tool for a backdoored retriever, even when the underlying corpus remains trustworthy.
• Abstract（参考訳）: エージェント検索増強世代(RAG)は、エージェントが観察する証拠とその後の探索決定の両方に対して、検索者の影響を与える。 本研究は,このフィードバックループを利用したリトリーバーのバックドアについて検討し,その存在を隠蔽するために弱いバックドアの浄化を再利用する。 攻撃者は、検索エージェントとデプロイメントコーパスをそのまま残しながら、妥協されたレトリバーチェックポイントを供給する。 コーパスの書き込みアクセスがなければ、攻撃者は有用なエビデンスを抑え、選択された既存のドキュメントを永続的に検索したり、検索の長期化、検索のインフレーション、コンテキスト、遅延コストに対してエージェントを操ったりすることができる。 これらの動作を検出から隠蔽するために、制御された注入・除去サイクル(故意に弱いバックドアを注入し、それを解き放つ)を活用することを提案する。 このプロセスは、検出可能なシグネチャを弱め、悪意のある検索行動を保ちながら、浄化の錯覚でバックドア検出器を騙す。 これらの発見は、RAGシステムにおいて、下位のコーパスが信頼できるままであっても、弱い防御がバックドアレトリバーに対する攻撃者の隠蔽ツールとなる体系的な脆弱性を明らかにしている。

関連論文リスト

• ODPure: Backdoor Purification for Object Detection via Ensemble Corruption Consensus [22.734671730589508]
  オブジェクト検出のための新しい入力ステージブラックボックスディフェンスである ODPure を提案する。 本手法は多様なバックドア攻撃やトリガータイプに対する堅牢な防御を提供する。
  論文  参考訳（メタデータ） (2026-09-23T15:03:54Z)
• Your LLM Agent Can Leak Your Data: Data Exfiltration via Backdoored Tool Use [12.088272012448328]
  Back-Revealは、セマンティックトリガーを細調整されたツール使用大型言語モデル(LLM)エージェントに埋め込むデータエクスプロイト攻撃である。 起動すると、バックドアされたエージェントはメモリアクセスツールコールを起動し、格納されたユーザコンテキストを検索し、偽装された検索ツールコールを介してそれを出力する。
  論文  参考訳（メタデータ） (2026-04-07T04:58:01Z)
• DemonAgent: Dynamically Encrypted Multi-Backdoor Implantation Attack on LLM-based Agent [9.303780866480677]
  我々は,textbfDynamically Encrypted Multi-Backdoor implantation Attackと呼ばれる新しいバックドアインプラント戦略を提案する。 動的暗号化を導入し、バックドアを良質なコンテンツにマッピングし、安全監査を効果的に回避する。 本稿では,エージェントバックドア攻撃の包括的評価を目的としたデータセットであるAgentBackdoorEvalを提案する。
  論文  参考訳（メタデータ） (2025-02-18T06:26:15Z)
• Backdoored Retrievers for Prompt Injection Attacks on Retrieval Augmented Generation of Large Language Models [0.0]
  Retrieval Augmented Generation (RAG)は、大規模言語モデルと最新の情報検索を組み合わせることでこの問題に対処する。 本稿では、誤報以外の有害な目的に焦点をあて、RAGに対する即時注射攻撃について検討する。 我々は,既存のコーパス中毒技術を構築し,高密度レトリバー部品の微調整を目的とした新しいバックドアアタックを提案する。
  論文  参考訳（メタデータ） (2024-10-18T14:02:34Z)
• Rethinking Backdoor Attacks [122.1008188058615]
  バックドア攻撃では、悪意ある構築されたバックドアの例をトレーニングセットに挿入し、結果のモデルを操作に脆弱にする。 このような攻撃に対する防御は、典型的には、これらの挿入された例をトレーニングセットの外れ値として見ることと、堅牢な統計からのテクニックを使用してそれらを検出し、削除することである。 トレーニングデータ分布に関する構造情報がなければ,バックドア攻撃は自然に発生するデータの特徴と区別できないことを示す。
  論文  参考訳（メタデータ） (2023-07-19T17:44:54Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)
• An anomaly detection approach for backdoored neural networks: face recognition as a case study [77.92020418343022]
  本稿では,異常検出の原理に基づく新しいバックドアネットワーク検出手法を提案する。 バックドアネットワークの新たなデータセット上で本手法を検証し,完全スコアで検出可能性について報告する。
  論文  参考訳（メタデータ） (2022-08-22T12:14:13Z)
• A temporal chrominance trigger for clean-label backdoor attack against anti-spoof rebroadcast detection [41.735725886912185]
  本稿では,Deep Learning(DL)ベースのモデルに対する,ステルスなクリーンラベルビデオバックドア攻撃を提案する。 注入されたバックドアは、正常な状態でのスプーフ検出には影響しないが、トリガー信号の存在下での誤分類を引き起こす。 提案したバックドア攻撃の有効性と汎用性を異なるデータセットで実験的に検証した。
  論文  参考訳（メタデータ） (2022-06-02T15:30:42Z)
• Turn the Combination Lock: Learnable Textual Backdoor Attacks via Word Substitution [57.51117978504175]
  最近の研究では、ニューラルネットワーク処理(NLP)モデルがバックドア攻撃に弱いことが示されている。 バックドアを注入すると、モデルは通常、良質な例で実行されるが、バックドアがアクティブになったときに攻撃者が特定した予測を生成する。 単語置換の学習可能な組み合わせによって活性化される見えないバックドアを提示する。
  論文  参考訳（メタデータ） (2021-06-11T13:03:17Z)
• BACKDOORL: Backdoor Attack against Competitive Reinforcement Learning [80.99426477001619]
  バックドア攻撃を複数のエージェントを含むより複雑なRLシステムに移行する。 概念実証として、敵のエージェントが被害者エージェントのバックドアを独自のアクションでトリガーできることを実証します。 その結果, バックドアが作動すると, 有効でない場合と比較して, 被害者の勝利率は17%から37%に低下することがわかった。
  論文  参考訳（メタデータ） (2021-05-02T23:47:55Z)
• Backdoor Learning: A Survey [75.59571756777342]
  バックドア攻撃はディープニューラルネットワーク(DNN)に隠れたバックドアを埋め込む バックドア学習は、急速に成長する研究分野である。 本稿では,この領域を包括的に調査する。
  論文  参考訳（メタデータ） (2020-07-17T04:09:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。