論文の概要: BodhiPromptShield: Pre-Inference Prompt Mediation for Suppressing Privacy Propagation in LLM/VLM Agents

• arxiv url: http://arxiv.org/abs/2604.05793v1
• Date: Tue, 07 Apr 2026 12:29:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-08 17:42:09.819231
• Title: BodhiPromptShield: Pre-Inference Prompt Mediation for Suppressing Privacy Propagation in LLM/VLM Agents
• Title（参考訳）: Bodhi PromptShield: LLM/VLMエージェントのプライバシ伝搬抑制のためのプレ推論・プロンプト・メディエーション
• Authors: Bo Ma, Jinsong Wu, Weiqi Yan,
• Abstract要約: BodhiPromptShieldはポリシー対応のフレームワークで、センシティブなスパンを検出し、型付きプレースホルダー、セマンティック抽象化、セキュアなシンボルマッピングを通じてルーティングする。 企業の再アクションとは対照的に、明示的な伝搬対応の仲介と復元のタイミングをセキュリティ変数として追加する。
• 参考スコア（独自算出の注目度）: 7.172756746172751
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In LLM/VLM agents, prompt privacy risk propagates beyond a single model call because raw user content can flow into retrieval queries, memory writes, tool calls, and logs. Existing de-identification pipelines address document boundaries but not this cross-stage propagation. We propose BodhiPromptShield, a policy-aware framework that detects sensitive spans, routes them via typed placeholders, semantic abstraction, or secure symbolic mapping, and delays restoration to authorized boundaries. Relative to enterprise redaction, this adds explicit propagation-aware mediation and restoration timing as a security variable. Under controlled evaluation on the Controlled Prompt-Privacy Benchmark (CPPB), stage-wise propagation suppresses from 10.7\% to 7.1\% across retrieval, memory, and tool stages; PER reaches 9.3\% with 0.94 AC and 0.92 TSR, outperforming generic de-identification. These are controlled systems results on CPPB rather than formal privacy guarantees or public-benchmark transfer claims. The project repository is available at https://github.com/mabo1215/BodhiPromptShield.git.
• Abstract（参考訳）: LLM/VLMエージェントでは、生のユーザコンテンツが検索クエリ、メモリ書き込み、ツールコール、ログに流れ込むため、プライバシリスクが単一のモデルコールを越えて伝播する。 既存の非識別パイプラインは文書境界に対処するが、このクロスステージな伝搬には対処しない。 センシティブなスパンを検出し、型付きプレースホルダーを経由し、セマンティックな抽象化やセキュアなシンボルマッピングを行い、承認されたバウンダリへの復元を遅らせる政策対応フレームワークであるBodhiPromptShieldを提案する。 企業の再アクションとは対照的に、明示的な伝搬対応の仲介と復元のタイミングをセキュリティ変数として追加する。 Controlled Prompt-Privacy Benchmark (CPPB) の制御された評価のもと、段階的伝播は検索、メモリ、ツールステージ間で10.7\%から7.1\%に抑制され、PERは0.94 ACと0.92 TSRで9.3\%に達した。 これらは、正式なプライバシー保証や公開ベンチマーク転送要求よりもCPPB上での制御システムの結果である。 プロジェクトリポジトリはhttps://github.com/mabo1215/BodhiPromptShield.gitで公開されている。

関連論文リスト

• IP-SAM: Prompt-Space Conditioning for Prompt-Absent Camouflaged Object Detection [18.53702903244438]
  本稿では,IP-SAMを提案する。IP-SAMは,プロンプト空間のコンディショニングを通じて,プロンプト空間の観点から適応を再考する。 具体的には、セルフプロンプトジェネレータは、画像コンテキストを粗い局所アンカーとして機能する相補的な固有のプロンプトに蒸留する。 この戦略はCODを超えて医療用ポリープセグメンテーションへと一般化し、Kvasir-SEGでのみ訓練されたモデルはCVC-ClinicDBとETISの両方に強力なゼロショット転送を示す。
  論文  参考訳（メタデータ） (2026-03-28T11:52:55Z)
• Silent Egress: When Implicit Prompt Injection Makes LLM Agents Leak Without a Trace [0.0]
  自動生成されたURLプレビューに埋め込まれた敵対的命令は、サイレント・エクスプレスと呼ばれるシステムレベルのリスクをもたらす可能性があることを示す。 完全にローカルで再現可能なテストベッドを使用して、悪意のあるWebページがエージェントを誘導し、機密性の高いランタイムコンテキストを透過するアウトバウンドリクエストを発行できることを実証する。 qwen2.5:7bをベースとした480の実験では、攻撃は高い確率 (P (exress) =0.89) で成功し、95%の攻撃は出力ベースの安全チェックでは検出されない。
  論文  参考訳（メタデータ） (2026-02-25T22:26:23Z)
• SuperLocalMemory: Privacy-Preserving Multi-Agent Memory with Bayesian Trust Defense Against Memory Poisoning [0.0]
  我々は、ASI06メモリ中毒を防御するマルチエージェントAIのためのローカルファーストメモリシステムであるSuperLocalMemoryを紹介する。 SuperLocalMemoryはオープンソース(MIT)で、Model Context Protocolを介して17以上の開発ツールと統合されている。
  論文  参考訳（メタデータ） (2026-02-17T12:35:23Z)
• AgentSys: Secure and Dynamic LLM Agents Through Explicit Hierarchical Memory Management [47.49917373646469]
  既存の防御は肥大した記憶を与えられたまま扱い、回復力を維持することに集中する。 我々は、明示的なメモリ管理を通じて間接的なインジェクションを防御するフレームワークであるAgentSysを紹介する。
  論文  参考訳（メタデータ） (2026-02-07T06:28:51Z)
• The Trojan Knowledge: Bypassing Commercial LLM Guardrails via Harmless Prompt Weaving and Adaptive Tree Search [58.8834056209347]
  大規模言語モデル(LLM)は、有害な出力を誘導するために安全ガードレールをバイパスするジェイルブレイク攻撃に弱いままである。 CKA-Agent(Correlated Knowledge Attack Agent)は、ターゲットモデルの知識基盤の適応的木構造探索としてジェイルブレイクを再構成する動的フレームワークである。
  論文  参考訳（メタデータ） (2025-12-01T07:05:23Z)
• Soft Instruction De-escalation Defense [36.36851291734834]
  大規模言語モデル(LLM)は、ますます外部環境と相互作用するエージェントシステムにデプロイされている。 これにより、信頼できないデータを扱う際に、インジェクションをインジェクションすることが可能になる。 ツール拡張LDMエージェント用に設計された簡易かつ効果的な反復的プロンプト衛生ループSICを提案する。
  論文  参考訳（メタデータ） (2025-10-24T00:04:07Z)
• DRIFT: Dynamic Rule-Based Defense with Injection Isolation for Securing LLM Agents [52.92354372596197]
  大規模言語モデル(LLM)は、強力な推論と計画能力のため、エージェントシステムの中心となってきています。 この相互作用は、外部ソースからの悪意のある入力がエージェントの振る舞いを誤解させる可能性がある、インジェクション攻撃のリスクも引き起こす。 本稿では,信頼に値するエージェントシステムのための動的ルールベースの分離フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-13T05:01:09Z)
• Defending against Indirect Prompt Injection by Instruction Detection [109.30156975159561]
  InstructDetectorは、LLMの動作状態を利用して潜在的なIPI攻撃を特定する、新しい検出ベースのアプローチである。 InstructDetectorは、ドメイン内設定で99.60%、ドメイン外設定で96.90%の検出精度を達成し、攻撃成功率をBIPIAベンチマークで0.03%に下げる。
  論文  参考訳（メタデータ） (2025-05-08T13:04:45Z)
• Memory Injection Attacks on LLM Agents via Query-Only Interaction [49.14715983268449]
  我々は,攻撃者がエージェントのメモリバンクを直接変更できると仮定することなく,新たなメモリインジェクション攻撃(MINJA)を提案する。 攻撃者は、クエリと出力観察を通してエージェントとのみ対話することで、悪意のあるレコードをメモリバンクに注入する。 MINJAは、任意のユーザがエージェントメモリに影響を与え、リスクを強調します。
  論文  参考訳（メタデータ） (2025-03-05T17:53:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。