論文の概要: BodhiPromptShield: Pre-Inference Prompt Mediation for Suppressing Privacy Propagation in LLM/VLM Agents

• arxiv url: http://arxiv.org/abs/2604.05793v1
• Date: Tue, 07 Apr 2026 12:29:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-08 17:42:09.819231
• Title: BodhiPromptShield: Pre-Inference Prompt Mediation for Suppressing Privacy Propagation in LLM/VLM Agents
• Title（参考訳）: Bodhi PromptShield: LLM/VLMエージェントのプライバシ伝搬抑制のためのプレ推論・プロンプト・メディエーション
• Abstract要約: BodhiPromptShieldはポリシー対応のフレームワークで、センシティブなスパンを検出し、型付きプレースホルダー、セマンティック抽象化、セキュアなシンボルマッピングを通じてルーティングする。 企業の再アクションとは対照的に、明示的な伝搬対応の仲介と復元のタイミングをセキュリティ変数として追加する。
• 参考スコア（独自算出の注目度）: 7.172756746172751
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In LLM/VLM agents, prompt privacy risk propagates beyond a single model call because raw user content can flow into retrieval queries, memory writes, tool calls, and logs. Existing de-identification pipelines address document boundaries but not this cross-stage propagation. We propose BodhiPromptShield, a policy-aware framework that detects sensitive spans, routes them via typed placeholders, semantic abstraction, or secure symbolic mapping, and delays restoration to authorized boundaries. Relative to enterprise redaction, this adds explicit propagation-aware mediation and restoration timing as a security variable. Under controlled evaluation on the Controlled Prompt-Privacy Benchmark (CPPB), stage-wise propagation suppresses from 10.7\% to 7.1\% across retrieval, memory, and tool stages; PER reaches 9.3\% with 0.94 AC and 0.92 TSR, outperforming generic de-identification. These are controlled systems results on CPPB rather than formal privacy guarantees or public-benchmark transfer claims. The project repository is available at https://github.com/mabo1215/BodhiPromptShield.git.
• Abstract（参考訳）: LLM/VLMエージェントでは、生のユーザコンテンツが検索クエリ、メモリ書き込み、ツールコール、ログに流れ込むため、プライバシリスクが単一のモデルコールを越えて伝播する。 既存の非識別パイプラインは文書境界に対処するが、このクロスステージな伝搬には対処しない。 センシティブなスパンを検出し、型付きプレースホルダーを経由し、セマンティックな抽象化やセキュアなシンボルマッピングを行い、承認されたバウンダリへの復元を遅らせる政策対応フレームワークであるBodhiPromptShieldを提案する。 企業の再アクションとは対照的に、明示的な伝搬対応の仲介と復元のタイミングをセキュリティ変数として追加する。 Controlled Prompt-Privacy Benchmark (CPPB) の制御された評価のもと、段階的伝播は検索、メモリ、ツールステージ間で10.7\%から7.1\%に抑制され、PERは0.94 ACと0.92 TSRで9.3\%に達した。 これらは、正式なプライバシー保証や公開ベンチマーク転送要求よりもCPPB上での制御システムの結果である。 プロジェクトリポジトリはhttps://github.com/mabo1215/BodhiPromptShield.gitで公開されている。

関連論文リスト

• ROPE: Routed Origin Policy Enforcement against Indirect Prompt Injection [61.4148196085256]
  本稿では,信頼という構造概念に根ざしたROPE(Routed Origin Policy Enforcement)について述べる。 提案手法では,(1)軌道の各段階において,攻撃可能コンテンツのみを起点とする値が,原点保護パラメータに到達しない,(2)注入のリワードがない,という2つの保証が認められている。
  論文  参考訳（メタデータ） (2026-08-27T01:22:14Z)
• AgentFlow: A Flow-Centric Policy Language and Framework for Securing LLM Agent Systems [7.734540679538682]
  LLMエージェントはますます信頼できないコンテンツを読み、外部ツールを呼び出し、プライベートデータにアクセスし、他のエージェントに作業を委譲する。 本稿では,エージェントシステム内のデータ移動場所を特定するための,フロー中心のポリシー言語であるAgentFlowについて述べる。
  論文  参考訳（メタデータ） (2026-08-24T06:56:00Z)
• CUSTOS: Toward Forensic-Ready Zero Trust at the Capture-Containment Boundary [1.1458853556386797]
  CUSTOSは、法医学的管理ポイント(FMP)を中心にした、法医学的なZT参照アーキテクチャである。 常時オンの判定記録は、ゲートウェイ上で1.9～3.0%のスループットコストで取得され、ハッシュチェーンされる。 以上の結果から, 鑑識対応型ZTは, 常にオンの床と有界な反応性キャプチャの両方を必要とすることが明らかとなった。
  論文  参考訳（メタデータ） (2026-08-17T19:17:15Z)
• When Claws Remember but Do Not Tell: Stealthy Memory Injection in Persistent Personal Agents [55.87577638514179]
  我々は、リモートのブラックボックスが1つのメールペイロードを送信し、エージェントに有毒なメモリを誘導しなければならない、ステルスメモリインジェクションとして脅威を調査する。 我々は,ワンショットペイロード生成フレームワークであるMemGhostを提案する。 56のテストケースで、MemGhostはGPT-5.4でOpenClawで87.5%、Sonnet 4.6でClaude Code SDKで71.4%を達成している。
  論文  参考訳（メタデータ） (2026-07-06T15:08:58Z)
• Understanding and Evaluating Claw-like Agent Security Through a Computer-Systems Lens [65.53494487819053]
  クローのようなAIエージェント(OpenClawなど)は、認証情報、ファイル、ツール、外部サービスへの永続的なアクセスを伴う、常にオンのプロセスである。 我々はClawのようなエージェントをエージェントコンピュータシステムとして扱い、そのゲートウェイランタイムがOSのような仲介の役割を担っている。 我々は、4つの攻撃面にわたる406の敵タスクのベンチマークであるSafeClawArenaを開発した。
  論文  参考訳（メタデータ） (2026-06-29T18:00:45Z)
• SecureClaw: Clawing Back Control of LLM Agents [5.952015302242554]
  ツールを使用する大規模言語モデル(LLM)エージェントは2つの異なるセキュリティ障害に直面している。 本稿では、エフェクトシンクに認証を配置し、リードバウンダリにプレーンテキストを閉じ込めるデュアルバウンダリアーキテクチャであるSecureClawを提案する。 AgentDojo、AgentLeak、Agent Security Bench (ASB)、SecureClawは、私たちが共通のハーネスで評価する唯一の防御です。
  論文  参考訳（メタデータ） (2026-06-08T14:29:01Z)
• VisualLeakBench: Reproducible Action-Boundary Propagation Failures in Vision-Language Agents [14.756677328512907]
  視覚言語エージェントは、メモリへの書き込み、メッセージの送信、外部ツールの呼び出しに先立って、スクリーンショット、ドキュメント、ユーザーインターフェースをますます消費する。 本研究では、画像から下流ツール引数に機密または安全でない可視テキストをコピーするアクション境界伝搬という、具体的な障害モードについて検討する。 私たちは、UI、チャット、ドキュメント、フォーム、ダッシュボードのシーンにまたがる、多様化した500イメージのベンチマークであるVisualLeakBenchを紹介します。
  論文  参考訳（メタデータ） (2026-05-29T05:17:03Z)
• IP-SAM: Prompt-Space Conditioning for Prompt-Absent Camouflaged Object Detection [18.53702903244438]
  本稿では,IP-SAMを提案する。IP-SAMは,プロンプト空間のコンディショニングを通じて,プロンプト空間の観点から適応を再考する。 具体的には、セルフプロンプトジェネレータは、画像コンテキストを粗い局所アンカーとして機能する相補的な固有のプロンプトに蒸留する。 この戦略はCODを超えて医療用ポリープセグメンテーションへと一般化し、Kvasir-SEGでのみ訓練されたモデルはCVC-ClinicDBとETISの両方に強力なゼロショット転送を示す。
  論文  参考訳（メタデータ） (2026-03-28T11:52:55Z)
• Silent Egress: When Implicit Prompt Injection Makes LLM Agents Leak Without a Trace [0.0]
  自動生成されたURLプレビューに埋め込まれた敵対的命令は、サイレント・エクスプレスと呼ばれるシステムレベルのリスクをもたらす可能性があることを示す。 完全にローカルで再現可能なテストベッドを使用して、悪意のあるWebページがエージェントを誘導し、機密性の高いランタイムコンテキストを透過するアウトバウンドリクエストを発行できることを実証する。 qwen2.5:7bをベースとした480の実験では、攻撃は高い確率 (P (exress) =0.89) で成功し、95%の攻撃は出力ベースの安全チェックでは検出されない。
  論文  参考訳（メタデータ） (2026-02-25T22:26:23Z)
• SuperLocalMemory: Privacy-Preserving Multi-Agent Memory with Bayesian Trust Defense Against Memory Poisoning [0.0]
  我々は、ASI06メモリ中毒を防御するマルチエージェントAIのためのローカルファーストメモリシステムであるSuperLocalMemoryを紹介する。 SuperLocalMemoryはオープンソース(MIT)で、Model Context Protocolを介して17以上の開発ツールと統合されている。
  論文  参考訳（メタデータ） (2026-02-17T12:35:23Z)
• AgentSys: Secure and Dynamic LLM Agents Through Explicit Hierarchical Memory Management [47.49917373646469]
  既存の防御は肥大した記憶を与えられたまま扱い、回復力を維持することに集中する。 我々は、明示的なメモリ管理を通じて間接的なインジェクションを防御するフレームワークであるAgentSysを紹介する。
  論文  参考訳（メタデータ） (2026-02-07T06:28:51Z)
• The Trojan Knowledge: Bypassing Commercial LLM Guardrails via Harmless Prompt Weaving and Adaptive Tree Search [58.8834056209347]
  大規模言語モデル(LLM)は、有害な出力を誘導するために安全ガードレールをバイパスするジェイルブレイク攻撃に弱いままである。 CKA-Agent(Correlated Knowledge Attack Agent)は、ターゲットモデルの知識基盤の適応的木構造探索としてジェイルブレイクを再構成する動的フレームワークである。
  論文  参考訳（メタデータ） (2025-12-01T07:05:23Z)
• Soft Instruction De-escalation Defense [36.36851291734834]
  大規模言語モデル(LLM)は、ますます外部環境と相互作用するエージェントシステムにデプロイされている。 これにより、信頼できないデータを扱う際に、インジェクションをインジェクションすることが可能になる。 ツール拡張LDMエージェント用に設計された簡易かつ効果的な反復的プロンプト衛生ループSICを提案する。
  論文  参考訳（メタデータ） (2025-10-24T00:04:07Z)
• DRIFT: Dynamic Rule-Based Defense with Injection Isolation for Securing LLM Agents [52.92354372596197]
  大規模言語モデル(LLM)は、強力な推論と計画能力のため、エージェントシステムの中心となってきています。 この相互作用は、外部ソースからの悪意のある入力がエージェントの振る舞いを誤解させる可能性がある、インジェクション攻撃のリスクも引き起こす。 本稿では,信頼に値するエージェントシステムのための動的ルールベースの分離フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-13T05:01:09Z)
• Defending against Indirect Prompt Injection by Instruction Detection [109.30156975159561]
  InstructDetectorは、LLMの動作状態を利用して潜在的なIPI攻撃を特定する、新しい検出ベースのアプローチである。 InstructDetectorは、ドメイン内設定で99.60%、ドメイン外設定で96.90%の検出精度を達成し、攻撃成功率をBIPIAベンチマークで0.03%に下げる。
  論文  参考訳（メタデータ） (2025-05-08T13:04:45Z)
• Memory Injection Attacks on LLM Agents via Query-Only Interaction [49.14715983268449]
  我々は,攻撃者がエージェントのメモリバンクを直接変更できると仮定することなく,新たなメモリインジェクション攻撃(MINJA)を提案する。 攻撃者は、クエリと出力観察を通してエージェントとのみ対話することで、悪意のあるレコードをメモリバンクに注入する。 MINJAは、任意のユーザがエージェントメモリに影響を与え、リスクを強調します。
  論文  参考訳（メタデータ） (2025-03-05T17:53:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。