論文の概要: CIPL: A Channel-Aware Framework for Recoverable Privacy Leakage in LLM Agents

• arxiv url: http://arxiv.org/abs/2609.21686v1
• Date: Fri, 18 Sep 2026 12:23:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-21 18:40:17.080421
• Title: CIPL: A Channel-Aware Framework for Recoverable Privacy Leakage in LLM Agents
• Title（参考訳）: CIPL: LLMエージェントのリカバリ可能なプライバシリークのためのチャネル対応フレームワーク
• Abstract要約: CIPLは、センシティブソース、選択、アセンブリ、実行、観察、抽出段階を通じてターゲットを表す。 BrowserUseのライブエージェントケーススタディと合わせて、メモリベース、検索介在、およびツール介在するターゲットに対する実験は、ストレージラベルだけで回復可能性を決定するものではないことを示している。
• 参考スコア（独自算出の注目度）: 24.02009425811249
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Privacy leakage in LLM agents is commonly evaluated within individual components such as memory, retrieval, or tool-use pipelines, which makes it difficult to distinguish internal exposure from information that an external observer can actually recover. We present CIPL (Channel Inversion for Privacy Leakage), a channel-aware evaluation framework for black-box privacy leakage in LLM agents. CIPL represents a target through sensitive source, selection, assembly, execution, observation, and extraction stages and evaluates the transition from selected sensitive units to attacker-recoverable output under a shared protocol. Experiments across memory-based, retrieval-mediated, and tool-mediated targets, together with a BrowserUse live-agent case study, show that storage labels alone do not determine recoverability. Memory targets form a near-saturated reference case, retrieval-mediated leakage is frequently partial, and tool-mediated and live-agent leakage varies strongly with observation surface, prompt-to-channel alignment, retrieval depth, and provider behavior. A stratified semantic audit further identifies attacker-useful disclosures that canonical exact matching misses. CIPL therefore provides a common framework for comparing how internal sensitive dependence is realized as externally recoverable leakage across heterogeneous agent pipelines.
• Abstract（参考訳）: LLMエージェントのプライバシリークは、メモリ、検索、ツール使用パイプラインなどの個々のコンポーネントで一般的に評価されるため、外部のオブザーバが実際に回復できる情報と内部の露光を区別することは困難である。 LLMエージェントにおけるブラックボックスのプライバシー漏洩に対するチャネル認識評価フレームワークであるCIPL(Channel Inversion for Privacy Leakage)を提案する。 CIPLは、センシティブなソース、選択、アセンブリ、実行、観察、抽出段階を通じてターゲットを表現し、選択されたセンシティブなユニットから、共有プロトコルの下で攻撃可能な出力への遷移を評価する。 BrowserUseのライブエージェントケーススタディと合わせて、メモリベース、検索介在、およびツール介在するターゲットに対する実験は、ストレージラベルだけで回復可能性を決定するものではないことを示している。 メモリターゲットは、ほぼ飽和した参照ケースを形成し、検索介在するリークは、頻繁に部分的であり、ツール介在およびライブエージェントリークは、観察面、即列アライメント、検索深さ、プロバイダの振る舞いによって強く変化する。 階層化されたセマンティック監査は、正則的な正確な一致ミスを示す攻撃者が使用する開示をさらに特定する。 したがってCIPLは、不均一なエージェントパイプライン間で外部に回復可能なリークとして内部のセンシティブ依存がどのように実現されるかを比較するための共通のフレームワークを提供する。

関連論文リスト

• Conformal Changepoint Localization and Root Cause Analysis with Corrupted Observations [55.76952683833966]
  本稿では,データ破損時の信頼性設定サイズを低減するために,重み付きCONCH(W-CONCH)と重み付きCROC(W-CROC)を提案する。 画像ベースおよび実世界の変化点と根本原因ベンチマークの実験は、不確実性ベースの重み付けが信頼性セットのサイズを大幅に減少させることを示している。
  論文  参考訳（メタデータ） (2026-07-29T05:16:59Z)
• REAL-OW: Rehearsal-free Open World Object Detection with Low-Rank Adaptation and Dual-Stage Objectness Modeling [56.888597798431704]
  Open-World Object Detection (OWOD) では、未確認のオブジェクトを未知のものとして識別し、それを既知のカテゴリのセットにインクリメンタルに組み込む必要がある。 既存のフレームワークは、破滅的な忘れを緩和するために、模範的なリプレイに大きく依存しているが、実際のアプリケーションでは、データアクセス制限との生データ競合を保存し、データ露出のリスクをもたらす。 協調的なアダプタアーキテクチャを通じて段階的な知識を分離する新しいリハーサルフリーフレームワークであるREAL-OWを提案する。
  論文  参考訳（メタデータ） (2026-07-03T06:38:54Z)
• Governed Shared Memory for Multi-Agent LLM Systems [1.2178992475191557]
  本稿では,フリートメモリの問題を定式化し,基礎的障害モードを4つ同定する。 システムレベルの明示的なプリミティブを定義する。スコープ付き検索,時間的スーパーセッション,プロファイランストラッキング,ポリシが支配するメモリ伝搬である。 これらのプリミティブは、プロダクションマルチテナントメモリサービスであるMemClawで実装され、ArgusFleet経由で評価される。
  論文  参考訳（メタデータ） (2026-06-23T13:04:14Z)
• Veritas: A Semantically Grounded Agentic Framework for Memory Corruption Vulnerability Detection in Binaries [14.42294978688412]
  We present Veritas, a semantically grounded framework for binary memory corruption vulnerability detection。 Veritas は RetDec-lifted LLVM IR に静的スライサ、デュアルビュー LLM 検出器、マルチエージェントバリデータを組み合わせた。 Veritasをモジュールパイプラインとして実装し、実世界のバイナリ脆弱性ケースのキュレートされたベンチマークで評価する。
  論文  参考訳（メタデータ） (2026-05-14T17:16:11Z)
• An Agentic Workflow for Detecting Personally Identifiable Information in Crash Narratives [25.2699036413582]
  PIIは軽々しく、矛盾なくクラッシュの物語に現れる。 既存のルールベースのアプローチでは、コンテキスト依存のPIIをキャプチャできないことが多い。 本研究は,事故物語におけるPII検出のための局所展開可能なエージェントワークフローを開発し,評価する。
  論文  参考訳（メタデータ） (2026-04-15T05:03:20Z)
• Observable Channels, Not Just Storage: Evaluating Privacy Leakage in LLM Agent Pipelines [19.552857369765924]
  CIPLは、センシティブなソース、選択、アセンブリ、実行、観察、抽出段階を通じてターゲットを表現する共有方法を提供する。 メモリは、ほぼ飽和した高リスクの特別なケースとして振る舞うが、メモリ外リークは異なる状態を示す。
  論文  参考訳（メタデータ） (2026-03-24T03:29:39Z)
• NeuroFilter: Privacy Guardrails for Conversational LLM Agents [50.75206727081996]
  本研究は,エージェント型大規模言語モデル(LLM)のプライバシを強制する際の計算上の課題に対処する。 NeuroFilterは、標準違反をモデルのアクティベーション空間における単純な方向にマッピングすることで、コンテキスト整合性を運用するガードレールフレームワークである。 7Bから70Bパラメータのモデルをカバーする15万以上のインタラクションに対する包括的な評価は、NeuroFilterの強力なパフォーマンスを示している。
  論文  参考訳（メタデータ） (2026-01-21T05:16:50Z)
• The Trojan Knowledge: Bypassing Commercial LLM Guardrails via Harmless Prompt Weaving and Adaptive Tree Search [58.8834056209347]
  大規模言語モデル(LLM)は、有害な出力を誘導するために安全ガードレールをバイパスするジェイルブレイク攻撃に弱いままである。 CKA-Agent(Correlated Knowledge Attack Agent)は、ターゲットモデルの知識基盤の適応的木構造探索としてジェイルブレイクを再構成する動的フレームワークである。
  論文  参考訳（メタデータ） (2025-12-01T07:05:23Z)
• Defending against Indirect Prompt Injection by Instruction Detection [109.30156975159561]
  InstructDetectorは、LLMの動作状態を利用して潜在的なIPI攻撃を特定する、新しい検出ベースのアプローチである。 InstructDetectorは、ドメイン内設定で99.60%、ドメイン外設定で96.90%の検出精度を達成し、攻撃成功率をBIPIAベンチマークで0.03%に下げる。
  論文  参考訳（メタデータ） (2025-05-08T13:04:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。