論文の概要: Cost-Efficient Privacy Enforcement for Email-Generating LLM Agents under Strategic Information Requests

• arxiv url: http://arxiv.org/abs/2610.18007v1
• Date: Tue, 13 Oct 2026 09:06:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.56902
• Title: Cost-Efficient Privacy Enforcement for Email-Generating LLM Agents under Strategic Information Requests
• Title（参考訳）: 戦略的情報要求に基づく電子メール生成LDMエージェントのコスト効率の良いプライバシ強化
• Abstract要約: 既存のチェッカー・リペア・ディフェンスは、不適切な開示を減らすことができるが、リモートアクション LLM への繰り返しの呼び出しに依存している。 本稿では,メール生成エージェントのコスト効率向上レイヤとして,ローカル契約条件の書き換えを提案する。
• 参考スコア（独自算出の注目度）: 21.360092008773176
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: LLM agents now act as delegated communication intermediaries: they read private context, draft messages, and send externally visible emails on behalf of a user. Existing checker-repair defenses can reduce inappropriate disclosure, but they rely on repeated calls to a remote action LLM (the model that drafts and repairs the email) and a remote checker LLM whenever a draft fails validation. This creates a cost problem as well as a privacy problem, especially when a requester strategically asks for exact values, raw records, source evidence, or other details that induce leakage-heavy drafts. We propose local contract-conditioned rewriting as a cost-efficient enforcement layer for email-generating agents. The mechanism intercepts an outgoing draft, constructs an information-release contract that specifies what to preserve, generalize, and forbid, rewrites the draft with a local Gemma rewriter, and selectively invokes a final PrivacyChecker. Across extensive email tasks under normal prompts and attack prompts that operationalize strategic information requests, Gemma + Checker reduces normal-prompt leakage from 11.41% to 4.03% while improving UsableRate (satisfied or partially satisfied outputs) from 85.2% to 92.6%. Under the strategic attack-prompt condition, it reduces leakage from 28.19% to 18.79% and reduces checker-only cost amplification from 1.32x to 1.02x. Offline replay ablation shows that the full contract reduces leakage relative to generic Gemma rewriting by 36.3% under normal prompts and 54.1% under attack prompts. These results support a local-first privacy enforcement design: move repair to a cheaper trusted local layer when possible, but retain the checker as the final semantic gate for high-risk sends.
• Abstract（参考訳）: LLMエージェントは、プライベートコンテキストの読み込み、メッセージのドラフト、ユーザに代わって外部から見える電子メールの送信など、デリゲートされた通信仲介者として機能する。 既存のチェッカー・リペアディフェンスは、不適切な開示を減らすことができるが、ドラフトが検証に失敗するたびにリモートアクションLSM(電子メールをドラフトし、修復するモデル)とリモートチェッカーLSMへの繰り返しの呼び出しに依存する。 これは、特に要求者が正確な値、生のレコード、ソースエビデンス、その他のリーク重大なドラフトを戦略的に要求した場合に、プライバシの問題と同様にコストの問題を引き起こす。 本稿では,メール生成エージェントのコスト効率向上レイヤとして,ローカル契約条件の書き換えを提案する。 メカニズムは、出力するドラフトをインターセプトし、保存、一般化、禁止する情報リリース契約を構築し、ローカルなGemmaリライターでドラフトを書き直し、最終的なPrivacyCheckerを選択的に呼び出す。 通常のプロンプトとアタックによる広範囲にわたるメール処理により、Gemma + Checkerは通常のプロンプトリークを11.41%から4.03%に減らし、UsableRate(満足度または部分的に満たされた出力)を85.2%から92.6%に改善した。 戦略的攻撃プロンプト条件下では、漏れを28.19%から18.79%に減らし、チェッカーのみのコスト増幅を1.32xから1.02xに減らしている。 オフラインのリプレイアブレーションは、フルコントラクトがジェネリックGemmaのリライトに対するリークを、通常のプロンプトで36.3%、アタックプロンプトで54.1%減少させることを示している。 これらの結果は、ローカルファーストのプライバシ執行設計をサポートします: 可能な限り安価なローカルレイヤに修復を移動しますが、チェッカーをハイリスク送信の最終的なセマンティックゲートとして保持します。

関連論文リスト

• The Innocent Courier: Covert Exfiltration Through Legitimate LLM Web Fetching [56.52163437439819]
  LLM(Large-Language-Models)とLLMベースのエージェントは、機密データをサードパーティにリークするリスクがある。 LLMLeakは、ローカルで動作する悪意のあるソフトウェアが、LLMを悪用して隠蔽チャネルを確立するために直接通信できない、新たな攻撃ベクトルである。 クライアント側の悪意あるソフトウェアコンポーネントは、秘密をURLに埋め込む。LLMがURLにアクセスすると、攻撃者は攻撃者が制御するDNSまたはWebサーバを介して暗号化された秘密を受け取る。
  論文  参考訳（メタデータ） (2026-10-01T14:25:55Z)
• Confuse the Model, Control the Flow: Understanding and Mitigating Privacy Leakage from LLM Agents with Information Flow Control [33.97165894442089]
  パーソナルAIエージェントは、ユーザのプライベートデータと通信へのアクセスがますます与えられている。 エージェントは、与えられた機密情報が特定の当事者に開示されるべきかどうかを判断しなければならない。 FLOWSEALは、エージェントのコンテキスト外のツールレベルのインターセプターを通じて機密性を強制する防衛システムである。
  論文  参考訳（メタデータ） (2026-09-12T15:31:37Z)
• PrivacyPeek: Auditing What LLM-Based Agents Acquire, Not Just What They Say [48.84133320567554]
  LLMベースのエージェントは急速に進歩し、ユーザーのタスクを完了させるために外部ツールを自律的に呼び出している。 既存のプライバシベンチマークは、エージェントの応答や外部アクションが開示するものを監査するが、データがエージェントのコンテキストに最初に入力される取得ステージを見落としている。 LLMエージェントの取得段階のプライバシー漏洩を評価するベンチマークであるemphPrivacyPeekを紹介する。
  論文  参考訳（メタデータ） (2026-05-29T04:55:12Z)
• MosaicLeaks:Privacy Risks in Querying-in-the-Open for Deep Research Agents [76.60965179634664]
  ディープリサーチエージェントは、プライベートなローカルドキュメントをWeb検索のような外部ツールと組み合わせて、プライバシーリスクを生じさせている。 プライベートなエンタープライズドキュメントとパブリックなWebコーパスをチェーンする1,001のディープリサーチタスクのベンチマークであるMosaicLeaksを紹介します。 私たちは、家族やサイズにわたるモデルが3つのレベルすべてに頻繁にリークしていることに気付きました。
  論文  参考訳（メタデータ） (2026-05-29T01:44:35Z)
• Privacy Guard & Token Parsimony by Prompt and Context Handling and LLM Routing [0.0]
  プロンプトを集中サブタスクに分解し、Zero-TrustまたはNDAがカバーするモデルにハイリスククエリを再ルーティングする。 この二重メカニズムは、機密推論ベクトル(Zero Leakage)を同時に排除し、クラウドトークンペイロード(OpEx Reduction)を削減する。
  論文  参考訳（メタデータ） (2026-03-30T20:16:42Z)
• SALT: Steering Activations towards Leakage-free Thinking in Chain of Thought [8.165127822088499]
  大規模言語モデル(LLM)は、機密性の高いユーザデータにアクセス可能なパーソナルアシスタントへと進化する。 最近の知見によると、LLMは内部の推論プロセスを通じて個人情報を漏らし、文脈的プライバシーの期待に反する。 本稿では,Steering Activations to Leakage-free Thinking (SALT)について紹介する。
  論文  参考訳（メタデータ） (2025-11-11T02:45:48Z)
• LeakAgent: RL-based Red-teaming Agent for LLM Privacy Leakage [78.33839735526769]
  LeakAgentは、プライバシー漏洩のための新しいブラックボックスレッドチームフレームワークである。 我々のフレームワークは、敵のプロンプトを生成するための攻撃エージェントとして強化学習を通じてオープンソースのLLMを訓練する。 我々は,LeakAgentが既存のルールベースのデータ抽出手法と,システムリーク時の自動手法を著しく上回っていることを示す。
  論文  参考訳（メタデータ） (2024-12-07T20:09:01Z)
• Silent Guardian: Protecting Text from Malicious Exploitation by Large Language Models [63.91178922306669]
  大規模言語モデル(LLM)に対するテキスト保護機構であるSilent Guardianを紹介する。 保護されるテキストを慎重に修正することで、TPEはLDMを誘導して最初にエンドトークンをサンプリングし、直接相互作用を終了させることができる。 本研究では,SGがターゲットテキストを種々の構成で効果的に保護し,保護成功率の約100%を達成できることを示す。
  論文  参考訳（メタデータ） (2023-12-15T10:30:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。