論文の概要: Dependency-Aware Privacy for Multi-turn Agents

• arxiv url: http://arxiv.org/abs/2605.03188v1
• Date: Mon, 04 May 2026 22:13:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-06 19:35:43.661994
• Title: Dependency-Aware Privacy for Multi-turn Agents
• Title（参考訳）: マルチターンエージェントの依存性を考慮したプライバシ
• Authors: Divyam Anshumaan, Sarthak Choudhary, Nils Palumbo, Somesh Jha,
• Abstract要約: メトリクス差分プライバシーに基づく既存のプロンプトサニタイザは、各リリースを独立して扱う。 RootGuardはルート値を一度サニタイズし、その後のリリースをノイズのあるルートから決定的に計算する。
• 参考スコア（独自算出の注目度）: 19.18200199965833
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: LLM agents release private data across multi-service interactions. Existing prompt sanitizers based on metric differential privacy treat each release independently, so adversaries combining releases across turns can recover private attributes; privacy degrades with every release. This degradation is fundamental: when private attributes are the \emph{roots} of a computation graph, independently noising a derived value amplifies the root's distinguishability by up to the deriving function's Lipschitz constant $L$, which can far exceed the nominal privacy parameter for nonlinear functions in medical and financial workflows. RootGuard sanitizes root values once and computes subsequent releases deterministically from the noised roots. By the post-processing theorem, the privacy guarantee depends only on the initial root sanitization, regardless of the adversary's functions or number of turns, and derived values inherit privacy at zero marginal cost. RootGuard further exploits structural domain knowledge (e.g., BMI from height and weight, or a known target function) to allocate budget across roots, improving the privacy-utility tradeoff. A worst-case adversary forcing $t$ turns increases the total budget $B = t \cdot \varepsilon$. RootGuard distributes this larger budget across roots, while independent noising spends $\varepsilon$ per release and gives the adversary $t$ observations to combine via MAP reconstruction. This yields a \emph{double asymmetry}: more turns aid RootGuard while weakening independent noising. On eight NHANES medical diagnostic templates, RootGuard achieves $2.3$--$3.0\times$ lower target error than independent noising at $\varepsilon = 0.1$ (7.6\% vs.\ 17.1\% wMAPE at $B = (2k{+}1)\varepsilon$). Under MAP reconstruction, more queries strengthen attacks against independent noising while RootGuard remains invariant.
• Abstract（参考訳）: LLMエージェントは、マルチサービスインタラクションにわたってプライベートデータをリリースする。 メトリクス差分プライバシーに基づく既存のプロンプトサニタイザは、各リリースを独立して扱うため、ターンにまたがるリリースを組み合わせた敵は、プライベート属性を回復することができる。 この分解は基本的なものであり、プライベート属性が計算グラフの \emph{roots} である場合、導出値が導出関数のリプシッツ定数$L$まで、独立に根の識別性を増幅する。 RootGuardはルート値を一度サニタイズし、その後のリリースをノイズのあるルートから決定的に計算する。 後処理定理により、プライバシ保証は、相手の機能やターン数に関わらず、初期ルートのサニタイズにのみ依存し、派生した値は限界コストゼロでプライバシを継承する。 RootGuardはさらに、構造ドメインの知識(高さと重さのBMI、既知のターゲット関数など)を活用して、ルート全体にわたって予算を割り当て、プライバシとユーティリティのトレードオフを改善している。 the total budget $B = t \cdot \varepsilon$。 RootGuardは、この大きな予算をルーツに分散し、独立のnoisingはリリース毎に$\varepsilon$を消費し、MAPリコンストラクションを介して、敵対的な$t$の観測を行う。 これにより 'emph{double asymmetric}: more turn help RootGuard while weakening independent noising. NHANESの8つの診断テンプレートでは、RootGuardは$2.3$-$3.0\times$低い目標誤差を$\varepsilon = 0.1$ (7.6\%)で達成している。 17.1\% wMAPE at $B = (2k{+}1)\varepsilon$)。 MAP再構成の下では、RootGuardが不変のままである間、多くのクエリが独立したnoisingに対する攻撃を強化する。

関連論文リスト

• On the Out-of-Distribution Backdoor Attack for Federated Learning [11.027326855396288]
  我々は,アウト・オブ・ディストリビューション・バックドア・アタック(mathttOBA$)と呼ばれる,連邦学習(FL)のための新しいバックドア・アタック・プロトタイプを紹介する。 本手法はFLのバックドア攻撃シナリオの範囲を大きく広げる。 私たちは$mathttBNGuard$を紹介します。
  論文  参考訳（メタデータ） (2025-09-16T16:23:39Z)
• On the optimal regret of collaborative personalized linear bandits [15.661920010658626]
  本稿では,協調的パーソナライズされたリニアバンディットにおける最適後悔について検討する。 我々は,エージェント数,相互作用ラウンド,不均一性の程度が共に後悔にどう影響するかを特徴付ける情報理論の下限を提供する。 私たちの結果は、いつ、いつ、コラボレーションが最適な後悔の束縛でどのように役立つか、完全な特徴を与えます。
  論文  参考訳（メタデータ） (2025-06-19T00:56:31Z)
• Optimized Tradeoffs for Private Prediction with Majority Ensembling [59.99331405291337]
  本稿では,データ依存型ランダム化応答行列(DaRRM)アルゴリズムを提案する。 DaRRMはデータ依存ノイズ関数$gamma$でパラメータ化され、全てのプライベートアルゴリズムのクラスに対して効率的なユーティリティ最適化を可能にする。 本稿では,DARRMが共通ベースラインよりも2倍のプライバシゲインを,固定ユーティリティで確実に享受していることを示す。
  論文  参考訳（メタデータ） (2024-11-27T00:48:48Z)
• Count on Your Elders: Laplace vs Gaussian Noise [9.546521474972485]
  多くの環境では、ラプラスノイズはガウスノイズよりも好まれるかもしれないと我々は主張する。 ガウス機構によって付加される雑音は、常に同値な分散のラプラスノイズに置き換えることができることを示す。 これはガウスノイズが高次元雑音に使用されるという従来の知恵に挑戦する。
  論文  参考訳（メタデータ） (2024-08-13T16:36:33Z)
• Refined Sample Complexity for Markov Games with Independent Linear Function Approximation [49.5660193419984]
  マルコフゲーム(MG)はマルチエージェント強化学習(MARL)の重要なモデルである 本稿では、WangらによるAVLPRフレームワークを改良し(2023年)、最適部分ギャップの悲観的推定を設計する。 マルチエージェントの呪いに取り組み、最適な$O(T-1/2)収束率を達成し、同時に$textpoly(A_max)$依存性を避ける最初のアルゴリズムを与える。
  論文  参考訳（メタデータ） (2024-02-11T01:51:15Z)
• Analyzing Privacy Leakage in Machine Learning via Multiple Hypothesis Testing: A Lesson From Fano [83.5933307263932]
  本研究では,離散データに対するデータ再構成攻撃について検討し,仮説テストの枠組みの下で解析する。 基礎となるプライベートデータが$M$のセットから値を取ると、ターゲットのプライバシパラメータ$epsilon$が$O(log M)$になる。
  論文  参考訳（メタデータ） (2022-10-24T23:50:12Z)
• Robust Estimation of Discrete Distributions under Local Differential Privacy [1.52292571922932]
  局所的な差分プライバシー制約の下で,n$の汚染データバッチから離散分布を推定する問題を考察する。 2つの制約を組み合わせることで、$epsilonsqrtd/alpha2 k+sqrtd2/alpha2 kn$を$sqrtlog (1/epsilon)$ factorに設定できる。
  論文  参考訳（メタデータ） (2022-02-14T15:59:02Z)
• BUDS: Balancing Utility and Differential Privacy by Shuffling [3.618133010429131]
  シャッフルやtextitBUDS によるユーティリティと差分プライバシーのバランスをとることは、クラウドソースの統計データベースへのアプローチである。 損失推定法とリスク最小化法を併用したワンホット符号化と反復シャッフル法により,新しいアルゴリズムを提案する。 バランスのとれたユーティリティとプライバシの実証テストの間、BUDSは$epsilon = 0.02$を生成します。
  論文  参考訳（メタデータ） (2020-06-07T11:39:13Z)
• Toward Adversarial Robustness via Semi-supervised Robust Training [93.36310070269643]
  アドリラルな例は、ディープニューラルネットワーク(DNN)に対する深刻な脅威であることが示されている。 R_stand$ と $R_rob$ の2つの異なるリスクを共同で最小化することで、新しい防御手法であるロバストトレーニング(RT)を提案する。
  論文  参考訳（メタデータ） (2020-03-16T02:14:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。