論文の概要: Privacy in Action: Towards Realistic Privacy Mitigation and Evaluation for LLM-Powered Agents

• arxiv url: http://arxiv.org/abs/2509.17488v1
• Date: Mon, 22 Sep 2025 08:19:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-23 18:58:16.290119
• Title: Privacy in Action: Towards Realistic Privacy Mitigation and Evaluation for LLM-Powered Agents
• Title（参考訳）: プライバシ・イン・アクション:LLMエージェントのリアルなプライバシ緩和と評価を目指して
• Authors: Shouju Wang, Fenglin Yu, Xirui Liu, Xiaoting Qin, Jue Zhang, Qingwei Lin, Dongmei Zhang, Saravan Rajmohan,
• Abstract要約: モデルに依存しないコンテキスト整合性に基づく緩和アプローチであるPrivacyCheckerを提案する。 静的ベンチマークを動的MPPとA2A環境に変換するPrivacyLens-Liveも導入しています。 私たちのデータとコードはhttps://aka.ms/privacy_in_action.orgで公開されます。
• 参考スコア（独自算出の注目度）: 40.39717403627143
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The increasing autonomy of LLM agents in handling sensitive communications, accelerated by Model Context Protocol (MCP) and Agent-to-Agent (A2A) frameworks, creates urgent privacy challenges. While recent work reveals significant gaps between LLMs' privacy Q&A performance and their agent behavior, existing benchmarks remain limited to static, simplified scenarios. We present PrivacyChecker, a model-agnostic, contextual integrity based mitigation approach that effectively reduces privacy leakage from 36.08% to 7.30% on DeepSeek-R1 and from 33.06% to 8.32% on GPT-4o, all while preserving task helpfulness. We also introduce PrivacyLens-Live, transforming static benchmarks into dynamic MCP and A2A environments that reveal substantially higher privacy risks in practical. Our modular mitigation approach integrates seamlessly into agent protocols through three deployment strategies, providing practical privacy protection for the emerging agentic ecosystem. Our data and code will be made available at https://aka.ms/privacy_in_action.
• Abstract（参考訳）: Model Context Protocol (MCP) と Agent-to-Agent (A2A) フレームワークによって加速される、機密性の高い通信を扱うLLMエージェントの自律性の増加は、緊急のプライバシー問題を引き起こす。 最近の研究は、LLMのプライバシQ&Aパフォーマンスとエージェントの振る舞いの間に大きなギャップがあることを明らかにしているが、既存のベンチマークは静的で単純化されたシナリオに限られている。 我々は、モデルに依存しないコンテキスト整合性に基づく緩和アプローチであるPrivacyCheckerを紹介し、プライバシー漏洩を36.08%から7.30%に減らし、GPT-4oでは33.06%から8.32%に減らした。 静的ベンチマークを動的MPP環境とA2A環境に変換することにより,実用面でのプライバシリスクを大幅に高めることができる。 当社のモジュール緩和アプローチは,3つのデプロイメント戦略を通じて,エージェントプロトコルにシームレスに統合することで,新興エージェントエコシステムの実用的なプライバシ保護を実現しています。 私たちのデータとコードはhttps://aka.ms/privacy_in_action.orgで公開されます。

関連論文リスト

• The Sum Leaks More Than Its Parts: Compositional Privacy Risks and Mitigations in Multi-Agent Collaboration [72.33801123508145]
  大規模言語モデル(LLM)はマルチエージェントシステムに不可欠なものである。 プライバシーリスクは、暗記、直接推論、シングルターン評価を超えて現れる。 特に、相互作用によって構成される一見無害な反応は、敵が機密情報の回復を累積的に行うことができる。
  論文  参考訳（メタデータ） (2025-09-16T16:57:25Z)
• PrivacyScalpel: Enhancing LLM Privacy via Interpretable Feature Intervention with Sparse Autoencoders [8.483679748399037]
  大規模言語モデル(LLM)は自然言語処理において顕著な能力を示したが、個人識別情報(PII)を記憶・漏洩することによりプライバシーリスクを生じさせる。 差分プライバシーやニューロンレベルの介入のような既存の緩和戦略は、しばしばモデルユーティリティを劣化させたり、リークを効果的に防いだりしない。 性能を維持しながらPIIリークを識別・緩和するために解釈可能性技術を活用する,新たなプライバシ保護フレームワークであるPrivacyScalpelを紹介する。
  論文  参考訳（メタデータ） (2025-03-14T09:31:01Z)
• AgentDAM: Privacy Leakage Evaluation for Autonomous Web Agents [75.85554113398626]
  我々は、AIウェブナビゲーションエージェントがデータ最小化のプライバシー原則に従うかどうかを測定する新しいベンチマークAgentDAMを紹介する。 我々のベンチマークは、現実的なWebインタラクションシナリオをエンドツーエンドでシミュレートし、既存のWebナビゲーションエージェントに適応する。
  論文  参考訳（メタデータ） (2025-03-12T19:30:31Z)
• Position: On-Premises LLM Deployment Demands a Middle Path: Preserving Privacy Without Sacrificing Model Confidentiality [18.575663556525864]
  ユーザ制御インフラストラクチャにクローズドソース LLM をデプロイすることで、データのプライバシが向上し、誤用リスクを軽減できる、と我々は主張する。 十分に設計されたオンプレミスデプロイメントでは、モデル盗難を防止することによって、モデルの機密性を保証し、プライバシ保護のカスタマイズを提供する必要がある。 私たちの調査結果は、プライバシと機密性が共存可能であることを示し、オンプレミスのAIデプロイメントをセキュアにする方法を確立しました。
  論文  参考訳（メタデータ） (2024-10-15T02:00:36Z)
• PrivacyLens: Evaluating Privacy Norm Awareness of Language Models in Action [54.11479432110771]
  PrivacyLensは、プライバシに敏感な種子を表現的なヴィグネットに拡張し、さらにエージェントの軌跡に拡張するために設計された新しいフレームワークである。 プライバシの文献とクラウドソーシングされたシードに基づいて、プライバシの規範のコレクションをインスタンス化する。 GPT-4やLlama-3-70Bのような最先端のLMは、プライバシー強化の指示が出されたとしても、機密情報を25.68%、38.69%のケースでリークしている。
  論文  参考訳（メタデータ） (2024-08-29T17:58:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。