論文の概要: PrivacySkills: How Privacy Guidance Shapes Source Selection in LLM Agents
- arxiv url: http://arxiv.org/abs/2609.35937v1
- Date: Mon, 28 Sep 2026 15:22:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:46.90146
- Title: PrivacySkills: How Privacy Guidance Shapes Source Selection in LLM Agents
- Title（参考訳）: プライバシスキル: LLMエージェントにおけるプライバシガイダンスのソース選択方法
- Abstract要約: エージェントが個人情報にアクセスする方法を評価するためのフレームワークであるPrivacySkillsを紹介する。
我々は,システムレベルの指示,スキルレベルのメタデータラベル,あるいはその両方によるプライバシガイダンスを検討する。
本研究は,プライバシアノテーションをスキル仕様に組み込むことを動機とし,システムレベルの指示とともにその有効性を評価する。
- 参考スコア（独自算出の注目度）: 0.6999740786886536
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: While prior work has documented privacy failures in LLM agents, it remains unclear how the presentation of privacy guidance influences their choice of information sources. We introduce PrivacySkills, a controlled framework for evaluating how agents choose among acquisition pathways that provide the same task-relevant value: consulting publicly available personal information, accessing confidential sources, or interacting with the user. The evaluation framework comprises 55 synthetic tasks spanning 11 categories of personal information, with 169 associated skills that describe the available acquisition pathways. We consider privacy guidance through system-level instructions, skill-level metadata labels, or both. Separately, we vary user availability and urgency framing. With users available and no privacy guidance, agents access confidential sources in 30% of valid runs on average across five open-weight models, despite sufficient alternatives. This rate increases to 45% when users are unavailable, whereas urgency framing has no detectable effect. System-level privacy instructions alone have limited effects on confidential access, while skill-level intrusiveness labels produce a modest reduction (24% on average), but combining the two roughly halves confidential access. Our findings motivate incorporating privacy annotations into skill specifications and evaluating their effectiveness alongside system-level instructions.
- Abstract（参考訳）: LLMエージェントのプライバシ障害が文書化されているが、プライバシガイダンスの提示が情報ソースの選択にどのような影響を及ぼすかは定かではない。
これは、公開可能な個人情報の相談、機密情報へのアクセス、ユーザとの対話など、同一のタスク関連価値を提供する買収経路をエージェントがどのように選択するかを評価するための制御されたフレームワークである。
評価フレームワークは、11カテゴリの個人情報にまたがる55の合成タスクと、利用可能な取得経路を記述した169の関連スキルから構成される。
我々は,システムレベルの指示,スキルレベルのメタデータラベル,あるいはその両方によるプライバシガイダンスを検討する。
同時に、ユーザ可用性と緊急フレーミングも異なります。
ユーザーは利用でき、プライバシのガイダンスがないため、エージェントは十分な代替手段があるにもかかわらず、5つのオープンウェイトモデルの平均30%で秘密のソースにアクセスする。
この率は、ユーザが利用できない場合には45%に上昇するが、緊急フレーミングは検出可能な効果がない。
システムレベルのプライバシ命令だけでは機密アクセスに制限がある一方で、スキルレベルの侵入性ラベルは、わずかに減少(平均24%)するが、2つのほぼ半分の機密アクセスを組み合わせる。
本研究は,プライバシアノテーションをスキル仕様に組み込むことを動機とし,システムレベルの指示とともにその有効性を評価する。
関連論文リスト
- Beyond Direct Identifiers: Probabilistic Privacy Risk Estimation for Privacy-Conscious LLM Query Delegation [20.31515213689976]
プライバシーリスクは、明示的な識別子だけでなく、PIIのない自己開示にも起因している。
プライバシ・Conscious Delegation(プライバシ・コンセント・デリゲーション)に対処するための有用な補助指標としてk匿名性を提案する。
論文 参考訳（メタデータ） (2026-08-10T05:38:28Z) - PiSAs: Benchmarking Contextual Integrity in Multi-User Agentic Systems [29.778310164003557]
意図しないリークを評価するためのベンチマークPiSA(Privacy in Shared Agentic Systems)を紹介する。
これにより、エージェントシステムコンポーネントやインターフェース間でのユーザ間の流出を直接測定できる。
システム設計はCIコンプライアンスを改善するが、誤ったLCM判定コールによって結果がボトルネックになることがわかった。
論文 参考訳（メタデータ） (2026-07-06T16:57:24Z) - Seeing Without Exposing: Adaptive Privacy Control for Open-World, Context-Hungry MLLMs [61.80513991207956]
MLLMにおけるプライバシー問題に対処するために,Anchored Privacy Drifting (APD)を提案する。
APDは、コンテキストキューをソースイメージに固定しながら、意味論的に等価な代替手段に向けて、プライバシに敏感な要素をドリフトする。
本手法は,プライバシ・サニタイゼーションとコンテンツ保持の両面でバランスのとれた改善を実現する。
論文 参考訳（メタデータ） (2026-06-05T11:41:39Z) - MAGPIE: A benchmark for Multi-AGent contextual PrIvacy Evaluation [61.92403071137653]
既存のプライバシベンチマークは、タスクの結果に影響を与えることなく、プライベート情報を簡単に省略できる、単純化されたシングルターンインタラクションにのみフォーカスする。
我々は,多エージェント協調型非競合シナリオにおけるプライバシ理解と保存性を評価するための新しいベンチマークであるMAGPIEを紹介する。
評価の結果,GPT-5やGemini 2.5-Proを含む最先端のエージェントは,重大なプライバシー侵害を示すことが明らかとなった。
論文 参考訳（メタデータ） (2025-10-16T23:12:12Z) - MAGPIE: A dataset for Multi-AGent contextual PrIvacy Evaluation [54.410825977390274]
LLMエージェントのコンテキストプライバシを評価するための既存のベンチマークは、主にシングルターン、低複雑さタスクを評価する。
まず、15ドメインにわたる158のリアルタイムハイテイクシナリオからなるベンチマーク-MAGPIEを示す。
次に、コンテキスト的にプライベートなデータに対する理解と、ユーザのプライバシを侵害することなくコラボレーションする能力に基づいて、最先端のLCMを評価します。
論文 参考訳（メタデータ） (2025-06-25T18:04:25Z) - Protecting Users From Themselves: Safeguarding Contextual Privacy in Interactions with Conversational Agents [33.26308626066122]
会話エージェント(LCA)とのユーザインタラクションにおけるコンテキストプライバシの概念を特徴付ける。
これは、ユーザーが意図した目標を達成するのに必要な情報のみを(ベンダー)が開示することを保証することで、プライバシー上のリスクを最小限にすることを目的としている。
本稿では,ユーザとLCA間のローカルデプロイ可能なフレームワークを提案する。
論文 参考訳（メタデータ） (2025-02-22T09:05:39Z) - PrivacyLens: Evaluating Privacy Norm Awareness of Language Models in Action [54.11479432110771]
PrivacyLensは、プライバシに敏感な種子を表現的なヴィグネットに拡張し、さらにエージェントの軌跡に拡張するために設計された新しいフレームワークである。
プライバシの文献とクラウドソーシングされたシードに基づいて、プライバシの規範のコレクションをインスタンス化する。
GPT-4やLlama-3-70Bのような最先端のLMは、プライバシー強化の指示が出されたとしても、機密情報を25.68%、38.69%のケースでリークしている。
論文 参考訳（メタデータ） (2024-08-29T17:58:38Z) - Certification for Differentially Private Prediction in Gradient-Based Training [36.686002369773014]
非私的モデルの出力にノイズを加えることによって、差分プライバシーが達成されるプライベート予測について検討する。
既存の方法は、モデルのグローバルな感度に比例したノイズに依存しており、多くの場合、プライベートトレーニングと比較して、準最適プライバシーユーティリティトレードオフをもたらす。
本稿では,凸緩和法と有界伝播法を利用して,データセット固有の上限値の予測感度を計算するための新しい手法を提案する。
論文 参考訳（メタデータ） (2024-06-19T10:47:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。