論文の概要: Loose Lips: Understanding Privacy Leakage in Agentic Dialogue

• arxiv url: http://arxiv.org/abs/2610.14071v1
• Date: Wed, 07 Oct 2026 23:25:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.006753
• Title: Loose Lips: Understanding Privacy Leakage in Agentic Dialogue
• Title（参考訳）: ルースリップ:エージェント対話におけるプライバシー漏洩を理解する
• Abstract要約: 我々はCIMemoriesをCIMEMORIES DIALOGUEに拡張する。これはコンテキスト積分理論に基づく4,410の2エージェント対話インスタンスのベンチマークである。 タスク能力とプライバシリークが根本的に結合していることが分かりました。 この結果から,タスク能力とプライバシリークの結合は,構成ミスではなく,現在のエージェントシステムの構造的特徴であることが示唆された。
• 参考スコア（独自算出の注目度）: 14.506324257088437
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As LLM agents are increasingly deployed in high-stakes enterprise settings, understanding how they handle sensitive information in agentic dialogue has become critical. Privacy leakage in such settings requires reasoning about whether information flows respect the contextual norms under which they originated. We extend CIMemories to CIMEMORIES DIALOGUE, a benchmark of 4,410 two-agent dialogue instances grounded in Contextual Integrity theory. Using this benchmark, we systematically evaluate 7 open-weight models from the Qwen3 and Llama 3.1 families across conversation lengths of 1 and 6 turns under three prompting conditions. We find that task capability and privacy leakage are fundamentally coupled: more capable models are systematically leakier, with no model in our evaluation able to decouple the two. Thinking models consistently leak more than their non-thinking counterparts, a pattern we attribute to the extended reasoning surface created by chain-of-thought. Leakage compounds with conversation length, rising up to 3x from 1 to 6 turns. Our results suggest that the coupling between task capability and privacy leakage is not an artifact of misconfiguration but a structural feature of current agentic systems.
• Abstract（参考訳）: LLMエージェントは企業環境においてますます高度に展開されているため、エージェント対話における機密情報の扱い方を理解することが重要になっている。 このような設定におけるプライバシーの漏洩は、情報フローがそれらが生み出した文脈規範を尊重するかどうかを推論する必要がある。 我々はCIMemoriesをCIMEMORIES DIALOGUEに拡張する。これはコンテキスト積分理論に基づく4,410の2エージェント対話インスタンスのベンチマークである。 このベンチマークを用いて,Qwen3およびLlama 3.1ファミリーの会話長1,6ターンの7つのオープンウェイトモデルを3つのプロンプト条件下で体系的に評価した。 より有能なモデルは、より体系的に漏洩しやすく、我々の評価では、2つのモデルを分離できない。 このパターンは、私たちが考えるチェーン・オブ・ソートによって生み出された、拡張された推論面に起因している。 漏洩化合物は会話の長さを持ち、1ターンから6ターンに最大3倍に上昇する。 この結果から,タスク能力とプライバシリークの結合は,構成ミスではなく,現在のエージェントシステムの構造的特徴であることが示唆された。

関連論文リスト

• MosaicLeaks:Privacy Risks in Querying-in-the-Open for Deep Research Agents [76.60965179634664]
  ディープリサーチエージェントは、プライベートなローカルドキュメントをWeb検索のような外部ツールと組み合わせて、プライバシーリスクを生じさせている。 プライベートなエンタープライズドキュメントとパブリックなWebコーパスをチェーンする1,001のディープリサーチタスクのベンチマークであるMosaicLeaksを紹介します。 私たちは、家族やサイズにわたるモデルが3つのレベルすべてに頻繁にリークしていることに気付きました。
  論文  参考訳（メタデータ） (2026-05-29T01:44:35Z)
• From Facts to Insights: A Persona-Driven Dual Memory Framework and Dataset for Role-Playing Agents [50.66268133366637]
  現在のシステムはペルソナに依存しない要約に依存しており、ペルソナ固有の解釈なしで事実を記録する。 RoleMemoは4つの推論タスクを備えたデータセットで、実際の断片をペルソナを通して解釈して正しい回答を得る必要がある。 本稿では,記憶を2つのストリームに分解するDualMemを提案する。
  論文  参考訳（メタデータ） (2026-05-25T10:48:24Z)
• AgentCollabBench: Diagnosing When Good Agents Make Bad Collaborators [0.0]
  AgentCollabBenchは、ソフトウェアエンジニアリング、DevOps、データエンジニアリングにまたがる900の人為的なタスクの診断ベンチマークです。 各タスクは、4つの行動リスクのうちの1つを分離する。 GPT 4.1 mini, Gemini 2.5 Flash Lite, Qwen-3.5-35B-A3B, Llama 3.1 8B の4つの近代LCMの評価を行った。 通信トポロジは、マルチホップ情報サバイバルにおけるばらつきの7-40%を説明する主要なリスクファクターとして現れる。
  論文  参考訳（メタデータ） (2026-05-09T03:35:09Z)
• Beyond Refusal: Probing the Limits of Agentic Self-Correction for Semantic Sensitive Information [9.845529341562099]
  SemSIEdit(セムSIEdit)は、エージェント的「編集者」が、物語の流れを保存するために、センシティブなスパンを反復的に批評し書き直す、推論時フレームワークである。 我々の分析によると、プライバシ・ユーティリティ・フロンティアは、このエージェントの書き換えによってリークが34.6%減少し、限界効用損失は9.8%である。
  論文  参考訳（メタデータ） (2026-02-25T02:09:23Z)
• CIMemories: A Compositional Benchmark for Contextual Integrity of Persistent Memory in LLMs [62.116710797795314]
  大規模言語モデル(LLM)は、パーソナライゼーションとタスクパフォーマンスを向上させるために、過去のインタラクションから永続的なメモリを使用することが多い。 タスクコンテキストに基づいて,LLMがメモリからの情報フローを適切に制御するかどうかを評価するベンチマークであるCIMemoriesを提案する。
  論文  参考訳（メタデータ） (2025-11-18T21:51:23Z)
• Evaluating Language Model Reasoning about Confidential Information [95.64687778185703]
  言語モデルが文脈的堅牢性を示すか、文脈依存型安全仕様に準拠する能力を示すかを検討する。 我々は,ユーザ要求がいつ承認されたか,言語モデルが正しく判断できるかどうかを測定するベンチマーク(PasswordEval)を開発した。 現在のオープンソースとクローズドソースのモデルでは、一見単純な作業に苦労しています。
  論文  参考訳（メタデータ） (2025-08-27T15:39:46Z)
• MIRROR: Modular Internal Processing for Personalized Safety in LLM Dialogue [0.0]
  大規模言語モデルは、ユーザ固有の安全コンテキストを無視して、個人のマルチターン対話において有害なレコメンデーションを生成する。 MIRROR(Modular production- focused architecture)は、永続的、バウンドされた内部状態を通じてこれらの障害を防止するモジュール型アーキテクチャである。
  論文  参考訳（メタデータ） (2025-05-31T07:17:48Z)
• Frontier Models are Capable of In-context Scheming [41.30527987937867]
  安全上の懸念の1つは、AIエージェントが間違った目標を隠蔽し、真の能力と目的を隠蔽する可能性があることである。 モデルが目標を追求するように指示される6つのエージェント評価スイート上でフロンティアモデルを評価する。 o1、Claude 3.5 Sonnet、Claude 3 Opus、Gemini 1.5 Pro、Llama 3.1 405Bは全てコンテキスト内スケジューリング機能を示している。
  論文  参考訳（メタデータ） (2024-12-06T12:09:50Z)
• Can LLMs Keep a Secret? Testing Privacy Implications of Language Models via Contextual Integrity Theory [82.7042006247124]
  私たちは、最も有能なAIモデルでさえ、人間がそれぞれ39%と57%の確率で、プライベートな情報を公開していることを示しています。 我々の研究は、推論と心の理論に基づいて、新しい推論時プライバシー保護アプローチを即時に探求する必要性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2023-10-27T04:15:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。