論文の概要: AgentDoxx: Agentic Re-identification of Anonymized Text with Web Search
- arxiv url: http://arxiv.org/abs/2610.05586v1
- Date: Sun, 04 Oct 2026 22:41:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 12:49:29.124916
- Title: AgentDoxx: Agentic Re-identification of Anonymized Text with Web Search
- Title（参考訳）: AgentDoxx: Web検索による匿名テキストのエージェント再識別
- Abstract要約: 本報告では, 身元不明の個人に関する公開情報に基づく822件の総合面接書の評価スイートについて述べる。
そこで本研究では,エージェントの実行中に再識別リスクが分散していることを示す。
- 参考スコア（独自算出の注目度）: 1.8557493454787346
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: As Large Language Models (LLMs) gain tool use capabilities such as web search, they can retrieve and cross-reference public information, creating privacy risks beyond memorization. One manifestation is re-identification: linking an anonymized interview transcript to a named individual. Yet without ground-truth identities, the coverage of such attacks and the protection offered by a defense cannot be reliably measured. We introduce AgentDOXX, an evaluation suite of 822 synthetic interview transcripts grounded in public information about real individuals with known identities. We evaluate fifteen configurations of open-weight and proprietary models, isolating the effect of web search, and analyze their search trajectories to distinguish retrieval-driven from parametric identifications. Ground-truth identities reveal that re-identification risk is distributed across an agent's execution: retrieval and parametric recall both contribute, with open-weight models identifying 15-28% of transcripts without search; identification succeeds in over 88% of cases once the target appears in a retrieved result; entity masking leaves at least one attacker successful on 85.3% of a stratified sample; and privacy instructions suppress naming but not retrieval, with configurations scoring 0% accuracy yet retrieving the subject in up to 62% of transcripts. We further show that observed attack trajectories can provide supervision for localizing identifying spans, offering a path toward attack-informed anonymization.
- Abstract（参考訳）: 大規模言語モデル(LLM)がWeb検索のようなツールの使用能力を獲得すると、公開情報を検索して相互参照することが可能になり、記憶以上のプライバシーリスクが生じる。
匿名化されたインタビューの書き起こしを匿名の個人にリンクすること。
しかし、地道な正体がなければ、そのような攻撃の報道や防衛によって提供された保護は確実に測定できない。
本稿では,実人物に関する公開情報に基づく822件の総合面接書の評価スイートであるAgentDOXXを紹介する。
オープンウェイトモデルとプロプライエタリモデルの15構成を評価し、Web検索の効果を分離し、検索軌跡を分析し、パラメトリック識別と検索駆動の区別を行う。
検索とパラメトリックリコールはどちらも、検索なしで15～28%の転写文字を識別するオープンウェイトモデル、ターゲットが検索結果に現れると88%以上のケースで識別が成功し、エンティティマスキングは85.3%の階層化されたサンプルで少なくとも1人の攻撃者が成功し、プライバシー命令は命名を抑えるが、検索はできない。
さらに,観測された攻撃軌跡は,攻撃情報による匿名化への道筋として,特定スパンの局所化を監督できることを示す。
関連論文リスト
- Breadcrumbing Search Agents [118.20284823674382]
LLMベースの検索エージェントは情報検索タスクに広く利用されているが、外部ツールへの依存度は重大なセキュリティリスクをもたらす。
検索およびページ観察を行うチャネルは脆弱なセキュリティ境界であることを示す。
制約付きツール仲介脅威モデルの下では、クエリ毎に1つのコントロールされた結果のみを追加することで、攻撃の成功を大幅に増加させることができる。
論文 参考訳（メタデータ） (2026-08-05T07:57:27Z) - LLM Anonymization Against Agentic Re-Identification [7.3275169762993215]
AURA (textbf Anonymization with textbfUtility-textbfRetention textbfAdaptation) は LLM ベースのtextitmask-reconstruct フレームワークである。
我々は,Web検索エージェントが行った再識別攻撃と,インタビュアーの注目する事実,コードブックの事実,および共同コンテキストのユーティリティグリッドに基づく実用性評価を用いて,実際のユーザインタビューテキスト上でのAURAを評価する。
論文 参考訳（メタデータ） (2026-05-29T05:12:39Z) - From Weak Cues to Real Identities: Evaluating Inference-Driven De-Anonymization in LLM Agents [15.933650066248648]
LLMをベースとしたエージェントは、散在する個別に特定されていない手がかりから、現実世界のアイデンティティを自律的に再構築することができる。
我々は、この脅威をインセンス駆動リンクとして確立し、3つの設定で体系的に評価する。
Netflix Prizeの設定では、エージェントは79.2%のアイデンティティを再構築し、56.0%の古典的ベースラインを著しく上回っている。
論文 参考訳（メタデータ） (2026-03-19T00:59:26Z) - Beyond Inference Intervention: Identity-Decoupled Diffusion for Face Anonymization [55.29071072675132]
顔の匿名化は、非同一性属性を保持しながら、識別情報を隠蔽することを目的としている。
トレーニング中心の匿名化フレームワークである textbfIDsuperscript2Face を提案する。
IDtextsuperscript2Faceは、視覚的品質、アイデンティティの抑制、ユーティリティ保存において、既存の手法よりも優れていることを示す。
論文 参考訳（メタデータ） (2025-10-28T09:28:12Z) - VoxGuard: Evaluating User and Attribute Privacy in Speech via Membership Inference Attacks [51.68795949691009]
差分プライバシとメンバシップ推論に基づくフレームワークであるVoxGuardを紹介した。
属性については, 匿名化後も, 性別やアクセントをほぼ完全精度で再現できることが示唆された。
以上の結果から,EERはリークを著しく過小評価し,低FPR評価の必要性を浮き彫りにしている。
論文 参考訳（メタデータ） (2025-09-22T20:57:48Z) - Automated Profile Inference with Language Model Agents [67.32226960040514]
自動プロファイル推論(Automatic Profile Inference)と呼ばれる,LLMがオンラインの偽名にもたらす新たな脅威について検討する。
相手は、LDMに対して、疑似プラットフォーム上で公開されているユーザアクティビティから、機密性の高い個人属性を自動的に取り除き、抽出するように指示することができる。
実世界のシナリオにおけるこのような脅威の可能性を評価するために,AutoProfilerという自動プロファイリングフレームワークを導入する。
論文 参考訳（メタデータ） (2025-05-18T13:05:17Z) - GANonymization: A GAN-based Face Anonymization Framework for Preserving
Emotional Expressions [43.017036538109274]
GANonymizationは、表情保存能力を持つ新しい顔匿名化フレームワークである。
提案手法は, 顔の高レベル表現をベースとして, GAN(Generative Adversarial Network)に基づく匿名化バージョンに合成する。
論文 参考訳（メタデータ） (2023-05-03T14:22:48Z) - Unsupervised Text Deidentification [101.2219634341714]
個人識別情報を漏洩する単語を隠蔽する教師なしの識別手法を提案する。
K匿名性に基づくプライバシによって動機づけられた私たちは、最小の再識別ランクを保証するリアクションを生成します。
論文 参考訳（メタデータ） (2022-10-20T18:54:39Z) - Fantômas: Understanding Face Anonymization Reversibility [3.18294468240512]
顔画像は、個人を特定し、それらの個人情報を推測するのに使用できる豊富な情報源である。
このプライバシーリスクを軽減するために、匿名化では、鮮明な画像を変換して機密情報を難読化している。
匿名化画像を実際の入力に類似させることは、匿名化の欠陥を示す最強の指標である。
論文 参考訳（メタデータ） (2022-10-19T15:28:52Z) - No Intruder, no Validity: Evaluation Criteria for Privacy-Preserving
Text Anonymization [0.48733623015338234]
自動テキスト匿名化システムを開発する研究者や実践者は,その評価手法が,個人を再同定から保護するシステムの能力に本当に反映しているかどうかを慎重に評価すべきである。
本稿では,匿名化手法の技術的性能,匿名化による情報損失,不正文書の非匿名化能力を含む評価基準のセットを提案する。
論文 参考訳（メタデータ） (2021-03-16T18:18:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。