論文の概要: On the Impact of Anonymization on the Performance of Large Language Models
- arxiv url: http://arxiv.org/abs/2609.11335v1
- Date: Thu, 10 Sep 2026 10:12:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-11 23:53:35.302133
- Title: On the Impact of Anonymization on the Performance of Large Language Models
- Title（参考訳）: 匿名化が大規模言語モデルの性能に及ぼす影響について
- Abstract要約: 本稿では,プライバシとパフォーマンスのトレードオフについて,系統的研究を行った。
11の異なるベンチマークで5つの顕著な言語モデルを評価する。
匿名化は一般的に性能を低下させるが、その効果は非常にニュアンスが高い。
- 参考スコア（独自算出の注目度）: 3.812539490062037
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As large language models are increasingly deployed in sensitive domains, anonymizing input data to protect personally identifiable information has become a critical practice. However, the impact of this anonymization on model utility is not well understood. This paper presents a systematic empirical study of the trade-off between privacy and performance. We evaluate five prominent language models across eleven diverse benchmarks, comparing their performance on original versus pseudonymized inputs. Our results reveal that while anonymization generally degrades performance, the effect is highly nuanced. We find that more capable models, such as Qwen2.5-72B and GPT-4o mini, suffer the largest performance drops, suggesting a stronger reliance on specific entity information. The impact is also task-dependent: performance on TruthfulQA improves with anonymization, while retrieval-focused tasks like RGB experience a catastrophic decline. Further experiments show that reversible anonymization techniques that preserve entity uniqueness significantly outperform irreversible ones like redaction, and that explicitly prompting models about anonymization offers no discernible benefit. We conclude that anonymization is not a one-size-fits-all solution and must be co-designed with the model and task in mind to balance privacy and utility effectively. Our findings provide a crucial baseline for developing more robust, privacy-aware AI systems.
- Abstract（参考訳）: 大規模言語モデルがセンシティブなドメインにますます展開されるにつれて、個人識別情報を保護するために入力データを匿名化することが重要なプラクティスとなっている。
しかし、この匿名化がモデルユーティリティに与える影響はよく理解されていない。
本稿では,プライバシとパフォーマンスのトレードオフについて,系統的研究を行った。
我々は11の多様なベンチマークで5つの顕著な言語モデルを評価し、その性能を原語と偽名で比較した。
その結果、匿名化は一般的に性能を低下させるが、その効果は非常にニュアンスが高いことがわかった。
Qwen2.5-72B や GPT-4o mini のようなより有能なモデルが最大の性能低下を被り、特定のエンティティ情報に依存することが示唆されている。
TruthfulQAのパフォーマンスは匿名化によって改善され、RGBのような検索中心のタスクは壊滅的な減少を経験する。
さらなる実験により、エンティティの特異性を保った可逆的な匿名化技術は、リアクションのような不可逆的な手法よりも著しく優れており、匿名化に関するモデルを明確に促すことは、識別可能な利益をもたらすものではないことが示されている。
匿名化は万能のソリューションではなく、プライバシとユーティリティのバランスをとるために、モデルとタスクを念頭に設計する必要がある、と結論付けています。
我々の発見は、より堅牢でプライバシーに配慮したAIシステムを開発するための重要なベースラインを提供する。
関連論文リスト
- Evaluating the Impact of Data Anonymization on Image Retrieval [2.8165396388850112]
2つの公開データセットと内部DOKIQデータセットを用いたCBIR(Content-Based Image Retrieval)に対する匿名化の影響について検討した。
本結果から,匿名化後に最も類似した検索結果を生成するオリジナルデータを用いたモデルに有利な検索バイアスが明らかとなった。
論文 参考訳（メタデータ） (2026-02-23T09:39:06Z) - AgentStealth: Reinforcing Large Language Model for Anonymizing User-generated Text [8.758843436588297]
AgentStealthは、テキスト匿名化のための自己強化言語モデルである。
本手法は, 匿名化の有効性と実用性の両方において, ベースラインよりも優れていることを示す。
当社の軽量設計は、エッジデバイスへの直接的なデプロイをサポートし、クラウド依存や通信ベースのプライバシリスクを回避する。
論文 参考訳（メタデータ） (2025-06-26T02:48:16Z) - Self-Refining Language Model Anonymizers via Adversarial Distillation [48.280759014096354]
本稿では,Self-refining Anonymization with Language Model (SEAL)を紹介する。
SEALは、推論時に外部モデルに頼ることなく効果的な匿名化を行うために、小型言語モデル(SLM)をトレーニングするための新しい蒸留フレームワークである。
合成個人プロファイルとテキストコメントのデータセットであるSynthPAIの実験は、SEALでトレーニングされたSLMが匿名化機能を大幅に改善したことを示す。
論文 参考訳（メタデータ） (2025-06-02T08:21:27Z) - Robust Utility-Preserving Text Anonymization Based on Large Language Models [80.5266278002083]
機密情報を含む匿名化は、幅広いアプリケーションにとって不可欠である。
既存の技術は、大規模言語モデルの再識別能力の新たな課題に直面している。
本稿では,プライバシ評価器,ユーティリティ評価器,最適化コンポーネントの3つの重要なコンポーネントで構成されるフレームワークを提案する。
論文 参考訳（メタデータ） (2024-07-16T14:28:56Z) - Privacy Backdoors: Enhancing Membership Inference through Poisoning Pre-trained Models [112.48136829374741]
本稿では、プライバシーバックドア攻撃という新たな脆弱性を明らかにします。
被害者がバックドアモデルに微調整を行った場合、トレーニングデータは通常のモデルに微調整された場合よりも大幅に高い速度でリークされる。
我々の発見は、機械学習コミュニティにおける重要なプライバシー上の懸念を浮き彫りにし、オープンソースの事前訓練モデルの使用における安全性プロトコルの再評価を求めている。
論文 参考訳（メタデータ） (2024-04-01T16:50:54Z) - Large Language Models are Advanced Anonymizers [2.9373912230684565]
大規模言語モデル(LLM)に関する最近のプライバシー調査では、オンラインテキストから個人データを推測することで、ほぼ人間レベルのパフォーマンスを達成することが示されている。
既存のテキスト匿名化手法は現在、規制要件や敵の脅威に欠けています。
逆LLM推論の面における匿名性を評価するための新しい設定法を提案する。
論文 参考訳（メタデータ） (2024-02-21T14:44:00Z) - Disentangle Before Anonymize: A Two-stage Framework for Attribute-preserved and Occlusion-robust De-identification [55.741525129613535]
匿名化前の混乱」は、新しい二段階フレームワーク(DBAF)である
このフレームワークには、Contrastive Identity Disentanglement (CID)モジュールとKey-authorized Reversible Identity Anonymization (KRIA)モジュールが含まれている。
大規模な実験により,本手法は最先端の非識別手法より優れていることが示された。
論文 参考訳（メタデータ） (2023-11-15T08:59:02Z) - Locally Differentially Private Document Generation Using Zero Shot
Prompting [61.20953109732442]
本稿では,DP-Prompt と呼ばれる局所的に異なるプライベートなメカニズムを提案し,作者の匿名化攻撃に対処する。
DP-PromptをChatGPT(gpt-3.5)のような強力な言語モデルで使用すると、匿名化攻撃の成功率の顕著な低下が観察される。
論文 参考訳（メタデータ） (2023-10-24T18:25:13Z) - PrivacyMind: Large Language Models Can Be Contextual Privacy Protection Learners [81.571305826793]
コンテキストプライバシ保護言語モデル(PrivacyMind)を紹介する。
我々の研究はモデル設計に関する理論的分析を提供し、様々な手法をベンチマークする。
特に、肯定的な例と否定的な例の両方による命令チューニングは、有望な方法である。
論文 参考訳（メタデータ） (2023-10-03T22:37:01Z) - Does Image Anonymization Impact Computer Vision Training? [0.0]
コンピュータビジョンモデルのトレーニングにおける画像匿名化が重要なコンピュータビジョンタスクに与える影響について検討する。
従来の画像の匿名化は、特に全身の匿名化において、最終的なモデルの性能に大きな影響を及ぼす。
現実的な匿名化は、顔匿名化の最小性能低下を反映するこの性能低下を軽減することができる。
論文 参考訳（メタデータ） (2023-06-08T12:02:03Z) - GANonymization: A GAN-based Face Anonymization Framework for Preserving
Emotional Expressions [43.017036538109274]
GANonymizationは、表情保存能力を持つ新しい顔匿名化フレームワークである。
提案手法は, 顔の高レベル表現をベースとして, GAN(Generative Adversarial Network)に基づく匿名化バージョンに合成する。
論文 参考訳（メタデータ） (2023-05-03T14:22:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。