論文の概要: Semantics-Preserved Distortion for Personal Privacy Protection in Information Management

• arxiv url: http://arxiv.org/abs/2201.00965v3
• Date: Mon, 8 Jul 2024 21:20:21 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-11 00:57:55.822342
• Title: Semantics-Preserved Distortion for Personal Privacy Protection in Information Management
• Title（参考訳）: 情報管理における個人情報保護のためのセマンティックス保存歪み
• Authors: Jiajia Li, Lu Yang, Letian Peng, Shitou Zhang, Ping Wang, Zuchao Li, Hai Zhao,
• Abstract要約: 本稿では,意味的整合性を維持しつつテキストを歪ませる言語学的アプローチを提案する。 本稿では, 意味保存歪みの枠組みとして, 生成的アプローチと置換的アプローチの2つを提示する。 また、特定の医療情報管理シナリオにおけるプライバシ保護についても検討し、機密データの記憶を効果的に制限していることを示す。
• 参考スコア（独自算出の注目度）: 65.08939490413037
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In recent years, machine learning - particularly deep learning - has significantly impacted the field of information management. While several strategies have been proposed to restrict models from learning and memorizing sensitive information from raw texts, this paper suggests a more linguistically-grounded approach to distort texts while maintaining semantic integrity. To this end, we leverage Neighboring Distribution Divergence, a novel metric to assess the preservation of semantic meaning during distortion. Building on this metric, we present two distinct frameworks for semantic-preserving distortion: a generative approach and a substitutive approach. Our evaluations across various tasks, including named entity recognition, constituency parsing, and machine reading comprehension, affirm the plausibility and efficacy of our distortion technique in personal privacy protection. We also test our method against attribute attacks in three privacy-focused assignments within the NLP domain, and the findings underscore the simplicity and efficacy of our data-based improvement approach over structural improvement approaches. Moreover, we explore privacy protection in a specific medical information management scenario, showing our method effectively limits sensitive data memorization, underscoring its practicality.
• Abstract（参考訳）: 近年、機械学習(特にディープラーニング)は情報管理の分野に大きな影響を与えている。 原文からのセンシティブな情報の学習や記憶を抑えるために,いくつかの手法が提案されているが,本論文では,意味的整合性を維持しつつテキストを歪めるための言語学的アプローチを提案する。 この目的のために,歪み中の意味的意味の保存を評価するための新しい尺度であるNighboring Distribution Divergenceを利用する。 本尺度に基づいて, 意味保存歪みの枠組みとして, 生成的アプローチと置換的アプローチの2つを提示する。 個人プライバシ保護における歪み技術の有効性と有効性を確認するため, 名前付きエンティティ認識, 選挙区解析, 機械読取理解など, 様々なタスクに対する評価を行った。 また,NLP領域内のプライバシを重視した3つの課題において,属性攻撃に対して本手法を検証し,構造改善アプローチに対するデータベース改善アプローチの単純さと有効性を明らかにした。 さらに、特定の医療情報管理シナリオにおけるプライバシ保護について検討し、本手法が機密データの記憶を効果的に制限することを示し、その実用性を裏付ける。

関連論文リスト

• Con-ReCall: Detecting Pre-training Data in LLMs via Contrastive Decoding [118.75567341513897]
  既存のメソッドは通常、ターゲットテキストを分離して分析するか、非メンバーコンテキストでのみ分析する。 Con-ReCallは、メンバと非メンバのコンテキストによって誘導される非対称な分布シフトを利用する新しいアプローチである。
  論文  参考訳（メタデータ） (2024-09-05T09:10:38Z)
• Analyzing Inference Privacy Risks Through Gradients in Machine Learning [17.2657358645072]
  本稿では,属性,プロパティ,配布,ユーザ開示など幅広い攻撃を対象とするゲームベースの統合フレームワークを提案する。 本結果は,分散学習における推論攻撃に対するプライバシを実現するために,データ集約のみを頼りにすることの有効性を示した。
  論文  参考訳（メタデータ） (2024-08-29T21:21:53Z)
• MaSS: Multi-attribute Selective Suppression for Utility-preserving Data Transformation from an Information-theoretic Perspective [10.009178591853058]
  本稿では,このユーティリティ保護プライバシ保護問題に対する情報理論の形式的定義を提案する。 我々は、ターゲットデータセットからセンシティブな属性を抑えることができるデータ駆動学習可能なデータ変換フレームワークを設計する。 その結果,様々な構成下での手法の有効性と一般化性を示した。
  論文  参考訳（メタデータ） (2024-05-23T18:35:46Z)
• PrivacyMind: Large Language Models Can Be Contextual Privacy Protection Learners [81.571305826793]
  コンテキストプライバシ保護言語モデル(PrivacyMind)を紹介する。 我々の研究はモデル設計に関する理論的分析を提供し、様々な手法をベンチマークする。 特に、肯定的な例と否定的な例の両方による命令チューニングは、有望な方法である。
  論文  参考訳（メタデータ） (2023-10-03T22:37:01Z)
• Theoretically Principled Federated Learning for Balancing Privacy and Utility [61.03993520243198]
  モデルパラメータを歪ませることでプライバシを保護する保護機構の一般学習フレームワークを提案する。 フェデレートされた学習における各コミュニケーションラウンドにおいて、各クライアント上の各モデルパラメータに対して、パーソナライズされたユーティリティプライバシトレードオフを実現することができる。
  論文  参考訳（メタデータ） (2023-05-24T13:44:02Z)
• In and Out-of-Domain Text Adversarial Robustness via Label Smoothing [64.66809713499576]
  多様なNLPタスクの基本モデルにおいて,ラベルの平滑化戦略によって提供される対角的ロバスト性について検討する。 実験の結果,ラベルのスムース化は,BERTなどの事前学習モデルにおいて,様々な攻撃に対して,逆方向の堅牢性を大幅に向上させることがわかった。 また,予測信頼度とロバスト性の関係を解析し,ラベルの平滑化が敵の例に対する過度な信頼誤差を減少させることを示した。
  論文  参考訳（メタデータ） (2022-12-20T14:06:50Z)
• The Limits of Word Level Differential Privacy [30.34805746574316]
  そこで本稿では, パラフレージング用に微調整されたトランスフォーマーベース言語モデルに基づくテキスト匿名化手法を提案する。 提案手法を徹底的な実験により評価し,提案手法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2022-05-02T21:53:10Z)
• Privacy-Preserving Federated Learning on Partitioned Attributes [6.661716208346423]
  フェデレーション学習は、ローカルデータやモデルを公開することなく、協調的なトレーニングを促進する。 ローカルモデルをチューニングし、プライバシー保護された中間表現をリリースする逆学習ベースの手順を紹介します。 精度低下を緩和するために,前方後方分割アルゴリズムに基づく防御法を提案する。
  論文  参考訳（メタデータ） (2021-04-29T14:49:14Z)
• Differentially Private and Fair Deep Learning: A Lagrangian Dual Approach [54.32266555843765]
  本稿では,個人の機密情報のプライバシを保護するとともに,非差別的予測器の学習を可能にするモデルについて検討する。 この方法は、微分プライバシーの概念と、公正性制約を満たすニューラルネットワークの設計にラグランジアン双対性(Lagrangian duality)を用いることに依存している。
  論文  参考訳（メタデータ） (2020-09-26T10:50:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。