論文の概要: Revisiting Privacy Risks in Quantized Deep Neural Networks

• arxiv url: http://arxiv.org/abs/2610.37488v1
• Date: Tue, 27 Oct 2026 16:14:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-29 04:15:49.276143
• Title: Revisiting Privacy Risks in Quantized Deep Neural Networks
• Title（参考訳）: 量子化ディープニューラルネットワークにおけるプライバシリスクの再検討
• Abstract要約: 量子化DNNにおけるプライバシリスクに関する総合的な実証的研究を初めて提示する。 以上の結果から,量子化モデルは完全精度のモデルと同じくらい脆弱なままであることがわかった。 本研究は、量子化されたDNNのプライバシーに配慮したデプロイのための実用的なガイダンスを提供する。
• 参考スコア（独自算出の注目度）: 18.83915985322584
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Model quantization has become a fundamental technique for enabling the efficient deployment of large-scale deep neural networks (DNNs) in data-intensive applications by reducing model size. Despite its widespread adoption, the impact of quantization on training data privacy --- particularly vulnerability to membership inference attacks (MIAs) --- remains largely unexplored. In this paper, we present the first comprehensive empirical study of privacy risks in quantized DNNs, evaluating eight state-of-the-art MIA attacks across six representative quantization methods. Our results reveal that practical quantization levels (4-8 bits) have limited impact on membership privacy risks, with quantized models remaining largely as vulnerable as their full-precision counterparts. Although aggressive low-bit quantization (e.g., 2-bit) can provide meaningful privacy gains, these benefits come at the cost of substantial utility degradation. To understand the underlying causes of these observations, we systematically analyze how different quantization strategies affect model behaviors and outputs, and how these changes influence privacy vulnerability. Beyond evaluating attack risks, we further investigate whether existing privacy defenses developed for full-precision DNNs can effectively protect QNNs. Our results show that these defenses provide only limited additional privacy protection when applied to quantized models, while further amplifying utility degradation. Our study provides practical guidance for privacy-aware deployment of quantized DNNs and motivates the development of new attack and defense mechanisms for QNNs. Our code and datasets are publicly available at https://github.com/JeffffffFu/Priv-QDNN.
• Abstract（参考訳）: モデル量子化は、モデルサイズを小さくすることで、データ集約型アプリケーションに大規模ディープニューラルネットワーク(DNN)を効率的に展開するための基本的な技術となっている。 広く採用されているにもかかわらず、データプライバシ(特にMIA(メンバシップ推論攻撃)に対する脆弱性)のトレーニングに対する量子化の影響は、まだ明らかになっていない。 本稿では、量子化DNNにおけるプライバシリスクの総合的研究を行い、6つの代表的な量子化手法において8つの最先端MIA攻撃を評価した。 以上の結果から,実際の量子化レベル(4～8ビット)がメンバーシッププライバシのリスクに限られた影響を与えていることが判明した。 積極的な低ビット量子化(例:2ビット)は、有意義なプライバシー向上をもたらすが、これらの利点は、実質的なユーティリティ劣化の犠牲となる。 これらの観察の根本原因を理解するために、異なる量子化戦略がモデル行動や出力にどのように影響するか、そしてこれらの変化がプライバシの脆弱性にどのように影響するかを系統的に分析する。 攻撃リスクの評価以外にも,完全精度DNN向けに開発された既存のプライバシ保護が,QNNを効果的に保護できるかどうかについても検討する。 以上の結果から,これらの防御は,量子化モデルに適用した場合のプライバシー保護を制限し,実用性の向上を図っている。 本研究は、量子化されたDNNのプライバシを意識した展開のための実践的ガイダンスを提供し、QNNの新たな攻撃・防御機構の開発を動機づけるものである。 私たちのコードとデータセットはhttps://github.com/JeffffffFu/Priv-QDNN.comで公開されています。

関連論文リスト

• Neural Gate: Mitigating Privacy Risks in LVLMs via Neuron-Level Gradient Gating [71.55435880263238]
  ニューラルゲート(Neural Gate)は,ニューロンレベルのモデル編集によってプライバシリスクを軽減する新しい手法である。 本手法は,プライバシ関連質問に対する拒否率を高めることにより,モデルのプライバシ保護を改善する。
  論文  参考訳（メタデータ） (2026-03-13T03:03:20Z)
• How Quantization Impacts Privacy Risk on LLMs for Code? [8.607910400111853]
  LLMs4Codeにおいて、量子化がタスク性能とプライバシリスクにどのように影響するかについて、最初の実証的研究を行った。 以上の結果から,量子化がプライバシリスクの低減に大きく影響していることが示唆された。 また、タスクパフォーマンスとプライバシリスクの正の相関を見出した。
  論文  参考訳（メタデータ） (2025-07-31T19:28:31Z)
• On the Privacy-Preserving Properties of Spiking Neural Networks with Unique Surrogate Gradients and Quantization Levels [0.0]
  メンバーシップアタック(MIA)は、トレーニング中に特定のデータポイントが使用されたかどうかを推測するためにモデル応答を利用する。 以前の研究では、スパイキングニューラルネットワーク(SNN)は、人工ニューラルネットワーク(ANN)よりもMIAに対するレジリエンスが高いことが示唆されていた。 このレジリエンスは、モデル応答と個々のトレーニングサンプルの相関を曖昧にする、非微分不可能なアクティベーションと固有精度に由来する。
  論文  参考訳（メタデータ） (2025-02-25T20:14:14Z)
• BDefects4NN: A Backdoor Defect Database for Controlled Localization Studies in Neural Networks [65.666913051617]
  ローカライゼーション研究のための最初のバックドア欠陥データベースであるBDefects4NNを紹介する。 BDefects4NNは、ラベル付きバックドア欠陥DNNを神経細胞の粒度で提供し、欠陥根の原因の制御された局在化研究を可能にする。 本研究は, バックドア欠陥に対して限られた有効性を示す6つの障害局所化基準と2つの欠陥修復手法の評価実験を行った。
  論文  参考訳（メタデータ） (2024-12-01T09:52:48Z)
• Exploring the Robustness and Transferability of Patch-Based Adversarial Attacks in Quantized Neural Networks [3.962831477787584]
  量子ニューラルネットワーク(QNN)は、リソース制約のあるプラットフォームへのディープラーニングモデルの効率的なデプロイにますます利用されている。 量子化はモデルのサイズと計算要求を減少させるが、その逆の堅牢性への影響は依然として不十分である。 局所的で視認性の高い摂動を特徴とするパッチベースの攻撃は、その伝達性とレジリエンスのために重大なセキュリティリスクを生じさせる。
  論文  参考訳（メタデータ） (2024-11-22T07:05:35Z)
• Privacy Backdoors: Enhancing Membership Inference through Poisoning Pre-trained Models [112.48136829374741]
  本稿では、プライバシーバックドア攻撃という新たな脆弱性を明らかにします。 被害者がバックドアモデルに微調整を行った場合、トレーニングデータは通常のモデルに微調整された場合よりも大幅に高い速度でリークされる。 我々の発見は、機械学習コミュニティにおける重要なプライバシー上の懸念を浮き彫りにし、オープンソースの事前訓練モデルの使用における安全性プロトコルの再評価を求めている。
  論文  参考訳（メタデータ） (2024-04-01T16:50:54Z)
• A Survey on Privacy in Graph Neural Networks: Attacks, Preservation, and Applications [76.88662943995641]
  グラフニューラルネットワーク(GNN)は、グラフ構造化データを扱う能力のため、大きな注目を集めている。 この問題に対処するため、研究者らはプライバシー保護のGNNの開発を開始した。 この進歩にもかかわらず、攻撃の包括的概要と、グラフドメインのプライバシを保存するためのテクニックが欠如している。
  論文  参考訳（メタデータ） (2023-08-31T00:31:08Z)
• On the Effects of Quantisation on Model Uncertainty in Bayesian Neural Networks [8.234236473681472]
  決定をしながら不確実性を定量化できることは、モデルが過度に信頼されているかを理解する上で不可欠です。 BNNは、主にメモリと計算コストの増大のために、工業的にはあまり使われていない。 我々は,3種類の量子化BNNについて検討し,幅広い設定で評価し,BNNに適用される一様量子化方式が不確実性評価の質を著しく低下させないことを実証した。
  論文  参考訳（メタデータ） (2021-02-22T14:36:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。