論文の概要: Predicting Privacy Leakage from Weight Spectral Density

• arxiv url: http://arxiv.org/abs/2609.11780v1
• Date: Thu, 10 Sep 2026 16:34:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-11 23:53:35.447819
• Title: Predicting Privacy Leakage from Weight Spectral Density
• Title（参考訳）: 軽量スペクトル密度によるプライバシー漏洩予測
• Abstract要約: メンバーシップ推論攻撃(MIA)は、機械学習モデルのプライバシー開示リスクを監査するために広く利用されている。 現在の最先端の攻撃では、計算に高価なシャドウモデルを訓練する必要があるため、大規模なプライバシー評価は現実的ではない。 重み付き自己正則化フレームワークから得られた安価なスペクトル指標がMIA脆弱性のプロキシとなるかどうかを検討する。
• 参考スコア（独自算出の注目度）: 0.3093890460224435
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Membership inference attacks (MIAs) are widely used to audit the privacy disclosure risk of machine learning models, however current state-of-the-art attacks require training computationally expensive shadow models, making large-scale privacy evaluation impractical. In this work, we investigate whether inexpensive spectral metrics derived from the heavy-tailed self-regularisation framework can serve as proxies for MIA vulnerability. We evaluate several WeightWatcher spectral metrics on image and tabular classification tasks and compare their relationship with MIA privacy leakage against conventional measures of generalisation. Across datasets, stable rank exhibits a strong positive correlation with overall MIA success, while Log alpha-Norm shows a consistent negative correlation with MIA vulnerability at the low false-positive regime. These associations are observed to be stronger than those obtained using the generalisation gap. The results indicate that neural network spectra may contain information about privacy leakage that is not fully captured by conventional measures of overfitting, motivating spectral analysis as a promising direction for scalable privacy auditing.
• Abstract（参考訳）: メンバーシップ推論攻撃(MIA)は機械学習モデルのプライバシー開示リスクの監査に広く使用されているが、現在の最先端攻撃では、計算に高価なシャドウモデルを訓練する必要があるため、大規模なプライバシ評価は実行不可能である。 本研究では,MIA脆弱性のプロキシとして,重み付き自己正則化フレームワークから導出される安価なスペクトル指標が有効かどうかを検討する。 画像および表の分類タスクにおけるWeightWatcherスペクトルの測定値を評価し,MIAのプライバシー漏洩と従来の一般化手法との比較を行った。 データセット全体では、安定したランクは全体のMIA成功と強い正の相関を示す一方、Log alpha-Normは低い偽陽性状態におけるMIA脆弱性と一貫した負の相関を示す。 これらの関連性は、一般化ギャップを用いて得られるものよりも強いことが観察される。 その結果、ニューラルネットワークスペクトルには、従来のオーバーフィット対策によって完全に捉えられていないプライバシー漏洩に関する情報が含まれており、スケーラブルなプライバシー監査のための有望な方向としてスペクトル分析を動機付けている可能性が示唆された。

関連論文リスト

• Privacy, Robustness, and Fairness Trade-offs in Federated Intrusion Detection: Geometric Indistinguishability at the Aggregation Interface [1.3037017215576172]
  フェデレーション学習は、センシティブなトラフィックデータを集中化せずに、プライバシを重視したネットワーク侵入検出を可能にする。 これは3つの競合する要件を同時に満たさなければならない: 公式な差分プライバシー保証、ビザンチンと敵対する参加者への寛容、重度の不均衡な攻撃カテゴリにわたる信頼性のある検出カバレッジ。 本研究では,これらの要求がクラス不均衡なNIDSにおいてどのように相互作用するかを考察し,クライアント更新におけるプライバシーによる分散が,ロバストアグリゲーションの保存を困難にしている状況において,幾何学的不明瞭性を概念レンズとして導入する。
  論文  参考訳（メタデータ） (2026-09-03T06:27:03Z)
• Privacy Vulnerabilities of Attention Layers in Tabular Foundation Models and Protection of High-Risk Queries [12.545534835317481]
  本稿では,アテンション機構によって生成された予測が,効果的なメンバーシップ推論攻撃(MIAs)を可能にする十分な情報を漏らすことを示す。 このリスクを軽減するために、$k$匿名の原則にインスパイアされた推論時防御を導入します。
  論文  参考訳（メタデータ） (2026-06-24T16:42:21Z)
• STAR : Bridging Statistical and Agentic Reasoning for Large Model Performance Prediction [78.0692157478247]
  本稿では,知識駆動型エージェント推論を用いて,データ駆動型静的予測を橋渡しするフレームワークSTARを提案する。 STARはスコアベースとランクベースの両方の基準線を一貫して上回ることを示す。
  論文  参考訳（メタデータ） (2026-02-12T16:30:07Z)
• Noise as a Probe: Membership Inference Attacks on Diffusion Models Leveraging Initial Noise [51.179816451161635]
  拡散モデルは画像生成において顕著な進歩を遂げているが、そのデプロイの増加はプライバシに関する深刻な懸念を引き起こす。 広範に使われているノイズスケジュールは、画像のセマンティック情報を完全に排除することができない。 本稿では,初期雑音に意味情報を注入し,モデル生成結果を解析してメンバーシップを推定する,シンプルで効果的なメンバーシップ推論攻撃を提案する。
  論文  参考訳（メタデータ） (2026-01-29T12:29:01Z)
• What Hard Tokens Reveal: Exploiting Low-confidence Tokens for Membership Inference Attacks against Large Language Models [2.621142288968429]
  メンバーシップ推論攻撃(MIA)は、特定のデータサンプルがモデルトレーニング/ファインチューニングデータセットに含まれるかどうかを判断しようとする。 低信頼(ハード)トークンに対するトークンレベルの確率をキャプチャする新しいメンバシップ推論手法を提案する。 ドメイン固有の医療データセットと汎用ベンチマークの両方の実験では、HT-MIAが7つの最先端MIAベースラインを一貫して上回っていることが示されている。
  論文  参考訳（メタデータ） (2026-01-27T22:31:10Z)
• NeuroFilter: Privacy Guardrails for Conversational LLM Agents [50.75206727081996]
  本研究は,エージェント型大規模言語モデル(LLM)のプライバシを強制する際の計算上の課題に対処する。 NeuroFilterは、標準違反をモデルのアクティベーション空間における単純な方向にマッピングすることで、コンテキスト整合性を運用するガードレールフレームワークである。 7Bから70Bパラメータのモデルをカバーする15万以上のインタラクションに対する包括的な評価は、NeuroFilterの強力なパフォーマンスを示している。
  論文  参考訳（メタデータ） (2026-01-21T05:16:50Z)
• On the MIA Vulnerability Gap Between Private GANs and Diffusion Models [51.53790101362898]
  GAN(Generative Adversarial Networks)と拡散モデルが高品質な画像合成のための主要なアプローチとして登場している。 差分自己生成モデルが直面するプライバシーリスクの統一的および実証的分析について述べる。
  論文  参考訳（メタデータ） (2025-09-03T14:18:22Z)
• Confidence Aware Learning for Reliable Face Anti-spoofing [52.23271636362843]
  本稿では,その能力境界を意識した信頼認識顔アンチスプーフィングモデルを提案する。 各サンプルの予測中にその信頼性を推定する。 実験の結果,提案したCA-FASは予測精度の低いサンプルを効果的に認識できることがわかった。
  論文  参考訳（メタデータ） (2024-11-02T14:29:02Z)
• Noisy Neighbors: Efficient membership inference attacks against LLMs [2.666596421430287]
  本稿では,組込み空間に雑音を付加することにより,対象試料のテクストノイズを発生させる効率的な手法を提案する。 提案手法はシャドウモデルの有効性と密に一致し,実際のプライバシー監査シナリオにおけるユーザビリティを示す。
  論文  参考訳（メタデータ） (2024-06-24T12:02:20Z)
• Impact of Dataset Properties on Membership Inference Vulnerability of Deep Transfer Learning [9.366691198320261]
  メンバーシップ推論攻撃(MIA)は、機械学習モデルの実用的なプライバシをテストするために使用される。 固定された偽陽性率で攻撃者が有利である場合の非DPモデルの脆弱性は、単純な電力法則に従って減少することを示す。
  論文  参考訳（メタデータ） (2024-02-07T14:23:01Z)
• G$^2$uardFL: Safeguarding Federated Learning Against Backdoor Attacks through Attributed Client Graph Clustering [116.4277292854053]
  Federated Learning (FL)は、データ共有なしで協調的なモデルトレーニングを提供する。 FLはバックドア攻撃に弱いため、有害なモデル重みがシステムの整合性を損なう。 本稿では、悪意のあるクライアントの識別を属性グラフクラスタリング問題として再解釈する保護フレームワークであるG$2$uardFLを提案する。
  論文  参考訳（メタデータ） (2023-06-08T07:15:04Z)
• Free Lunch for Generating Effective Outlier Supervision [46.37464572099351]
  本稿では, ほぼ現実的な外乱監視を実現するための超効率的な手法を提案する。 提案したtextttBayesAug は,従来の方式に比べて偽陽性率を 12.50% 以上削減する。
  論文  参考訳（メタデータ） (2023-01-17T01:46:45Z)
• RelaxLoss: Defending Membership Inference Attacks without Losing Utility [68.48117818874155]
  より達成可能な学習目標を持つ緩和された損失に基づく新しい学習フレームワークを提案する。 RelaxLossは、簡単な実装と無視可能なオーバーヘッドのメリットを加えた任意の分類モデルに適用できる。 当社のアプローチはMIAに対するレジリエンスの観点から,常に最先端の防御機構より優れています。
  論文  参考訳（メタデータ） (2022-07-12T19:34:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。