論文の概要: Generative Model Inversion Through the Lens of the Manifold Hypothesis

• arxiv url: http://arxiv.org/abs/2509.20177v1
• Date: Wed, 24 Sep 2025 14:39:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-25 20:53:19.853343
• Title: Generative Model Inversion Through the Lens of the Manifold Hypothesis
• Title（参考訳）: マニフォールド仮説のレンズによる生成モデルインバージョン
• Authors: Xiong Peng, Bo Han, Fengfei Yu, Tongliang Liu, Feng Liu, Mingyuan Zhou,
• Abstract要約: モデル反転攻撃(MIA)は、訓練されたモデルからクラス表現型サンプルを再構成することを目的としている。 最近の生成的MIAは、生成的敵ネットワークを使用して、反転過程を導く画像の事前学習を行う。
• 参考スコア（独自算出の注目度）: 98.37040155914595
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Model inversion attacks (MIAs) aim to reconstruct class-representative samples from trained models. Recent generative MIAs utilize generative adversarial networks to learn image priors that guide the inversion process, yielding reconstructions with high visual quality and strong fidelity to the private training data. To explore the reason behind their effectiveness, we begin by examining the gradients of inversion loss with respect to synthetic inputs, and find that these gradients are surprisingly noisy. Further analysis reveals that generative inversion implicitly denoises these gradients by projecting them onto the tangent space of the generator manifold, filtering out off-manifold components while preserving informative directions aligned with the manifold. Our empirical measurements show that, in models trained with standard supervision, loss gradients often exhibit large angular deviations from the data manifold, indicating poor alignment with class-relevant directions. This observation motivates our central hypothesis: models become more vulnerable to MIAs when their loss gradients align more closely with the generator manifold. We validate this hypothesis by designing a novel training objective that explicitly promotes such alignment. Building on this insight, we further introduce a training-free approach to enhance gradient-manifold alignment during inversion, leading to consistent improvements over state-of-the-art generative MIAs.
• Abstract（参考訳）: モデル反転攻撃(MIA)は、訓練されたモデルからクラス表現型サンプルを再構成することを目的としている。 近年のMIAは、生成的対向ネットワークを利用して、逆転過程を導く画像の事前学習を行い、高い視覚的品質と強い忠実さで、プライベートトレーニングデータに再構成をもたらす。 これらの効果の背景にある理由を探るため、まず、合成入力に対する反転損失の勾配を調べ、これらの勾配が驚くほどノイズであることを示す。 さらなる解析により、生成的逆転は、これらの勾配を生成多様体の接空間に射影し、多様体に整列した情報的方向を保ちながら、非多様体成分をフィルタリングすることによって暗黙的に無視することが明らかとなる。 実験により、標準監督法で訓練されたモデルでは、損失勾配はデータ多様体からの大きな角偏差を示し、クラス関連方向との整合性が低いことを示している。 モデルは、損失勾配がジェネレータ多様体とより密接に一致するときに、MIAに対してより脆弱になる。 このようなアライメントを明確に促進する新たなトレーニング目標を設計することで、この仮説を検証する。 この知見に基づいて、インバージョン中の勾配行列アライメントを強化するためのトレーニング不要なアプローチを導入し、最先端のMIAに対して一貫した改善をもたらす。

関連論文リスト

• Sparsity-Driven Parallel Imaging Consistency for Improved Self-Supervised MRI Reconstruction [2.8237889121096034]
  本稿では,PD-DLネットワークを慎重に設計した摂動を用いてトレーニングする方法を提案する。 提案手法は,アーティファクトのエイリアスを効果的に低減し,高加速速度での雑音増幅を緩和することを示す。
  論文  参考訳（メタデータ） (2025-05-30T02:11:25Z)
• One-for-More: Continual Diffusion Model for Anomaly Detection [63.50488826645681]
  異常検出法は拡散モデルを用いて任意の異常画像が与えられたときの正常サンプルの生成または再構成を行う。 われわれは,拡散モデルが「重度忠実幻覚」と「破滅的な忘れ」に悩まされていることを発見した。 本研究では,安定な連続学習を実現するために勾配予測を用いた連続拡散モデルを提案する。
  論文  参考訳（メタデータ） (2025-02-27T07:47:27Z)
• Manifold Integrated Gradients: Riemannian Geometry for Feature Attribution [8.107199775668942]
  Integrated Gradients (IG)は、ブラックボックス深層学習モデルの一般的な特徴属性法である。 我々は、IGに関連する2つの主要な課題に対処する。ノイズの多い特徴可視化の生成と、敵の帰属攻撃に対する脆弱性である。 提案手法は,データ多様体の内在的幾何とより密接に関連し,経路に基づく特徴属性の適応を伴う。
  論文  参考訳（メタデータ） (2024-05-16T04:13:17Z)
• Minusformer: Improving Time Series Forecasting by Progressively Learning Residuals [14.741951369068877]
  ユビキタス時系列(TS)予測モデルでは,過度なオーバーフィッティングが生じる傾向にある。 本稿では,深層的なブースティング・アンサンブル学習手法である二重ストリーム・サブトラクション機構を提案する。 提案手法は既存の最先端手法よりも優れており,各データセットの平均性能は11.9%向上した。
  論文  参考訳（メタデータ） (2024-02-04T03:54:31Z)
• Low-rank Tensor Assisted K-space Generative Model for Parallel Imaging Reconstruction [14.438899814473446]
  並列画像再構成のための低ランクテンソル支援k空間生成モデル(LR-KGM)を提案する。 これは、学習のための元の事前情報を高次元の事前情報に変換することを意味する。 実験により, LR-KGM法は高い性能を示した。
  論文  参考訳（メタデータ） (2022-12-11T13:34:43Z)
• Self-Supervised Training with Autoencoders for Visual Anomaly Detection [61.62861063776813]
  我々は, 正規サンプルの分布を低次元多様体で支持する異常検出において, 特定のユースケースに焦点を当てた。 我々は、訓練中に識別情報を活用する自己指導型学習体制に適応するが、通常の例のサブ多様体に焦点をあてる。 製造領域における視覚異常検出のための挑戦的なベンチマークであるMVTec ADデータセットで、最先端の新たな結果を達成する。
  論文  参考訳（メタデータ） (2022-06-23T14:16:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。