論文の概要: Defense against Unauthorized Distillation in Image Restoration via Feature Space Perturbation
- arxiv url: http://arxiv.org/abs/2510.08925v1
- Date: Fri, 10 Oct 2025 02:14:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-14 00:38:48.011092
- Title: Defense against Unauthorized Distillation in Image Restoration via Feature Space Perturbation
- Title(参考訳): 特徴空間摂動による画像修復における無許可蒸留対策
- Abstract要約: 適応特異値摂動(Adaptive Singular Value Perturbation、ASVP)は、画像復元モデルに適したランタイムディフェンスである。
これはトップク特異値を増幅し、構造化された高周波摂動を注入し、蒸留に必要なアライメントを乱す。
実験の結果、ASVPは生徒のPSNRを最大4dB減らし、SSIMを60-75%減らし、教師のパフォーマンスには何の影響も与えないことがわかった。
- 参考スコア(独自算出の注目度): 15.362169797479146
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Knowledge distillation (KD) attacks pose a significant threat to deep model intellectual property by enabling adversaries to train student networks using a teacher model's outputs. While recent defenses in image classification have successfully disrupted KD by perturbing output probabilities, extending these methods to image restoration is difficult. Unlike classification, restoration is a generative task with continuous, high-dimensional outputs that depend on spatial coherence and fine details. Minor perturbations are often insufficient, as students can still learn the underlying mapping.To address this, we propose Adaptive Singular Value Perturbation (ASVP), a runtime defense tailored for image restoration models. ASVP operates on internal feature maps of the teacher using singular value decomposition (SVD). It amplifies the topk singular values to inject structured, high-frequency perturbations, disrupting the alignment needed for distillation. This hinders student learning while preserving the teacher's output quality.We evaluate ASVP across five image restoration tasks: super-resolution, low-light enhancement, underwater enhancement, dehazing, and deraining. Experiments show ASVP reduces student PSNR by up to 4 dB and SSIM by 60-75%, with negligible impact on the teacher's performance. Compared to prior methods, ASVP offers a stronger and more consistent defense.Our approach provides a practical solution to protect open-source restoration models from unauthorized knowledge distillation.
- Abstract(参考訳): 知識蒸留(KD)攻撃は、教師モデルの出力を用いて、敵対者が学生ネットワークを訓練できるようにすることによって、知的財産の深いモデルに重大な脅威をもたらす。
画像分類における最近の防御は、出力確率の摂動によってKDを乱すことに成功したが、これらの手法を画像復元に拡張することは困難である。
分類とは異なり、復元は空間コヒーレンスと細部に依存する連続的で高次元の出力を持つ生成タスクである。
画像復元モデルに適したアダプティブ特異値摂動(ASVP)を提案する。
ASVPは特異値分解(SVD)を使用して教師の内部特徴写像を操作する。
これはトップク特異値を増幅し、構造化された高周波摂動を注入し、蒸留に必要なアライメントを乱す。
これにより,教師の出力品質を保ちながら生徒の学習を阻害し,超解像,低照度向上,水中強化,脱ハジング,デラミニングの5つのイメージ復元タスクにおいてASVPを評価した。
実験の結果、ASVPは生徒のPSNRを最大4dB減らし、SSIMを60-75%減らし、教師のパフォーマンスには何の影響も与えないことがわかった。
従来の手法と比較して、ASVPはより強力で一貫性のある防御を提供しており、我々のアプローチは、オープンソースの復元モデルを無許可の知識蒸留から保護するための実践的な解決策を提供する。
関連論文リスト
- Bypassing Copyright Protection in Diffusion-based Customization via Two-Stage Latent Feature Optimization [51.33055188976282]
敵対的攻撃は 個人化された画像生成において 悪意のあるコンテンツの偽造を防ぐ 防衛戦略として浮上した
本稿では,2段階遅延特徴最適化 (TS-LFO) を導入する。
広範な実験により、TS-LFOは、最先端のSOTA著作権防衛を一貫して回避し、DiffPure、GrIDPure、IMPRESSなどのSOTA著作権攻撃より優れていることが示されている。
論文 参考訳(メタデータ) (2026-06-06T07:59:08Z) - The Distillation Game: Adaptive Attacks & Efficient Defenses [40.56416448815563]
蒸留攻撃はモデルプロバイダのデプロイメントトレードオフを生み出す。
実用性に制約のある教師と適応的な学生とのミニマックスゲームを通して、このトレードオフを研究する。
以上の結果から, 強い蒸留は止まらないことが示唆された。
論文 参考訳(メタデータ) (2026-05-21T17:09:21Z) - Distillation Traps and Guards: A Calibration Knob for LLM Distillability [54.90137955363471]
そこで本研究では,教師の蒸留性を制御するためのポストホック校正法を提案する。
我々の目標は、タスクユーティリティ、KLアンカー、およびクロストケナイザーキャリブレーション報酬を組み合わせることである。
実験により、蒸留可能な教師から蒸留した学生は、SFTおよびKDベースラインを上回っていることが示された。
論文 参考訳(メタデータ) (2026-04-21T01:22:35Z) - Active Adversarial Noise Suppression for Image Forgery Localization [56.98050814363447]
本稿では、敵騒音の攻撃効果を抑制するために、防御的摂動を発生させる敵騒音抑制モジュール(ANSM)を提案する。
我々の知る限りでは、画像フォージェリローカライゼーションタスクにおける敵対的防御の報告としてはこれが初めてである。
論文 参考訳(メタデータ) (2025-06-15T14:53:27Z) - Knowledge Distillation for Image Restoration : Simultaneous Learning from Degraded and Clean Images [0.0]
画像復元作業におけるモデル圧縮に適した同時学習知識蒸留(SLKD)フレームワークを提案する。
SLKDは2つの異なる学習戦略:分解除去学習(DRL)と画像再構成学習(IRL)を同時に採用している。
5つのデータセットと3つのタスクにわたる実験結果から、SLKDは強力な画像復元性能を維持しながら、FLOPとパラメータの大幅な削減を実現していることが示された。
論文 参考訳(メタデータ) (2025-01-16T03:35:23Z) - Dynamic Contrastive Knowledge Distillation for Efficient Image Restoration [17.27061613884289]
画像復元のための動的コントラスト知識蒸留(DCKD)フレームワークを提案する。
具体的には,学生の学習状態を知覚するために,動的コントラスト正規化を導入する。
また,教師モデルと学生モデルの画素レベルのカテゴリ分布を抽出・調整する分布マッピングモジュールを提案する。
論文 参考訳(メタデータ) (2024-12-12T05:01:17Z) - CleanerCLIP: Fine-grained Counterfactual Semantic Augmentation for Backdoor Defense in Contrastive Learning [53.766434746801366]
バックドアトリガの特徴的接続を遮断するための細粒な textbfText textbfAlignment textbfCleaner (TA-Cleaner) を提案する。
TA-Cleanerは、ファインタニングベースの防御技術の中で最先端の防御性を達成している。
論文 参考訳(メタデータ) (2024-09-26T07:35:23Z) - Rethinking and Defending Protective Perturbation in Personalized Diffusion Models [21.30373461975769]
パーソナライズされた拡散モデル(PDM)の微調整過程について,ショートカット学習のレンズを用いて検討した。
PDMは小さな逆境の摂動に影響を受けやすいため、破損したデータセットを微調整すると著しく劣化する。
本稿では,データ浄化と対照的なデカップリング学習を含むシステム防衛フレームワークを提案する。
論文 参考訳(メタデータ) (2024-06-27T07:14:14Z) - Efficient Degradation-aware Any Image Restoration [83.92870105933679]
我々は,低ランク体制下での学習者(DaLe)を用いた効率的なオールインワン画像復元システムである textitDaAIR を提案する。
モデルキャパシティを入力劣化に動的に割り当てることにより、総合学習と特定の学習を統合した効率的な復調器を実現する。
論文 参考訳(メタデータ) (2024-05-24T11:53:27Z) - Boosting Image Restoration via Priors from Pre-trained Models [54.83907596825985]
我々は、OSFによるターゲット復元ネットワークの復元結果を改善するために、Pre-Train-Guided Refinement Module (PTG-RM)と呼ばれる軽量モジュールを学習する。
PTG-RMは、低照度強化、デラリニング、デブロアリング、デノナイジングなど、様々なタスクにおける様々なモデルの復元性能を効果的に向上させる。
論文 参考訳(メタデータ) (2024-03-11T15:11:57Z) - Adversarial Sparse Teacher: Defense Against Distillation-Based Model Stealing Attacks Using Adversarial Examples [2.0257616108612373]
対人スパース教師 (AST) は蒸留モデル盗難攻撃に対する堅牢な防御方法である。
提案手法は, 逆例を用いて教師モデルを訓練し, スパースロジット応答を生成し, 出力分布のエントロピーを増大させる。
論文 参考訳(メタデータ) (2024-03-08T09:43:27Z) - Distilling Adversarial Robustness Using Heterogeneous Teachers [9.404102810698202]
頑健さは 逆行訓練を受けた教師から 知識蒸留を用いて 生徒モデルに移行できる
異種教員を用いた強靭性を蒸留することにより、敵攻撃に対する防御体制を構築した。
ホワイトボックスとブラックボックスの両方のシナリオにおける分類タスクの実験は、DARHTが最先端のクリーンで堅牢な精度を達成することを示した。
論文 参考訳(メタデータ) (2024-02-23T19:55:13Z) - Learning from History: Task-agnostic Model Contrastive Learning for
Image Restoration [79.04007257606862]
本稿では,対象モデル自体から負のサンプルを動的に生成する「歴史からの学習」という革新的な手法を提案する。
我々のアプローチはMCLIR(Model Contrastive Learning for Image Restoration)と呼ばれ、遅延モデルを負のモデルとして再定義し、多様な画像復元タスクと互換性を持たせる。
論文 参考訳(メタデータ) (2023-09-12T07:50:54Z) - Isolation and Induction: Training Robust Deep Neural Networks against
Model Stealing Attacks [51.51023951695014]
既存のモデル盗難防衛は、被害者の後部確率に偽りの摂動を加え、攻撃者を誤解させる。
本稿では,モデルステルス防衛のための新規かつ効果的なトレーニングフレームワークである分離誘導(InI)を提案する。
モデルの精度を損なうモデル予測に摂動を加えるのとは対照的に、我々はモデルを訓練して、盗むクエリに対して非形式的なアウトプットを生成する。
論文 参考訳(メタデータ) (2023-08-02T05:54:01Z) - Backdoor Attacks against Transfer Learning with Pre-trained Deep
Learning Models [23.48763375455514]
転送学習は、精度の高いTextitStudentモデルの実現可能性と高速なカスタマイズのための効果的なソリューションを提供する。
多くの事前訓練された教師モデルは公開されており、公開プラットフォームによって維持されており、バックドア攻撃に対する脆弱性が増大している。
本研究では,教師の知識を活かした画像データと時系列データの両方で学習タスクを伝達するバックドアの脅威を実証する。
論文 参考訳(メタデータ) (2020-01-10T01:31:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。