論文の概要: Breaking $\mathsf{TraintoDefend}$ via Adaptive Neuron Clustering in Cryptanalytic Model Extraction
- arxiv url: http://arxiv.org/abs/2611.07370v1
- Date: Thu, 05 Nov 2026 03:15:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 21:50:50.498675
- Title: Breaking $\mathsf{TraintoDefend}$ via Adaptive Neuron Clustering in Cryptanalytic Model Extraction
- Title（参考訳）: クリプトアナリシスモデル抽出における適応ニューロンクラスタリングによる$\mathsf{TraintoDefend}$の分解
- Abstract要約: クリプトアナリシスモデル抽出は、ディープラーニングモデルの機密性に根本的な脅威をもたらす。
この増大する脅威に対抗するために、$mathsfTraintoDefend$が、暗号解析抽出に対する最初の専用の防御として提案された。
これは、$mathsfTraintoDefend$の重み-相似性の防御を破るアダプティブクラスタリングルールです。
- 参考スコア（独自算出の注目度）: 15.40293814823587
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Cryptanalytic model extraction poses a fundamental threat to deep learning model confidentiality by enabling precise parameter recovery with theoretical guarantees of functional equivalence. To counter this growing threat, $\mathsf{TraintoDefend}$ (NeurIPS 2025) was proposed as the first dedicated defense against cryptanalytic extraction and remains the only defense believed to be effective to date. It encourages neurons to learn similar weights so that they switch activation states together, making their individual contributions harder to distinguish. However, we notice that neurons with similar weights need not switch activation states together under small perturbations. Instead, weight similarity can cause the original clustering rule to merge signatures from distinct neurons when only a subset of their normalized weight coordinates agree. Motivated by this observation, we introduce $\mathsf{SimBreak}$, an adaptive clustering rule that breaks the weight-similarity defense of $\mathsf{TraintoDefend}$. $\mathsf{SimBreak}$ estimates a relative scale from all jointly observed weight coordinates and uses the same scale to test both weight direction and bias consistency. Across six protected fully connected networks trained on MNIST, $\mathsf{SimBreak}$ raises target layer signature recovery from $0\%$ to $100\%$, with a maximum relative recovery error of $2^{-22.27}$. Our work challenges the use of neuron weight similarity as a sufficient basis for protection and establishes adaptive evaluation as essential to assessing cryptanalytic extraction defenses.
- Abstract（参考訳）: クリプトアナリシスモデル抽出は、機能的等価性の理論的保証を伴う正確なパラメータ回復を可能にすることによって、ディープラーニングモデルの機密性に対する基本的な脅威となる。
この増大する脅威に対抗するために、$\mathsf{TraintoDefend}$ (NeurIPS 2025) は暗号解析抽出に対する最初の専用防衛として提案され、今日まで有効と信じられている唯一の防衛である。
ニューロンも同様の重みを学習し、活性化状態の切り替えを奨励し、個々の寄与を区別しにくくする。
しかし、同様の重みを持つニューロンは、小さな摂動の下で活性化状態を同時に切り替える必要はない。
代わりに、ウェイト類似性は、元のクラスタリング規則が正規化されたウェイト座標のサブセットのみが一致する場合、異なるニューロンからのシグネチャをマージする原因となる。
この観察によって動機づけられた$\mathsf{SimBreak}$は、$\mathsf{TraintoDefend}$の重み-相似防衛を破る適応的クラスタリングルールである。
$\mathsf{SimBreak}$は、共同観測された全ての重み座標から相対スケールを推定し、同じスケールを使用して重み方向とバイアス一貫性の両方をテストする。
MNISTでトレーニングされた6つの保護された完全接続ネットワークの中で、$\mathsf{SimBreak}$はターゲット層シグネチャのリカバリを$0\%$から$100\%$に引き上げ、最大相対リカバリエラーは$2^{-22.27}$である。
我々の研究は、保護のための十分な基盤としてニューロンの重量類似性の使用に挑戦し、暗号解析的抽出防御を評価するのに不可欠な適応的評価を確立する。
関連論文リスト
- Encryptability As a Coordinate Choice: Depth-One Homomorphic Federated Learning of Quantum Neural Networks [4.52362577649972]
暗号化されたトレーニングは、サーバ側の更新を低レベルに保つことに依存します。
暗号化ローテーション更新には1つの乗算レベルがかかることを示す。
また、ノイズ予算のアブレーションは、暗号化ノイズが正規化するという仮説に反することを示す。
論文 参考訳（メタデータ） (2026-09-24T21:53:23Z) - Decoherence as Defence and the Magnitude of Noise Regularisation: A Rigorous N -Qubit Theory of Stochastic Quantum Neural Networks for Adversarially Robust Network Intrusion Detection [0.0]
マスター方程式とそのベクトル化されたリウビリアンによる$N$-qubitの定式化を与える。
エンフェデコヒーレンス・コントラクションの定理、すなわち強度の非分極チャネルを証明します。
このロバスト性は、アタックタイムの収縮ではなく、ノイズの変形したトレーニング境界から生じることを示す。
論文 参考訳（メタデータ） (2026-06-23T07:06:56Z) - How Neural Reward Models Learn Features for Policy Optimization: A Single-Index Analysis [53.063298916923976]
r*(x) = *(langle *, xrangle)$ と $x sim N(0, I_d)$ でガウスの単一インデックスモデルでフィードバックを研究する。
まず、報酬重み付きサンプルから隠れた方向を*$で学習し、次に重み付きリッジ回帰により読み出し層に適合する2段階のニューラル報酬モデルを分析する。
論文 参考訳（メタデータ） (2026-05-23T22:00:38Z) - Spectral Sentinel: Scalable Byzantine-Robust Decentralized Federated Learning via Sketched Random Matrix Theory on Blockchain [0.0]
ビザンチンのクライアントは、不均一な(Non-IID)データの下での濃度勾配を中毒する。
本稿では,ビザンチン検出・集約フレームワークであるSpectral Sentinelを提案する。
Polygonネットワーク上でブロックチェーンを統合することで,完全なシステムを実現しています。
論文 参考訳（メタデータ） (2025-12-14T09:43:03Z) - Sparse Representations Improve Adversarial Robustness of Neural Network Classifiers [0.0]
ディープニューラルネットワークは、画像分類タスクにおいて極めてよく機能するが、慎重に構築された敵の摂動に弱いままである。
この研究は、線形次元の減少を単純なデータ適応型防衛として再考する。
実証的には、プロジェクション後の小さな非線形ネットワークにより、SPCAは強いホワイトボックスとブラックボックス攻撃の下で、PCAよりも常に優雅に低下する。
論文 参考訳（メタデータ） (2025-09-25T13:21:22Z) - Bounding the Width of Neural Networks via Coupled Initialization -- A
Worst Case Analysis [121.9821494461427]
2層ReLUネットワークに必要なニューロン数を著しく削減する方法を示す。
また、事前の作業を改善するための新しい下位境界を証明し、ある仮定の下では、最善を尽くすことができることを証明します。
論文 参考訳（メタデータ） (2022-06-26T06:51:31Z) - Robustness Certificates for Implicit Neural Networks: A Mixed Monotone
Contractive Approach [60.67748036747221]
暗黙のニューラルネットワークは、競合性能とメモリ消費の削減を提供する。
入力逆流の摂動に関して、それらは不安定なままである。
本稿では,暗黙的ニューラルネットワークのロバスト性検証のための理論的および計算的枠組みを提案する。
論文 参考訳（メタデータ） (2021-12-10T03:08:55Z) - Robustness, Privacy, and Generalization of Adversarial Training [84.38148845727446]
本稿では, 対人訓練におけるプライバシ・ロバスト性トレードオフと一般化・ロバスト性トレードオフの確立と定量化を行う。
我々は,差分プライバシの大きさが強固な強度と正の相関を持つ場合,敵対的トレーニングは$(varepsilon,delta)$-differentially privateであることが示される。
我々の一般化境界は、ディープラーニングにおいて大きなパラメータサイズに明示的に依存していない。
論文 参考訳（メタデータ） (2020-12-25T13:35:02Z) - Towards Defending Multiple $\ell_p$-norm Bounded Adversarial
Perturbations via Gated Batch Normalization [120.99395850108422]
既存の敵防衛は、個々の摂動に対するモデル堅牢性を改善するのが一般的である。
最近の手法では、複数の$ell_p$球における敵攻撃に対するモデルロバスト性を改善するが、各摂動型に対するそれらの性能は、まだ十分ではない。
我々は,複数の$ell_pの有界摂動を守るために,摂動不変予測器を逆向きに訓練するGated Batch Normalization (GBN)を提案する。
論文 参考訳（メタデータ） (2020-12-03T02:26:01Z) - Toward Adversarial Robustness via Semi-supervised Robust Training [93.36310070269643]
アドリラルな例は、ディープニューラルネットワーク(DNN)に対する深刻な脅威であることが示されている。
R_stand$ と $R_rob$ の2つの異なるリスクを共同で最小化することで、新しい防御手法であるロバストトレーニング(RT)を提案する。
論文 参考訳（メタデータ） (2020-03-16T02:14:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。