論文の概要: Algebraic Cryptanalytic Extraction on Hard-Label Neural Networks
- arxiv url: http://arxiv.org/abs/2608.05736v1
- Date: Thu, 06 Aug 2026 08:19:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-07 17:43:06.727207
- Title: Algebraic Cryptanalytic Extraction on Hard-Label Neural Networks
- Title(参考訳): ハードラベルニューラルネットワークの代数的クリプトアナリシス抽出
- Abstract要約: 本稿では,CNN(Card-label max-pooling Convolutional Neural Networks)に対する最初のモデル抽出攻撃を提案する。
64-64$times$4-10 FCNNとLeNet-5(CNN)の最大プール実験により,ASV法はクラスタリング時間を劇的に削減し,モデル抽出の全体的な効率を向上することを示した。
- 参考スコア(独自算出の注目度): 4.621555619872168
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Although the state-of-the-art neural network model extraction attack in the hard-label setting by Carlini et al. at EUROCRYPT 2025 has polynomial-time complexity in theory, its dual-point clustering relies on singular value decomposition (SVD) with a time complexity of $\mathcal{O}(n^2 \cdot (d^{(k)})^3)$, resulting in huge runtime in practice. To address this computational bottleneck, this work transforms Carlini et al.'s geometric-view hard-label attack into an algebraic framework, and proposes a novel Approximate Signature Vector (ASV) method to achieve efficient parameter extraction on Fully Connected Neural Networks (FCNNs) by leveraging two key observations: high-dimensional random vectors are nearly orthogonal, and neurons in practical DNNs tend to learn disentangled features. The proposed ASV method replaces SVD-based rank checking with simple inner-product operations, reducing the clustering complexity to $\mathcal{O}(n \cdot (d^{(k)})^3)$ on average. Furthermore, this paper presents the first model extraction attack against hard-label max-pooling Convolutional Neural Networks (CNNs) by proposing an advanced ASV method with a kernel-centric clustering scheme instead of the neuron-centric clustering, which fully exploits the property of weight sharing in convolutions and fills the cryptanalysis gap. Experiments on a 64-64$\times$4-10 FCNN and LeNet-5 (CNN) with max pooling demonstrate that our ASV method drastically cuts clustering time, and improves the overall efficiency in the model extraction.
- Abstract(参考訳): EUROCRYPT 2025のCarliiniらによる、最先端のニューラルネットワークモデル抽出攻撃は多項式時間複雑性を持つが、その双対点クラスタリングは特異値分解(SVD)に依存し、時間複雑性は$\mathcal{O}(n^2) \cdot (d^{(k)})^3)$である。
この計算ボトルネックに対処するため、この研究はCarliiniらによる幾何ビューのハードレーベル攻撃を代数的フレームワークに変換し、高次元のランダムベクトルはほぼ直交的であり、実用的なDNNのニューロンは非交叉的特徴を学習する傾向があるという2つの重要な観測を生かして、完全連結ニューラルネットワーク(FCNN)上で効率的なパラメータ抽出を実現するための新しい近似署名ベクトル(ASV)法を提案する。
ASV法はSVDに基づくランクチェックを単純な内積演算に置き換え、クラスタリングの複雑さを平均$\mathcal{O}(n \cdot (d^{(k)})^3)$に下げる。
さらに,ニューロン中心のクラスタリングではなく,カーネル中心のクラスタリング方式を用いて,高度なASV法を提案し,畳み込みにおける重み付け特性を完全に活用し,暗号解析ギャップを埋めることにより,ハードラベル最大プール畳み込み畳み込みニューラルネットワーク(CNN)に対する最初のモデル抽出攻撃を提案する。
64-64$\times$4-10 FCNN と LeNet-5 (CNN) の最大プール実験により,ASV 法はクラスタリング時間を大幅に短縮し,モデル抽出の全体的な効率を向上することを示した。
関連論文リスト
- Efficient Encrypted Computation in Convolutional Spiking Neural Networks with TFHE [1.3047787405425166]
ホモモルフィック暗号化(FHE)は、プライバシ保護計算において重要な技術である。
FHEは、離散整数上で動作し、加算と乗法のみをサポートするため、連続的な非多項式関数と競合する。
TFHEスキーム上に構築されたフレームワークであるFHE-DiCSNNを導入し,SNNの離散特性をセキュアかつ効率的な計算に利用した。
論文 参考訳(メタデータ) (2026-03-25T03:15:59Z) - The Generative Leap: Sharp Sample Complexity for Efficiently Learning Gaussian Multi-Index Models [71.5283441529015]
この研究において、ラベルは(ガウス)$d$-次元入力にのみ依存し、低次元$r = O_d(1)$部分空間への射影を通して得られる。
生成的跳躍指数 $kstar$, [Damian et al.'24] から生成的指数の自然拡張をマルチインデックス設定に導入する。
論文 参考訳(メタデータ) (2025-06-05T18:34:56Z) - Sliding down the stairs: how correlated latent variables accelerate learning with neural networks [8.107431208836426]
入力累積に符号化された方向に沿った潜伏変数間の相関が高次相関から学習を高速化することを示す。
この結果は2層ニューラルネットワークのシミュレーションで確認された。
論文 参考訳(メタデータ) (2024-04-12T17:01:25Z) - The Convex Landscape of Neural Networks: Characterizing Global Optima
and Stationary Points via Lasso Models [75.33431791218302]
ディープニューラルネットワーク(DNN)モデルは、プログラミング目的に使用される。
本稿では,凸型神経回復モデルについて検討する。
定常的非次元目的物はすべて,グローバルサブサンプリング型凸解法プログラムとして特徴付けられることを示す。
また, 静止非次元目的物はすべて, グローバルサブサンプリング型凸解法プログラムとして特徴付けられることを示す。
論文 参考訳(メタデータ) (2023-12-19T23:04:56Z) - Efficient SGD Neural Network Training via Sublinear Activated Neuron
Identification [22.361338848134025]
本稿では,ReLUの活性化をシフトする2層ニューラルネットワークについて,幾何学的探索によるサブ線形時間における活性化ニューロンの同定を可能にする。
また、我々のアルゴリズムは、係数ノルム上界$M$とエラー項$epsilon$の2次ネットワークサイズで$O(M2/epsilon2)$時間に収束できることを示す。
論文 参考訳(メタデータ) (2023-07-13T05:33:44Z) - Efficient Dataset Distillation Using Random Feature Approximation [109.07737733329019]
本稿では,ニューラルネットワークガウス過程(NNGP)カーネルのランダム特徴近似(RFA)を用いた新しいアルゴリズムを提案する。
我々のアルゴリズムは、KIP上で少なくとも100倍のスピードアップを提供し、1つのGPUで実行できる。
RFA蒸留 (RFAD) と呼ばれる本手法は, 大規模データセットの精度において, KIP や他のデータセット凝縮アルゴリズムと競合して動作する。
論文 参考訳(メタデータ) (2022-10-21T15:56:13Z) - On minimizers and convolutional filters: theoretical connections and
applications to genome analysis [2.8282906214258805]
CNNはさまざまなランダムな畳み込みフィルタから始まり、プール操作と組み合わせ、さらに複数のニューラルネットワーク層を追加して、フィルタ自体とシーケンスの分類方法を学ぶ。
実験実験では、この性質はシミュレーションと実際のヒトテロメアの両方において繰り返し領域における密度の低下として現れることがわかった。
我々は、SARS-CoV-2ゲノムから合成短冊を3次元ユークリッド空間に埋め込んだCNNをスクラッチからトレーニングし、読み出し元の線形配列距離を局所的に再カプセル化する。
論文 参考訳(メタデータ) (2021-11-09T19:02:04Z) - Partitioning sparse deep neural networks for scalable training and
inference [8.282177703075453]
最先端のディープニューラルネットワーク(DNN)には、計算とデータ管理の大幅な要件がある。
スパシフィケーション法とプルーニング法は,DNNの大量の接続を除去するのに有効であることが示されている。
その結果得られたスパースネットワークは、ディープラーニングにおけるトレーニングと推論の計算効率をさらに向上するためのユニークな課題を提示する。
論文 参考訳(メタデータ) (2021-04-23T20:05:52Z) - Connecting Weighted Automata, Tensor Networks and Recurrent Neural
Networks through Spectral Learning [58.14930566993063]
我々は、形式言語と言語学からの重み付き有限オートマトン(WFA)、機械学習で使用されるリカレントニューラルネットワーク、テンソルネットワークの3つのモデル間の接続を提示する。
本稿では,連続ベクトル入力の列上に定義された線形2-RNNに対する最初の証明可能な学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-10-19T15:28:00Z) - Generalized Leverage Score Sampling for Neural Networks [82.95180314408205]
レバレッジスコアサンプリング(英: Leverage score sample)は、理論計算機科学に由来する強力な技術である。
本研究では、[Avron, Kapralov, Musco, Musco, Musco, Velingker, Zandieh 17] の結果をより広範なカーネルのクラスに一般化する。
論文 参考訳(メタデータ) (2020-09-21T14:46:01Z) - Measuring Model Complexity of Neural Networks with Curve Activation
Functions [100.98319505253797]
本稿では,線形近似ニューラルネットワーク(LANN)を提案する。
ニューラルネットワークのトレーニングプロセスを実験的に検討し、オーバーフィッティングを検出する。
我々は、$L1$と$L2$正規化がモデルの複雑さの増加を抑制することを発見した。
論文 参考訳(メタデータ) (2020-06-16T07:38:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。