論文の概要: Extraction meets Distillation - cryptanalytic techniques to recover parameters from a Deep Neural Network

• arxiv url: http://arxiv.org/abs/2610.33671v1
• Date: Sat, 24 Oct 2026 13:36:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.418997
• Title: Extraction meets Distillation - cryptanalytic techniques to recover parameters from a Deep Neural Network
• Title（参考訳）: ディープニューラルネットワークからパラメータを抽出する蒸留-暗号解析技術
• Abstract要約: 我々は、暗号解析による重み付け抽出と予測ラベルからの学習を組み合わせることで、完全に接続されたニューラルネットワークの再構築について検討した。 近似プレフィックスによる方向回復の条件付き境界、局所的な距離投票の保存、整列パラメータエラーからの予測変化、独立スコアリングデータによる符号選択を証明した。
• 参考スコア（独自算出の注目度）: 1.5786349113499991
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We study fully connected neural-network reconstruction by combining cryptanalytic weight-direction extraction with learning from predicted labels. We adapt a ReLU extraction implementation to Leaky ReLU, compare sign-search methods, and estimate biases and output layers. We prove conditional bounds for direction recovery with approximate prefixes, preservation of local distance votes, prediction changes from aligned parameter errors, and sign selection with independent scoring data. We also specify exact row restoration and distinguish its guarantee from that of gradient masking. The experiments evaluate assisted extraction, with privileged access to gradients, hidden activations, and victim parameters, followed by label-based reconstruction. Across eight search seeds on the largest synthetic architecture, Leaky ReLU recovers 51--57 neurons in the deepest hidden layer, while ReLU recovers none. This advantage does not hold uniformly across architectures and layers. Removing victim-weight access from the sign walk gives less accurate signs, despite high final prediction agreement. Across 40 seeded runs on the two smallest synthetic victims, agreement on 5,000 inputs excluded from fitting and selection ranges from $0.9890$ to $0.9992$. On two CIFAR-10 victims, the reconstructed models achieve $56.40\%$ and $58.29\%$ agreement and exceed the distillation baseline on three functional metrics. We report label requests separately from privileged access and explain why prediction agreement does not identify network parameters.
• Abstract（参考訳）: 我々は、暗号解析による重み付け抽出と予測ラベルからの学習を組み合わせることで、完全に接続されたニューラルネットワークの再構築について検討した。 我々は、ReLU抽出の実装をLeaky ReLUに適用し、署名探索法を比較し、バイアスと出力層を推定する。 近似プレフィックスによる方向回復の条件付き境界、局所的な距離投票の保存、整列パラメータエラーからの予測変化、独立スコアリングデータによる符号選択を証明した。 また、行の正確な復元を規定し、その保証を勾配マスキングと区別する。 実験では, 補助的抽出を行い, 勾配, 隠れアクティベーション, および被害者パラメータにアクセスし, ラベルに基づく再構成を行った。 最大の合成アーキテクチャ上の8つの探索種のうち、Leaky ReLUは51--57ニューロンを最も深く隠された層に回収する。 この利点は、アーキテクチャやレイヤ全体にわたって均一に保たない。 サインウォークから被害者のウェイトアクセスを除去することは、最終的な予測の合意にもかかわらず、より正確でない兆候を与える。 40回以上のシードが2つの最小の合成犠牲者に対して行われ、5,000回の入賞は入賞料が0.9890ドルから0.9992ドルまで除外された。 CIFAR-10の2人の犠牲者に対して、再建されたモデルは56.40 %$と58.29 %$契約を達成し、3つの機能指標の蒸留基準を超えた。 我々は、特権アクセスからラベル要求を別々に報告し、なぜ予測合意がネットワークパラメータを特定できないのかを説明する。

関連論文リスト

• LEAP: a Latent Embedding Anomaly Patch-Transformer for time-series anomaly detection [0.29829664584116466]
  時系列異常検出は、再構成に基づくニューラル検出器が支配する。 最近の大規模なベンチマークでは、キュレートされたデータでは、精巧な深度検出器が単純な統計ベースラインを超えることはめったにない。 マスク付き予測と潜在表現に基づく異常証拠を組み合わせたLEAP(Latent Embedding Anomaly Patch-Transformer)を提案する。
  論文  参考訳（メタデータ） (2026-10-26T10:44:28Z)
• Consistency Is the Attack Surface: Detecting Coordinated Retrieval Poisoning with Embedding Geometry [6.5944301142591675]
  CoordGuard氏はこの構造を、ロバストに正規化されたクエリ重み付き親和性から監査する。 4つの検索シードをポーリングすると、e5 always-filteringは$mathrmASR_mathrmexp$$ 0.167、パラメトリックに未知のクエリでは0.138と13.6ポイントのクリーンコストで減少する。
  論文  参考訳（メタデータ） (2026-10-17T19:29:24Z)
• DRSR: Learning Set-Level Deletion Risk for Efficient Long-Horizon Agents [55.84813053778976]
  ロングホライゾン言語モデルエージェントは、現在の決定と関係が変化する推論の痕跡、ツール交換、観察を蓄積する。 直接セットリスクスコアは、削除セットの選択としてエージェント履歴圧縮リスクを定式化する。 メカニカル・アナリシスとアブリケーションは、決定に制約のある関係、保持されたコンテキスト情報、ペア・インタラクション、および棄権がそれぞれ信頼できるプルーニングに寄与していることを示している。
  論文  参考訳（メタデータ） (2026-09-23T03:06:01Z)
• A Dominant Diffuse Phase in the Sparse Autoencoder Phase Diagram [0.0]
  スパースオートエンコーダ(SAE)は、ニューラルネットワークのアクティベーションから解釈可能な特徴を回復するために、ますます使われるようになっている。 MAIS-O43開放問題では、真の合成辞書の回復が特徴付けの方法を与えるときに特徴付ける制御実験が提案されている。
  論文  参考訳（メタデータ） (2026-09-09T15:13:42Z)
• The "Curse of Knowledge" in LLM Query Simulation: Concept Provenance for Tracing Answer-Side Intrusion [8.706093337738869]
  本稿では,背景支援型,人中心型,人尾型,候補型応答側ゾーンに問合せ概念を割り当てるフレームワークである概念実証を紹介した。 概念証明を100UQV100トピック,8LLM,5プロンプト条件の77,004クエリに適用し,5条件平均以上1.0のクロスパイプトークン-HCIRスピアマンローを求める。 人間の検証は68.2%の精度で緩和され、45.5%の知識侵入と45.0パーセントのデプロイメント侵入という2つのメカニズムが明らかになった。
  論文  参考訳（メタデータ） (2026-08-26T00:06:31Z)
• Now You (Still) See Me: Detecting Evasive Steganographic Payloads in LLMs [52.149036302760386]
  大規模な言語モデルは、プロンプトによって引き起こされるシークレットを、流動的で良心的な出力にエンコードするように微調整することができる。 近年の研究では、内部の活性化から秘密を回収する線形プローブによる検出を提案する。 この防御は体系的に回避できるが,対象とするデータレベルの介入によって検出性が回復可能であることを示す。
  論文  参考訳（メタデータ） (2026-06-08T12:27:11Z)
• Toward Efficient Membership Inference Attacks against Federated Large Language Models: A Projection Residual Approach [44.738736515079346]
  Federated Large Language Models (FedLLMs) は、複数のパーティが生データを共有することなく、協調的にLLMを微調整することができる。 FedLLMsの特異な性質、すなわち、巨大なパラメータスケール、急速な収束、スパースな非直交勾配は、既存のMIAsを非効率にする。 提案するProjResは,FedLLMsに適したプロジェクション残差型受動MIAである。
  論文  参考訳（メタデータ） (2026-04-23T01:44:04Z)
• Partial Number Theoretic Transform Masking in Post Quantum Cryptography Hardware: A Security Margin Analysis [0.0]
  ML-DSAとML-KEMのハードウェアアクセラレータAdams Bridgeは、Inverse Number Theoretic Transformレイヤの1をマスクし、残りの部分はシャッフルに頼っている。 著者らは,信頼度の高い7つの分析トラックをまたいだサイドチャネル文学に対するこれらの主張を,信頼性の高い証拠を用いて評価した。
  論文  参考訳（メタデータ） (2026-04-04T17:38:34Z)
• Eigen-1: Adaptive Multi-Agent Refinement with Monitor-Based RAG for Scientific Reasoning [53.45095336430027]
  暗黙的な検索と構造化された協調を組み合わせた統合フレームワークを開発する。 Humanity's Last Exam (HLE) Bio/Chem Goldでは,48.3%の精度を実現している。 SuperGPQAとTRQAの結果はドメイン間の堅牢性を確認した。
  論文  参考訳（メタデータ） (2025-09-25T14:05:55Z)
• BURN: Backdoor Unlearning via Adversarial Boundary Analysis [73.14147934175604]
  Backdoor Unlearningは、モデル本来の機能を保持しながら、バックドア関連の情報を削除することを目的としている。 本稿では, 偽相関疎結合, プログレッシブデータリファインメント, モデル浄化を統合した新しい防御フレームワーク, BURNによるバックドア・アンラーニングを提案する。
  論文  参考訳（メタデータ） (2025-07-14T17:13:06Z)
• Lazy Layers to Make Fine-Tuned Diffusion Models More Traceable [70.77600345240867]
  新たな任意の任意配置(AIAO)戦略は、微調整による除去に耐性を持たせる。 拡散モデルの入力/出力空間のバックドアを設計する既存の手法とは異なり,本手法では,サンプルサブパスの特徴空間にバックドアを埋め込む方法を提案する。 MS-COCO,AFHQ,LSUN,CUB-200,DreamBoothの各データセットに関する実証研究により,AIAOの堅牢性が確認された。
  論文  参考訳（メタデータ） (2024-05-01T12:03:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。