論文の概要: Backdoor Channels Hidden in Latent Space: Cryptographic Undetectability in Modern Neural Networks

• arxiv url: http://arxiv.org/abs/2605.13214v1
• Date: Wed, 13 May 2026 09:06:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-14 23:30:27.933461
• Title: Backdoor Channels Hidden in Latent Space: Cryptographic Undetectability in Modern Neural Networks
• Title（参考訳）: 遅延空間に隠されたバックドアチャネル:現代のニューラルネットワークにおける暗号的不検出性
• Authors: Marte Eggen, Eirik Reiestad, Kristian Gjøsteen, Inga Strümke,
• Abstract要約: 等価な非検出性が、最新のエンドツーエンドのトレーニングネットワークに拡張されるかどうかを検討する。 我々は,最先端アーキテクチャに対する攻撃機構を構築し,非検出性という暗号的概念と密接に一致している。 以上の結果から,暗号バックドアはエキゾチックなアーキテクチャや人工的な構造を必要とする工芸品である必要はなく,学習表現の幾何学に固有の潜伏特性として識別できることが判明した。
• 参考スコア（独自算出の注目度）: 0.9099663022952497
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent cryptographic results establish that neural networks can be backdoored such that no efficient algorithm can distinguish them from a clean model. These guarantees, however, have been confined to stylised architectures of limited practical relevance, leaving open whether comparable undetectability extends to modern, end-to-end trained networks. We construct such an attack mechanism for state-of-the-art architectures, closely aligned to the cryptographic notion of undetectability, by identifying backdoor channels as learned latent directions, and show that the question of undetectability reduces to a hypothesis test between two unknown distributions over model parameters, which we conjecture to be intractable in practice. The consequence of this reframing is significant: if exploitable channels within a network's latent space are statistically indistinguishable from naturally learned directions, an attacker need not introduce foreign structure but can instead exploit the geometry the network already possesses. Demonstrating the approach on ResNet and Vision Transformer architectures trained on standard image classification datasets, the attack achieves both consistently high success rates with negligible clean accuracy degradation, and resists a comprehensive suite of post-training defences, none of which neutralise the backdoor without rendering the model unusable. Our results establish that cryptographic backdoors need not be artefacts requiring exotic architectures or artificial constructions, but identifiable as latent properties inherent to the geometry of learned representations.
• Abstract（参考訳）: 最近の暗号結果は、ニューラルネットワークがバックドア化可能であることを証明し、効率的なアルゴリズムがそれらをクリーンモデルと区別できないことを証明している。 しかし、これらの保証は、実用性に制限のあるスタイル化されたアーキテクチャに限られており、同等の非検出性が近代的なエンドツーエンドのトレーニングネットワークにまで拡張されるかどうかを問わないままである。 本研究では,現在最先端のアーキテクチャに対する攻撃機構を構築し,学習した遅延方向としてバックドアチャネルを識別することで,非検出性の概念と密接に一致し,非検出性の問題がモデルパラメータの2つの未知分布間の仮説テストに還元されることを示す。 ネットワークの潜在空間内の悪用可能なチャネルが自然に学習された方向と統計的に区別できない場合、攻撃者は外部構造を導入する必要はなく、ネットワークが既に持っている幾何学を利用することができる。 標準画像分類データセットに基づいてトレーニングされたResNetとVision Transformerアーキテクチャのアプローチを実証し、この攻撃は、無視できるクリーンな精度の劣化によって、一貫して高い成功率を達成すると同時に、トレーニング後の総合的な防御スイートに抵抗する。 以上の結果から,暗号バックドアはエキゾチックなアーキテクチャや人工的な構造を必要とする工芸品である必要はなく,学習表現の幾何学に固有の潜伏特性として識別できることが判明した。

関連論文リスト

• Exploiting Edge Features for Transferable Adversarial Attacks in Distributed Machine Learning [54.26807397329468]
  この研究は、分散ディープラーニングシステムにおいて、これまで見過ごされていた脆弱性を探究する。 中間的特徴をインターセプトする敵は、依然として深刻な脅威となる可能性がある。 本稿では,分散環境に特化して設計されたエクスプロイト戦略を提案する。
  論文  参考訳（メタデータ） (2025-07-09T20:09:00Z)
• Injecting Undetectable Backdoors in Obfuscated Neural Networks and Language Models [39.34881774508323]
  外部の専門家企業が開発したMLモデルにおいて,検出不能なバックドアによる脅威について検討する。 我々は,難読性難読化の概念のセキュリティ性を満足する,難読化ニューラルネットワークにバックドアを植える戦略を開発した。 バックドアを植える手法は, 難読化モデルの重量や構造がアクセス可能である場合でも, バックドアの存在が検出できないことを保証している。
  論文  参考訳（メタデータ） (2024-06-09T06:26:21Z)
• Unelicitable Backdoors in Language Models via Cryptographic Transformer Circuits [1.1118610055902116]
  トランスモデルに新しいバックドアのクラスを導入する。 無効性は、ディフェンダーがバックドアをトリガーすることを防ぐため、デプロイ前に適切に評価することは不可能である。 我々は, 暗号技術を用いることで, 新規な構築が不必要であるだけでなく, 良好な堅牢性を有することを示す。
  論文  参考訳（メタデータ） (2024-06-03T17:55:41Z)
• Model Pairing Using Embedding Translation for Backdoor Attack Detection on Open-Set Classification Tasks [63.269788236474234]
  バックドア検出のためのオープンセット分類タスクにモデルペアを用いることを提案する。 このスコアは、異なるアーキテクチャのモデルがあるにもかかわらず、バックドアの存在を示す指標であることを示している。 この技術は、オープンセット分類タスク用に設計されたモデル上のバックドアの検出を可能にするが、文献ではほとんど研究されていない。
  論文  参考訳（メタデータ） (2024-02-28T21:29:16Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)
• An anomaly detection approach for backdoored neural networks: face recognition as a case study [77.92020418343022]
  本稿では,異常検出の原理に基づく新しいバックドアネットワーク検出手法を提案する。 バックドアネットワークの新たなデータセット上で本手法を検証し,完全スコアで検出可能性について報告する。
  論文  参考訳（メタデータ） (2022-08-22T12:14:13Z)
• Subnet Replacement: Deployment-stage backdoor attack against deep neural networks in gray-box setting [3.69409109715429]
  本研究では,DNN(Deep Neural Network)に対するバックドアアタック(バックドアアタック)の現実的可能性について検討する。 本稿では,限られた数のモデルパラメータを直接修正することで,バックドアをDNNに埋め込むことのできるSubnet Replacement Attack (SRA)を提案する。
  論文  参考訳（メタデータ） (2021-07-15T10:47:13Z)
• Scalable Backdoor Detection in Neural Networks [61.39635364047679]
  ディープラーニングモデルは、トロイの木馬攻撃に対して脆弱で、攻撃者はトレーニング中にバックドアをインストールして、結果のモデルが小さなトリガーパッチで汚染されたサンプルを誤識別させる。 本稿では,ラベル数と計算複雑性が一致しない新たなトリガリバースエンジニアリング手法を提案する。 実験では,提案手法が純モデルからトロイの木馬モデルを分離する際の完全なスコアを達成できることが観察された。
  論文  参考訳（メタデータ） (2020-06-10T04:12:53Z)
• Bridging Mode Connectivity in Loss Landscapes and Adversarial Robustness [97.67477497115163]
  我々は、モード接続を用いて、ディープニューラルネットワークの対角的堅牢性を研究する。 実験では、異なるネットワークアーキテクチャやデータセットに適用される様々な種類の敵攻撃について取り上げる。 以上の結果から,モード接続は,敵の強靭性を評価・改善するための総合的なツールであり,実用的な手段であることが示唆された。
  論文  参考訳（メタデータ） (2020-04-30T19:12:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。