論文の概要: Interactive Simulations of Backdoors in Neural Networks

• arxiv url: http://arxiv.org/abs/2405.13217v1
• Date: Tue, 21 May 2024 21:42:49 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-25 01:53:42.534635
• Title: Interactive Simulations of Backdoors in Neural Networks
• Title（参考訳）: ニューラルネットワークにおけるバックドアのインタラクティブシミュレーション
• Authors: Peter Bajcsy, Maxime Bros,
• Abstract要約: この研究は、人工知能(AI)モデルにおける暗号ベースのバックドアの植え付けと防御の問題に対処する。 モチベーションは、私たちの理解の欠如と、検出不可能なバックドアの植え付けに暗号技術を使うことの意義から来ています。 我々のアプローチは、ニューラルネットワークにおける暗号バックドアの植え付け、活性化、防御を可能にするWebベースのシミュレーションプレイグラウンドを設計することに基づいている。
• 参考スコア（独自算出の注目度）: 1.688134675717698
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: This work addresses the problem of planting and defending cryptographic-based backdoors in artificial intelligence (AI) models. The motivation comes from our lack of understanding and the implications of using cryptographic techniques for planting undetectable backdoors under theoretical assumptions in the large AI model systems deployed in practice. Our approach is based on designing a web-based simulation playground that enables planting, activating, and defending cryptographic backdoors in neural networks (NN). Simulations of planting and activating backdoors are enabled for two scenarios: in the extension of NN model architecture to support digital signature verification and in the modified architectural block for non-linear operators. Simulations of backdoor defense against backdoors are available based on proximity analysis and provide a playground for a game of planting and defending against backdoors. The simulations are available at https://pages.nist.gov/nn-calculator
• Abstract（参考訳）: この研究は、人工知能(AI)モデルにおける暗号ベースのバックドアの植え付けと防御の問題に対処する。 その動機は、私たちの理解の欠如と、実際にデプロイされた大規模なAIモデルシステムにおける理論的前提の下で、検出不可能なバックドアを植え付けるための暗号化技術を使うことの意味から来ています。 我々のアプローチは、ニューラルネットワーク(NN)における暗号バックドアの植え付け、活性化、防御を可能にするWebベースのシミュレーションプレイグラウンドを設計することに基づいている。 デジタル署名検証をサポートするNNモデルアーキテクチャの拡張と、非線形演算子に対するアーキテクチャブロックの変更である。 バックドアに対するバックドア防御のシミュレーションは、近接分析に基づいて利用可能であり、バックドアに対する植林と防御のゲームのための遊び場を提供する。 シミュレーションはhttps://pages.nist.gov/nn-calculatorで公開されている。

関連論文リスト

• Flatness-aware Sequential Learning Generates Resilient Backdoors [7.969181278996343]
  近年、バックドア攻撃は機械学習モデルのセキュリティに対する新たな脅威となっている。 本稿では,連続学習(CL)技術を活用して,バックドアのCFに対処する。 レジリエントなバックドアを生成可能な,SBL(Sequential Backdoor Learning)という新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-07-20T03:30:05Z)
• Injecting Undetectable Backdoors in Obfuscated Neural Networks and Language Models [39.34881774508323]
  外部の専門家企業が開発したMLモデルにおいて,検出不能なバックドアによる脅威について検討する。 我々は,難読性難読化の概念のセキュリティ性を満足する,難読化ニューラルネットワークにバックドアを植える戦略を開発した。 バックドアを植える手法は, 難読化モデルの重量や構造がアクセス可能である場合でも, バックドアの存在が検出できないことを保証している。
  論文  参考訳（メタデータ） (2024-06-09T06:26:21Z)
• Architectural Neural Backdoors from First Principles [44.83442736206931]
  アーキテクチャバックドアは、ネットワークアーキテクチャの定義内に埋め込まれたバックドアです。 この作業では、人間の監督なしにアーキテクチャのバックドアとして使用できる任意のトリガー検出器を構築します。 アーキテクチャのバックドアに対する防御について議論し、MLシステムの完全性を保護するための堅牢で包括的な戦略の必要性を強調した。
  論文  参考訳（メタデータ） (2024-02-10T13:57:51Z)
• Reconstructive Neuron Pruning for Backdoor Defense [96.21882565556072]
  本稿では, バックドアニューロンの露出とプルーンの抑制を目的とした, emphReconstructive Neuron Pruning (RNP) という新しい防御法を提案する。 RNPでは、アンラーニングはニューロンレベルで行われ、リカバリはフィルタレベルで行われ、非対称再構成学習手順を形成する。 このような非対称なプロセスは、少数のクリーンサンプルだけが、広範囲の攻撃によって移植されたバックドアニューロンを効果的に露出し、刺激することができることを示す。
  論文  参考訳（メタデータ） (2023-05-24T08:29:30Z)
• BATT: Backdoor Attack with Transformation-based Triggers [72.61840273364311]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアの敵は、敵が特定したトリガーパターンによって活性化される隠れたバックドアを注入する。 最近の研究によると、既存の攻撃のほとんどは現実世界で失敗した。
  論文  参考訳（メタデータ） (2022-11-02T16:03:43Z)
• An anomaly detection approach for backdoored neural networks: face recognition as a case study [77.92020418343022]
  本稿では,異常検出の原理に基づく新しいバックドアネットワーク検出手法を提案する。 バックドアネットワークの新たなデータセット上で本手法を検証し,完全スコアで検出可能性について報告する。
  論文  参考訳（メタデータ） (2022-08-22T12:14:13Z)
• Architectural Backdoors in Neural Networks [27.315196801989032]
  モデルアーキテクチャの内部に隠れる新しい種類のバックドアアタックを導入します。 これらのバックドアの実装は簡単で、例えばバックドアモデルアーキテクチャ用のオープンソースコードを公開している。 私たちは、モデルアーキテクチャのバックドアが真の脅威であり、他のアプローチとは異なり、ゼロから完全な再トレーニングに耐えられることを実証しています。
  論文  参考訳（メタデータ） (2022-06-15T22:44:03Z)
• Check Your Other Door! Establishing Backdoor Attacks in the Frequency Domain [80.24811082454367]
  検出不能で強力なバックドア攻撃を確立するために周波数領域を利用する利点を示す。 また、周波数ベースのバックドア攻撃を成功させる2つの防御方法と、攻撃者がそれらを回避できる可能性を示す。
  論文  参考訳（メタデータ） (2021-09-12T12:44:52Z)
• Subnet Replacement: Deployment-stage backdoor attack against deep neural networks in gray-box setting [3.69409109715429]
  本研究では,DNN(Deep Neural Network)に対するバックドアアタック(バックドアアタック)の現実的可能性について検討する。 本稿では,限られた数のモデルパラメータを直接修正することで,バックドアをDNNに埋め込むことのできるSubnet Replacement Attack (SRA)を提案する。
  論文  参考訳（メタデータ） (2021-07-15T10:47:13Z)
• Black-box Detection of Backdoor Attacks with Limited Information and Data [56.0735480850555]
  モデルへのクエリアクセスのみを用いてバックドア攻撃を同定するブラックボックスバックドア検出(B3D)手法を提案する。 バックドア検出に加えて,同定されたバックドアモデルを用いた信頼性の高い予測手法を提案する。
  論文  参考訳（メタデータ） (2021-03-24T12:06:40Z)
• Backdoor Learning: A Survey [75.59571756777342]
  バックドア攻撃はディープニューラルネットワーク(DNN)に隠れたバックドアを埋め込む バックドア学習は、急速に成長する研究分野である。 本稿では,この領域を包括的に調査する。
  論文  参考訳（メタデータ） (2020-07-17T04:09:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。