論文の概要: One-pixel Signature: Characterizing CNN Models for Backdoor Detection

• arxiv url: http://arxiv.org/abs/2008.07711v1
• Date: Tue, 18 Aug 2020 02:54:47 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-27 21:22:44.378132
• Title: One-pixel Signature: Characterizing CNN Models for Backdoor Detection
• Title（参考訳）: one-pixel signature:バックドア検出のためのcnnモデルの特徴付け
• Authors: Shanjiaoyang Huang, Weiqi Peng, Zhiwei Jia, Zhuowen Tu
• Abstract要約: コンボリューションニューラルネットワーク(CNN)のバックドア検出問題に対して,1ピクセルシグネチャと呼ばれる新しい表現を提案する。 我々のタスクは、CNNモデルが未知のTrojanトリガで悪意を持って挿入されたかどうかを検知・分類することである。 ワンピクセルシグネチャは、バックドア検出以上のCNNモデルを特徴付けるのに使用できる一般的な表現である。
• 参考スコア（独自算出の注目度）: 28.017013725263084
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We tackle the convolution neural networks (CNNs) backdoor detection problem by proposing a new representation called one-pixel signature. Our task is to detect/classify if a CNN model has been maliciously inserted with an unknown Trojan trigger or not. Here, each CNN model is associated with a signature that is created by generating, pixel-by-pixel, an adversarial value that is the result of the largest change to the class prediction. The one-pixel signature is agnostic to the design choice of CNN architectures, and how they were trained. It can be computed efficiently for a black-box CNN model without accessing the network parameters. Our proposed one-pixel signature demonstrates a substantial improvement (by around 30% in the absolute detection accuracy) over the existing competing methods for backdoored CNN detection/classification. One-pixel signature is a general representation that can be used to characterize CNN models beyond backdoor detection.
• Abstract（参考訳）: コンボリューションニューラルネットワーク(CNN)のバックドア検出問題に対して,1ピクセルシグネチャと呼ばれる新しい表現を提案する。 我々のタスクは、CNNモデルが未知のTrojanトリガで悪意を持って挿入されたかどうかを検知・分類することである。 ここで、各CNNモデルは、クラス予測に対する最大の変更の結果である逆値であるピクセル・バイ・ピクセルを生成することによって生成されるシグネチャに関連付けられている。 1ピクセルのシグネチャは、cnnアーキテクチャの設計選択や、どのようにトレーニングされたかに依存しない。 ネットワークパラメータにアクセスすることなく、ブラックボックスCNNモデルで効率的に計算できる。 提案した1ピクセルのシグネチャは,既存のバックドアCNN検出/分類手法に比べて(絶対検出精度が約30%向上した)。 1ピクセルシグネチャは、バックドア検出を超えてcnnモデルを特徴付けるために使用できる一般的な表現である。

関連論文リスト

• Trace and Detect Adversarial Attacks on CNNs using Feature Response Maps [0.3437656066916039]
  畳み込みニューラルネットワーク(CNN)に対する敵対的攻撃 本研究では,攻撃防止のための新たな攻撃事例検出手法を提案する。 特徴応答における逆方向の摂動をトラッキングすることで、平均的な局所空間エントロピーを用いた自動検出が可能となる。
  論文  参考訳（メタデータ） (2022-08-24T11:05:04Z)
• Keypoint Message Passing for Video-based Person Re-Identification [106.41022426556776]
  ビデオベースの人物再識別(re-ID)は、異なるカメラで捉えた人々のビデオスニペットをマッチングすることを目的とした、視覚監視システムにおいて重要な技術である。 既存の手法は主に畳み込みニューラルネットワーク(CNN)に基づいており、そのビルディングブロックは近隣のピクセルを一度に処理するか、あるいは3D畳み込みが時間情報のモデル化に使用される場合、人の動きによって生じるミスアライメントの問題に悩まされる。 本稿では,人間指向グラフ法を用いて,通常の畳み込みの限界を克服することを提案する。具体的には,人手指のキーポイントに位置する特徴を抽出し,時空間グラフとして接続する。
  論文  参考訳（メタデータ） (2021-11-16T08:01:16Z)
• BreakingBED -- Breaking Binary and Efficient Deep Neural Networks by Adversarial Attacks [65.2021953284622]
  CNNのホワイトボックス攻撃やブラックボックス攻撃に対する堅牢性について検討する。 結果は、蒸留されたCNN、エージェントベースの最新のprunedモデル、およびバイナライズニューラルネットワークのために示されています。
  論文  参考訳（メタデータ） (2021-03-14T20:43:19Z)
• The Mind's Eye: Visualizing Class-Agnostic Features of CNNs [92.39082696657874]
  本稿では,特定のレイヤの最も情報性の高い特徴を表現した対応する画像を作成することにより,画像の集合を視覚的に解釈する手法を提案する。 本手法では, 生成ネットワークを必要とせず, 元のモデルに変更を加えることなく, デュアルオブジェクトのアクティベーションと距離損失を利用する。
  論文  参考訳（メタデータ） (2021-01-29T07:46:39Z)
• Convolutional Neural Network with Pruning Method for Handwritten Digit Recognition [0.0]
  本稿では,MNISTデータセットによって訓練されたCNNモデルに対して,手書き文字認識が可能であることを述べる。 同じデータセットMNISTの場合、CNNモデルは、発行された論文で、大きく、深く、シンプルなNNモデルよりもうまく機能する。
  論文  参考訳（メタデータ） (2021-01-15T07:25:13Z)
• Color Channel Perturbation Attacks for Fooling Convolutional Neural Networks and A Defense Against Such Attacks [16.431689066281265]
  Conalvolutional Neural Networks(CNN)は、強力なデータ依存型階層的特徴抽出方法として登場した。 ネットワークがトレーニングサンプルを非常に容易に満たしていることが観察される。 CNNを騙すために,カラーチャネル摂動(CCP)攻撃を提案する。
  論文  参考訳（メタデータ） (2020-12-20T11:35:29Z)
• SUREMap: Predicting Uncertainty in CNN-based Image Reconstruction Using Stein's Unbiased Risk Estimate [51.67813146731196]
  畳み込みニューラルネットワーク(CNN)は、コンピュータ画像再構成問題を解決する強力なツールとして登場した。 CNNはブラックボックスを理解するのが難しい。 この制限は、医療画像のような安全クリティカルな用途での利用にとって大きな障壁となる。
  論文  参考訳（メタデータ） (2020-10-25T20:29:41Z)
• Shape Defense Against Adversarial Attacks [47.64219291655723]
  人間は物体を認識するために形状情報に大きく依存している。逆に、畳み込みニューラルネットワーク(CNN)はテクスチャに偏っている。 本稿では, 形状バイアスをCNNに組み込んで, 頑健性を向上させる方法について検討する。 2つのアルゴリズムが提案され、エッジが適度な知覚不能な摂動に不変であるという観測に基づいている。
  論文  参考訳（メタデータ） (2020-08-31T03:23:59Z)
• Exploring Deep Hybrid Tensor-to-Vector Network Architectures for Regression Based Speech Enhancement [53.47564132861866]
  我々は、CNN-TTというハイブリッドアーキテクチャが、モデルパラメータを小さくして高品質な性能を維持することができることを見出した。 CNN-TTは、音声品質を改善するために、特徴抽出のために下部に複数の畳み込み層で構成されている。
  論文  参考訳（メタデータ） (2020-07-25T22:21:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。