論文の概要: Efficient Adversarial Input Generation via Neural Net Patching

• arxiv url: http://arxiv.org/abs/2211.16808v1
• Date: Wed, 30 Nov 2022 08:02:36 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-01 18:19:14.123881
• Title: Efficient Adversarial Input Generation via Neural Net Patching
• Title（参考訳）: ニューラルネットパッチングによる効率よい逆入力生成
• Authors: Tooba Khan, Kumar Madhukar, Subodh Vishnu Sharma
• Abstract要約: 本研究は、ニューラルネットワークにパッチを当てる新しい手法と、それを用いて元のネットに逆らう入力の摂動を生成する革新的なアプローチを提案する。 提案手法は従来の最先端技術よりもはるかに効果的である。
• 参考スコア（独自算出の注目度）: 2.105564340986074
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: The adversarial input generation problem has become central in establishing the robustness and trustworthiness of deep neural nets, especially when they are used in safety-critical application domains such as autonomous vehicles and precision medicine. This is also practically challenging for multiple reasons-scalability is a common issue owing to large-sized networks, and the generated adversarial inputs often lack important qualities such as naturalness and output-impartiality. We relate this problem to the task of patching neural nets, i.e. applying small changes in some of the network$'$s weights so that the modified net satisfies a given property. Intuitively, a patch can be used to produce an adversarial input because the effect of changing the weights can also be brought about by changing the inputs instead. This work presents a novel technique to patch neural networks and an innovative approach of using it to produce perturbations of inputs which are adversarial for the original net. We note that the proposed solution is significantly more effective than the prior state-of-the-art techniques.
• Abstract（参考訳）: 深層ニューラルネットワークのロバスト性と信頼性を確立する上では,特に自律走行車や精密医療などの安全クリティカルな応用領域で使用される場合,逆入力生成の問題が中心となっている。 これはまた、大規模ネットワークによる一般的な問題であり、生成した逆入力は自然性や出力不均一性といった重要な性質を欠くことが多い。 この問題はニューラルネットをパッチするタスク、すなわちネットワーク$'$s重みの一部に小さな変更を加えることで、修正されたネットが与えられた特性を満たすように関連付ける。 直感的には、重みを変更する効果は代わりに入力を変更することでもたらされるので、逆入力を生成するためにパッチを使用することができる。 本研究は、ニューラルネットワークにパッチを当てる新しい手法と、それを用いて元のネットに逆らう入力の摂動を生成する革新的なアプローチを提案する。 提案手法は,従来の最先端技術よりもはるかに効果的である。

関連論文リスト

• Beyond Pruning Criteria: The Dominant Role of Fine-Tuning and Adaptive Ratios in Neural Network Robustness [7.742297876120561]
  ディープニューラルネットワーク(DNN)は、画像認識や自然言語処理といったタスクに優れています。 従来のプルーニング手法は、微妙な摂動に耐えるネットワークの能力を損なう。 本稿では,プライドネットワークの性能決定要因として,従来の重み付け重み付けの重視に挑戦する。
  論文  参考訳（メタデータ） (2024-10-19T18:35:52Z)
• Network Inversion of Binarised Neural Nets [3.5571131514746837]
  ニューラルネットワークの出力マッピングに対する入力のブラックボックスの性質を解明する上で、ネットワークの反転は重要な役割を担っている。 本稿では,ネットワークの構造をキャプチャするCNF式に符号化することで,訓練されたBNNを逆転させる新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-02-19T09:39:54Z)
• Incrementally-Computable Neural Networks: Efficient Inference for Dynamic Inputs [75.40636935415601]
  ディープラーニングは、センサーデータやユーザ入力などの動的入力を効率的に処理するという課題に直面していることが多い。 インクリメンタルな計算アプローチを採用し、入力の変化に応じて計算を再利用する。 本稿では,この手法をトランスフォーマーアーキテクチャに適用し,修正入力の分数に比例した複雑性を持つ効率的なインクリメンタル推論アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-07-27T16:30:27Z)
• Zonotope Domains for Lagrangian Neural Network Verification [102.13346781220383]
  我々は、ディープニューラルネットワークを多くの2層ニューラルネットワークの検証に分解する。 我々の手法は線形プログラミングとラグランジアンに基づく検証技術の両方により改善された境界を与える。
  論文  参考訳（メタデータ） (2022-10-14T19:31:39Z)
• On the Robustness and Anomaly Detection of Sparse Neural Networks [28.832060124537843]
  スパシティーによってネットワークがより堅牢になり、異常検知がより良くなることを示す。 また, 構造的疎水性は, 高価なロバスト性および検出方法の複雑さを低減するのに大いに有効であることを示す。 本稿では,適切な刈り取り法から得られた重みの感度を利用して異常サンプルを検出する新しい手法であるSensNormを紹介する。
  論文  参考訳（メタデータ） (2022-07-09T09:03:52Z)
• Self-Healing Robust Neural Networks via Closed-Loop Control [23.360913637445964]
  典型的な自己修復機構は人体の免疫系である。 本稿では,ニューラルネットワークの学習後の自己修復について考察する。 本研究では,様々な攻撃や摂動によるエラーを自動的に検出し,修正するクローズドループ制御式を提案する。
  論文  参考訳（メタデータ） (2022-06-26T20:25:35Z)
• Efficient Global Robustness Certification of Neural Networks via Interleaving Twin-Network Encoding [8.173681464694651]
  混合整数線形プログラミング(MILP)問題として、ReLUアクティベーション機能付きニューラルネットワークのグローバルロバスト性認証を定式化する。 我々のアプローチは、ニューラルネットワークの2つのコピーを並べて符号化する、新しいインターリービングツインネットワーク符号化スキームを含む。 クローズドループ制御の安全性検証のケーススタディを行い,本手法の重要性と実用性を実証した。
  論文  参考訳（メタデータ） (2022-03-26T19:23:37Z)
• Building Compact and Robust Deep Neural Networks with Toeplitz Matrices [93.05076144491146]
  この論文は、コンパクトで、訓練が容易で、信頼性があり、敵の例に対して堅牢なニューラルネットワークを訓練する問題に焦点を当てている。 Toeplitzファミリーの構造化行列の特性を利用して、コンパクトでセキュアなニューラルネットワークを構築する。
  論文  参考訳（メタデータ） (2021-09-02T13:58:12Z)
• Non-Singular Adversarial Robustness of Neural Networks [58.731070632586594]
  小さな入力摂動に対する過敏性のため、アドリヤルロバスト性はニューラルネットワークにとって新たな課題となっている。 我々は,データ入力とモデル重みの共振レンズを用いて,ニューラルネットワークの非特異な対角性の概念を定式化する。
  論文  参考訳（メタデータ） (2021-02-23T20:59:30Z)
• Improve Generalization and Robustness of Neural Networks via Weight Scale Shifting Invariant Regularizations [52.493315075385325]
  重み劣化を含む正則化器の族は、均質な活性化関数を持つネットワークに対する本質的な重みのノルムをペナルティ化するのに有効でないことを示す。 そこで我々は,ニューラルネットワークの本質的な規範を効果的に制約する改良型正規化器を提案する。
  論文  参考訳（メタデータ） (2020-08-07T02:55:28Z)
• Robustness Verification for Transformers [165.25112192811764]
  我々はトランスフォーマーのための最初のロバスト性検証アルゴリズムを開発した。 提案手法で計算したロバスト性境界は, 素粒子間境界伝播法で計算したロバスト性境界よりもかなり厳密である。 これらの境界はまた、感情分析における異なる単語の重要性を常に反映しているトランスフォーマーの解釈にも光を当てている。
  論文  参考訳（メタデータ） (2020-02-16T17:16:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。