論文の概要: Patch Synthesis for Property Repair of Deep Neural Networks

• arxiv url: http://arxiv.org/abs/2404.01642v2
• Date: Sat, 01 Feb 2025 02:49:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-04 16:05:23.831991
• Title: Patch Synthesis for Property Repair of Deep Neural Networks
• Title（参考訳）: 深部ニューラルネットワークの特性修復のためのパッチ合成
• Authors: Zhiming Chi, Jianan Ma, Pengfei Yang, Cheng-Chao Huang, Renjue Li, Xiaowei Huang, Lijun Zhang,
• Abstract要約: 我々は、ディープニューラルネットワーク(DNN)のプロパティレベル修復のためのパッチベースの新しいアプローチであるPatchProを紹介する。 PatchProは、ネットワークの本来の性能を維持しながら、ロバストネス地区内のすべてのサンプルに特別な修復を提供する。 本手法は, 正当性検証とパッチモジュール割当機構を組み込んで, 敵攻撃に対する防御を可能にする。
• 参考スコア（独自算出の注目度）: 15.580097790702508
• License:
• Abstract: Deep neural networks (DNNs) are prone to various dependability issues, such as adversarial attacks, which hinder their adoption in safety-critical domains. Recently, NN repair techniques have been proposed to address these issues while preserving original performance by locating and modifying guilty neurons and their parameters. However, existing repair approaches are often limited to specific data sets and do not provide theoretical guarantees for the effectiveness of the repairs. To address these limitations, we introduce PatchPro, a novel patch-based approach for property-level repair of DNNs, focusing on local robustness. The key idea behind PatchPro is to construct patch modules that, when integrated with the original network, provide specialized repairs for all samples within the robustness neighborhood while maintaining the network's original performance. Our method incorporates formal verification and a heuristic mechanism for allocating patch modules, enabling it to defend against adversarial attacks and generalize to other inputs. PatchPro demonstrates superior efficiency, scalability, and repair success rates compared to existing DNN repair methods, i.e., realizing provable property-level repair for 100% cases across multiple high-dimensional datasets.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、安全クリティカルドメインへの導入を妨げる敵攻撃など、さまざまな信頼性の問題に悩まされている。 近年, NN修復技術は, ニューロンとそのパラメータの特定・修正により, 元の性能を保ちながら, これらの問題に対処するために提案されている。 しかし、既存の補修手法は特定のデータセットに限られており、補修の有効性に関する理論的保証を提供していないことが多い。 これらの制約に対処するために、DNNのプロパティレベル修復のためのパッチベースの新しいアプローチであるPatchProを導入し、局所的な堅牢性に焦点を当てる。 PatchProの背景にある重要なアイデアは、元のネットワークと統合されたパッチモジュールを構築することであり、ネットワークの本来のパフォーマンスを維持しながら、ロバストネス地区内のすべてのサンプルを特別に修復することである。 本手法は,パッチモジュールのアロケートのための形式的検証とヒューリスティックな機構を取り入れ,敵攻撃を防御し,他の入力に一般化することを可能にする。 PatchProは、既存のDNN修復手法、すなわち複数の高次元データセットにまたがる100%のケースに対する証明可能なプロパティレベルの修復を実現する方法と比較して、効率、スケーラビリティ、修復成功率に優れる。

関連論文リスト

• Scaling #DNN-Verification Tools with Efficient Bound Propagation and Parallel Computing [57.49021927832259]
  ディープニューラルネットワーク(DNN)は多くのシナリオで異常な結果を示した強力なツールです。 しかし、それらの複雑な設計と透明性の欠如は、現実世界のアプリケーションに適用する際の安全性上の懸念を提起する。 DNNの形式的検証(FV)は、安全面の証明可能な保証を提供する貴重なソリューションとして登場した。
  論文  参考訳（メタデータ） (2023-12-10T13:51:25Z)
• Enumerating Safe Regions in Deep Neural Networks with Provable Probabilistic Guarantees [86.1362094580439]
  安全プロパティとDNNが与えられた場合、安全であるプロパティ入力領域のすべての領域の集合を列挙する。 この問題の #P-hardness のため,epsilon-ProVe と呼ばれる効率的な近似法を提案する。 提案手法は, 許容限界の統計的予測により得られた出力可到達集合の制御可能な過小評価を利用する。
  論文  参考訳（メタデータ） (2023-08-18T22:30:35Z)
• A Robust Optimisation Perspective on Counterexample-Guided Repair of Neural Networks [2.82532357999662]
  本稿では, 逆例誘導修復をロバストな最適化アルゴリズムとみなすことができることを示す。 我々は、より抑制された機械学習モデルに対する終端を証明し、一般的な環境での終端を証明した。
  論文  参考訳（メタデータ） (2023-01-26T19:00:02Z)
• Automated Repair of Neural Networks [0.26651200086513094]
  安全でないNNの安全仕様を修復するためのフレームワークを提案する。 提案手法では,重み値のいくつかを修正して,新しい安全なNN表現を探索することができる。 我々は,提案するフレームワークが安全なNNを実現する能力を示す広範な実験を行った。
  論文  参考訳（メタデータ） (2022-07-17T12:42:24Z)
• Defensive Patches for Robust Recognition in the Physical World [111.46724655123813]
  データエンドディフェンスは、モデルを変更する代わりに入力データの操作によって堅牢性を改善する。 従来のデータエンドディフェンスは、様々なノイズに対する低一般化と、複数のモデル間での弱い転送可能性を示している。 モデルがこれらの機能をよりよく活用することを支援することにより、これらの問題に対処するための防御パッチ生成フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-04-13T07:34:51Z)
• Decompose to Adapt: Cross-domain Object Detection via Feature Disentanglement [79.2994130944482]
  本研究では,DDF(Domain Disentanglement Faster-RCNN)を設計し,タスク学習のための特徴のソース固有情報を排除した。 DDF法は,グローバルトリプルト・ディアンタングルメント(GTD)モジュールとインスタンス類似性・ディアンタングルメント(ISD)モジュールを用いて,グローバルおよびローカルステージでの機能ディアンタングルを容易にする。 提案手法は,4つのUDAオブジェクト検出タスクにおいて最先端の手法より優れており,広い適用性で有効であることが実証された。
  論文  参考訳（メタデータ） (2022-01-06T05:43:01Z)
• ArchRepair: Block-Level Architecture-Oriented Repairing for Deep Neural Networks [13.661704974188872]
  本稿では,ブロックレベルでのディープニューラルネットワーク(DNN)の新たな修復方向を提案する。 本稿では,脆弱なブロックローカライゼーションのための逆アウェアスペクトル分析法を提案する。 また,対象のブロックを連続的に修復する検索空間に緩和するアーキテクチャ指向の検索ベース修復を提案する。
  論文  参考訳（メタデータ） (2021-11-26T06:35:15Z)
• Federated Learning with Unreliable Clients: Performance Analysis and Mechanism Design [76.29738151117583]
  Federated Learning(FL)は、分散クライアント間で効果的な機械学習モデルをトレーニングするための有望なツールとなっている。 しかし、低品質のモデルは信頼性の低いクライアントによってアグリゲータサーバにアップロードすることができ、劣化やトレーニングの崩壊につながる。 クライアントの信頼できない振る舞いをモデル化し、このようなセキュリティリスクを軽減するための防御メカニズムを提案する。
  論文  参考訳（メタデータ） (2021-05-10T08:02:27Z)
• Provable Repair of Deep Neural Networks [8.55884254206878]
  ディープニューラルネットワーク(Deep Neural Networks, DNN)は、過去10年間で人気を博し、航空機の衝突回避などの安全上重要な領域で使われている。 本稿では,安全でない動作が見つかるとDNNの修正に対処する。 与えられた仕様を満たす新しいネットワークN'を構築するためにネットワークNを修復する問題である実証可能な修復問題を紹介します。
  論文  参考訳（メタデータ） (2021-04-09T15:03:53Z)
• NNrepair: Constraint-based Repair of Neural Network Classifiers [10.129874872336762]
  NNrepairはニューラルネットワークの分類器を修復するための制約ベースの技術である。 NNrepairはまず、障害のあるネットワークパラメータを見つけるために障害ローカリゼーションを使用します。 その後、制約解決を使用して修復を行い、パラメータに小さな修正を加えて欠陥を修復する。
  論文  参考訳（メタデータ） (2021-03-23T13:44:01Z)
• A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
  敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。 本稿では,入力空間における自己教師型対向学習機構を提案する。 これは、反逆攻撃に対する強力な堅牢性を提供する。
  論文  参考訳（メタデータ） (2020-06-08T20:42:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。