論文の概要: Causality-based Neural Network Repair
- arxiv url: http://arxiv.org/abs/2204.09274v1
- Date: Wed, 20 Apr 2022 07:33:52 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-21 13:43:08.686720
- Title: Causality-based Neural Network Repair
- Title（参考訳）: 因果性に基づくニューラルネットワーク修復
- Authors: Bing Sun, Jun Sun, Hong Long Pham, Jie Shi
- Abstract要約: 本稿では因果性に基づくニューラルネットワーク修復手法であるCARE(textbfCAusality-based textbfREpair)を提案する。
CAREは、すべてのニューラルネットワークを効率的かつ効率的に修復することができる。
- 参考スコア（独自算出の注目度）: 9.356001065771064
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural networks have had discernible achievements in a wide range of
applications. The wide-spread adoption also raises the concern of their
dependability and reliability. Similar to traditional decision-making programs,
neural networks can have defects that need to be repaired. The defects may
cause unsafe behaviors, raise security concerns or unjust societal impacts. In
this work, we address the problem of repairing a neural network for desirable
properties such as fairness and the absence of backdoor. The goal is to
construct a neural network that satisfies the property by (minimally) adjusting
the given neural network's parameters (i.e., weights). Specifically, we propose
CARE (\textbf{CA}usality-based \textbf{RE}pair), a causality-based neural
network repair technique that 1) performs causality-based fault localization to
identify the `guilty' neurons and 2) optimizes the parameters of the identified
neurons to reduce the misbehavior. We have empirically evaluated CARE on
various tasks such as backdoor removal, neural network repair for fairness and
safety properties. Our experiment results show that CARE is able to repair all
neural networks efficiently and effectively. For fairness repair tasks, CARE
successfully improves fairness by $61.91\%$ on average. For backdoor removal
tasks, CARE reduces the attack success rate from over $98\%$ to less than
$1\%$. For safety property repair tasks, CARE reduces the property violation
rate to less than $1\%$. Results also show that thanks to the causality-based
fault localization, CARE's repair focuses on the misbehavior and preserves the
accuracy of the neural networks.
- Abstract（参考訳）: ニューラルネットワークは、幅広い応用において大きな成果を上げてきた。
広範にわたる採用は、依存性と信頼性の懸念も高めている。
従来の意思決定プログラムと同様に、ニューラルネットワークには修復が必要な欠陥がある。
この欠陥は、安全でない行動、セキュリティ上の懸念、あるいは社会的な不公平な影響を引き起こす可能性がある。
本稿では,公平性やバックドアの欠如といった望ましい特性のために,ニューラルネットワークを修復する問題に対処する。
目標は、与えられたニューラルネットワークのパラメータ(すなわち重み付け)を(最小)調整することで、その特性を満たすニューラルネットワークを構築することである。
具体的には、因果性に基づくニューラルネットワーク修復技術であるCARE(\textbf{CA}usality-based \textbf{RE}pair)を提案する。
1)因果性に基づく障害局所化を行い、「罪」ニューロンを識別し、
2) 特定ニューロンのパラメータを最適化し, 誤動作を低減する。
バックドア除去, ニューラルネットワーク修復, 公正性, 安全性など, 様々なタスクにおいてCAREを実証的に評価した。
実験の結果,CAREは全ニューラルネットワークを効率的かつ効果的に修復できることがわかった。
フェアネスの修理作業では、CAREは平均で61.91 %のフェアネスを改善できた。
バックドア削除タスクの場合、CAREは攻撃成功率を9,8 %$から1 %$未満に下げる。
安全財産の修理作業では、CAREは財産侵害率を$1\%以下に下げる。
また、因果性に基づく障害の局所化により、CAREの修復は誤動作に焦点を当て、ニューラルネットワークの精度を保っている。
関連論文リスト
- Learning to Solve Combinatorial Optimization under Positive Linear Constraints via Non-Autoregressive Neural Networks [103.78912399195005]
組合せ最適化(英: Combinatorial Optimization、CO)は、計算機科学、応用数学などにおける基本的な問題である。
本稿では, 正線形制約下でのCO問題の解法として, 非自己回帰ニューラルネットワーク群を設計する。
本研究では,施設位置,最大被覆率,旅行セールスマン問題を含む代表的CO問題の解決において,この枠組みの有効性を検証する。
論文 参考訳（メタデータ） (2024-09-06T14:58:31Z) - CorrectNet: Robustness Enhancement of Analog In-Memory Computing for
Neural Networks by Error Suppression and Compensation [4.570841222958966]
本稿では,ニューラルネットワークの変動と雑音下での堅牢性を高める枠組みを提案する。
ニューラルネットワークの予測精度は、変動とノイズの下で1.69%以下から回復可能であることを示す。
論文 参考訳（メタデータ） (2022-11-27T19:13:33Z) - Can pruning improve certified robustness of neural networks? [106.03070538582222]
ニューラルネット・プルーニングはディープ・ニューラル・ネットワーク(NN)の実証的ロバスト性を向上させることができることを示す。
実験の結果,NNを適切に刈り取ることで,その精度を8.2%まで向上させることができることがわかった。
さらに,認証された宝くじの存在が,従来の密集モデルの標準および認証された堅牢な精度に一致することを観察する。
論文 参考訳（メタデータ） (2022-06-15T05:48:51Z) - On the uncertainty principle of neural networks [4.014046905033123]
量子力学における不確実性原理に根底にあるメカニズムが深く関係している本質的な性質であることを示す。
ニューラルネットワークが正確かつ堅牢であるためには、$x$(入力)と$Delta$(正規化損失関数$J$の導関数である$x$)の2つの部分の特徴を解決する必要がある。
論文 参考訳（メタデータ） (2022-05-03T13:48:12Z) - Neural Architecture Dilation for Adversarial Robustness [56.18555072877193]
畳み込みニューラルネットワークの欠点は、敵の攻撃に弱いことである。
本稿では, 良好な精度を有する背骨CNNの対角的堅牢性を向上させることを目的とする。
最小限の計算オーバーヘッドの下では、拡張アーキテクチャはバックボーンCNNの標準的な性能と親和性が期待できる。
論文 参考訳（メタデータ） (2021-08-16T03:58:00Z) - Federated Learning with Unreliable Clients: Performance Analysis and
Mechanism Design [76.29738151117583]
Federated Learning(FL)は、分散クライアント間で効果的な機械学習モデルをトレーニングするための有望なツールとなっている。
しかし、低品質のモデルは信頼性の低いクライアントによってアグリゲータサーバにアップロードすることができ、劣化やトレーニングの崩壊につながる。
クライアントの信頼できない振る舞いをモデル化し、このようなセキュリティリスクを軽減するための防御メカニズムを提案する。
論文 参考訳（メタデータ） (2021-05-10T08:02:27Z) - NNrepair: Constraint-based Repair of Neural Network Classifiers [10.129874872336762]
NNrepairはニューラルネットワークの分類器を修復するための制約ベースの技術である。
NNrepairはまず、障害のあるネットワークパラメータを見つけるために障害ローカリゼーションを使用します。
その後、制約解決を使用して修復を行い、パラメータに小さな修正を加えて欠陥を修復する。
論文 参考訳（メタデータ） (2021-03-23T13:44:01Z) - Towards Repairing Neural Networks Correctly [6.600380575920419]
本稿では,ニューラルネットワークの正確性を保証するための実行時検証手法を提案する。
実験結果から,本手法は特性を満たすことが保証されたニューラルネットワークを効果的に生成することが示された。
論文 参考訳（メタデータ） (2020-12-03T12:31:07Z) - Enabling certification of verification-agnostic networks via
memory-efficient semidefinite programming [97.40955121478716]
本稿では,ネットワークアクティベーションの総数にのみ線形なメモリを必要とする一階二重SDPアルゴリズムを提案する。
L-inf の精度は 1% から 88% ,6% から 40% に改善した。
また,変分オートエンコーダの復号器に対する2次安定性仕様の厳密な検証を行った。
論文 参考訳（メタデータ） (2020-10-22T12:32:29Z) - Neural Networks and Value at Risk [59.85784504799224]
リスクしきい値推定における資産価値のモンテカルロシミュレーションを行う。
株式市場と長期債を試験資産として利用し、ニューラルネットワークについて検討する。
はるかに少ないデータでフィードされたネットワークは、大幅にパフォーマンスが悪くなっています。
論文 参考訳（メタデータ） (2020-05-04T17:41:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。