論文の概要: BDD4BNN: A BDD-based Quantitative Analysis Framework for Binarized Neural Networks

• arxiv url: http://arxiv.org/abs/2103.07224v1
• Date: Fri, 12 Mar 2021 12:02:41 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-15 13:29:41.915446
• Title: BDD4BNN: A BDD-based Quantitative Analysis Framework for Binarized Neural Networks
• Title（参考訳）: BDD4BNN:バイナライズニューラルネットワークのためのBDDベースの定量的分析フレームワーク
• Authors: Yedi Zhang and Zhe Zhao and Guangke Chen and Fu Song and Taolue Chen
• Abstract要約: 一般実数ニューラルネットワークの1ビット量子化であるBinarized Neural Networks(BNNs)の検証問題について検討する。 我々のアプローチは,BNNの内部構造を利用して,BNNをBDD(Bibinary Decision Diagram)にエンコードすることである。 符号化に基づいて,BNNの高精度かつ包括的分析が可能なBNNの定量的検証フレームワークを開発する。
• 参考スコア（独自算出の注目度）: 7.844146033635129
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Verifying and explaining the behavior of neural networks is becoming increasingly important, especially when they are deployed in safety-critical applications. In this paper, we study verification problems for Binarized Neural Networks (BNNs), the 1-bit quantization of general real-numbered neural networks. Our approach is to encode BNNs into Binary Decision Diagrams (BDDs), which is done by exploiting the internal structure of the BNNs. In particular, we translate the input-output relation of blocks in BNNs to cardinality constraints which are then encoded by BDDs. Based on the encoding, we develop a quantitative verification framework for BNNs where precise and comprehensive analysis of BNNs can be performed. We demonstrate the application of our framework by providing quantitative robustness analysis and interpretability for BNNs. We implement a prototype tool BDD4BNN and carry out extensive experiments which confirm the effectiveness and efficiency of our approach.
• Abstract（参考訳）: ニューラルネットワークの振る舞いの検証と説明は、特に安全クリティカルなアプリケーションにデプロイされている場合、ますます重要になっている。 本稿では,一般実数ニューラルネットワークの1ビット量子化手法であるBinarized Neural Networks(BNNs)の検証問題について検討する。 我々のアプローチは,BNNの内部構造を利用して,BNNをBDD(Bibinary Decision Diagram)にエンコードすることである。 特に,BNNにおけるブロックの入出力関係を,BDDで符号化された濃度制約に変換する。 符号化に基づいて,BNNの高精度かつ包括的分析が可能なBNNの定量的検証フレームワークを開発する。 BNNに定量的な堅牢性解析と解釈性を提供することで、フレームワークの適用を実証します。 BDD4BNNのプロトタイプツールを実装し、アプローチの有効性と効率を確認する広範な実験を実施します。

関連論文リスト

• NAS-BNN: Neural Architecture Search for Binary Neural Networks [55.058512316210056]
  我々は、NAS-BNNと呼ばれる二元ニューラルネットワークのための新しいニューラルネットワーク探索手法を提案する。 我々の発見したバイナリモデルファミリーは、20Mから2Mまでの幅広い操作(OP)において、以前のBNNよりも優れていた。 さらに,対象検出タスクにおける探索されたBNNの転送可能性を検証するとともに,探索されたBNNを用いたバイナリ検出器は,MSデータセット上で31.6% mAP,370万 OPsなどの新たな最先端結果を得る。
  論文  参考訳（メタデータ） (2024-08-28T02:17:58Z)
• An Automata-Theoretic Approach to Synthesizing Binarized Neural Networks [13.271286153792058]
  量子ニューラルネットワーク(QNN)が開発され、二項化ニューラルネットワーク(BNN)は特殊なケースとしてバイナリ値に制限されている。 本稿では,指定された特性を満たすBNNの自動合成手法を提案する。
  論文  参考訳（メタデータ） (2023-07-29T06:27:28Z)
• Recurrent Bilinear Optimization for Binary Neural Networks [58.972212365275595]
  BNNは、実数値重みとスケールファクターの内在的双線型関係を無視している。 私たちの仕事は、双線形の観点からBNNを最適化する最初の試みです。 我々は、様々なモデルやデータセット上で最先端のBNNに対して印象的な性能を示す頑健なRBONNを得る。
  論文  参考訳（メタデータ） (2022-09-04T06:45:33Z)
• Comparative Analysis of Interval Reachability for Robust Implicit and Feedforward Neural Networks [64.23331120621118]
  我々は、暗黙的ニューラルネットワーク(INN)の堅牢性を保証するために、区間到達可能性分析を用いる。 INNは暗黙の方程式をレイヤとして使用する暗黙の学習モデルのクラスである。 提案手法は, INNに最先端の区間境界伝搬法を適用するよりも, 少なくとも, 一般的には, 有効であることを示す。
  論文  参考訳（メタデータ） (2022-04-01T03:31:27Z)
• Spatial-Temporal-Fusion BNN: Variational Bayesian Feature Layer [77.78479877473899]
  我々は,BNNを大規模モデルに効率的にスケールするための時空間BNNを設計する。 バニラBNNと比較して,本手法はトレーニング時間とパラメータ数を著しく削減し,BNNのスケールアップに有効である。
  論文  参考訳（メタデータ） (2021-12-12T17:13:14Z)
• Robustness of Bayesian Neural Networks to White-Box Adversarial Attacks [55.531896312724555]
  ベイジアンネットワーク(BNN)は、ランダム性を組み込むことで、敵の攻撃を扱うのに頑丈で適している。 我々はベイズ的推論(つまり変分ベイズ)をDenseNetアーキテクチャに融合させることで、BNN-DenseNetと呼ばれるBNNモデルを作成する。 逆向きに訓練されたBNNは、ほとんどの実験で非ベイズ的で逆向きに訓練されたBNNよりも優れています。
  論文  参考訳（メタデータ） (2021-11-16T16:14:44Z)
• A comprehensive review of Binary Neural Network [2.918940961856197]
  バイナリニューラルネットワーク(BNN)は、畳み込みニューラルネットワーク(CNN)パラメータ量子化の極端な応用である。 近年のBNNの発展により、この問題に対処する多くのアルゴリズムやソリューションが生まれている。
  論文  参考訳（メタデータ） (2021-10-11T22:44:15Z)
• BCNN: Binary Complex Neural Network [16.82755328827758]
  バイナリニューラルネットワーク(BNN)は、リソース制限のあるハードウェアを備えたエッジサイドアプリケーションにおいて、大きな可能性を秘めている。 本稿では,BNNに複雑な表現を導入し,バイナリ・コンプレックス・ニューラルネットワークを提案する。 BCNNは、複雑な表現を通じて学習能力を強化し、複雑な値の入力データに適用性を拡張することにより、BNNを改善している。
  論文  参考訳（メタデータ） (2021-03-28T03:35:24Z)
• On the Effects of Quantisation on Model Uncertainty in Bayesian Neural Networks [8.234236473681472]
  決定をしながら不確実性を定量化できることは、モデルが過度に信頼されているかを理解する上で不可欠です。 BNNは、主にメモリと計算コストの増大のために、工業的にはあまり使われていない。 我々は,3種類の量子化BNNについて検討し,幅広い設定で評価し,BNNに適用される一様量子化方式が不確実性評価の質を著しく低下させないことを実証した。
  論文  参考訳（メタデータ） (2021-02-22T14:36:29Z)
• S2-BNN: Bridging the Gap Between Self-Supervised Real and 1-bit Neural Networks via Guided Distribution Calibration [74.5509794733707]
  本研究では, 実数値から, 最終予測分布上のバイナリネットワークへの誘導型学習パラダイムを提案する。 提案手法は,bnn上で5.515%の絶対利得で,単純なコントラスト学習ベースラインを向上できる。 提案手法は、単純なコントラスト学習ベースラインよりも大幅に改善され、多くの主流教師付きBNN手法に匹敵する。
  論文  参考訳（メタデータ） (2021-02-17T18:59:28Z)
• Understanding Learning Dynamics of Binary Neural Networks via Information Bottleneck [11.17667928756077]
  バイナリニューラルネットワーク(BNN)は、重みとアクティベーションの両方を2つのレベル(+1, -1$)に制限することで、極端にコンパクト化する。 我々は、Information Bottleneck原則を用いてBNNトレーニングを分析し、BNNのトレーニングダイナミクスがDeep Neural Networks(DNN)とはかなり異なることを観察する。 BNNは表現力に乏しいため、ラベルフィッティングと並行して効率的な隠れ表現を見つける傾向にある。
  論文  参考訳（メタデータ） (2020-06-13T00:39:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。