論文の概要: Truth-Table Net: A New Convolutional Architecture Encodable By Design
Into SAT Formulas
- arxiv url: http://arxiv.org/abs/2208.08609v1
- Date: Thu, 18 Aug 2022 03:06:25 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-19 13:15:24.486801
- Title: Truth-Table Net: A New Convolutional Architecture Encodable By Design
Into SAT Formulas
- Title（参考訳）: Truth-Table Net:SATフォーミュラの設計で実現可能な新しい畳み込みアーキテクチャ
- Authors: Adrien Benamira, Thomas Peyrin, Bryan Hooi Kuen-Yew
- Abstract要約: 本稿では,SAT-Encodable モデルの新たなファミリである Truth Table Deep Convolutional Neural Networks (TTnets) を紹介する。
TTnetは、タイムアウトなしで完了した高速な検証時間で高い精度を達成する。
TTnetは様々なCNNアーキテクチャに適用でき、公平性、障害攻撃、厳密なルール抽出など他の特性にも拡張できると仮定する。
- 参考スコア（独自算出の注目度）: 6.445605125467575
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: With the expanding role of neural networks, the need for complete and sound
verification of their property has become critical. In the recent years, it was
established that Binary Neural Networks (BNNs) have an equivalent
representation in Boolean logic and can be formally analyzed using logical
reasoning tools such as SAT solvers. However, to date, only BNNs can be
transformed into a SAT formula. In this work, we introduce Truth Table Deep
Convolutional Neural Networks (TTnets), a new family of SAT-encodable models
featuring for the first time real-valued weights. Furthermore, it admits, by
construction, some valuable conversion features including post-tuning and
tractability in the robustness verification setting. The latter property leads
to a more compact SAT symbolic encoding than BNNs. This enables the use of
general SAT solvers, making property verification easier. We demonstrate the
value of TTnets regarding the formal robustness property: TTnets outperform the
verified accuracy of all BNNs with a comparable computation time. More
generally, they represent a relevant trade-off between all known complete
verification methods: TTnets achieve high verified accuracy with fast
verification time, being complete with no timeouts. We are exploring here a
proof of concept of TTnets for a very important application (complete
verification of robustness) and we believe this novel real-valued network
constitutes a practical response to the rising need for functional formal
verification. We postulate that TTnets can apply to various CNN-based
architectures and be extended to other properties such as fairness, fault
attack and exact rule extraction.
- Abstract（参考訳）: ニューラルネットワークの役割が拡大するにつれて、その特性の完全かつ健全な検証の必要性が重要になっている。
近年、BNN(Binary Neural Networks)はブール論理に等価な表現を持ち、SATソルバのような論理的推論ツールを用いて形式的に解析できることが確立されている。
しかし、現在ではBNNのみをSAT公式に変換することができる。
本研究では,SAT-Encodable モデルの新たなファミリである Truth Table Deep Convolutional Neural Networks (TTnets) を紹介する。
さらに、建設により、ロバストネス検証設定における後調整やトラクタビリティを含む、いくつかの重要な変換機能を認めている。
後者の性質はBNNよりもコンパクトなSAT記号符号化をもたらす。
これにより、一般的なSATソルバの使用が可能になり、プロパティの検証が容易になる。
形式的ロバスト性に関するTTnetの値を示す: TTnetは、全てのBNNの精度を同等の計算時間で上回る。
ttnetは高速な検証時間で高い検証精度を達成し、タイムアウトなしで完了します。
我々は,TTnet の概念を極めて重要な応用(堅牢性の完全検証)の証明として検討しており,この新たな実数値ネットワークは,機能的形式的検証の必要性の高まりに対する現実的な応答であると考えている。
TTnetは様々なCNNアーキテクチャに適用でき、公平性、障害攻撃、厳密なルール抽出など他の特性にも拡張できると仮定する。
関連論文リスト
- Harnessing Neuron Stability to Improve DNN Verification [42.65507402735545]
我々は最近提案されたDPLLベースの制約DNN検証手法の拡張であるVeriStableを提案する。
完全接続型フィードネットワーク(FNN)、畳み込み型ニューラルネットワーク(CNN)、残留型ネットワーク(ResNet)など、さまざまな課題のあるベンチマークにおいてVeriStableの有効性を評価する。
予備的な結果は、VeriStableは、VNN-COMPの第1および第2のパフォーマーである$alpha$-$beta$-CROWNやMN-BaBなど、最先端の検証ツールよりも優れていることを示している。
論文 参考訳（メタデータ） (2024-01-19T23:48:04Z) - On the Computational Complexity and Formal Hierarchy of Second Order
Recurrent Neural Networks [59.85314067235965]
2次次リカレントネットワーク(RNN)の理論基盤を拡大する(2次RNN)
有界時間でチューリング完備な RNN のクラスが存在することを証明している。
また、記憶のない2ドルのRNNは、バニラRNNのような現代のモデルよりも優れており、正規文法の認識において繰り返し単位をゲートしていることを示す。
論文 参考訳（メタデータ） (2023-09-26T06:06:47Z) - An Automata-Theoretic Approach to Synthesizing Binarized Neural Networks [13.271286153792058]
量子ニューラルネットワーク(QNN)が開発され、二項化ニューラルネットワーク(BNN)は特殊なケースとしてバイナリ値に制限されている。
本稿では,指定された特性を満たすBNNの自動合成手法を提案する。
論文 参考訳（メタデータ） (2023-07-29T06:27:28Z) - Incremental Verification of Neural Networks [3.9661031279983896]
本稿では,新しい理論,データ構造,アルゴリズムの設計に基づく,インクリメンタルかつ完全なDNN検証のための新しい汎用フレームワークを提案する。
我々の貢献はIVANというツールに実装され、MNISTとCIFAR10の分類に挑戦する上での全体的な幾何平均スピードアップの2.4倍、最先端のベースライン上でのACAS-XU分類器の幾何平均スピードアップの3.8倍となる。
論文 参考訳（メタデータ） (2023-04-04T15:28:22Z) - Quantization-aware Interval Bound Propagation for Training Certifiably
Robust Quantized Neural Networks [58.195261590442406]
我々は、逆向きに頑健な量子化ニューラルネットワーク(QNN)の訓練と証明の課題について検討する。
近年の研究では、浮動小数点ニューラルネットワークが量子化後の敵攻撃に対して脆弱であることが示されている。
本稿では、堅牢なQNNをトレーニングするための新しい方法であるQA-IBP(quantization-aware interval bound propagation)を提案する。
論文 参考訳（メタデータ） (2022-11-29T13:32:38Z) - Comparative Analysis of Interval Reachability for Robust Implicit and
Feedforward Neural Networks [64.23331120621118]
我々は、暗黙的ニューラルネットワーク(INN)の堅牢性を保証するために、区間到達可能性分析を用いる。
INNは暗黙の方程式をレイヤとして使用する暗黙の学習モデルのクラスである。
提案手法は, INNに最先端の区間境界伝搬法を適用するよりも, 少なくとも, 一般的には, 有効であることを示す。
論文 参考訳（メタデータ） (2022-04-01T03:31:27Z) - A Mixed Integer Programming Approach for Verifying Properties of
Binarized Neural Networks [44.44006029119672]
BNN検証のための混合整数計画法を提案する。
我々は,MNISTデータセットと航空機衝突回避制御器を用いて訓練したBNNの特性を検証することによって,我々のアプローチを実証する。
論文 参考訳（メタデータ） (2022-03-11T01:11:29Z) - S2-BNN: Bridging the Gap Between Self-Supervised Real and 1-bit Neural
Networks via Guided Distribution Calibration [74.5509794733707]
本研究では, 実数値から, 最終予測分布上のバイナリネットワークへの誘導型学習パラダイムを提案する。
提案手法は,bnn上で5.515%の絶対利得で,単純なコントラスト学習ベースラインを向上できる。
提案手法は、単純なコントラスト学習ベースラインよりも大幅に改善され、多くの主流教師付きBNN手法に匹敵する。
論文 参考訳（メタデータ） (2021-02-17T18:59:28Z) - FATNN: Fast and Accurate Ternary Neural Networks [89.07796377047619]
Ternary Neural Networks (TNN) は、完全な精度のニューラルネットワークよりもはるかに高速で、電力効率が高いため、多くの注目を集めている。
そこで本研究では、3次内積の計算複雑性を2。
性能ギャップを軽減するために,実装に依存した3次量子化アルゴリズムを精巧に設計する。
論文 参考訳（メタデータ） (2020-08-12T04:26:18Z) - CSNE: Conditional Signed Network Embedding [77.54225346953069]
署名されたネットワークは、友人/フォアや信頼/不信のようなエンティティ間の正と負の関係を符号化する。
サイン予測のための既存の埋め込み手法は、一般に最適化関数におけるステータスやバランス理論の異なる概念を強制する。
条件付き符号付きネットワーク埋め込み(CSNE)を導入する。
我々の確率論的アプローチは、きめ細かな詳細とは別途、ネットワーク内の記号に関する構造情報をモデル化する。
論文 参考訳（メタデータ） (2020-05-19T19:14:52Z) - Efficient Exact Verification of Binarized Neural Networks [15.639601066641099]
バイナリニューラルネットワーク(BNN)は、同等の堅牢性を提供し、正確かつはるかに効率的な検証を可能にする。
我々は,BNNの効率的かつ正確な検証を行うための新しいシステムであるEEVを提案する。
非自明な畳み込みBNNのL-inf-bounded adversarial robustnessに対する最初の正確な検証結果を示すことにより、脳波の有効性を実証する。
論文 参考訳（メタデータ） (2020-05-07T16:34:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。