論文の概要: Efficient Symbolic Reasoning for Neural-Network Verification

• arxiv url: http://arxiv.org/abs/2303.13588v1
• Date: Thu, 23 Mar 2023 18:08:11 GMT
• ステータス: 処理完了
• システム内更新日: 2023-03-27 16:58:52.628772
• Title: Efficient Symbolic Reasoning for Neural-Network Verification
• Title（参考訳）: ニューラルネットワーク検証のための効率的なシンボリック推論
• Authors: Zi Wang, Somesh Jha, Krishnamurthy (Dj) Dvijotham
• Abstract要約: 本稿では,ニューラルネットワーク検証のための新しいプログラム推論フレームワークを提案する。 我々のフレームワークの主要な構成要素は、記号領域と二次関係の利用である。 我々のフレームワークは、ニューラルネットワークの検証問題に新しい理論的洞察と実践的なツールをもたらすことができると信じている。
• 参考スコア（独自算出の注目度）: 48.384446430284676
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The neural network has become an integral part of modern software systems. However, they still suffer from various problems, in particular, vulnerability to adversarial attacks. In this work, we present a novel program reasoning framework for neural-network verification, which we refer to as symbolic reasoning. The key components of our framework are the use of the symbolic domain and the quadratic relation. The symbolic domain has very flexible semantics, and the quadratic relation is quite expressive. They allow us to encode many verification problems for neural networks as quadratic programs. Our scheme then relaxes the quadratic programs to semidefinite programs, which can be efficiently solved. This framework allows us to verify various neural-network properties under different scenarios, especially those that appear challenging for non-symbolic domains. Moreover, it introduces new representations and perspectives for the verification tasks. We believe that our framework can bring new theoretical insights and practical tools to verification problems for neural networks.
• Abstract（参考訳）: ニューラルネットワークは現代のソフトウェアシステムにおいて不可欠な部分となっている。 しかし、それでも様々な問題、特に敵の攻撃に対する脆弱性に悩まされている。 本研究では,ニューラルネットワーク検証のための新しいプログラム推論フレームワークを提案する。 我々のフレームワークの主要な構成要素は、記号領域と二次関係の利用である。 シンボリック領域は非常に柔軟な意味論を持ち、二次関係は非常に表現豊かである。 これにより、ニューラルネットワークの多くの検証問題を二次プログラムとしてエンコードできる。 そして、2次プログラムを半定値プログラムに緩和し、効率よく解ける。 このフレームワークにより、異なるシナリオ、特に象徴的でないドメインでは困難なように見えるさまざまなニューラルネットワーク特性を検証できます。 さらに、検証タスクのための新しい表現と視点も導入する。 我々のフレームワークは、ニューラルネットワークの検証問題に新しい理論的洞察と実用的なツールをもたらすことができると信じています。

関連論文リスト

• LinSATNet: The Positive Linear Satisfiability Neural Networks [116.65291739666303]
  本稿では,ニューラルネットワークに人気の高い正の線形満足度を導入する方法について検討する。 本稿では,古典的なシンクホーンアルゴリズムを拡張し,複数の辺分布の集合を共同で符号化する,最初の微分可能満足層を提案する。
  論文  参考訳（メタデータ） (2024-07-18T22:05:21Z)
• Coding schemes in neural networks learning classification tasks [52.22978725954347]
  完全接続型広義ニューラルネットワーク学習タスクについて検討する。 ネットワークが強力なデータ依存機能を取得することを示す。 驚くべきことに、内部表現の性質は神経の非線形性に大きく依存する。
  論文  参考訳（メタデータ） (2024-06-24T14:50:05Z)
• Visualizing Neural Network Imagination [2.1749194587826026]
  ある状況では、ニューラルネットワークは、隠れたアクティベーションの環境状態を表現します。 私たちのゴールは、ネットワークが表現している環境を可視化することです。 定量的解釈可能性尺度を定義し、隠れた状態が高度に解釈可能であることを示す。
  論文  参考訳（メタデータ） (2024-05-10T11:43:35Z)
• Simple and Effective Transfer Learning for Neuro-Symbolic Integration [50.592338727912946]
  この問題の潜在的な解決策はNeuro-Symbolic Integration (NeSy)であり、ニューラルアプローチとシンボリック推論を組み合わせる。 これらの手法のほとんどは、認識をシンボルにマッピングするニューラルネットワークと、下流タスクの出力を予測する論理的論理的推論を利用する。 それらは、緩やかな収束、複雑な知覚タスクの学習困難、局所的なミニマへの収束など、いくつかの問題に悩まされている。 本稿では,これらの問題を改善するための簡易かつ効果的な方法を提案する。
  論文  参考訳（メタデータ） (2024-02-21T15:51:01Z)
• Extensions to Generalized Annotated Logic and an Equivalent Neural Architecture [4.855957436171202]
  本稿では,ニューロシンボリックシステムに対する望ましい基準のリストを提案し,既存のアプローチのいくつかがこれらの基準にどう対処するかを検討する。 次に、等価なニューラルアーキテクチャの作成を可能にするアノテーション付き一般化論理の拡張を提案する。 トレーニングプロセスの継続的な最適化に依存する従来のアプローチとは異なり、当社のフレームワークは、離散最適化を使用する二項化ニューラルネットワークとして設計されている。
  論文  参考訳（メタデータ） (2023-02-23T17:39:46Z)
• Neuro-Symbolic Verification of Deep Neural Networks [20.973078277539276]
  本稿ではニューラルシンボリック検証という,ニューラルネットワークの検証のための新しいフレームワークを提案する。 重要なアイデアは、論理的な仕様の一部としてニューラルネットワークを使用することだ。 本稿では,ニューラルネットワークの既存の検証基盤上に,ニューロシンボリック検証をどのように実装できるかを示す。
  論文  参考訳（メタデータ） (2022-03-02T08:40:01Z)
• Provably Training Neural Network Classifiers under Fairness Constraints [70.64045590577318]
  過パラメータのニューラルネットワークが制約を満たしていることを示す。 公平なニューラルネットワーク分類器を構築する上で重要な要素は、ニューラルネットワークの非応答解析を確立することである。
  論文  参考訳（メタデータ） (2020-12-30T18:46:50Z)
• Extending Answer Set Programs with Neural Networks [2.512827436728378]
  ニューラルネットワークを導入することで、応答セットプログラムをシンプルに拡張するNeurASPを提案する。 我々は、NeurASPがトレーニング済みニューラルネットワークの知覚精度を向上できるだけでなく、論理ルールによる制約を与えることで、ニューラルネットワークをより良くトレーニングできることを示した。
  論文  参考訳（メタデータ） (2020-09-22T00:52:30Z)
• Machine Number Sense: A Dataset of Visual Arithmetic Problems for Abstract and Relational Reasoning [95.18337034090648]
  文法モデルを用いて自動生成される視覚的算術問題からなるデータセット、MNS(Machine Number Sense)を提案する。 これらの視覚的算術問題は幾何学的フィギュアの形をしている。 我々は、この視覚的推論タスクのベースラインとして、4つの主要なニューラルネットワークモデルを用いて、MNSデータセットをベンチマークする。
  論文  参考訳（メタデータ） (2020-04-25T17:14:58Z)
• A neural network model of perception and reasoning [0.0]
  生物学的に一貫した構成原理の単純なセットが神経ネットワークにこれらの能力を与えることを示す。 我々はこれらの原理を、最適化の代わりに概念構築に基づく新しい機械学習アルゴリズムで実装し、説明可能なニューロン活動で推論されるディープニューラルネットワークを設計する。
  論文  参考訳（メタデータ） (2020-02-26T06:26:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。