論文の概要: SOCRATES: Towards a Unified Platform for Neural Network Analysis
- arxiv url: http://arxiv.org/abs/2007.11206v2
- Date: Sat, 6 Feb 2021 03:37:56 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-07 22:12:53.065408
- Title: SOCRATES: Towards a Unified Platform for Neural Network Analysis
- Title（参考訳）: SOCRATES:ニューラルネットワーク解析のための統一プラットフォームを目指して
- Authors: Long H. Pham, Jiaying Li and Jun Sun
- Abstract要約: ニューラルネットワークを解析する技術を開発するための統一的なフレームワークの構築を目指している。
我々は、様々なニューラルネットワークモデルの標準化フォーマットをサポートするSOCRATESと呼ばれるプラットフォームを開発する。
実験の結果,我々のプラットフォームは幅広いネットワークモデルや特性を扱えることがわかった。
- 参考スコア（独自算出の注目度）: 7.318255652722096
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Studies show that neural networks, not unlike traditional programs, are
subject to bugs, e.g., adversarial samples that cause classification errors and
discriminatory instances that demonstrate the lack of fairness. Given that
neural networks are increasingly applied in critical applications (e.g.,
self-driving cars, face recognition systems and personal credit rating
systems), it is desirable that systematic methods are developed to analyze
(e.g., test or verify) neural networks against desirable properties. Recently,
a number of approaches have been developed for analyzing neural networks. These
efforts are however scattered (i.e., each approach tackles some restricted
classes of neural networks against certain particular properties), incomparable
(i.e., each approach has its own assumptions and input format) and thus hard to
apply, reuse or extend. In this project, we aim to build a unified framework
for developing techniques to analyze neural networks. Towards this goal, we
develop a platform called SOCRATES which supports a standardized format for a
variety of neural network models, an assertion language for property
specification as well as multiple neural network analysis algorithms including
two novel ones for falsifying and probabilistic verification of neural network
models. SOCRATES is extensible and thus existing approaches can be easily
integrated. Experiment results show that our platform can handle a wide range
of networks models and properties. More importantly, it provides a platform for
synergistic research on neural network analysis.
- Abstract（参考訳）: 研究によると、ニューラルネットワークは従来のプログラムと異なり、分類エラーを引き起こす逆さまのサンプルや、公平さの欠如を示す差別的なインスタンスなど、バグの対象となる。
ニューラルネットワークが重要な応用(例えば、自動運転車、顔認識システム、個人信用格付けシステム)にますます応用されることを考えると、ニューラルネットワークを望ましい性質に対して分析(例えば、テストまたは検証)するために体系的な手法が開発されることが望ましい。
近年,ニューラルネットワーク解析にいくつかのアプローチが開発されている。
しかし、これらの取り組みは分散しており(すなわち、それぞれのアプローチは特定の特性に対して制限されたニューラルネットワークのクラスに取り組む)、相容れない(すなわち、それぞれのアプローチには独自の仮定と入力形式がある)ため、適用、再利用、拡張が困難である。
本稿では,ニューラルネットワーク解析技術を開発するための統一的なフレームワークの構築を目的とする。
この目標に向けて、さまざまなニューラルネットワークモデルの標準化フォーマットをサポートするSOCRATESと呼ばれるプラットフォーム、プロパティ仕様のためのアサーション言語、ニューラルネットワークモデルのファルシフィケーションと確率的検証のための2つの新しいアルゴリズムを含む複数のニューラルネットワーク分析アルゴリズムを開発する。
SOCRATESは拡張可能であり、既存のアプローチを容易に統合できる。
実験の結果,我々のプラットフォームは幅広いネットワークモデルや特性を扱えることがわかった。
さらに重要なのは、ニューラルネットワーク分析に関する相乗的な研究のためのプラットフォームを提供することだ。
関連論文リスト
- Coding schemes in neural networks learning classification tasks [52.22978725954347]
完全接続型広義ニューラルネットワーク学習タスクについて検討する。
ネットワークが強力なデータ依存機能を取得することを示す。
驚くべきことに、内部表現の性質は神経の非線形性に大きく依存する。
論文 参考訳（メタデータ） (2024-06-24T14:50:05Z) - Towards Scalable and Versatile Weight Space Learning [51.78426981947659]
本稿では,重み空間学習におけるSANEアプローチを紹介する。
ニューラルネットワーク重みのサブセットの逐次処理に向けて,超表現の概念を拡張した。
論文 参考訳（メタデータ） (2024-06-14T13:12:07Z) - Graph Neural Networks for Learning Equivariant Representations of Neural Networks [55.04145324152541]
本稿では,ニューラルネットワークをパラメータの計算グラフとして表現することを提案する。
我々のアプローチは、ニューラルネットワークグラフを多種多様なアーキテクチャでエンコードする単一モデルを可能にする。
本稿では,暗黙的ニューラル表現の分類や編集など,幅広いタスクにおける本手法の有効性を示す。
論文 参考訳（メタデータ） (2024-03-18T18:01:01Z) - Deception Detection from Linguistic and Physiological Data Streams Using Bimodal Convolutional Neural Networks [19.639533220155965]
本稿では,畳み込み型ニューラルネットワークのマルチモーダルな騙し検出への応用について検討する。
2つのトピックについて104人の被験者にインタビューして構築したデータセットを使用します。
論文 参考訳（メタデータ） (2023-11-18T02:44:33Z) - How neural networks learn to classify chaotic time series [77.34726150561087]
本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。
入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
論文 参考訳（メタデータ） (2023-06-04T08:53:27Z) - Gaussian Process Surrogate Models for Neural Networks [6.8304779077042515]
科学と工学において、モデリング(英: modeling)とは、内部プロセスが不透明な複雑なシステムを理解するために用いられる方法論である。
本稿では,ガウス過程を用いたニューラルネットワークの代理モデルのクラスを構築する。
提案手法は,ニューラルネットワークのスペクトルバイアスに関連する既存の現象を捕捉し,サロゲートモデルを用いて現実的な問題を解決することを実証する。
論文 参考訳（メタデータ） (2022-08-11T20:17:02Z) - Consistency of Neural Networks with Regularization [0.0]
本稿では,ニューラルネットワークの規則化による一般的な枠組みを提案し,その一貫性を実証する。
双曲関数(Tanh)と整形線形単位(ReLU)の2種類の活性化関数が検討されている。
論文 参考訳（メタデータ） (2022-06-22T23:33:39Z) - Creating Powerful and Interpretable Models withRegression Networks [2.2049183478692584]
本稿では,ニューラルネットワークのパワーと回帰分析の可視性を組み合わせた新しいアーキテクチャRegression Networksを提案する。
これらのモデルが,いくつかのベンチマークデータセット上での解釈可能なモデルの最先端性能を上回ることを実証する。
論文 参考訳（メタデータ） (2021-07-30T03:37:00Z) - Anomaly Detection on Attributed Networks via Contrastive Self-Supervised
Learning [50.24174211654775]
本論文では,アトリビュートネットワーク上の異常検出のためのコントラスト型自己監視学習フレームワークを提案する。
このフレームワークは、新しいタイプのコントラストインスタンスペアをサンプリングすることで、ネットワークデータからのローカル情報を完全に活用します。
高次元特性と局所構造から情報埋め込みを学習するグラフニューラルネットワークに基づくコントラスト学習モデルを提案する。
論文 参考訳（メタデータ） (2021-02-27T03:17:20Z) - Provably Training Neural Network Classifiers under Fairness Constraints [70.64045590577318]
過パラメータのニューラルネットワークが制約を満たしていることを示す。
公平なニューラルネットワーク分類器を構築する上で重要な要素は、ニューラルネットワークの非応答解析を確立することである。
論文 参考訳（メタデータ） (2020-12-30T18:46:50Z) - Generate and Verify: Semantically Meaningful Formal Analysis of Neural
Network Perception Systems [2.2559617939136505]
ニューラルネットワーク認識システムの精度を評価するためにテストが続けられている。
我々は、モデルが常に基底真理に結びついたある誤差内で推定を生成することを証明するために、ニューラルネットワークの検証を用いる。
論文 参考訳（メタデータ） (2020-12-16T23:09:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。