論文の概要: Abstract Interpretation of Fixpoint Iterators with Applications to Neural Networks

• arxiv url: http://arxiv.org/abs/2110.08260v2
• Date: Wed, 26 Apr 2023 15:13:23 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-27 18:56:19.890447
• Title: Abstract Interpretation of Fixpoint Iterators with Applications to Neural Networks
• Title（参考訳）: 固定点イテレータの抽象解釈とニューラルネットワークへの応用
• Authors: Mark Niklas M\"uller, Marc Fischer, Robin Staab, Martin Vechev
• Abstract要約: 本稿では,数値固定点イテレータの高精度なオーバー近似のための新しい解釈フレームワークを提案する。 本フレームワークは,コンクリート中の収束性と一意性を保証する数値的固定点イテレータを対象とする。 我々は、CRAFTと呼ばれるツールでフレームワークを実装し、新しいフィクスポイントベースのニューラルネットワークアーキテクチャでそれを評価する。
• 参考スコア（独自算出の注目度）: 5.161531917413708
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We present a new abstract interpretation framework for the precise over-approximation of numerical fixpoint iterators. Our key observation is that unlike in standard abstract interpretation (AI), typically used to over-approximate all reachable program states, in this setting, one only needs to abstract the concrete fixpoints, i.e., the final program states. Our framework targets numerical fixpoint iterators with convergence and uniqueness guarantees in the concrete and is based on two major technical contributions: (i) theoretical insights which allow us to compute sound and precise fixpoint abstractions without using joins, and (ii) a new abstract domain, CH-Zonotope, which admits efficient propagation and inclusion checks while retaining high precision. We implement our framework in a tool called CRAFT and evaluate it on a novel fixpoint-based neural network architecture (monDEQ) that is particularly challenging to verify. Our extensive evaluation demonstrates that CRAFT exceeds the state-of-the-art performance in terms of speed (two orders of magnitude), scalability (one order of magnitude), and precision (25% higher certified accuracies).
• Abstract（参考訳）: 本稿では,数値固定点イテレータの正確な近似のための新しい抽象解釈フレームワークを提案する。 我々のキーとなる観察は、標準的な抽象解釈(AI)とは異なり、一般に全ての到達可能なプログラム状態のオーバー近似に使われるが、この設定では、具体的な固定点、すなわち最終プログラム状態のみを抽象化する必要がある。 本フレームワークは,コンクリートにおける収束性と特異性を保証する数値的固定点イテレータを目標とし,2つの主要な技術貢献に基づく。 一 結合を使わずに音と正確な固定点の抽象を計算できる理論的洞察、 (ii)新しい抽象ドメインであるch-zonotopeは、精度を維持しつつ効率的な伝播と包含チェックを許容する。 我々は,このフレームワークをCRAFTと呼ばれるツールに実装し,特に検証が難しい新しい固定点ベースのニューラルネットワークアーキテクチャ(monDEQ)で評価する。 当社の広範な評価は,速度(桁数2桁),スケーラビリティ(桁数1桁),精度(25%高い認定アキュラティティー)の観点から,クラフトが最先端のパフォーマンスを上回っていることを示している。

関連論文リスト

• Joint Learning for Scattered Point Cloud Understanding with Hierarchical Self-Distillation [34.26170741722835]
  そこで本研究では,部分点雲を高速に補正し,同定するエンド・ツー・エンドアーキテクチャを提案する。 階層型自己蒸留(HSD)は任意の階層ベースの点雲法に適用できる。
  論文  参考訳（メタデータ） (2023-12-28T08:51:04Z)
• DETR with Additional Global Aggregation for Cross-domain Weakly Supervised Object Detection [34.14603473160207]
  本稿では,クロスドメイン弱教師付き物体検出(CDWSOD)のためのDETRに基づく手法を提案する。 我々は、DETR のエンコーダとデコーダはどちらもアテンション機構に基づいており、CDWSOD の可能性が強いと考えている。 集約結果、すなわち画像レベルの予測は、ドメインアライメントの弱い監督を自然に利用することができる。
  論文  参考訳（メタデータ） (2023-04-14T12:16:42Z)
• Higher-order accurate two-sample network inference and network hashing [13.984114642035692]
  ネットワーク比較のための2サンプル仮説テストは、多くの重要な課題を示す。 我々は,新しいメソッドとその変種を特徴とする包括的ツールボックスを開発した。 提案手法は,既存のツールの高速化と精度に優れ,電力効率が最適であることが証明された。
  論文  参考訳（メタデータ） (2022-08-16T07:31:11Z)
• Toward Certified Robustness Against Real-World Distribution Shifts [65.66374339500025]
  我々は、データから摂動を学ぶために生成モデルを訓練し、学習したモデルの出力に関して仕様を定義する。 この設定から生じるユニークな挑戦は、既存の検証者がシグモイドの活性化を厳密に近似できないことである。 本稿では,古典的な反例誘導的抽象的洗練の概念を活用するシグモイドアクティベーションを扱うための一般的なメタアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-06-08T04:09:13Z)
• Open-Set Recognition: A Good Closed-Set Classifier is All You Need [146.6814176602689]
  分類器が「ゼロ・オブ・ア・ア・ア・ベ」決定を行う能力は、閉集合クラスにおける精度と高い相関関係があることが示される。 この相関を利用して、閉セット精度を向上させることにより、クロスエントロピーOSR'ベースライン'の性能を向上させる。 また、セマンティックノベルティを検出するタスクをより尊重する新しいベンチマークを構築した。
  論文  参考訳（メタデータ） (2021-10-12T17:58:59Z)
• EQ-Net: A Unified Deep Learning Framework for Log-Likelihood Ratio Estimation and Quantization [25.484585922608193]
  EQ-Netは,データ駆動手法を用いてログ類似度(LLR)推定と量子化の両課題を解決する,最初の包括的フレームワークである。 広範な実験評価を行い,両タスクにおいて単一アーキテクチャが最先端の成果を達成できることを実証する。
  論文  参考訳（メタデータ） (2020-12-23T18:11:30Z)
• Fully Quantized Image Super-Resolution Networks [81.75002888152159]
  効率と精度を両立させるためのフル量子化画像超解像フレームワーク(FQSR)を提案する。 我々は、SRResNet、SRGAN、EDSRを含む複数の主流超解像アーキテクチャに量子化スキームを適用した。 低ビット量子化を用いたFQSRは、5つのベンチマークデータセットの完全精度と比較すると、パー性能で実現できる。
  論文  参考訳（メタデータ） (2020-11-29T03:53:49Z)
• AQD: Towards Accurate Fully-Quantized Object Detection [94.06347866374927]
  本稿では,浮動小数点演算を除去するために,AQDと呼ばれる高精度な量子化オブジェクト検出ソリューションを提案する。 我々のAQDは、非常に低ビットのスキームの下での完全精度と比較して、同等またはそれ以上の性能を実現しています。
  論文  参考訳（メタデータ） (2020-07-14T09:07:29Z)
• Learning Robust Feature Representations for Scene Text Detection [0.0]
  本稿では、条件付きログを最大化するために、損失から導かれるネットワークアーキテクチャを提案する。 潜伏変数の層を複数の層に拡張することで、ネットワークは大規模に堅牢な機能を学ぶことができる。 実験では,提案アルゴリズムはリコール法と精度の両面で最先端の手法を著しく上回っている。
  論文  参考訳（メタデータ） (2020-05-26T01:06:47Z)
• An Information Bottleneck Approach for Controlling Conciseness in Rationale Extraction [84.49035467829819]
  我々は,情報ボトルネック(IB)の目的を最適化することで,このトレードオフをよりよく管理できることを示す。 我々の完全教師なしのアプローチは、文上のスパース二項マスクを予測する説明器と、抽出された合理性のみを考慮したエンドタスク予測器を共同で学習する。
  論文  参考訳（メタデータ） (2020-05-01T23:26:41Z)
• Depthwise Non-local Module for Fast Salient Object Detection Using a Single Thread [136.2224792151324]
  本稿では,高速な物体検出のための新しいディープラーニングアルゴリズムを提案する。 提案アルゴリズムは,1つのCPUスレッドと同時に,競合精度と高い推論効率を実現する。
  論文  参考訳（メタデータ） (2020-01-22T15:23:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。