論文の概要: Effective Certification of Monotone Deep Equilibrium Models

• arxiv url: http://arxiv.org/abs/2110.08260v1
• Date: Thu, 14 Oct 2021 19:08:27 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-22 05:59:28.001525
• Title: Effective Certification of Monotone Deep Equilibrium Models
• Title（参考訳）: モノトン深部平衡モデルの効果的な証明
• Authors: Mark Niklas M\"uller, Robin Staab, Marc Fischer, Martin Vechev
• Abstract要約: 本稿では,2つの鍵となるアイデアに基づいて,スケーラブルで高精度なMonDEQ検証手法を提案する。 難解な$ell_infty$摂動に対する検証器の評価は, 最先端の性能よりも高速であることを示す。
• 参考スコア（独自算出の注目度）: 4.110108749051657
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Monotone Operator Equilibrium Models (monDEQs) represent a class of models combining the powerful deep equilibrium paradigm with convergence guarantees. Further, their inherent robustness to adversarial perturbations makes investigating their certifiability a promising research direction. Unfortunately, existing approaches are either imprecise or severely limited in scalability. In this work, we propose the first scalable and precise monDEQ verifier, based on two key ideas: (i) a novel convex relaxation enabling efficient inclusion checks, and (ii) non-trivial mathematical insights characterizing the fixpoint operations at the heart of monDEQs on sets rather than concrete inputs. An extensive evaluation of our verifier on the challenging $\ell_\infty$ perturbations demonstrates that it exceeds state-of-the-art performance in terms of speed (two orders of magnitude) and scalability (an order of magnitude) while yielding 25% higher certified accuracies on the same networks.
• Abstract（参考訳）: Monotone Operator Equilibrium Models (monDEQs) は、強力な深い均衡パラダイムと収束保証を組み合わせたモデルのクラスである。 さらに、敵の摂動に対するその固有の頑健性は、その感受性を有望な研究方向とする。 残念ながら、既存のアプローチは不正確かスケーラビリティに厳しい制限がある。 本稿では,2つの主要なアイデアに基づいた,スケーラブルで高精度なMonDEQ検証手法を提案する。 (i)効率的な包接チェックを可能にする新規凸緩和法、 (2)具体的入力ではなく集合上のMonDEQの心における固定点演算を特徴付ける非自明な数学的洞察。 挑戦的な$\ell_\infty$摂動に対する検証器の広範な評価は、同じネットワーク上で25%高い認証精度が得られると同時に、速度(2桁)とスケーラビリティ(桁)で最先端の性能を上回ることを示した。

関連論文リスト

• Joint Learning for Scattered Point Cloud Understanding with Hierarchical Self-Distillation [34.26170741722835]
  そこで本研究では,部分点雲を高速に補正し,同定するエンド・ツー・エンドアーキテクチャを提案する。 階層型自己蒸留(HSD)は任意の階層ベースの点雲法に適用できる。
  論文  参考訳（メタデータ） (2023-12-28T08:51:04Z)
• DETR with Additional Global Aggregation for Cross-domain Weakly Supervised Object Detection [34.14603473160207]
  本稿では,クロスドメイン弱教師付き物体検出(CDWSOD)のためのDETRに基づく手法を提案する。 我々は、DETR のエンコーダとデコーダはどちらもアテンション機構に基づいており、CDWSOD の可能性が強いと考えている。 集約結果、すなわち画像レベルの予測は、ドメインアライメントの弱い監督を自然に利用することができる。
  論文  参考訳（メタデータ） (2023-04-14T12:16:42Z)
• Higher-order accurate two-sample network inference and network hashing [13.984114642035692]
  ネットワーク比較のための2サンプル仮説テストは、多くの重要な課題を示す。 我々は,新しいメソッドとその変種を特徴とする包括的ツールボックスを開発した。 提案手法は,既存のツールの高速化と精度に優れ,電力効率が最適であることが証明された。
  論文  参考訳（メタデータ） (2022-08-16T07:31:11Z)
• Toward Certified Robustness Against Real-World Distribution Shifts [65.66374339500025]
  我々は、データから摂動を学ぶために生成モデルを訓練し、学習したモデルの出力に関して仕様を定義する。 この設定から生じるユニークな挑戦は、既存の検証者がシグモイドの活性化を厳密に近似できないことである。 本稿では,古典的な反例誘導的抽象的洗練の概念を活用するシグモイドアクティベーションを扱うための一般的なメタアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-06-08T04:09:13Z)
• Open-Set Recognition: A Good Closed-Set Classifier is All You Need [146.6814176602689]
  分類器が「ゼロ・オブ・ア・ア・ア・ベ」決定を行う能力は、閉集合クラスにおける精度と高い相関関係があることが示される。 この相関を利用して、閉セット精度を向上させることにより、クロスエントロピーOSR'ベースライン'の性能を向上させる。 また、セマンティックノベルティを検出するタスクをより尊重する新しいベンチマークを構築した。
  論文  参考訳（メタデータ） (2021-10-12T17:58:59Z)
• EQ-Net: A Unified Deep Learning Framework for Log-Likelihood Ratio Estimation and Quantization [25.484585922608193]
  EQ-Netは,データ駆動手法を用いてログ類似度(LLR)推定と量子化の両課題を解決する,最初の包括的フレームワークである。 広範な実験評価を行い,両タスクにおいて単一アーキテクチャが最先端の成果を達成できることを実証する。
  論文  参考訳（メタデータ） (2020-12-23T18:11:30Z)
• Fully Quantized Image Super-Resolution Networks [81.75002888152159]
  効率と精度を両立させるためのフル量子化画像超解像フレームワーク(FQSR)を提案する。 我々は、SRResNet、SRGAN、EDSRを含む複数の主流超解像アーキテクチャに量子化スキームを適用した。 低ビット量子化を用いたFQSRは、5つのベンチマークデータセットの完全精度と比較すると、パー性能で実現できる。
  論文  参考訳（メタデータ） (2020-11-29T03:53:49Z)
• AQD: Towards Accurate Fully-Quantized Object Detection [94.06347866374927]
  本稿では,浮動小数点演算を除去するために,AQDと呼ばれる高精度な量子化オブジェクト検出ソリューションを提案する。 我々のAQDは、非常に低ビットのスキームの下での完全精度と比較して、同等またはそれ以上の性能を実現しています。
  論文  参考訳（メタデータ） (2020-07-14T09:07:29Z)
• Learning Robust Feature Representations for Scene Text Detection [0.0]
  本稿では、条件付きログを最大化するために、損失から導かれるネットワークアーキテクチャを提案する。 潜伏変数の層を複数の層に拡張することで、ネットワークは大規模に堅牢な機能を学ぶことができる。 実験では,提案アルゴリズムはリコール法と精度の両面で最先端の手法を著しく上回っている。
  論文  参考訳（メタデータ） (2020-05-26T01:06:47Z)
• An Information Bottleneck Approach for Controlling Conciseness in Rationale Extraction [84.49035467829819]
  我々は,情報ボトルネック(IB)の目的を最適化することで,このトレードオフをよりよく管理できることを示す。 我々の完全教師なしのアプローチは、文上のスパース二項マスクを予測する説明器と、抽出された合理性のみを考慮したエンドタスク予測器を共同で学習する。
  論文  参考訳（メタデータ） (2020-05-01T23:26:41Z)
• Depthwise Non-local Module for Fast Salient Object Detection Using a Single Thread [136.2224792151324]
  本稿では,高速な物体検出のための新しいディープラーニングアルゴリズムを提案する。 提案アルゴリズムは,1つのCPUスレッドと同時に,競合精度と高い推論効率を実現する。
  論文  参考訳（メタデータ） (2020-01-22T15:23:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。