Fugu-MT 論文翻訳(概要): Inferring Data Preconditions from Deep Learning Models for Trustworthy Prediction in Deployment

論文の概要: Inferring Data Preconditions from Deep Learning Models for Trustworthy Prediction in Deployment

arxiv url: http://arxiv.org/abs/2401.14628v1
Date: Fri, 26 Jan 2024 03:47:18 GMT
ステータス: 処理完了
システム内更新日: 2024-01-29 16:02:42.894279
Title: Inferring Data Preconditions from Deep Learning Models for Trustworthy Prediction in Deployment
Title（参考訳）: デプロイメントにおける信頼に値する予測のための深層学習モデルからのデータ前提条件の推定
Authors: Shibbir Ahmed, Hongyang Gao, Hridesh Rajan
Abstract要約: デプロイ中に見つからないデータを使って、モデルの予測の信頼性を判断することが重要です。従来のソフトウェアを特定し検証する既存の方法は、このタスクには不十分である。本稿では、ニューラルネットワーク計算から導出されるルールを用いて、データ前提条件を推論する新しい手法を提案する。
参考スコア（独自算出の注目度）: 25.527665632625627
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Deep learning models are trained with certain assumptions about the data during the development stage and then used for prediction in the deployment stage. It is important to reason about the trustworthiness of the model's predictions with unseen data during deployment. Existing methods for specifying and verifying traditional software are insufficient for this task, as they cannot handle the complexity of DNN model architecture and expected outcomes. In this work, we propose a novel technique that uses rules derived from neural network computations to infer data preconditions for a DNN model to determine the trustworthiness of its predictions. Our approach, DeepInfer involves introducing a novel abstraction for a trained DNN model that enables weakest precondition reasoning using Dijkstra's Predicate Transformer Semantics. By deriving rules over the inductive type of neural network abstract representation, we can overcome the matrix dimensionality issues that arise from the backward non-linear computation from the output layer to the input layer. We utilize the weakest precondition computation using rules of each kind of activation function to compute layer-wise precondition from the given postcondition on the final output of a deep neural network. We extensively evaluated DeepInfer on 29 real-world DNN models using four different datasets collected from five different sources and demonstrated the utility, effectiveness, and performance improvement over closely related work. DeepInfer efficiently detects correct and incorrect predictions of high-accuracy models with high recall (0.98) and high F-1 score (0.84) and has significantly improved over prior technique, SelfChecker. The average runtime overhead of DeepInfer is low, 0.22 sec for all unseen datasets. We also compared runtime overhead using the same hardware settings and found that DeepInfer is 3.27 times faster than SelfChecker.
Abstract（参考訳）: ディープラーニングモデルは、開発段階でデータに関する特定の仮定でトレーニングされ、デプロイ段階で予測に使用される。デプロイ中に見つからないデータを使って、モデルの予測の信頼性を判断することが重要です。 DNNモデルアーキテクチャの複雑さや期待される結果に対処できないため、従来のソフトウェアを特定し検証する既存の手法は、このタスクには不十分である。本研究では,ニューラルネットワーク計算から導出した規則を用いて,dnnモデルにおけるデータ前提条件を推定し,その予測の信頼性を判定する手法を提案する。我々のアプローチであるDeepInferは、DijkstraのPredicate Transformer Semanticsを使って、最も弱い条件推論を可能にする訓練されたDNNモデルのための新しい抽象化を導入する。ニューラルネットワーク抽象表現の帰納型に関する規則を導出することにより、出力層から入力層への逆非線形計算から生じる行列次元問題を克服することができる。本稿では,各アクティベーション関数の規則を用いた最弱事前条件計算を用いて,ディープニューラルネットワークの最終出力における与えられた条件から階層的事前条件を算出する。我々は5つの異なる情報源から収集した4つの異なるデータセットを用いて、29の現実世界DNNモデル上でDeepInferを広範囲に評価し、密接に関連する作業に対する有用性、有効性、性能の改善を実証した。 deepinferは、高いリコール(0.98)と高いf-1スコア(0.84)を持つ高精度モデルの正確かつ不正確な予測を効率的に検出する。 DeepInferの平均ランタイムオーバーヘッドは低く、すべての未確認データセットで0.22秒である。また、同じハードウェア設定でランタイムのオーバーヘッドを比較し、DeepInferがSelfCheckerの3.27倍高速であることが分かりました。

関連論文リスト

An Investigation on Machine Learning Predictive Accuracy Improvement and Uncertainty Reduction using VAE-based Data Augmentation [2.517043342442487]
深層生成学習は、特定のMLモデルを使用して、既存のデータの基盤となる分布を学習し、実際のデータに似た合成サンプルを生成する。本研究では,変分オートエンコーダ(VAE)を用いた深部生成モデルを用いて,データ拡張の有効性を評価することを目的とする。本研究では,拡張データを用いてトレーニングしたディープニューラルネットワーク(DNN)モデルの予測において,データ拡張が精度の向上につながるかどうかを検討した。
論文参考訳（メタデータ） (2024-10-24T18:15:48Z)
Deep Neural Networks Tend To Extrapolate Predictably [51.303814412294514]
ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
論文参考訳（メタデータ） (2023-10-02T03:25:32Z)
PerfSAGE: Generalized Inference Performance Predictor for Arbitrary Deep Learning Models on Edge Devices [8.272409756443539]
本稿では、任意のDNNliteグラフ上の推論遅延、エネルギー、メモリフットプリントを予測する新しいグラフニューラルネットワークであるPerfSAGEについて述べる。このデータセットを用いて、PerfSAGEをトレーニングし、すべてのターゲットとモデル検索空間にわたって平均絶対パーセンテージ誤差の5%で最先端の予測精度を示す実験結果を提供する。
論文参考訳（メタデータ） (2023-01-26T08:59:15Z)
Boosted Dynamic Neural Networks [53.559833501288146]
典型的なEDNNは、ネットワークバックボーンの異なる層に複数の予測ヘッドを持つ。モデルを最適化するために、これらの予測ヘッドとネットワークバックボーンは、トレーニングデータのバッチ毎にトレーニングされる。トレーニングと2つのフェーズでのインプットの異なるテストは、トレーニングとデータ分散のテストのミスマッチを引き起こす。 EDNNを勾配強化にインスパイアされた付加モデルとして定式化し、モデルを効果的に最適化するための複数のトレーニング手法を提案する。
論文参考訳（メタデータ） (2022-11-30T04:23:12Z)
Invertible Neural Networks for Graph Prediction [22.140275054568985]
本研究では,ディープ・インバーチブル・ニューラルネットワークを用いた条件生成について述べる。私たちの目標は,前処理と後処理の予測と生成を同時に行うことにあるので,エンドツーエンドのトレーニングアプローチを採用しています。
論文参考訳（メタデータ） (2022-06-02T17:28:33Z)
Invariance Learning in Deep Neural Networks with Differentiable Laplace Approximations [76.82124752950148]
我々はデータ拡張を選択するための便利な勾配法を開発した。我々はKronecker-factored Laplace近似を我々の目的とする限界確率に近似する。
論文参考訳（メタデータ） (2022-02-22T02:51:11Z)
Rank-R FNN: A Tensor-Based Learning Model for High-Order Data Classification [69.26747803963907]
Rank-R Feedforward Neural Network (FNN)は、そのパラメータにCanonical/Polyadic分解を課すテンソルベースの非線形学習モデルである。まず、入力をマルチリニアアレイとして扱い、ベクトル化の必要性を回避し、すべてのデータ次元に沿って構造情報を十分に活用することができる。 Rank-R FNNの普遍的な近似と学習性の特性を確立し、実世界のハイパースペクトルデータセットのパフォーマンスを検証する。
論文参考訳（メタデータ） (2021-04-11T16:37:32Z)
ALT-MAS: A Data-Efficient Framework for Active Testing of Machine Learning Algorithms [58.684954492439424]
少量のラベル付きテストデータのみを用いて機械学習モデルを効率的にテストする新しいフレームワークを提案する。ベイズニューラルネットワーク(bnn)を用いたモデルアンダーテストの関心指標の推定が目的である。
論文参考訳（メタデータ） (2021-04-11T12:14:04Z)
Modeling Token-level Uncertainty to Learn Unknown Concepts in SLU via Calibrated Dirichlet Prior RNN [98.4713940310056]
現代パーソナルアシスタントにおける音声言語理解(SLU)の主な課題は、発話から意味概念を抽出することである。最近の研究では、疑問と回答を収集し、未知のデータを学習し、質問すべきである。疑わしい監督なしにシーケンスの不確かさをモデル化するために、ソフトマックスベースのスロット充填ニューラルネットワークアーキテクチャを組み込んだ。
論文参考訳（メタデータ） (2020-10-16T02:12:30Z)
Training Deep Neural Networks with Constrained Learning Parameters [4.917317902787792]
ディープラーニングタスクのかなりの部分はエッジコンピューティングシステムで実行される。我々は, Combinatorial Neural Network Training Algorithm (CNNTrA)を提案する。 CoNNTrAは、MNIST、Iris、ImageNetデータセット上で、第三次学習パラメータでディープラーニングモデルをトレーニングする。以上の結果から,CNNTrAモデルはメモリを32倍に削減し,バックプロパゲーションモデルと同程度の誤差を有することがわかった。
論文参考訳（メタデータ） (2020-09-01T16:20:11Z)
Increasing Trustworthiness of Deep Neural Networks via Accuracy Monitoring [20.456742449675904]
ディープニューラルネットワーク(DNN)の推論精度は重要なパフォーマンス指標であるが、実際のテストデータセットによって大きく異なる可能性がある。これにより、特に安全クリティカルなアプリケーションにおいて、DNNの信頼性に関する重要な懸念が持ち上がっている。本稿では、DNNのソフトマックス確率出力のみを入力とするニューラルネットワークに基づく精度監視モデルを提案する。
論文参考訳（メタデータ） (2020-07-03T03:09:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。