論文の概要: ProbLP: A framework for low-precision probabilistic inference
- arxiv url: http://arxiv.org/abs/2103.00216v1
- Date: Sat, 27 Feb 2021 13:41:16 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-03 23:19:12.816143
- Title: ProbLP: A framework for low-precision probabilistic inference
- Title(参考訳): ProbLP:低精度確率推論のためのフレームワーク
- Authors: Nimish Shah, Laura I. Galindez Olascoaga, Wannes Meert and Marian
Verhelst
- Abstract要約: 低精度確率推論ハードウェアの分析と設計を自動化するフレームワークであるProbLPを提案する。
最悪のエラーバウンドとハードウェアエネルギーモデルに基づいて、適切なエネルギー効率の表現を自動的に選択する。
並列性、パイプライン化、低精度演算を利用した推論ネットワークのためのカスタムハードウェアを生成する。
- 参考スコア(独自算出の注目度): 10.24755253455414
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Bayesian reasoning is a powerful mechanism for probabilistic inference in
smart edge-devices. During such inferences, a low-precision arithmetic
representation can enable improved energy efficiency. However, its impact on
inference accuracy is not yet understood. Furthermore, general-purpose hardware
does not natively support low-precision representation. To address this, we
propose ProbLP, a framework that automates the analysis and design of
low-precision probabilistic inference hardware. It automatically chooses an
appropriate energy-efficient representation based on worst-case error-bounds
and hardware energy-models. It generates custom hardware for the resulting
inference network exploiting parallelism, pipelining and low-precision
operation. The framework is validated on several embedded-sensing benchmarks.
- Abstract(参考訳): ベイズ推論はスマートエッジデバイスにおける確率的推論の強力なメカニズムである。
このような推論の間、低精度の算術表現はエネルギー効率を向上させることができる。
しかし、推測精度への影響はまだ分かっていない。
さらに、汎用ハードウェアは低精度表現をネイティブにサポートしません。
そこで我々は,低精度確率推論ハードウェアの解析と設計を自動化するフレームワークであるProbLPを提案する。
最悪のエラーバウンドとハードウェアエネルギーモデルに基づいて、適切なエネルギー効率の表現を自動的に選択する。
並列性、パイプライン化、低精度演算を利用した推論ネットワークのためのカスタムハードウェアを生成する。
このフレームワークはいくつかの組み込みセンシングベンチマークで検証される。
関連論文リスト
- Adaptive Resolution Inference (ARI): Energy-Efficient Machine Learning for Internet of Things [11.802983172874901]
Internet of Thingsデバイスにおける機械学習の実装は、限られたエネルギーと計算資源のために、重大な運用上の問題を引き起こす。
本稿では,エネルギー散逸とモデル性能の新たなトレードオフを評価する新しい手法である適応分解能推論(ARI)を提案する。
論文 参考訳(メタデータ) (2024-08-26T16:00:26Z) - User-defined Event Sampling and Uncertainty Quantification in Diffusion
Models for Physical Dynamical Systems [49.75149094527068]
拡散モデルを用いて予測を行い,カオス力学系に対する不確かさの定量化が可能であることを示す。
本研究では,雑音レベルが低下するにつれて真の分布に収束する条件付きスコア関数の確率的近似法を開発する。
推論時に非線形ユーザ定義イベントを条件付きでサンプリングすることができ、分布の尾部からサンプリングした場合でもデータ統計と一致させることができる。
論文 参考訳(メタデータ) (2023-06-13T03:42:03Z) - Exact Bayesian Inference on Discrete Models via Probability Generating
Functions: A Probabilistic Programming Approach [7.059472280274009]
離散統計モデルに対する正確なベイズ推定法を提案する。
我々は、離散的かつ連続的なサンプリング、離散的な観察、アフィン関数、(確率的な)分岐、離散的な事象の条件付けをサポートする確率的プログラミング言語を使用する。
我々の推論手法は確実に正確で完全に自動化されている。
論文 参考訳(メタデータ) (2023-05-26T16:09:59Z) - Dynamic Transformers Provide a False Sense of Efficiency [75.39702559746533]
マルチエグジットモデルは、計算の節約を早期出口から得るため、効率と精度をトレードオフする。
本稿では,マルチエグジットモデルの効率を抑えるために特別に最適化された,シンプルで効果的なアタック・フレームワークであるITAを提案する。
GLUEベンチマークの実験により、Pameは様々なマルチエクイットモデルの効率向上を平均80%削減できることが示された。
論文 参考訳(メタデータ) (2023-05-20T16:41:48Z) - A Learning-Based Optimal Uncertainty Quantification Method and Its
Application to Ballistic Impact Problems [1.713291434132985]
本稿では、入力(または事前)測度が部分的に不完全であるシステムに対する最適(最大および無限)不確実性境界について述べる。
本研究では,不確実性最適化問題に対する学習基盤の枠組みを実証する。
本手法は,工学的実践における性能証明と安全性のためのマップ構築に有効であることを示す。
論文 参考訳(メタデータ) (2022-12-28T14:30:53Z) - Scalable Uncertainty Quantification for Deep Operator Networks using
Randomized Priors [14.169588600819546]
ディープ・オペレーター・ネットワーク(DeepONets)における後続不確実性定量化のための単純かつ効果的なアプローチを提案する。
我々は,ランダム化前のアンサンブルに基づく頻繁なアプローチを採用し,高速化ハードウェア上での高速並列推論のための効率的なベクトル化実装を提案する。
論文 参考訳(メタデータ) (2022-03-06T20:48:16Z) - NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural
Networks [151.03112356092575]
本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。
種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
論文 参考訳(メタデータ) (2022-02-07T12:30:45Z) - CC-Cert: A Probabilistic Approach to Certify General Robustness of
Neural Networks [58.29502185344086]
安全クリティカルな機械学習アプリケーションでは、モデルを敵の攻撃から守ることが不可欠である。
意味的に意味のある入力変換に対して、ディープラーニングモデルの証明可能な保証を提供することが重要である。
我々はChernoff-Cramer境界に基づく新しい普遍確率的証明手法を提案する。
論文 参考訳(メタデータ) (2021-09-22T12:46:04Z) - Mitigating Performance Saturation in Neural Marked Point Processes:
Architectures and Loss Functions [50.674773358075015]
本稿では,グラフ畳み込み層のみを利用するGCHPという単純なグラフベースのネットワーク構造を提案する。
我々は,GCHPがトレーニング時間を大幅に短縮し,時間間確率仮定による確率比損失がモデル性能を大幅に改善できることを示した。
論文 参考訳(メタデータ) (2021-07-07T16:59:14Z) - AQD: Towards Accurate Fully-Quantized Object Detection [94.06347866374927]
本稿では,浮動小数点演算を除去するために,AQDと呼ばれる高精度な量子化オブジェクト検出ソリューションを提案する。
我々のAQDは、非常に低ビットのスキームの下での完全精度と比較して、同等またはそれ以上の性能を実現しています。
論文 参考訳(メタデータ) (2020-07-14T09:07:29Z) - Estimation of Accurate and Calibrated Uncertainties in Deterministic
models [0.8702432681310401]
我々は,決定論的予測を確率論的予測に変換する手法を考案した。
そのためには,そのようなモデルの精度と信頼性(校正)を損なう必要がある。
隠れたノイズを正確に回収できる合成データと、大規模な実世界のデータセットの両方について、いくつかの例を示す。
論文 参考訳(メタデータ) (2020-03-11T04:02:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。