論文の概要: On the Non-Associativity of Analog Computations
- arxiv url: http://arxiv.org/abs/2309.14292v1
- Date: Mon, 25 Sep 2023 17:04:09 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-26 14:42:28.435293
- Title: On the Non-Associativity of Analog Computations
- Title(参考訳): アナログ計算の非結合性について
- Authors: Lisa Kuhn and Bernhard Klein and Holger Fr\"oning
- Abstract要約: 本研究では、アナログ演算の入力オペランドの順序付けも出力結果に影響を及ぼすことを観察する。
我々は、そのような順序付け効果をキャプチャする実アナログプロセッサのモデルを作成することで、簡単なテストを行う。
その結果, 順序効果の存在と高い影響が示され, 順序効果を無視すると精度が低下することがわかった。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The energy efficiency of analog forms of computing makes it one of the most
promising candidates to deploy resource-hungry machine learning tasks on
resource-constrained system such as mobile or embedded devices. However, it is
well known that for analog computations the safety net of discretization is
missing, thus all analog computations are exposed to a variety of imperfections
of corresponding implementations. Examples include non-linearities, saturation
effect and various forms of noise. In this work, we observe that the ordering
of input operands of an analog operation also has an impact on the output
result, which essentially makes analog computations non-associative, even
though the underlying operation might be mathematically associative. We conduct
a simple test by creating a model of a real analog processor which captures
such ordering effects. With this model we assess the importance of ordering by
comparing the test accuracy of a neural network for keyword spotting, which is
trained based either on an ordered model, on a non-ordered variant, and on real
hardware. The results prove the existence of ordering effects as well as their
high impact, as neglecting ordering results in substantial accuracy drops.
- Abstract(参考訳): アナログ型のコンピューティングのエネルギー効率は、モバイルや組み込みデバイスのようなリソース制約されたシステムにリソースを消費する機械学習タスクをデプロイする最も有望な候補の1つである。
しかし、アナログ計算では離散化のセーフティネットが欠落していることはよく知られているので、すべてのアナログ計算は対応する実装の様々な不完全さに晒される。
例えば、非線形性、飽和効果、様々なノイズがある。
本稿では、アナログ演算の入力オペランドの順序付けが出力結果にも影響を与え、基礎となる演算が数学的に関連付けられているとしても、アナログ演算は本質的に非結合的であることを観察する。
このような順序付け効果をキャプチャする実アナログプロセッサのモデルを作成することで、簡単なテストを行う。
このモデルを用いて、順序付きモデル、非順序付き変種、および実際のハードウェアに基づいてトレーニングされたキーワードスポッティングのためのニューラルネットワークのテスト精度を比較することにより、順序付けの重要性を評価する。
その結果, 順序効果の存在と高い影響が示され, 順序効果を無視すると精度が低下することがわかった。
関連論文リスト
- The Inherent Adversarial Robustness of Analog In-Memory Computing [2.435021773579434]
Deep Neural Network(DNN)アルゴリズムの重要な課題は、敵の攻撃に対する脆弱性である。
本稿では,位相変化メモリ(PCM)デバイスを用いたAIMCチップ上での予測を実験的に検証する。
ハードウェア・イン・ザ・ループ攻撃を行う際には、さらなる堅牢性も観察される。
論文 参考訳(メタデータ) (2024-11-11T14:29:59Z) - Predicting Probabilities of Error to Combine Quantization and Early Exiting: QuEE [68.6018458996143]
本稿では,量子化と早期出口動的ネットワークを組み合わせたより一般的な動的ネットワークQuEEを提案する。
我々のアルゴリズムは、ソフトアーリーエグジットや入力依存圧縮の一形態と見なすことができる。
提案手法の重要な要素は、さらなる計算によって実現可能な潜在的な精度向上の正確な予測である。
論文 参考訳(メタデータ) (2024-06-20T15:25:13Z) - Incrementally-Computable Neural Networks: Efficient Inference for
Dynamic Inputs [75.40636935415601]
ディープラーニングは、センサーデータやユーザ入力などの動的入力を効率的に処理するという課題に直面していることが多い。
インクリメンタルな計算アプローチを採用し、入力の変化に応じて計算を再利用する。
本稿では,この手法をトランスフォーマーアーキテクチャに適用し,修正入力の分数に比例した複雑性を持つ効率的なインクリメンタル推論アルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-07-27T16:30:27Z) - VCNet: A self-explaining model for realistic counterfactual generation [52.77024349608834]
事実的説明は、機械学習の決定を局所的に説明するための手法のクラスである。
本稿では,予測器と対実生成器を組み合わせたモデルアーキテクチャであるVCNet-Variational Counter Netを提案する。
我々はVCNetが予測を生成でき、また、別の最小化問題を解くことなく、反現実的な説明を生成できることを示した。
論文 参考訳(メタデータ) (2022-12-21T08:45:32Z) - Importance sampling for stochastic quantum simulations [68.8204255655161]
我々は、係数に応じてハミルトン式からサンプリングしてランダムな積公式を構築するqDriftプロトコルを導入する。
サンプリング段階における個別のシミュレーションコストを考慮し、同じ精度でシミュレーションコストを削減可能であることを示す。
格子核効果場理論を用いて数値シミュレーションを行った結果, 実験結果が得られた。
論文 参考訳(メタデータ) (2022-12-12T15:06:32Z) - Theory and Implementation of Process and Temperature Scalable
Shape-based CMOS Analog Circuits [6.548257506132353]
本研究はアナログMLプロセッサを設計するための新しいアナログコンピューティングフレームワークを提案する。
私たちの研究の核心は形状ベースのアナログコンピューティング(S-AC)です。
S-ACパラダイムにより、ユーザーは計算精度をシリコン回路領域と電力でトレードオフできる。
論文 参考訳(メタデータ) (2022-05-11T17:46:01Z) - Convolutional generative adversarial imputation networks for
spatio-temporal missing data in storm surge simulations [86.5302150777089]
GAN(Generative Adversarial Imputation Nets)とGANベースの技術は、教師なし機械学習手法として注目されている。
提案手法を Con Conval Generative Adversarial Imputation Nets (Conv-GAIN) と呼ぶ。
論文 参考訳(メタデータ) (2021-11-03T03:50:48Z) - On the Accuracy of Analog Neural Network Inference Accelerators [0.9440010225411358]
近年,ニューラルネットワーク推論の消費電力削減手法として,特別なアクセラレータが注目されている。
この研究は、特にニューラルネットワークパラメータをアナログメモリセルにマッピングする際のアーキテクチャ設計の決定が、推論精度にどのように影響するかを示す。
論文 参考訳(メタデータ) (2021-09-03T01:38:11Z) - Analysis of Feature Representations for Anomalous Sound Detection [3.4782990087904597]
本研究では,前訓練ニューラルネットワークの異常音検出のための特徴抽出器としての有用性を評価する。
これらのニューラルネットワークに含まれる知識を活用して、セマンティックにリッチな特徴を抽出します。
本手法は,バルブ,ポンプ,スライダ,ファンなどの工場用機器の記録に基づいて評価する。
論文 参考訳(メタデータ) (2020-12-11T12:31:50Z) - Toward Scalable and Unified Example-based Explanation and Outlier
Detection [128.23117182137418]
我々は,試行錯誤の予測に例ベースの説明を与えることのできる,プロトタイプベースの学生ネットワークのより広範な採用を論じる。
類似カーネル以外のプロトタイプベースのネットワークは,分類精度を損なうことなく,有意義な説明と有望な外乱検出結果が得られることを示す。
論文 参考訳(メタデータ) (2020-11-11T05:58:17Z) - Machine Learning to Tackle the Challenges of Transient and Soft Errors
in Complex Circuits [0.16311150636417257]
機械学習モデルは、回路インスタンスの完全なリストに対して、インスタンスごとの正確な関数デレートデータを予測するために使用される。
提案手法を実例に適用し,各種機械学習モデルの評価と比較を行った。
論文 参考訳(メタデータ) (2020-02-18T18:38:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。