論文の概要: Gradient Backpropagation based Feature Attribution to Enable
Explainable-AI on the Edge
- arxiv url: http://arxiv.org/abs/2210.10922v1
- Date: Wed, 19 Oct 2022 22:58:59 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-21 14:05:56.317180
- Title: Gradient Backpropagation based Feature Attribution to Enable
Explainable-AI on the Edge
- Title（参考訳）: エッジ上の説明可能なAIを可能にするグラディエントバックプロパゲーションに基づく特徴属性
- Authors: Ashwin Bhat, Adou Sangbone Assoa, Arijit Raychowdhury
- Abstract要約: そこで本研究では,勾配バックプロパゲーションに基づく特徴属性アルゴリズムのデータフローを解析し,推論に要するリソースのオーバーヘッドを推定する。
我々は,エッジデバイスを対象とした高レベル合成(HLS)に基づくFPGA設計を開発し,3つの特徴帰属アルゴリズムをサポートする。
提案手法は,最小限のオーバーヘッドで特徴属性をサポートするために推論アクセラレータを再利用し,エッジ上でのリアルタイムXAIを実現する経路を示す。
- 参考スコア（独自算出の注目度）: 1.7338677787507768
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: There has been a recent surge in the field of Explainable AI (XAI) which
tackles the problem of providing insights into the behavior of black-box
machine learning models. Within this field, \textit{feature attribution}
encompasses methods which assign relevance scores to input features and
visualize them as a heatmap. Designing flexible accelerators for multiple such
algorithms is challenging since the hardware mapping of these algorithms has
not been studied yet. In this work, we first analyze the dataflow of gradient
backpropagation based feature attribution algorithms to determine the resource
overhead required over inference. The gradient computation is optimized to
minimize the memory overhead. Second, we develop a High-Level Synthesis (HLS)
based configurable FPGA design that is targeted for edge devices and supports
three feature attribution algorithms. Tile based computation is employed to
maximally use on-chip resources while adhering to the resource constraints.
Representative CNNs are trained on CIFAR-10 dataset and implemented on multiple
Xilinx FPGAs using 16-bit fixed-point precision demonstrating flexibility of
our library. Finally, through efficient reuse of allocated hardware resources,
our design methodology demonstrates a pathway to repurpose inference
accelerators to support feature attribution with minimal overhead, thereby
enabling real-time XAI on the edge.
- Abstract（参考訳）: 最近、ブラックボックス機械学習モデルの振る舞いに関する洞察を提供する問題に取り組む、説明可能なAI(XAI)の分野が急増している。
このフィールド内では、textit{feature Attribution} は、入力機能に関連スコアを割り当て、ヒートマップとして視覚化するメソッドを含む。
これらのアルゴリズムのハードウェアマッピングはまだ研究されていないため、複数のアルゴリズムに対する柔軟な加速器の設計は困難である。
本研究では,まず勾配バックプロパゲーションに基づく特徴帰属アルゴリズムのデータフローを分析し,推論に要するリソースのオーバーヘッドを判定する。
勾配計算はメモリオーバーヘッドを最小限にするために最適化される。
第2に,エッジデバイスを対象とした高レベル合成(HLS)に基づく構成可能なFPGA設計を開発し,3つの特徴帰属アルゴリズムをサポートする。
タイルベースの計算は、リソース制約に固執しながらオンチップリソースを最大限に利用する。
代表的なCNNはCIFAR-10データセットでトレーニングされ、ライブラリの柔軟性を示す16ビットの固定点精度を用いて複数のXilinxFPGA上で実装されている。
最後に, ハードウェア資源の効率的な再利用により, 提案手法は, 最小限のオーバーヘッドで特徴属性をサポートするために, 推論アクセラレータを再利用し, エッジ上でリアルタイムXAIを実現する経路を示す。
関連論文リスト
- Front-propagation Algorithm: Explainable AI Technique for Extracting Linear Function Approximations from Neural Networks [0.0]
本稿では、深層ニューラルネットワークの意思決定ロジックの解明を目的とした、新しいAI技術であるフロントプロパゲーションアルゴリズムを紹介する。
積分グラディエントやシェープ値などの他の一般的な説明可能性アルゴリズムとは異なり、提案アルゴリズムはネットワークの正確で一貫した線形関数説明を抽出することができる。
公開されているベンチマークデータセットに基づいてトレーニングされた3つの異なるニューラルネットワークアーキテクチャで、正確な線形関数を提供することの有効性を実証する。
論文 参考訳（メタデータ） (2024-05-25T14:50:23Z) - GloptiNets: Scalable Non-Convex Optimization with Certificates [61.50835040805378]
本稿では,ハイパーキューブやトーラス上のスムーズな関数を扱う証明書を用いた非キューブ最適化手法を提案する。
スペクトルの減衰に固有の対象関数の正則性を活用することにより、正確な証明を取得し、高度で強力なニューラルネットワークを活用することができる。
論文 参考訳（メタデータ） (2023-06-26T09:42:59Z) - Symbolic Regression on FPGAs for Fast Machine Learning Inference [2.0920303420933273]
高エネルギー物理コミュニティは、FPGA(Field-Programmable Gate Arrays)上に機械学習ベースのソリューションをデプロイする可能性を探っている
シンボリックレグレッション(SR)と呼ばれる機械学習技術を利用した新しいエンドツーエンドプロシージャを提案する。
提案手法は,最大で5 nsまでの実行時間を最大13倍に抑えながら,90%以上の近似精度を維持した推論モデルを用いて3層ニューラルネットワークを近似できることを示す。
論文 参考訳（メタデータ） (2023-05-06T17:04:02Z) - Task-Oriented Sensing, Computation, and Communication Integration for
Multi-Device Edge AI [108.08079323459822]
本稿では,AIモデルの分割推論と統合センシング通信(ISAC)を併用した,新しいマルチインテリジェントエッジ人工レイテンシ(AI)システムについて検討する。
推定精度は近似的だが抽出可能な計量、すなわち判別利得を用いて測定する。
論文 参考訳（メタデータ） (2022-07-03T06:57:07Z) - Learning Implicit Feature Alignment Function for Semantic Segmentation [51.36809814890326]
Implicit Feature Alignment Function (IFA)は、暗黙の神経表現の急速に拡大するトピックにインスパイアされている。
IFAは機能マップを異なるレベルで暗黙的に整列し、任意の解像度でセグメンテーションマップを生成することができることを示す。
提案手法は,様々なアーキテクチャの改善と組み合わせて,一般的なベンチマークにおける最先端の精度のトレードオフを実現する。
論文 参考訳（メタデータ） (2022-06-17T09:40:14Z) - Real-time Hyper-Dimensional Reconfiguration at the Edge using Hardware
Accelerators [12.599871451119538]
HyDRATEは、ディープニューラルネット(DNN)と超次元(HD)コンピューティングアクセラレータを組み合わせることで、エッジでリアルタイムな再構成を行うことができる。
本稿では,アルゴリズム,訓練された量子化モデル生成,および乗算累積のない特徴抽出器の性能について述べる。
降下勾配のバックプロパゲーションを伴わないフィードフォワードHD分類器のみをリトレーニングすることで、フィールドにおける再構成性を実現する。
論文 参考訳（メタデータ） (2022-06-10T14:08:41Z) - Inducing Gaussian Process Networks [80.40892394020797]
本稿では,特徴空間と誘導点を同時に学習するシンプルなフレームワークであるGaussian Process Network (IGN)を提案する。
特に誘導点は特徴空間で直接学習され、複雑な構造化領域のシームレスな表現を可能にする。
実世界のデータセットに対する実験結果から,IGNは最先端の手法よりも大幅に進歩していることを示す。
論文 参考訳（メタデータ） (2022-04-21T05:27:09Z) - Hardware-Efficient Deconvolution-Based GAN for Edge Computing [1.5229257192293197]
Generative Adversarial Networks (GAN) は、学習したデータ分布に基づいて新しいデータサンプルを生成する最先端のアルゴリズムである。
我々は、スケーラブルなストリーミングデータフローアーキテクチャを用いてFPGA上に実装された量子化デコンボリューションGAN(QDCGAN)のトレーニングのためのHW/SW共同設計手法を提案する。
リソース制約のあるプラットフォーム上での低消費電力推論のために,様々な精度,データセット,ネットワークスケーラビリティを解析した。
論文 参考訳（メタデータ） (2022-01-18T11:16:59Z) - Lightweight Single-Image Super-Resolution Network with Attentive
Auxiliary Feature Learning [73.75457731689858]
本稿では,SISR の注意補助機能 (A$2$F) に基づく計算効率が高く正確なネットワークを構築した。
大規模データセットを用いた実験結果から,提案手法の有効性が示された。
論文 参考訳（メタデータ） (2020-11-13T06:01:46Z) - ConfuciuX: Autonomous Hardware Resource Assignment for DNN Accelerators
using Reinforcement Learning [5.251940442946459]
本研究では、与えられたモデルとデータフロースタイルに対して最適化されたHWリソース割り当てを見つけるために、ConfuciuXと呼ばれる自律的戦略を提案する。
最適化されたハードウェア構成4.7から24倍の速度で収束する。
論文 参考訳（メタデータ） (2020-09-04T04:59:26Z) - Heuristic Semi-Supervised Learning for Graph Generation Inspired by
Electoral College [80.67842220664231]
本稿では,新たなノードやエッジを自動的に拡張して,高密度サブグラフ内のラベル類似性を向上する,新しい前処理手法であるElectoral College(ELCO)を提案する。
テストされたすべての設定において、我々の手法はベースモデルの平均スコアを4.7ポイントの広いマージンで引き上げるとともに、常に最先端のモデルよりも優れています。
論文 参考訳（メタデータ） (2020-06-10T14:48:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。