論文の概要: SLICE-CiM: Selective Layer-wise Inference Control Engine with Confidence-Based Early Exit for SRAM based Digital Compute-in-Memory
- arxiv url: http://arxiv.org/abs/2610.37601v1
- Date: Tue, 27 Oct 2026 17:32:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-29 04:15:49.278569
- Title: SLICE-CiM: Selective Layer-wise Inference Control Engine with Confidence-Based Early Exit for SRAM based Digital Compute-in-Memory
- Title(参考訳): SLICE-CiM:SRAMを用いたディジタル・コンピュート・イン・メモリのための信頼に基づく早期出力付き選択型層ワイズ推論制御エンジン
- Abstract要約: デジタル・コンピュート・イン・メモリ(CIM)マクロは、オフチップの重量移動を排除してエネルギー効率の良いCNN推論を可能にする。
周辺制御ロジックは3つの非効率性を導入している: ビットスライスオーバーアクティベーションの精度低下、不要な累積イオン深さ、アイドル精度遷移ストール。
本稿では,FMEコントローラ,EEモジュール,デコーダ付き精度レジスタ(PR/PD),Bit-Serial Cycle Controller(CC)の4つの周辺ブロックについて述べる。
このフレームワークはTransformerを使って、スパーシを悪用したCNNワークロードをターゲットにしている
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Digital SRAM compute-in-memory (CIM) macros enable energy-efficient CNN inference by eliminating off-chip weight transfers; however, peripheral control logic introduces three inefficiencies: bit- slice over-activation at reduced precision (L1), unnecessary accumula- tion depth (L2), and idle precision-transition stalls (L3). To address these, we present four synthesizable peripheral blocks: a Flush-Merge Enable (FME) controller, a Confidence-Based Early-Exit (EE) module, a Precision Register with Decoder (PR/PD), and a Bit-Serial Cycle Controller (CC), co-designed to minimize switching activity, wordline overhead, and leakage. Implemented in TSMC 65-nm CMOS at 335 MHz, the peripheral framework occupies 1769.760 μm2 post-synthesis and 1982.131 μm2 post-PnR. Gate-level VCD analysis reports 6.0706 μW leakage and 288.2902 μW (post-synthesis) / 322.8850 μW (post-PnR) dynamic power, totaling 328.9556 μW (0.2402% of system power). The EE module dominates dynamic power (58.2%), while WLG dominates area (58.1%). System evaluation on MobileNetV2 (CIFAR-100) shows efficiency scaling from 31.35 TOPS/W (8b/8b, 1.2 V) to 454.91 TOPS/W (2b/8b, 0.8 V), achieving 13.33x improvement without bitcell modification or retraining. The framework targets CNN workloads exploiting sparsity, with Transformer extension as future work.
- Abstract(参考訳): デジタルSRAMコンピュート・イン・メモリ(CIM)マクロは、オフチップウェイト・トランスファーを排除してエネルギー効率の良いCNN推論を可能にするが、周辺制御ロジックではビットスライス・オーバーアクティベーション(L1)、不要アクセル・イオン深さ(L2)、アイドル精度・トランジション・ストール(L3)の3つの非効率を導入している。
これに対処するために、FMEコントローラ、信頼に基づく早期実行(EE)モジュール、デコーダ付き精度レジスタ(PR/PD)、ビットシリアルサイクルコントローラ(CC)の4つの周辺ブロックを合成する。
335MHzのTSMC 65-nm CMOSで実装され、周辺フレームワークは1769.760 μm2後合成と1982.131 μm2後PnRを占有している。
ゲートレベルのVCD分析では6.0706 μWのリークと288.2902 μW (後合成) / 322.8850 μW (後PnR)のダイナミックパワーが報告され、総計で328.9556 μW (0.2402%のシステムパワー)である。
EEモジュールが動的パワー(58.2%)を支配し、WLGが領域(58.1%)を支配している。
MobileNetV2 (CIFAR-100) のシステム評価は、31.35 TOPS/W (8b/8b, 1.2V) から454.91 TOPS/W (2b/8b, 0.8V) への効率スケーリングを示し、ビットセルの変更や再トレーニングなしに13.33倍の改善が達成された。
このフレームワークは、Sparsityを利用するCNNワークロードをターゲットにしており、Transformer拡張が今後の作業となる。
関連論文リスト
- Accelerating SO(2)-Equivariant Materials Models through Low-Precision Emulation [71.9141151643915]
GNN の 'SO(2)-equivariant' 処理層を高速化するために, 整数大崎スキームの下での「エミュレートされた」低精度演算を導入する。
私たちのフレームワークであるFlashSO(2)は、スループット、精度、メモリフットプリントにおいて、最も正確なネイティブな低精度MMUフォーマットであるTF32より優れています。
論文 参考訳(メタデータ) (2026-10-26T10:27:20Z) - LightMIS: Ultra-Lightweight Medical Image Segmentation Without a Stage-Wise Decoder [48.15305702377315]
2次元医用画像セグメンテーションのためのスケーラブルな超軽量畳み込みネットワークであるLightMISを提案する。
LightMISは5レベルエンコーダの出力をスケールアライズド・プロジェクションブロックを使って共通解像度に調整し、一度集約し、融合表現を洗練させる。
DRIVE, Kvasir-SEG, DSB18, BUSI, ISIC-2017, ISIC-2018 上の共通 nnU-Net v2.3.1 プロトコルの5倍のクロスバリデーションを用いた LightMIS-T, LightMIS-S, LightMIS の評価を行った。
論文 参考訳(メタデータ) (2026-09-23T16:05:21Z) - Adaptive AI: Energy Efficient Multi-exit TinyML on Intelligent Vision Systems at the Edge [46.72621664884568]
エッジデバイス向けの従来のTinyMLシステムは、一定数の乗算累積(MAC)演算を必要とする固定深度モデルに依存することにより、高い精度を達成する。
このアプローチは、バッテリ駆動のIoT(Internet-of-Things)デバイスにおいて重要なリソースを無駄にし、エッジサイバー物理システムのリアルタイムパフォーマンスを制限する。
我々は、ImageNet-100分類タスクのためのMobileNetV2畳み込みニューラルネットワーク(CNN)上で、新しいマルチエクイット計算方式を導入する。
論文 参考訳(メタデータ) (2026-07-07T08:48:19Z) - E-ReCON: An Energy- and Resource-Efficient Precision-Configurable Sparse nvCIM Macro for Conventional and Spiking Neural Edge Inference [0.0]
E-ReCONはエッジAI推論のためのコンパクトな3T1R ReRAMビットセルに基づく16 Kbのデジタルコンピュートインメモリ(DCIM)マクロである。
新たなインターリーブ10T/28T加算木を導入し、トランジスタ数と消費電力をそれぞれ37%と28%削減した。
提案したマクロは、最小レイテンシ0.48 ns、スループット2.31-3.1 TOPS、エネルギー効率419 TOPS/Wを実現している。
論文 参考訳(メタデータ) (2026-05-20T05:18:27Z) - BWTA: Accurate and Efficient Binarized Transformer by Algorithm-Hardware Co-design [71.97035034203275]
バイナライゼーションにおけるゼロ点歪みを解析し,BWTA量子化方式を提案する。
本稿では,Smooth Multi-Stage Quantizationを提案し,レベルワイド・デグラデーション・ストラテジーとMagnitude Alignment Projection Factorを組み合わせた。
実験の結果、BWTAはTransformerベースのモデルに対して、GLUEでは平均3.5%、タスクでは2%未満の精度でフル精度のパフォーマンスにアプローチしていることがわかった。
論文 参考訳(メタデータ) (2026-04-05T04:25:07Z) - SHIELD8-UAV: Sequential 8-bit Hardware Implementation of a Precision-Aware 1D-F-CNN for Low-Energy UAV Acoustic Detection and Temporal Tracking [4.962717354668883]
ShiELD8-UAV (ShielD8-UAV) は、高精度1D機能駆動CNNアクセラレータのシーケンシャルな8ビットハードウェア実装である。
この設計は共有マルチ精度データパス上で層単位で実行し、複製された処理要素を不要にする。
その結果、逐次実行と高精度量子化とシリアライズ対応プルーニングを組み合わせることで、実用的な低エネルギーエッジ推論が可能となった。
論文 参考訳(メタデータ) (2026-03-01T12:09:15Z) - JTok: On Token Embedding as another Axis of Scaling Law via Joint Token Self-modulation [46.64215658042213]
補助埋め込みテーブルから得られる変調ベクトルを用いてトランスフォーマー層を拡大するジョイント・トケン(JTok)とジョイント・トケン(JTok-M)の混合を導入する。
これらのベクトルは、軽量な要素演算によってバックボーンを変調し、無視可能なFLOPのオーバーヘッドを発生させる。
我々のアプローチは、検証損失を継続的に減らし、ダウンストリームタスクのパフォーマンスを大幅に改善します。
論文 参考訳(メタデータ) (2026-01-31T16:15:18Z) - FERMI-ML: A Flexible and Resource-Efficient Memory-In-Situ SRAM Macro for TinyML acceleration [0.0]
FERMI-MLは、混合精度のTinyMLワークロードをサポートするMemory-In-Situマクロである。
65nmでは350MHz、0.9Vでは1.93TOPS、エネルギー効率は364TOPS/Wとなる。
論文 参考訳(メタデータ) (2025-11-16T10:39:42Z) - Low Power Vision Transformer Accelerator with Hardware-Aware Pruning and Optimized Dataflow [0.0]
本稿では,アルゴリズムハードウェアの共設計により最適化された低消費電力ビジョントランスフォーマーアクセラレータを提案する。
複雑な機構を導入することなく、ハードウェアフレンドリーな動的トークンプルーニングによってモデルの複雑さを低減させる。
ピークスループットは1GHzで1024 GOPS、エネルギー効率は2.31 TOPS/W、面積効率は858.61 GOPS/mm2である。
論文 参考訳(メタデータ) (2025-10-16T07:44:42Z) - Optimizing the Deployment of Tiny Transformers on Low-Power MCUs [12.905978154498499]
この作業は、商用MCU上でのエンコーダTiny Transformersの柔軟性とマルチプラットフォームデプロイメントの実現と最適化を目的としている。
我々のフレームワークは、データの再利用を最大化し、重要な注意ブロックにデータマーシャリング操作を避けるために、カーネルの最適化ライブラリを提供する。
MHSA深度優先のタイリング方式はメモリピークを最大6.19倍に減らし、融合重み付けはランタイムを1.53倍減らし、パラメータ数を25%減らすことを示した。
論文 参考訳(メタデータ) (2024-04-03T14:14:08Z) - AnalogNets: ML-HW Co-Design of Noise-robust TinyML Models and Always-On
Analog Compute-in-Memory Accelerator [50.31646817567764]
本稿では,キーワードスポッティング (KWS) と視覚覚醒語 (VWW) を常用するTinyMLモデルについて述べる。
アナログ非イデオロギーに面した精度を維持するため、包括的学習手法を詳述する。
また、プログラム可能な最小領域位相変化メモリ(PCM)アナログCiMアクセラレータであるAON-CiMについて述べる。
論文 参考訳(メタデータ) (2021-11-10T10:24:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。