論文の概要: Realizing Low-Precision Storage and Sparse Execution in a Folded FPGA Speech Enhancer
- arxiv url: http://arxiv.org/abs/2610.35144v1
- Date: Mon, 26 Oct 2026 10:12:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.823519
- Title: Realizing Low-Precision Storage and Sparse Execution in a Folded FPGA Speech Enhancer
- Title（参考訳）: 屈曲FPGA音声エンハンサにおける低精度記憶とスパース実行の実現
- Abstract要約: 混合精度の重みはオンチップストレージを減らし、構造化されたチャネル間隔はエンジンのスケジュールから操作全体を除去する。
我々は Kria KV260 FPGA 上でビットエクサクサクの実装を展開した。
- 参考スコア（独自算出の注目度）: 1.827510863075184
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Hardware-aware training often optimizes FPGA resources, latency, or bit operations, but folding changes what compression saves: shared arithmetic decouples precision, weight storage, and scheduled work. We derive training objectives from the measured costs of a folded streaming speech-enhancement accelerator. Mixed-precision weights reduce on-chip storage; structured channel sparsity removes entire operations from the engine schedule. We deploy a bit-exact implementation on the Kria KV260. The best sparse model eliminates 47.3% of convolution MACs, cutting frame time by 45% (1.86 to 1.03 ms) and dynamic energy by 60% (83 to 33 $μ$J/frame) against a storage-priced model measured in the same session, with higher speech quality. Relative to the most efficient dense build measured separately, frame time falls by 42% and energy by 48%. Reducing weight width from 8 to 6 bits lowers dynamic power by 27% but changes frame time by less than 5%. Plain channel group-lasso removes more work than cycle-cost-weighted lasso. Thus, folded-accelerator training should price storage and removable work separately, rather than rely on a single bit-operation metric.
- Abstract（参考訳）: ハードウェア対応のトレーニングでは、FPGAリソース、レイテンシ、ビット操作を最適化することが多いが、圧縮が節約するものを折り畳みで変更する。
ストリーミング音声強調器の折り畳みコストから学習目標を導出する。
混合精度の重みはオンチップストレージを減らし、構造化されたチャネル間隔はエンジンのスケジュールから操作全体を除去する。
我々は、Kria KV260にビットエクサクサク実装をデプロイする。
最良のスパースモデルでは、47.3%の畳み込みMACを排除し、フレーム時間を45%(1.86から1.03ms)、動的エネルギーを60%(83から33$μ$J/frame)、同じセッションで測定されたストレージ価格モデルに対して高い音声品質で処理する。
別々に測定された最も効率的な高密度ビルドと比較して、フレーム時間は42%減少し、エネルギーは48%減少する。
重量幅を8ビットから6ビットに下げると、動的パワーは27%低下するが、フレーム時間は5%以下に変化する。
平らなチャネル群-ラッソは、サイクルコストの重いラッソよりも多くの作業を取り除く。
したがって、折りたたみ加速器のトレーニングは、単一のビット操作メトリックに頼るのではなく、ストレージと取り外し可能な作業の価格を別々に設定する必要がある。
関連論文リスト
- Decoupled Prune-and-Reconstruct: Training on a Compact Core with Double-Layer Sparsification [1.9899128327863578]
DPRは、精度税からアグレッシブノードプルーニングを、VRAM制限の全ノード推論のための安全なトレーニングアクセラレータに変える。
このフレームワークはピークトレーニングメモリの6,285 MiBで2.45Mノードの生産グラフにスケールする。
論文 参考訳（メタデータ） (2026-10-25T08:20:30Z) - Extreme Compression of Per-Layer Embeddings via Cross-Layer Latent Vector Quantization [73.31438661879197]
Gemma 4 E4B のパラメータの35.2%を占める Per-Layer Embeddings (PLE) の極端な圧縮について検討した。
このような速度で、従来の量化器は各トークン層ベクトルに数バイトの独自の符号を与える。
我々は,トークン毎に1つの量子化されたコードを格納し,それを各層でデコードするOPTIC-Output-Path-fited,Token-Shared Indexed Codesを開発した。
論文 参考訳（メタデータ） (2026-10-22T14:07:01Z) - AGQ: Action-Guided Ultra-Low-Bit Quantization for Vision-Language-Action Models [5.213250788055269]
VLA(Vision-Constrained-action)モデルにより、ロボットは自然言語で指定されたタスクを実行できる。
超低ビット量子化は、このフットプリントを減らすが、タスク性能を保ち、重量回収コストを制御することは依然として困難である。
本稿では,動作感度と重み回復コストを併用したアクションガイド量子化法を提案し,ストレージ予算下で行列ビット幅を割り当てる。
論文 参考訳（メタデータ） (2026-10-21T06:22:51Z) - Learning Functional Subspaces for Neural Network Compression [79.78451551969097]
Learnable Subspace Projections (LSP) は、エンドツーエンドを捨てるためにサブスペースを学習する。
LSPは、小さなバッチサイズで高密度モデルよりも1.6倍高速にデコードする。
論文 参考訳（メタデータ） (2026-09-30T16:47:35Z) - Replay the Curvature: Accurate and Scalable NVFP4 Quantization for Large Language Model Inference [26.657115303065485]
本稿では,各ブロックスケールによるGPTQ更新を再現し,不定格列からの補償を考慮した結果のブロックエラーをスコアするスケール選択であるemphSchur Replayを紹介する。
論文 参考訳（メタデータ） (2026-09-29T03:55:29Z) - Post-Training Ternarization of Qwen3-4B Capability, Effective Bit Budget, Storage Compression, and Deployment [0.0]
ウルトラロービット言語モデルは、ストレージとメモリ帯域幅を削減できるが、名目上の"1.58ビット"ラベルは、格納された表現、保持機能、実行時の動作を完全に記述していない。
KOTMS回転,E2M-ATQ三元化,およびTWLAからのGPTQスタイルの誤り補償を用いた4B-パラメータモデルQwenの終端学習後変換について検討した。
有効ビット会計,タスク能力保持,複雑度,キャリブレーション感度,チェックポイント構成,デプロイメント動作を評価した。
論文 参考訳（メタデータ） (2026-09-02T00:42:54Z) - A 71.2-$μ$W Speech Recognition Accelerator with Recurrent Spiking Neural Network [0.0502254944841629]
本稿では,2つの繰り返し層と1つの完全連結層,低時間ステップを有する小型の繰り返しスパイクニューラルネットワークを提案する。
2.79MBモデルでは、プルーニングと4ビットの固定点量子化が行われ、96.42%から0.1MBに縮小した。
このデザインは100kHzでリアルタイムに動作し、71.2 mu$Wを消費し、最先端の設計を上回っている。
論文 参考訳（メタデータ） (2025-03-27T10:14:00Z) - LoRC: Low-Rank Compression for LLMs KV Cache with a Progressive Compression Strategy [59.1298692559785]
キーバリュー(KV)キャッシュは、トランスフォーマーベースの自己回帰型大言語モデル(LLM)を提供する上で重要なコンポーネントである。
この問題を緩和するためのアプローチとしては、(1) アップサイクルステージに統合された効率的な注意変動、(2) テスト時のKVキャッシュ圧縮、(3) テスト時のKVキャッシュ圧縮がある。
そこで我々は,KV重み行列の低ランク近似を提案し,モデル再学習なしに既存のトランスフォーマーベースLCMとのプラグイン統合を実現する。
本手法は,テスト段階におけるアップサイクリング段階のモデルチューニングやタスク固有のプロファイリングを伴わずに機能するように設計されている。
論文 参考訳（メタデータ） (2024-10-04T03:10:53Z) - SpQR: A Sparse-Quantized Representation for Near-Lossless LLM Weight
Compression [76.73007709690306]
Sparse-Quantized Representation (SpQR) は,新しい圧縮フォーマットと量子化技術である。
SpQRは、高精度なLLaMAとFalcon LLMのパープレキシティにおいて、1%未満の相対的精度の損失を達成している。
これにより、1台の24GBのコンシューマGPU上で33BパラメータのLSMを実行でき、15%のスピードアップでパフォーマンスの劣化は発生しない。
論文 参考訳（メタデータ） (2023-06-05T17:53:28Z) - Quantized Neural Networks for Low-Precision Accumulation with Guaranteed
Overflow Avoidance [68.8204255655161]
本稿では,推定時のアキュムレータの精度を下げる際に,数値オーバーフローを回避する量子化学習アルゴリズムを提案する。
本手法は,浮動小数点点ベースラインに対するモデル精度を維持しつつ,アキュムレータの精度を低減できることを示す。
論文 参考訳（メタデータ） (2023-01-31T02:46:57Z) - Mesa: A Memory-saving Training Framework for Transformers [58.78933015299703]
本稿では,トランスフォーマーのためのメモリ節約トレーニングフレームワークであるMesaを紹介する。
Mesaは、フォワードパス中に正確なアクティベーションを使用し、低精度のアクティベーションを格納することで、トレーニング中のメモリ消費を減らす。
ImageNet、CIFAR-100、ADE20Kの実験は、Mesaがトレーニング中にメモリフットプリントの半分を削減できることを示した。
論文 参考訳（メタデータ） (2021-11-22T11:23:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。