論文の概要: Adaptive Model Compression (AMC): Saliency-Driven Resource Allocation for Ultra-Low-Power Transformer Inference

• arxiv url: http://arxiv.org/abs/2607.10109v1
• Date: Sat, 11 Jul 2026 04:05:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-14 15:40:48.302889
• Title: Adaptive Model Compression (AMC): Saliency-Driven Resource Allocation for Ultra-Low-Power Transformer Inference
• Title（参考訳）: 適応モデル圧縮(AMC):超低電力変圧器推論のためのサリエンシ駆動資源配分
• Abstract要約: 本稿では,トークンの重要度に基づいてハードウェアリソースを動的に割り当てるサリエンシ駆動型フレームワークを提案する。 AMCはシステムエネルギーを59.2%削減し、45nm CMOSハードウェアのスループットは2.24倍に向上した。 このアプローチは、必要な場合にのみ高精細計算を利用し、限界精度3.6%のトレードオフで堅牢な性能を維持することにより、モバイルデバイスのバッテリ寿命を効果的に拡張する。
• 参考スコア（独自算出の注目度）: 5.702671649886992
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deploying large-scale transformer models on resource-constrained edge devices remains a challenge due to the high energy and memory overhead inherent in static inference, which processes simple and complex tokens with uniform intensity. To address this, we propose Adaptive Model Compression (AMC), a saliency-driven framework that dynamically allocates hardware resources based on token importance. By implementing a multi-tier architecture, our system identifies critical high-saliency information for full-precision processing while aggressively reducing the rank and bit-width of less significant data. Experimental results demonstrate that AMC achieves a 59.2% reduction in system energy and a 2.24x increase in throughput on 45nm CMOS hardware. This approach effectively extends the battery life of mobile devices by utilizing high-definition compute only where necessary, maintaining robust performance with a marginal 3.6% accuracy trade-off.
• Abstract（参考訳）: リソース制約のあるエッジデバイスに大規模トランスフォーマーモデルをデプロイすることは、静的推論に固有の高エネルギーとメモリオーバーヘッドのため、単一強度で単純で複雑なトークンを処理するため、依然として課題である。 そこで我々は,トークンの重要度に基づいてハードウェアリソースを動的に割り当てる適応モデル圧縮(AMC)を提案する。 マルチ層アーキテクチャを実装することにより,精度の低いデータのランクやビット幅を積極的に削減しつつ,高精度処理のための重要な高可用性情報を特定する。 実験の結果、AMCは45nmのCMOSハードウェア上で59.2%のシステムエネルギー削減と2.24倍のスループット向上を実現している。 このアプローチは、必要な場合にのみ高精細計算を利用し、限界精度3.6%のトレードオフで堅牢な性能を維持することにより、モバイルデバイスのバッテリ寿命を効果的に拡張する。

関連論文リスト

• Towards Compact Unified Multimodal Tracking: Synergizing Knowledge Distillation with Structural Pruning [80.73561460934809]
  多モード物体追跡は 相補的なセンサーデータを活用することで 目覚ましい堅牢性を達成した 我々は予測ヘッドを重要ではあるが、しばしば見過ごされる効率ボトルネックとみなしている。 デコーダアーキテクチャを戦略的に合理化することで、リアルタイム推論の可能性を解き放ちます。
  論文  参考訳（メタデータ） (2026-08-02T20:41:33Z)
• Efficient Difficulty-Aware Dynamic Routing for Diffusion-Based Real-World Image Super-Resolution [69.17533212524447]
  本稿では,厳密な一大処理パラダイムを克服するDDR(Difficulty-aware Dynamic Routing)戦略を提案する。 具体的には、各入力画像の復元コストを予測する難易度推定器を設計し、適切な容量のネットワークに自動的に割り当てることを可能にする。 近年の最先端手法と比較して,提案モデルの有効性と有効性を示す実験が盛んに行われている。
  論文  参考訳（メタデータ） (2026-07-17T07:49:05Z)
• QuantSR+: Pushing the Limit of Quantized Image Super-Resolution Networks [63.04549067734431]
  低ビット量子化は超解像モデル(SR)の圧縮に広く用いられている。 しかし、SRモデルが超低精度(2-4ビット)にプッシュされると、性能は急激に低下する。 本稿では,量子化演算子,ネットワーク設計,トレーニング最適化を改善する統一フレームワークQuantSR+を提案する。
  論文  参考訳（メタデータ） (2026-05-21T11:38:52Z)
• A Fast and Energy-Efficient Latch-Based Memristive Analog Content-Addressable Memory [0.03262230127283451]
  静電圧分割を動的電流レースコンパレータに置き換える強腕ラッチ・メムリスタ (SALM) aCAM セルを導入する。 6T2Mと比較して、SALMは6T2Mが大きな配列にスケーリングできないようなゲインとクロストークの制限をなくしながら、同じレイテンシで読み取りエネルギーを33%削減する。
  論文  参考訳（メタデータ） (2026-05-12T09:30:24Z)
• EdgeFlex-Transformer: Transformer Inference for Edge Devices [2.1130318406254074]
  視覚変換器(ViT)の圧縮・高速化を目的とした軽量で効果的な多段最適化パイプラインを提案する。 本手法は,アクティベーションプロファイリング,メモリ対応プルーニング,選択的混合精度実行,アクティベーション対応量子化(AWQ)を組み合わせることで,コストのかかるリトレーニングやタスク固有の微調整を必要とせずに,モデルのメモリフットプリントを削減する。 CIFAR-10の実験では、完全に最適化されたモデルはピークメモリ使用量の76%削減と6倍のレイテンシを実現し、元のFP32ベースラインと比較して精度を維持または改善している。
  論文  参考訳（メタデータ） (2025-12-17T21:45:12Z)
• Low Power Vision Transformer Accelerator with Hardware-Aware Pruning and Optimized Dataflow [0.0]
  本稿では,アルゴリズムハードウェアの共設計により最適化された低消費電力ビジョントランスフォーマーアクセラレータを提案する。 複雑な機構を導入することなく、ハードウェアフレンドリーな動的トークンプルーニングによってモデルの複雑さを低減させる。 ピークスループットは1GHzで1024 GOPS、エネルギー効率は2.31 TOPS/W、面積効率は858.61 GOPS/mm2である。
  論文  参考訳（メタデータ） (2025-10-16T07:44:42Z)
• EfficientLLM: Efficiency in Large Language Models [64.3537131208038]
  大規模言語モデル(LLM)は大きな進歩を導いてきたが、その増加とコンテキストウィンドウは計算、エネルギー、金銭的コストを禁止している。 本稿では,新しいベンチマークであるEfficientLLMを紹介する。
  論文  参考訳（メタデータ） (2025-05-20T02:27:08Z)
• VAE-based Feature Disentanglement for Data Augmentation and Compression in Generalized GNSS Interference Classification [42.14439854721613]
  干渉の正確な分類を可能にする重要な潜伏特徴を抽出するために, アンタングル化のための変分オートエンコーダ (VAE) を提案する。 提案するVAEは512から8,192の範囲のデータ圧縮率を実現し,99.92%の精度を実現している。
  論文  参考訳（メタデータ） (2025-04-14T13:38:00Z)
• Secure Resource Allocation via Constrained Deep Reinforcement Learning [49.15061461220109]
  リソース割り当て、タスクオフロード、セキュリティ、パフォーマンスのバランスをとるフレームワークであるSARMTOを紹介します。 SARMTOは5つのベースラインアプローチを一貫して上回り、最大40%のシステムコスト削減を実現している。 これらの拡張は、複雑な分散コンピューティング環境におけるリソース管理に革命をもたらすSARMTOの可能性を強調している。
  論文  参考訳（メタデータ） (2025-01-20T15:52:43Z)
• LiteVAR: Compressing Visual Autoregressive Modelling with Efficient Attention and Quantization [17.190984773586745]
  現在のARベースのビジュアル生成モデルは、リソース制約のあるデバイスに適用性を制限するために、かなりの計算資源を必要とする。 性能を維持しつつ,VARモデルの効率を向上させるために,効率的な注意機構と低ビット量子化手法を提案する。
  論文  参考訳（メタデータ） (2024-11-26T07:32:36Z)
• Transforming Image Super-Resolution: A ConvFormer-based Efficient Approach [58.57026686186709]
  本稿では, Convolutional Transformer Layer (ConvFormer) を導入し, ConvFormer-based Super-Resolution Network (CFSR) を提案する。 CFSRは畳み込みベースのアプローチとトランスフォーマーベースのアプローチの両方の利点を継承する。 CFSRは計算コストと性能のバランスが最適であることを示す実験である。
  論文  参考訳（メタデータ） (2024-01-11T03:08:00Z)
• Improved Transformer for High-Resolution GANs [69.42469272015481]
  この課題に対処するために、Transformerに2つの重要な要素を紹介します。 実験で提案したHiTは、条件のないImageNetの31.87と2.95のFIDスコアをそれぞれ128×128$とFFHQの256×256$で達成していることを示す。
  論文  参考訳（メタデータ） (2021-06-14T17:39:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。