論文の概要: Training-free Acceleration for Blind Compressed Image Restoration via Activation-Calibrated Singular Value Decomposition

• arxiv url: http://arxiv.org/abs/2610.29959v1
• Date: Wed, 21 Oct 2026 16:16:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 09:50:43.261688
• Title: Training-free Acceleration for Blind Compressed Image Restoration via Activation-Calibrated Singular Value Decomposition
• Title（参考訳）: アクティベーションキャリブレーション型特異値分解によるブラインド圧縮画像再生のための無トレーニング加速
• Abstract要約: 変換器をベースとしたモデルは、未知の圧縮条件下でのブラインド圧縮画像復元(CIR)において高い性能を達成する。 実験的, 演算子レベル解析により, このようなモデルの学習自由加速について検討する。
• 参考スコア（独自算出の注目度）: 22.659540305051127
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Transformer-based models achieve strong performance on blind compressed image restoration (CIR) under unknown compression settings, but their densely stacked projection operators make deployment costly. We study training-free acceleration for such models through an empirical, operator-level analysis. Specifically, we profile where computation is concentrated, characterize channel-wise activation distributions under compressed inputs, and examine the singular-value decay of representative projection weights. These measurements identify the recurring projections in the attention, feed-forward, convolutional, and prompt-conditioning pathways as effective low-rank replacement targets that preserve the original inference graph. They further establish truncated SVD (TSVD) as a principled training-free baseline for blind CIR and reveal why a uniform low-rank objective is mismatched to the channel-imbalanced feature distributions of compressed images. Accordingly, we formulate Activation-Calibrated Singular Value Decomposition (ASVD) for this restoration setting, deriving low-rank factors entirely offline from pretrained weights and lightweight activation statistics gathered from only a few compressed calibration images. By weighting the decomposition with channel-wise activation magnitudes, our ASVD assigns larger penalties to errors on more active channels, requiring neither retraining nor online calibration and leaving the restoration pipeline intact. When instantiated on PromptCIR at rank 64, ASVD consistently improves PSNR-B over TSVD across four standard benchmarks under identical parameter and MAC budgets. At this operating point, the factorized model cuts parameters by 59% (34.75M to 14.34M) and computation by 16.1% (258.79 to 217.16 GMACs for a 256 x 256 input), enabling acceleration without retraining.
• Abstract（参考訳）: 変換器をベースとしたモデルでは、未知の圧縮条件下でのブラインド圧縮画像復元(CIR)の性能は高いが、密集したプロジェクション演算子による展開はコストがかかる。 実験的, 演算子レベル解析により, このようなモデルの学習自由加速について検討する。 具体的には、計算が集中している場所をプロファイリングし、圧縮された入力の下でチャネルワイズ活性化分布を特徴付けるとともに、代表射影重みの特異値減衰について検討する。 これらの測定は、注意、フィードフォワード、畳み込み、即時条件の経路における繰り返し投影を、元の推論グラフを保存する効果的な低ランク置換ターゲットとして同定する。 彼らはさらに、ブラインドCIRのための原則的トレーニングフリーベースラインとしてトラッピングSVD(TSVD)を確立し、なぜ一様低ランク目標が圧縮された画像のチャネル不均衡特徴分布と一致しないのかを明らかにした。 そこで,本リカバリ化Singular Value Decomposition (ASVD) を定式化し,プリトレーニングした重みから完全にオフラインな低ランク要因を導出し,わずかに圧縮されたキャリブレーション画像から得られた軽量なアクティベーション統計を導出する。 チャネルワイドアクティベーションマグニチュードの分解を重み付けすることで、ASVDはよりアクティブなチャネル上のエラーに対してより大きな罰則を課し、リトレーニングもオンラインキャリブレーションも必要とせず、修復パイプラインをそのままにしておく。 ランク64のPromptCIRでインスタンス化されると、ASVDは同一パラメータとMAC予算の4つの標準ベンチマークでPSNR-BをTSVDよりも継続的に改善する。 この演算点において、分解されたモデルはパラメータを59%(34.75Mから14.34M)、計算を16.1%(256 x 256入力で258.79から217.16 GMACs)削減し、再トレーニングなしで加速を可能にする。

関連論文リスト

• Rethinking Generative Image Compression at Extremely Low Bitrates [56.035931340138006]
  本稿では、圧縮された表現とソース表現を直接アライメントする表現オートエンコーダ(RAE)空間上に構築された圧縮指向拡散(CoD)であるRAE-CoDを紹介する。 5つの視覚基盤モデル(VFM)と視覚言語モデルプロトコルを用いて,この枠組みを評価する。
  論文  参考訳（メタデータ） (2026-09-30T08:53:11Z)
• Restoration-Aligned Generative Flow Models for Blind Motion Deblurring [57.425021485907756]
  本稿では,フロー軌跡自体を再構成することで,不整合を解消するフレームワークであるDeFlowを紹介する。 この定式化の下では、標準フローマッチング損失は自然に残留損失の形を取る。 GoPro、HIDE、RealBlur、RWBIの実験では、DeFlowは強力な復元忠実性と知覚リアリズムを実現している。
  論文  参考訳（メタデータ） (2026-05-09T10:05:51Z)
• ARCHE: Autoregressive Residual Compression with Hyperprior and Excitation [1.376408511310322]
  ARCHEは、モデリング精度と計算効率のバランスをとるエンドツーエンドの学習画像圧縮フレームワークである。 再カレントやトランスフォーマーベースのコンポーネントに頼ることなく、最先端の速度歪み効率を実現する。 視覚的比較は、特に低ビットレートで、よりシャープなテクスチャと色の忠実度を確認できる。
  論文  参考訳（メタデータ） (2026-03-10T19:32:10Z)
• Decoder-Free Distillation for Quantized Image Restoration [10.108202910626536]
  エッジ展開画像復元のためのフレームワークであるQDR(Quantization-Aware Distilled Restoration)を紹介する。 QDRはFP32自己蒸留による容量ミスマッチを排除し、デコーダフリー蒸留(DFD)による誤差増幅を防ぐ また、競合する勾配の動的バランスをとるLearnerable Magnitude Reweighting (LMR)を提案する。
  論文  参考訳（メタデータ） (2026-03-10T13:03:47Z)
• Accelerating Diffusion Transformer via Increment-Calibrated Caching with Channel-Aware Singular Value Decomposition [4.0594792247165]
  拡散変換器(DiT)モデルは画像生成において顕著な成功を収めた。 Increment-calibrated cache, a training-free method for DiT accelerate。 本手法は45%以上を除去し,0.06 FID増加のコストでISを12倍に改善する。
  論文  参考訳（メタデータ） (2025-05-09T06:56:17Z)
• Rethinking Video Tokenization: A Conditioned Diffusion-based Approach [58.164354605550194]
  新しいトークン化ツールであるDiffusion Conditioned-based Gene Tokenizerは、GANベースのデコーダを条件付き拡散モデルで置き換える。 再建に基本的MSE拡散損失とKL項,LPIPSを併用した訓練を行った。 CDTのスケールダウン版(3$times inference speedup)でさえ、トップベースラインと互換性がある。
  論文  参考訳（メタデータ） (2025-03-05T17:59:19Z)
• 2DQuant: Low-bit Post-Training Quantization for Image Super-Resolution [83.09117439860607]
  低ビット量子化は、エッジ展開のための画像超解像(SR)モデルを圧縮するために広く普及している。 低ビット量子化は、フル精度(FP)と比較してSRモデルの精度を低下させることが知られている。 本稿では2DQuantという画像超解像のための2段階の低ビット後量子化(PTQ)法を提案する。
  論文  参考訳（メタデータ） (2024-06-10T06:06:11Z)
• ASVD: Activation-aware Singular Value Decomposition for Compressing Large Language Models [49.970828419830355]
  大規模言語モデル(LLM)のための新しい訓練後圧縮パラダイムを提案する。 我々は、アクティベーション対応特異値分解(ASVD)と呼ばれるトレーニング不要の手法を提案する。
  論文  参考訳（メタデータ） (2023-12-10T08:41:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。