論文の概要: Hierarchical Spatio-Channel Clustering for Efficient Model Compression in Medical Image Analysis

• arxiv url: http://arxiv.org/abs/2604.23375v1
• Date: Sat, 25 Apr 2026 16:46:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-28 17:12:07.303544
• Title: Hierarchical Spatio-Channel Clustering for Efficient Model Compression in Medical Image Analysis
• Title（参考訳）: 医用画像解析における効率的なモデル圧縮のための階層的時空間クラスタリング
• Authors: Sisipho Hamlomo, Marcellin Atemkeng, Habte Tadesse Likassa, Blaise Ravelo, Thierry Bouwmans, Sébastien Lalléchère, Antoine Vacavant, Ding-Geng Chen,
• Abstract要約: 本稿では,空間領域間の冗長性とチャネルアクティベーションを利用するCNNの低ランク圧縮フレームワークを提案する。 AlexNetベースの脳腫瘍MRIモデルを用いて評価し、Global SVDとTuckerの分解を(8.21,mathrmG)および(6タイム)圧縮予算で比較した。 FLOPを(8.21,mathrmG)から(1.55,mathrmG)に(81.1times)に還元する。
• 参考スコア（独自算出の注目度）: 3.0242335275001757
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Convolutional neural networks (CNNs) have become increasingly difficult to deploy in resource-constrained environments due to their large memory and computational requirements. Although low-rank compression methods can reduce this burden, most existing approaches compress spatial and channel redundancy independently and therefore do not fully exploit the localised structure within convolutional feature maps. This paper proposes a hierarchical spatio-channel low-rank compression framework for CNNs that exploits redundancy across spatial regions and channel activations. Unlike conventional methods, which apply a uniform decomposition across an entire layer, the proposed approach first partitions feature maps into spatial regions, then groups channels according to their co-activation patterns within each region, and finally applies rank-adaptive SVD to each resulting spatio-channel cluster. The method is evaluated on an AlexNet-based brain tumour MRI classification model and compared with Global SVD and Tucker decomposition under \(3\times\) and \(6\times\) compression budgets. Our method outperforms both baselines, reducing FLOPs from \(8.21\,\mathrm{G}\) to \(1.55\,\mathrm{G}\) (\(81.1\%\) reduction), achieving a \(1.38\times\) inference speed-up, and increasing classification accuracy from \(87.76\%\) to \(89.80\%\). The method also improves the macro \(F_1\)-score and performance on challenging classes such as meningioma. A hyper-parameter trade-off analysis demonstrates that the framework provides Pareto-optimal configurations, enabling control over the balance between compression and predictive performance. Moderate clustering with adaptive rank selection yields strong results. Bootstrap standard errors are reported for all classification metrics.
• Abstract（参考訳）: 畳み込みニューラルネットワーク(CNN)は、大きなメモリと計算要求のため、リソース制約のある環境でのデプロイがますます困難になっている。 低ランク圧縮法は、この負担を軽減することができるが、既存のほとんどの手法は、空間的およびチャネル的冗長性を独立に圧縮するため、畳み込み特徴写像内の局所構造を完全に活用しない。 本稿では,空間領域間の冗長性やチャネルアクティベーションを生かしたCNNのための階層型スポースチャネル低ランク圧縮フレームワークを提案する。 従来の手法とは異なり,提案手法では,まず空間領域に特徴写像を分割し,各領域の共活性化パターンに従ってチャネルをグループ化し,最終的に各スプ比チャネルクラスタにランク適応SVDを適用する。 この手法は,AlexNetを用いた脳腫瘍MRI分類モデルを用いて評価し,Global SVDとTuckerの分解を,(3\times\)および(6\times\)圧縮予算で比較した。 本手法は, FLOPs を \(8.21\,\mathrm{G}\) から \(1.55\,\mathrm{G}\) (\(81.1\%\) に還元し, 1.38\times\) の推論速度アップを実現し, 分類精度を \(87.76\%\) から \(89.80\%\) に向上させる。 また、マクロ \(F_1\)スコアを改善し、髄膜腫などの挑戦的なクラスでの性能を向上させる。 ハイパーパラメータトレードオフ分析は、このフレームワークがパレート最適構成を提供し、圧縮と予測性能のバランスを制御できることを示した。 適応的なランク選択を伴う適度なクラスタリングは、強い結果をもたらす。 Bootstrapの標準エラーは、すべての分類基準に対して報告される。

関連論文リスト

• Latent Sculpting for Zero-Shot Generalization: A Manifold Learning Approach to Out-of-Distribution Anomaly Detection [2.8547732086436306]
  教師付きディープラーニングの基本的限界は「一般化崩壊」である 階層型2段階表現学習フレームワークであるLatent Sculptingを提案する。 我々は「浸潤」のシナリオについて88.89%の検知率を報告した。
  論文  参考訳（メタデータ） (2025-12-19T11:37:02Z)
• Breaking the MoE LLM Trilemma: Dynamic Expert Clustering with Structured Compression [14.086434595924716]
  Mixture-of-Experts (MoE) Large Language Models (LLM) は負荷不均衡、パラメータの冗長性、通信オーバーヘッドのトリレンマに直面している。 動的専門家クラスタリングと構造化圧縮に基づいて統合されたフレームワークを導入し,これらの問題に協調的に対処する。
  論文  参考訳（メタデータ） (2025-09-27T10:45:58Z)
• Structure-Aware Automatic Channel Pruning by Searching with Graph Embedding [28.03880549472142]
  チャネルプルーニングはディープニューラルネットワークの計算オーバーヘッドを低減するための強力な技術である。 ネットワークトポロジをモデル化し,各チャネルのグローバルな重要性を学習するための,構造対応自動チャネルプルーニング(SACP)フレームワークを提案する。 SACPは圧縮効率と精度保持の競争力において最先端のプルーニング法より優れている。
  論文  参考訳（メタデータ） (2025-06-13T05:05:35Z)
• Scalable Context-Preserving Model-Aware Deep Clustering for Hyperspectral Images [51.95768218975529]
  ハイパースペクトル画像(HSI)の教師なし解析にサブスペースクラスタリングが広く採用されている。 近年のモデル対応深層空間クラスタリング手法では、O(n2)の複雑性を持つ自己表現行列の計算とスペクトルクラスタリングを含む2段階のフレームワークを用いることが多い。 本稿では,HSIクラスタリングを効率的に行うために,局所構造と非局所構造を協調的にキャプチャする,ベース表現に基づく拡張性のあるコンテキスト保存深層クラスタリング手法を提案する。
  論文  参考訳（メタデータ） (2025-06-12T16:43:09Z)
• Quantize Once, Train Fast: Allreduce-Compatible Compression with Provable Guarantees [53.950234267704]
  我々は、全リデュース勾配互換量子化法であるGlobal-QSGDを紹介する。 ベースライン量子化法で最大3.51%の分散トレーニングを高速化することを示す。
  論文  参考訳（メタデータ） (2023-05-29T21:32:15Z)
• Low-rank Tensor Decomposition for Compression of Convolutional Neural Networks Using Funnel Regularization [1.8579693774597708]
  低ランクテンソル分解を用いた事前学習ネットワークを圧縮するモデル削減手法を提案する。 圧縮中の重要でない要因を抑えるために, ファンネル関数と呼ばれる新しい正規化法を提案する。 ImageNet2012のResNet18では、GMACの精度は0.7%に過ぎず、Top-1の精度はわずかに低下する。
  論文  参考訳（メタデータ） (2021-12-07T13:41:51Z)
• Compressing Neural Networks: Towards Determining the Optimal Layer-wise Decomposition [62.41259783906452]
  本稿では,ディープニューラルネットワークのための新しいグローバル圧縮フレームワークを提案する。 各層を自動的に解析し、最適な層間圧縮比を特定する。 我々の結果は、現代のニューラルネットワークのグローバルなパフォーマンス-サイズトレードオフに関する将来の研究のための新たな道を開く。
  論文  参考訳（メタデータ） (2021-07-23T20:01:30Z)
• Efficient Micro-Structured Weight Unification and Pruning for Neural Network Compression [56.83861738731913]
  ディープニューラルネットワーク(DNN)モデルは、特にリソース制限されたデバイスにおいて、実用的なアプリケーションに不可欠である。 既往の非構造的あるいは構造化された重量刈り法は、推論を真に加速することはほとんど不可能である。 ハードウェア互換のマイクロ構造レベルでの一般化された重み統一フレームワークを提案し,高い圧縮と加速度を実現する。
  論文  参考訳（メタデータ） (2021-06-15T17:22:59Z)
• Preserved central model for faster bidirectional compression in distributed settings [12.323007278097249]
  我々は,分散学習問題における通信制約に中央サーバで対処する新しい手法を開発した。 本研究では,双方向圧縮を行い,(ローカルワーカーから中央サーバへの)アップリンクのみを用いたアルゴリズムと同じ収束率を達成する新しいアルゴリズムを提案し,解析する。
  論文  参考訳（メタデータ） (2021-02-24T19:48:20Z)
• Adaptive feature recombination and recalibration for semantic segmentation with Fully Convolutional Networks [57.64866581615309]
  完全畳み込みネットワークを用いたセマンティックセグメンテーションに適応した特徴の組換えと空間適応型再分類ブロックを提案する。 その結果、再結合と再校正は競争ベースラインの結果を改善し、3つの異なる問題にまたがって一般化することを示した。
  論文  参考訳（メタデータ） (2020-06-19T15:45:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。