論文の概要: Remote Sensing Image Classification with Decoupled Knowledge Distillation

• arxiv url: http://arxiv.org/abs/2505.19111v2
• Date: Mon, 09 Jun 2025 10:02:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-10 21:10:47.002013
• Title: Remote Sensing Image Classification with Decoupled Knowledge Distillation
• Title（参考訳）: 切り離された知識蒸留によるリモートセンシング画像分類
• Authors: Yaping He, Jianfeng Cai, Qicong Hu, Peiqing Wang,
• Abstract要約: 本稿では,知識蒸留に基づく軽量な分類法を提案する。 提案手法は,パラメータ数を6.24倍に削減しつつ,ほぼ同等のTop-1精度を実現する。
• 参考スコア（独自算出の注目度）: 2.698114369639173
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: To address the challenges posed by the large number of parameters in existing remote sensing image classification models, which hinder deployment on resource-constrained devices, this paper proposes a lightweight classification method based on knowledge distillation. Specifically, G-GhostNet is adopted as the backbone network, leveraging feature reuse to reduce redundant parameters and significantly improve inference efficiency. In addition, a decoupled knowledge distillation strategy is employed, which separates target and non-target classes to effectively enhance classification accuracy. Experimental results on the RSOD and AID datasets demonstrate that, compared with the high-parameter VGG-16 model, the proposed method achieves nearly equivalent Top-1 accuracy while reducing the number of parameters by 6.24 times. This approach strikes an excellent balance between model size and classification performance, offering an efficient solution for deployment on resource-limited devices.
• Abstract（参考訳）: 本稿では,資源制約されたデバイスへの展開を妨げる既存のリモートセンシング画像分類モデルにおいて,多数のパラメータがもたらす課題を解決するために,知識蒸留に基づく軽量な分類手法を提案する。 具体的には、G-GhostNetがバックボーンネットワークとして採用され、機能の再利用を利用して冗長パラメータを削減し、推論効率を大幅に改善する。 さらに, ターゲットクラスと非ターゲットクラスを分離し, 分類精度を効果的に向上する, 分離された知識蒸留戦略を採用した。 RSODおよびAIDデータセットの実験結果から,高パラメータVGG-16モデルと比較して,提案手法はパラメータ数を6.24倍に削減しつつほぼ同等のTop-1精度を実現する。 このアプローチはモデルサイズと分類性能のバランスが良く、リソース制限されたデバイスにデプロイするための効率的なソリューションを提供する。

関連論文リスト

• Federated Learning of Low-Rank One-Shot Image Detection Models in Edge Devices with Scalable Accuracy and Compute Complexity [5.820612543019548]
  LoRa-FLは、エッジデバイスにデプロイされた低ランクのワンショット画像検出モデルをトレーニングするために設計された。 低ランク適応手法をワンショット検出アーキテクチャに組み込むことで,計算と通信のオーバーヘッドを大幅に低減する。
  論文  参考訳（メタデータ） (2025-04-23T08:40:44Z)
• An improved EfficientNetV2 for garbage classification [0.27309692684728615]
  本稿では,データ取得コスト,一般化,リアルタイムパフォーマンスの課題に対処するため,EfficientNetV2に基づく廃棄物分類フレームワークを提案する。 Huawei Cloudの廃棄物分類データセットの実験では、本手法は95.4%の分類精度を達成し、ベースラインを3.2%上回り、主流モデルを上回っている。
  論文  参考訳（メタデータ） (2025-03-27T06:50:44Z)
• RemoteTrimmer: Adaptive Structural Pruning for Remote Sensing Image Classification [18.96319349055505]
  リモートセンシング画像分類のための効率的な構造解析手法を提案する。 具体的には、モデルのチャネル重要度の違いを増幅するプルーニング戦略を導入する。 プルーンドモデルの微調整プロセスに適応的なマイニング損失関数を設計する。
  論文  参考訳（メタデータ） (2024-12-17T07:00:07Z)
• ALoRE: Efficient Visual Adaptation via Aggregating Low Rank Experts [71.91042186338163]
  ALoREは、Kroneckerによって構築された超複素パラメータ化空間をAggregate Low Rank Expertsに再利用する新しいPETL法である。 巧妙な設計のおかげで、ALoREは無視できる余分なパラメータを保持し、凍ったバックボーンに強制的にマージできる。
  論文  参考訳（メタデータ） (2024-12-11T12:31:30Z)
• Down-Sampling Inter-Layer Adapter for Parameter and Computation Efficient Ultra-Fine-Grained Image Recognition [5.332719186390523]
  パラメータ効率のよい設定でダウンサンプリング層間アダプタを用いる新しい手法を提案する。 ダブルブランチのダウンサンプリングを統合することで,パラメータ数や浮動小数点演算を著しく削減する。 本手法は,パラメータ効率設定における他の手法と比較して,平均精度を少なくとも6.8%向上させる。
  論文  参考訳（メタデータ） (2024-09-17T10:17:34Z)
• LoRAPrune: Structured Pruning Meets Low-Rank Parameter-Efficient Fine-Tuning [56.88751562302793]
  低ランク適応 (LoRA) が大型言語モデル (LLM) に登場した。 LoRAPruneは、高度にメモリ効率の良い正確な構造化プルーンドモデルを提供する新しいフレームワークである。 LoRAPruneはWikiText2では4.81、TBでは3.46、メモリ使用量は52.6%減少している。
  論文  参考訳（メタデータ） (2023-05-28T15:15:48Z)
• Uncertainty-Aware Source-Free Adaptive Image Super-Resolution with Wavelet Augmentation Transformer [60.31021888394358]
  Unsupervised Domain Adaptation (UDA)は、現実世界の超解像(SR)における領域ギャップ問題に効果的に対処できる 本稿では,画像SR(SODA-SR)のためのSOurce-free Domain Adaptationフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-03-31T03:14:44Z)
• An Accelerated Doubly Stochastic Gradient Method with Faster Explicit Model Identification [97.28167655721766]
  本稿では、分散正規化損失最小化問題に対する2倍加速勾配降下法(ADSGD)を提案する。 まず、ADSGDが線形収束率を達成でき、全体的な計算複雑性を低減できることを示す。
  論文  参考訳（メタデータ） (2022-08-11T22:27:22Z)
• Be Your Own Best Competitor! Multi-Branched Adversarial Knowledge Transfer [15.499267533387039]
  提案手法は,高速な画像分類とエンコーダデコーダアーキテクチャの両方に特化しており,推論過程において余分な計算オーバーヘッドを発生させることなく,小型・コンパクトなモデルの性能を向上させる。 提案手法は, 従来の自己蒸留法よりも大幅に改善されている。
  論文  参考訳（メタデータ） (2020-10-09T11:57:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。