論文の概要: Lightweight Vision Transformer Compression for On-Device Plant Disease Detection in Resource-Constrained Agricultural Field Conditions
- arxiv url: http://arxiv.org/abs/2609.05334v1
- Date: Fri, 04 Sep 2026 16:40:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-07 18:15:24.118575
- Title: Lightweight Vision Transformer Compression for On-Device Plant Disease Detection in Resource-Constrained Agricultural Field Conditions
- Title（参考訳）: 資源制約農業分野におけるオンデバイス植物病検出のための軽量ビジョン変換器圧縮
- Abstract要約: ビジョントランスフォーマー(ViT)は高い分類精度を達成したが、その大きな計算フットプリントはリソース制約されたデバイスへの展開を困難にしている。
本稿では,2次感度推定によって導かれるH-BACと,量子化と注意に基づく知識蒸留を組み合わせた統合されたビジョントランスフォーマー圧縮フレームワークを提案する。
- 参考スコア（独自算出の注目度）: 1.5530227558314913
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Chilli (Capsicum annuum) is one of India's most economically significant crops, yet its productivity is persistently threatened by diseases that are difficult to identify without expert intervention. While Vision Transformers (ViTs) have achieved high classification accuracy, their large computational footprint makes deployment on resource constrained devices challenging. Existing compression approaches typically address pruning, quantization, and knowledge distillation in isolation, leaving the potential benefits and interactions of their combined application insufficiently explored. We propose a unified Vision Transformer compression framework that combines Hessian-Balanced Adaptive Block Pruning (H-BAC), guided by second-order sensitivity estimation, with quantization and attention-based knowledge distillation. To systematically identify the most effective configuration within each compression family, each technique is first evaluated independently through controlled ablation studies, after which the best-performing components are integrated into a sequential deployment pipeline tailored to real-world agricultural constraints. On a chilli 3-class village-split dataset with a genuine cross-village, cross-device out-of-distribution test split, the resulting compressed models match or exceed the 95.13% FP32 baseline's accuracy, alongside 74-98% model size reduction, and the fully integrated compression pipeline achieves a 54.5x size reduction (327.42 MB to 6.01 MB) at 95.13 +/- 2.32% accuracy across four tested configurations. A direct comparison further reveals that, on this dataset, a directly-trained student of the same final size, without pruning or distillation, reaches comparable accuracy of 94.87%, at the same 6.01 MB INT8 size, indicating where H-BAC and knowledge distillation are, and are not yet shown to be, worth their computational cost.
- Abstract（参考訳）: チリ(Capsicum annuum)はインドで最も経済的に重要な作物の1つであるが、その生産性は専門家の介入なしには特定が難しい病気によって持続的に脅かされている。
Vision Transformers (ViT) は高い分類精度を達成したが、その大きな計算フットプリントはリソース制約のあるデバイスへの展開を困難にしている。
既存の圧縮手法は、プルーニング、量子化、知識蒸留を分離して扱うのが一般的であり、それらの組み合わせによるアプリケーションの潜在的な利点や相互作用は十分に研究されていない。
本稿では,2次感度推定で導かれるヘッセン・バラン・アダプティブ・ブロック・プルーニング(H-BAC)と,量子化と注意に基づく知識蒸留を組み合わせた統合型ビジョントランスフォーマー圧縮フレームワークを提案する。
各圧縮ファミリー内で最も効果的な構成を体系的に同定するために,まず制御されたアブレーション研究により各手法を独立に評価し,その後,実世界の農業制約に合わせた順列配置パイプラインに統合する。
本物のクロスヴィラージュとクロスデバイス・アウト・オブ・ディストリビューション・テストの分割で、圧縮されたモデルは95.13%のFP32ベースラインの精度と74-98%のモデルサイズ削減、完全に統合された圧縮パイプラインは95.13 +/-2.32%の精度で54.5倍の縮小(327.42 MBから6.01 MB)を達成する。
直接比較すると、このデータセットでは、同じ最終サイズの訓練を受けた学生が、プルーニングや蒸留なしで、同じ6.01 MBのINT8サイズで94.87%の精度に達し、H-BACと知識の蒸留がどこにあるかを示し、計算コストに値しないことが示された。
関連論文リスト
- AgroVisNet: A lightweight Convolutional Network and the BD-PlantDX Expert-Validated Benchmark for Radish, Potato and Pointed Gourd Disease Classification [0.3686530147760243]
我々は,BD-PlantDXとともに,スクラッチから学習したコンパクトな畳み込みネットワークであるAgroVisNetを提案する。
BD-PlantDXでは、テスト精度は99.52%、重み付きF1は99.52%に達し、6つのImageNet推奨の軽量バックボーンを超える。
デプロイ用にエクスポートされたこのモデルは、0.46MBのフル整数ネットワークに0.22ポイントの精度で量子化し、1CPUで8.40msの画像を分類する。
論文 参考訳（メタデータ） (2026-09-09T17:12:17Z) - A Multidimensional Data-Driven Hybrid Transformer Framework for Non-invasive Continuous Blood Pressure Prediction [28.58502100288247]
本稿では,ECG/III特徴系列から拡張型および収縮型BPを推定するハイブリッドトランスフォーマーフレームワークを提案する。
このフレームワークは、生の波形ではなく、生理的記述子の10段階のシーケンスと、2つの人口統計学的コをモデル化する。
論文 参考訳（メタデータ） (2026-08-24T14:02:10Z) - Towards Compact Unified Multimodal Tracking: Synergizing Knowledge Distillation with Structural Pruning [80.73561460934809]
多モード物体追跡は 相補的なセンサーデータを活用することで 目覚ましい堅牢性を達成した
我々は予測ヘッドを重要ではあるが、しばしば見過ごされる効率ボトルネックとみなしている。
デコーダアーキテクチャを戦略的に合理化することで、リアルタイム推論の可能性を解き放ちます。
論文 参考訳（メタデータ） (2026-08-02T20:41:33Z) - Pixel-Precise Explainable Stress Indexing: A Semantic Segmentation Framework for Disease Severity Quantification in Field Crops [3.466303200807006]
植物病は、生物的ストレスと無生物的ストレスの両方から発生し、毎年世界の農業生産量が20-40%減少する。
本稿では,セマンティックセグメンテーション,回帰に基づく重症度推定,疾患分類を統合した統合型ディープラーニングパイプラインを提案する。
論文 参考訳（メタデータ） (2026-07-05T06:04:20Z) - Condensing Large-Scale Datasets Directly with Minimal Information Loss [34.43216741538152]
CIMは、欠陥のあるデュアル圧縮パラダイムを捨てた、新しい、メトリック駆動のフレームワークである。
CIMは、元のデータセットと合成データセットの間の情報ギャップを明示的に定量化し、最小化する。
論文 参考訳（メタデータ） (2026-07-01T13:21:44Z) - Beyond Activation Alignment:The Alignment-Diversity Tradeoff in Task-Aware LLM Quantization [36.286359836094086]
キャリブレーションデータ合成と混合精度ビット割り当てを協調的に最適化するためのTAS(Task-Aware Sensitivity Analysis)を提案する。
LLaMA-3-8B と Qwen2.5-7B の実験では精度の反転が明らかにされている。
論文 参考訳（メタデータ） (2026-07-01T13:12:21Z) - Activation Outliers in Transformer Quantization: Reproduction, Statistical Analysis, and Deployment Tradeoffs [0.0]
変圧器のポストトレーニング量子化(PTQ)は、構造化されたアクティベーションアウトリアによる精度の低下に悩まされていることが知られている。
本稿では,QNLIで微調整されたBERTベースにおける再現可能な経験的再現と,その現象のシステムレベルの拡張について述べる。
論文 参考訳（メタデータ） (2026-03-04T17:26:29Z) - An Efficient Additive Kolmogorov-Arnold Transformer for Point-Level Maize Localization in Unmanned Aerial Vehicle Imagery [9.080987184733456]
高分解能紫外光度計は精密農業の鍵となる技術となっている。
UAV画像における点レベルのトウモロコシの局在は、非常に小さな対画素比のため、依然として困難である。
本稿では,これらの課題に対処するため,AKT (Additive Kolmogorov-Arnold Transformer) を提案する。
論文 参考訳（メタデータ） (2026-01-12T20:16:10Z) - A Multimodal Approach to Heritage Preservation in the Context of Climate Change [0.0]
本稿では,センサデータ(温度,湿度)と視覚画像とを融合させて,遺産の重症度を予測する軽量なマルチモーダルアーキテクチャを提案する。
ストラスブール大聖堂からのデータでは、標準的なマルチモーダルアーキテクチャよりも43%向上した76.9%のアクク・レシーを達成した。
論文 参考訳（メタデータ） (2025-10-15T22:07:57Z) - Hybrid Knowledge Transfer through Attention and Logit Distillation for On-Device Vision Systems in Agricultural IoT [0.0]
この研究は、精密農業におけるリアルタイムでエネルギー効率の高い作物モニタリングを推進している。
これは、エッジデバイス上でViTレベルの診断精度を実現する方法を示している。
論文 参考訳（メタデータ） (2025-04-21T06:56:41Z) - Extreme Compression for Pre-trained Transformers Made Simple and
Efficient [31.719905773863566]
極端圧縮、特に超低ビット精度(バイナリ/3次量子化)は、リソース制約デバイスに大規模なNLPモデルを適用するために提案されている。
我々は,超高速圧縮のための単純かつ効果的な圧縮パイプライン XTC を提案する。
論文 参考訳（メタデータ） (2022-06-04T00:19:45Z) - Compressive Visual Representations [30.857175484570732]
自己指導的手法の2つのファミリー、対照的な学習と潜伏したブートストラップは大きな進歩を遂げた。
我々は,条件付きエントロピーボトルネック目標に適合するSimCLRとBYOLの定式化を開発する。
実験により、SimCLRとBYOLに圧縮を追加することにより、幅広い領域シフトにおける線形評価精度とロバスト性モデルが大幅に向上することが確認された。
論文 参考訳（メタデータ） (2021-09-27T09:53:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。