論文の概要: Energy-Efficient Plant Monitoring via Knowledge Distillation

• arxiv url: http://arxiv.org/abs/2604.27178v1
• Date: Wed, 29 Apr 2026 20:27:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-01 16:31:53.799808
• Title: Energy-Efficient Plant Monitoring via Knowledge Distillation
• Title（参考訳）: 知識蒸留によるエネルギー効率のよい植物モニタリング
• Authors: Ilyass Moummad, Reda Bensaid, Kawtar Zaher, Hervé Goëau, Jean-Christophe Lombardo, Joseph Salmon, Pierre Bonnet, Alexis Joly,
• Abstract要約: 蒸留されたモデルは、計算コストを著しく低く保ちながら、かなり大きなモデルの性能と一致させることができる。 これらの結果は,植物認識システムの効率的かつスケーラブルな展開を可能にする知識蒸留技術の可能性を示している。
• 参考スコア（独自算出の注目度）: 6.0757248543046325
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent advances in large-scale visual representation learning have significantly improved performance in plant species and plant disease recognition tasks. However, state-of-the-art models, often based on high-capacity vision transformers or multimodal foundation models, remain computationally expensive and difficult to deploy in resource-constrained environments such as mobile or edge devices. This limitation hinders the scalability of automated biodiversity monitoring and precision agriculture systems, where efficiency is as critical as accuracy. In this work, we investigate knowledge distillation as an effective approach to transfer the representational capacity of large pretrained models into smaller, more efficient architectures. We focus on plant species and disease recognition, and conduct an extensive empirical study on two challenging benchmarks: Pl@ntNet300K-v2 and Deep-Plant-Disease. We evaluate four representative architectures, including two ConvNeXt models and two vision transformers, under multiple training regimes: from-scratch training and pretrained initialization, each with and without distillation. In total, we train and evaluate 70 models. Our results show that knowledge distillation consistently improves performance across tasks and architectures. Distilled models are able to match the performance of significantly larger models while maintaining substantially lower computational cost. These findings demonstrate the potential of knowledge distillation techniques to enable efficient and scalable deployment of plant recognition systems in real-world environmental applications.
• Abstract（参考訳）: 大規模視覚表現学習の最近の進歩は、植物種および植物疾患認識タスクのパフォーマンスを著しく向上させた。 しかし、しばしば高容量のビジョントランスフォーマーやマルチモーダル基盤モデルに基づく最先端のモデルは、計算コストが高く、モバイルやエッジデバイスのようなリソース制約のある環境での展開が困難である。 この制限は、自動化された生物多様性監視と精密農業システムのスケーラビリティを妨げる。 本研究では, 大規模事前学習モデルの表現能力をより小さく, より効率的なアーキテクチャに伝達するための効果的な手法として, 知識蒸留について検討する。 植物種と病気の認識に焦点をあて,Pl@ntNet300K-v2とDeep-Plant-Diseaseの2つの挑戦的ベンチマークについて広範な実証研究を行った。 2つのConvNeXtモデルと2つの視覚変換器を含む4つの代表的なアーキテクチャを、複数の訓練体制下で評価した。 合計で70のモデルをトレーニングし、評価する。 以上の結果から,知識蒸留はタスクやアーキテクチャ全体の性能を継続的に向上させることがわかった。 蒸留されたモデルは、計算コストを著しく低く保ちながら、かなり大きなモデルの性能と一致させることができる。 これらの結果は,実環境における植物認識システムの効率的かつスケーラブルな展開を可能にする知識蒸留技術の可能性を示すものである。

関連論文リスト

• Pedagogically-Inspired Data Synthesis for Language Model Knowledge Distillation [63.302074484672424]
  本稿では,知識蒸留のための教育的な枠組みを提案する。 提案手法は,学生モデルにおける知識不足を識別し,進歩的カリキュラムを通して知識提供を組織化し,学生モデルの認知能力に合わせた表現を適応させる。 我々のフレームワークは特に複雑な推論タスクに優れており、最先端のベースラインと比較してMATHが19.2%、HumanEvalが22.3%改善している。
  論文  参考訳（メタデータ） (2026-02-12T17:00:36Z)
• Benchmarking Distilled Language Models: Performance and Efficiency in Resource-Constrained Settings [0.5399800035598185]
  蒸留したモデルの性能と計算コストを、そのバニラおよびプロプライエタリなモデルと比較した。 蒸留した8Bモデルの作成は、バニラモデルのトレーニングの2000倍以上の計算効率があることがわかった。
  論文  参考訳（メタデータ） (2026-01-28T15:27:09Z)
• Edge-AI for Agriculture: Lightweight Vision Models for Disease Detection in Resource-Limited Settings [0.0]
  提案システムは,エッジデバイスへの展開に最適化された高度なオブジェクト検出,分類,セグメンテーションモデルを統合する。 本研究は, 精度, 計算効率, 一般化能力に着目し, 各種最先端モデルの性能を評価する。
  論文  参考訳（メタデータ） (2024-12-23T06:48:50Z)
• TSCM: A Teacher-Student Model for Vision Place Recognition Using Cross-Metric Knowledge Distillation [6.856317526681759]
  視覚的位置認識は、移動ロボットの自律的な探索とナビゲーションにおいて重要な役割を果たす。 既存の手法では、強力だが大規模なネットワークを利用することでこれを克服している。 本稿では,TSCMと呼ばれる高性能な教師と軽量な学生蒸留フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-04-02T02:29:41Z)
• Computation-efficient Deep Learning for Computer Vision: A Survey [121.84121397440337]
  ディープラーニングモデルは、さまざまな視覚的知覚タスクにおいて、人間レベルのパフォーマンスに到達または超えた。 ディープラーニングモデルは通常、重要な計算資源を必要とし、現実のシナリオでは非現実的な電力消費、遅延、または二酸化炭素排出量につながる。 新しい研究の焦点は計算効率のよいディープラーニングであり、推論時の計算コストを最小限に抑えつつ、良好な性能を達成することを目指している。
  論文  参考訳（メタデータ） (2023-08-27T03:55:28Z)
• Learning Lightweight Object Detectors via Multi-Teacher Progressive Distillation [56.053397775016755]
  本稿では,教師検出器の知識を学生に段階的に伝達する,知識蒸留への逐次的アプローチを提案する。 私たちの知識を最大限に活用するために、私たちはTransformerベースの教師検出器から、畳み込みベースの学生まで、初めて知識を抽出しました。
  論文  参考訳（メタデータ） (2023-08-17T17:17:08Z)
• Knowledge distillation: A good teacher is patient and consistent [71.14922743774864]
  最先端のパフォーマンスを実現する大規模モデルと、実用的な用途で手頃な価格のモデルとの間には、コンピュータビジョンの相違が増えている。 蒸留の有効性に大きな影響を及ぼす可能性のある,特定の暗黙的な設計選択を同定する。 ImageNetの最先端ResNet-50モデルが82.8%の精度で実現されている。
  論文  参考訳（メタデータ） (2021-06-09T17:20:40Z)
• Efficient Transformers in Reinforcement Learning using Actor-Learner Distillation [91.05073136215886]
  「Actor-Learner Distillation」は、大容量学習者モデルから小容量学習者モデルへ学習の進捗を移す。 Actor-Learner Distillation を用いて,トランスフォーマー学習モデルの明確なサンプル効率向上を再現する,いくつかの挑戦的なメモリ環境を実証する。
  論文  参考訳（メタデータ） (2021-04-04T17:56:34Z)
• Knowledge Distillation: A Survey [87.51063304509067]
  ディープニューラルネットワークは、特にコンピュータビジョンタスクにおいて、産業と学術の両方で成功している。 リソースが限られているデバイスに、これらの面倒なディープモデルをデプロイすることは難しい。 知識蒸留は、大きな教師モデルから小さな学生モデルを効果的に学習する。
  論文  参考訳（メタデータ） (2020-06-09T21:47:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。