論文の概要: Benchmarking Edge Inference Strategies for Deep Learning Models in Industrial Machine Vision

• arxiv url: http://arxiv.org/abs/2607.11356v1
• Date: Mon, 13 Jul 2026 10:18:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-14 17:47:21.427802
• Title: Benchmarking Edge Inference Strategies for Deep Learning Models in Industrial Machine Vision
• Title（参考訳）: 産業機械ビジョンにおけるディープラーニングモデルのためのエッジ推論手法のベンチマーク
• Abstract要約: 本稿では,PyTorch,ONNX,OpenVINO,RTの4つの産業環境におけるマシンビジョン推論手法について検討する。 評価したハードウェアプラットフォームとモデルでは、OpenVINOがCPU上で最低推論時間を達成するのに対し、RTはGPU上で最低推論時間を達成する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Edge deployment is often the preferred solution for industrial machine vision systems when low latency, data security, or limited connectivity are critical requirements. Several frameworks are available to optimise inference on edge devices; however, relatively few studies have systematically compared their inference-time performance under industrial deployment conditions. In this work, we present a comparative study of four widely used approaches for machine vision inference in industrial settings: plain PyTorch, ONNX Runtime, OpenVINO, and TensorRT. The evaluation focuses on inference time, covers several CPU- and GPU-based hardware platforms, and includes both conventional convolutional neural networks and a transformer-based vision model. For the hardware platforms and models evaluated, the results show that OpenVINO achieves the lowest inference time on CPUs, while TensorRT achieves the lowest inference time on GPUs. However, TensorRT does not outperform plain PyTorch for the transformer-based model considered in this study.
• Abstract（参考訳）: エッジデプロイメントは、低レイテンシ、データセキュリティ、あるいは限られた接続性が重要な要件である場合、産業用マシンビジョンシステムにとって好まれるソリューションであることが多い。 エッジデバイス上での推論を最適化するフレームワークはいくつかあるが、産業展開条件下での推論時間性能を体系的に比較する研究は比較的少ない。 本研究では,PyTorch, ONNX Runtime, OpenVINO, TensorRTの4つの産業環境における機械学習推論手法の比較検討を行った。 この評価は推論時間に重点を置いており、CPUとGPUベースのハードウェアプラットフォームをカバーしており、従来の畳み込みニューラルネットワークとトランスフォーマーベースのビジョンモデルの両方を含んでいる。 ハードウェアプラットフォームとモデルの評価結果から,OpenVINOがCPU上で最低推論時間を達成するのに対して,TensorRTはGPU上で最低推論時間を達成することが示された。 しかし、この研究で考慮されたトランスフォーマーモデルでは、TensorRTはPyTorchを上回りません。

関連論文リスト

• Towards Tensor Network Models for Low-Latency Jet Tagging on FPGAs [0.48358268525420206]
  我々は体系的な研究を提示する。 ネットワーク遅延モデル。 フィールドゲートアレー(FPGA)と比較して、モデルが競争性能を達成する 全体として、この研究は可能性を強調している。 低レイテンシ環境での低効率なリソース推論のためのTNベースのモデル。
  論文  参考訳（メタデータ） (2026-01-15T19:04:49Z)
• On the Sustainability of AI Inferences in the Edge [3.71486243189764]
  エッジデバイスはレイテンシクリティカルなアプリケーションをサポートするためにAI推論を実行する。 情報意思決定における性能とエネルギー利用に関する研究は行われていない。 モデルF1のスコア、推測時間、推論パワー、メモリ使用量のトレードオフを分析する。
  論文  参考訳（メタデータ） (2025-07-30T20:47:22Z)
• Benchmarking Ultra-Low-Power $μ$NPUs [5.1032153291137465]
  効率的なオンデバイスニューラルネットワーク(NN)推論は、予測可能なレイテンシ、プライバシと信頼性の向上、ベンダの運用コストの低減を提供する。 近年、超低消費電力アプリケーションのために、マイクロコントローラスケールNNアクセラレーター(ニューラルプロセッシングユニット(mu$NPUs)とも呼ばれる)が開発されている。 本稿では,複数のプラットフォームを対象とした最初の独立ベンチマークを含む,有償の$mu$NPUの初回比較評価を行う。
  論文  参考訳（メタデータ） (2025-03-28T16:14:06Z)
• Secure Edge Computing Reference Architecture for Data-driven Structural Health Monitoring: Lessons Learned from Implementation and Benchmarking [0.0]
  本稿では,データ駆動型構造健康モニタリング(SHM)に適した,スケーラブルでセキュアなエッジ計算参照アーキテクチャを提案する。 当社のソリューションでは,商用データ取得システムと,オープンソースエッジコンピューティングプラットフォームを運用する既製のハードウェアを統合して,クラウドサービスを通じてリモートで管理およびスケールする。 本研究では,2つのエッジコンピューティングハードウェアプラットフォーム上でSHMアプリケーションで一般的に使用される機械学習モデルの資源利用データを収集することにより,この枠組みを考察する。
  論文  参考訳（メタデータ） (2025-03-24T16:33:25Z)
• Task-Oriented Real-time Visual Inference for IoVT Systems: A Co-design Framework of Neural Networks and Edge Deployment [61.20689382879937]
  タスク指向エッジコンピューティングは、データ分析をエッジにシフトすることで、この問題に対処する。 既存の手法は、高いモデル性能と低いリソース消費のバランスをとるのに苦労している。 ニューラルネットワークアーキテクチャを最適化する新しい協調設計フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-10-29T19:02:54Z)
• NNsight and NDIF: Democratizing Access to Open-Weight Foundation Model Internals [58.83169560132308]
  NNsightとNDIFを導入し、非常に大きなニューラルネットワークによって学習された表現と計算の科学的研究を可能にする。
  論文  参考訳（メタデータ） (2024-07-18T17:59:01Z)
• Machine Learning-based Positioning using Multivariate Time Series Classification for Factory Environments [0.0]
  最先端のソリューションは外部インフラストラクチャに大きく依存しており、潜在的なプライバシー侵害にさらされている。 機械学習(ML)の最近の進歩は、IoTデバイスのオンボードセンサーのデータのみに依存する、これらの制限に対処するソリューションを提供する。 本稿では,移動体をプライバシ関連工場環境に局在させるため,モーションセンサと環境センサを用いた機械学習による屋内位置決めシステムを提案する。
  論文  参考訳（メタデータ） (2023-08-22T10:07:19Z)
• FLEdge: Benchmarking Federated Machine Learning Applications in Edge Computing Systems [61.335229621081346]
  フェデレートラーニング(FL)は,ネットワークエッジ上での分散ディープラーニングのプライバシ強化を実現する上で,有効なテクニックとなっている。 本稿では,既存のFLベンチマークを補完するFLEdgeを提案する。
  論文  参考訳（メタデータ） (2023-06-08T13:11:20Z)
• Incremental Online Learning Algorithms Comparison for Gesture and Visual Smart Sensors [68.8204255655161]
  本稿では,加速度センサデータに基づくジェスチャー認識と画像分類の2つの実例として,最先端の4つのアルゴリズムを比較した。 以上の結果から,これらのシステムの信頼性と小型メモリMCUへのデプロイの可能性が確認された。
  論文  参考訳（メタデータ） (2022-09-01T17:05:20Z)
• MAPLE-X: Latency Prediction with Explicit Microprocessor Prior Knowledge [87.41163540910854]
  ディープニューラルネットワーク(DNN)レイテンシのキャラクタリゼーションは、時間を要するプロセスである。 ハードウェアデバイスの事前知識とDNNアーキテクチャのレイテンシを具体化し,MAPLEを拡張したMAPLE-Xを提案する。
  論文  参考訳（メタデータ） (2022-05-25T11:08:20Z)
• MAPLE-Edge: A Runtime Latency Predictor for Edge Devices [80.01591186546793]
  汎用ハードウェアの最先端遅延予測器であるMAPLEのエッジデバイス指向拡張であるMAPLE-Edgeを提案する。 MAPLEと比較して、MAPLE-Edgeはより小さなCPUパフォーマンスカウンタを使用して、ランタイムとターゲットデバイスプラットフォームを記述することができる。 また、共通ランタイムを共有するデバイスプール上でトレーニングを行うMAPLEとは異なり、MAPLE-Edgeは実行時に効果的に一般化できることを示す。
  論文  参考訳（メタデータ） (2022-04-27T14:00:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。