論文の概要: Edge AI Deployment Beyond Models: A BSP-Aware Systems Framework for Industrial Embedded Platforms
- arxiv url: http://arxiv.org/abs/2605.26119v1
- Date: Mon, 20 Apr 2026 17:52:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-15 07:09:36.486158
- Title: Edge AI Deployment Beyond Models: A BSP-Aware Systems Framework for Industrial Embedded Platforms
- Title（参考訳）: Edge AI Deployment Beyond Models - 産業組み込みプラットフォームのためのBSP対応システムフレームワーク
- Authors: Pitchai Muthu M,
- Abstract要約: 産業用エッジAIプログラムは、しばしばモデルから始まり、後にプラットフォームに直面する。
本稿は、エッジAIのロバストなデプロイメントは、後期的なアプリケーションのパッケージングではなく、システムの問題として扱う必要がある、と論じる。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Industrial Edge AI programs often begin with the model and only later confront the platform. That sequencing is attractive because it allows early demonstrations, but it breaks down when the deployment target is an embedded system with long product lifecycles, vendor-specific kernels, heterogeneous accelerators, safety constraints, and nontrivial I/O paths. In that environment, a model is only one component of a larger execution chain that begins at the sensor, traverses the board support package (BSP), and ends in a production service loop. This paper argues that robust Edge AI deployment must be treated as a systems problem rather than a late-stage application packaging exercise. The paper presents a BSP-aware framework for industrial embedded platforms organized around five layers: hardware, BSP/operating-system adaptation, runtime and acceleration, application/inference, and operations/validation. The discussion is grounded in vendor architecture documentation for Android, NXP i.MX, NVIDIA Jetson, ONNX Runtime, and TensorRT, and in systems literature on embedded AI benchmarking, device instability, and heterogeneous edge fleets. The result is a practical framework that connects low-level platform work to measurable deployment outcomes such as reproducibility, diagnosability, sustained throughput, and field reliability.
- Abstract（参考訳）: 産業用エッジAIプログラムは、しばしばモデルから始まり、後にプラットフォームに直面する。
このシークエンシングは、初期のデモを可能にするため魅力的なものだが、デプロイメント対象が長い製品ライフサイクル、ベンダー固有のカーネル、異種アクセラレータ、安全性の制約、非自明なI/Oパスを備えた組み込みシステムである場合、ブレークダウンする。
その環境では、モデルは、センサーから始まり、ボードサポートパッケージ(BSP)を横切り、プロダクションサービスループで終了するより大きな実行チェーンの1つのコンポーネントである。
本稿は、エッジAIのロバストなデプロイメントは、後期的なアプリケーションのパッケージングではなく、システムの問題として扱う必要がある、と論じる。
本稿では、ハードウェア、BSP/オペレーティング・システム適応、ランタイムとアクセラレーション、アプリケーション/推論、オペレーション/バリデーションの5つのレイヤで構成された産業用組込みプラットフォームのためのBSP対応フレームワークを提案する。
この議論は、Android、NXP i.MX、NVIDIA Jetson、ONNX Runtime、TensorRTのベンダーアーキテクチャドキュメント、組み込みAIベンチマーク、デバイス不安定性、異種エッジフリートに関するシステム文献に基礎を置いている。
その結果、低レベルのプラットフォームワークを再現性、診断可能性、持続スループット、フィールド信頼性といった測定可能なデプロイメント結果に接続する実践的なフレームワークが出来上がりました。
関連論文リスト
- EdgeFM: Efficient Edge Inference for Vision-Language Models [11.086903401744713]
We propose EdgeFM, a lightweight, agent-driven VLM/LLM inference framework suitable for cross-platform industrial edge deployment。
スキルを直接呼び出すことで、プロプライエタリなツールチェーンが支配するパフォーマンスギャップを効果的に埋めることができます。
EdgeFMは、エンド・ツー・エンドの推論性能を良好に提供し、さまざまなエッジ産業シナリオに対して、オープンソースでプロダクショングレードのソリューションを提供しています。
論文 参考訳（メタデータ） (2026-04-30T06:18:50Z) - AgenTEE: Confidential LLM Agent Execution on Edge Devices [4.9434226170553535]
AgenTEEは、エッジデバイスに機密エージェントパイプラインをデプロイするシステムである。
センシティブな資産とランタイム状態の強いシステムレベルの分離を強制する。
このようなマルチcVMシステムは実用的であり,実行時のオーバーヘッドが5.15%未満で,ほぼネイティブに近い性能を実現している。
論文 参考訳（メタデータ） (2026-04-20T13:13:31Z) - AI-NativeBench: An Open-Source White-Box Agentic Benchmark Suite for AI-Native Systems [52.65695508605237]
我々は、Model Context Protocol(MCP)とAgent-to-Agent(A2A)標準に基づいて、アプリケーション中心でホワイトボックスのAI-NativeベンチマークスイートであるAI-NativeBenchを紹介する。
エージェントスパンを分散トレース内の第一級市民として扱うことにより,本手法は,単純な機能以上の工学的特性の粒度解析を可能にする。
この研究は、モデル能力の測定から信頼性の高いAI-Nativeシステムへの移行を導く最初の体系的な証拠を提供する。
論文 参考訳（メタデータ） (2026-01-14T11:32:07Z) - OS-Oracle: A Comprehensive Framework for Cross-Platform GUI Critic Models [54.44308299945632]
クロスプラットフォームGUI批判データのためのスケーラブルなデータパイプライン、教師付き微調整と一貫性保護グループによる相対的なポリシー最適化を組み合わせた2段階のトレーニングパラダイム、モバイル、Web、デスクトッププラットフォームにおける批判モデルのパフォーマンスを評価するための総合ベンチマークであるOS-Critic Benchの3つのコアコントリビューションを紹介します。
結果として得られた批判モデルであるOS-Oracle-7Bは、OS-Critic Bench上のオープンソースのVLMの最先端のパフォーマンスを達成し、モバイルドメインのプロプライエタリモデルを上回っている。
論文 参考訳（メタデータ） (2025-12-18T08:29:50Z) - Eliminating Multi-GPU Performance Taxes: A Systems Approach to Efficient Distributed LLMs [61.953548065938385]
分析フレームワークとして'3つの税'(バルク同期、カーネル間データローカリティ、カーネルローンチオーバーヘッド)を紹介した。
我々は、分散GPU実行におけるキー非効率に対処するために、厳密なBSPモデルを超えて移動することを提案する。
BSPベースのアプローチによるエンドツーエンドのレイテンシの10-20%の高速化を観察する。
論文 参考訳（メタデータ） (2025-11-04T01:15:44Z) - On the Sustainability of AI Inferences in the Edge [3.71486243189764]
エッジデバイスはレイテンシクリティカルなアプリケーションをサポートするためにAI推論を実行する。
情報意思決定における性能とエネルギー利用に関する研究は行われていない。
モデルF1のスコア、推測時間、推論パワー、メモリ使用量のトレードオフを分析する。
論文 参考訳（メタデータ） (2025-07-30T20:47:22Z) - Secure Edge Computing Reference Architecture for Data-driven Structural Health Monitoring: Lessons Learned from Implementation and Benchmarking [0.0]
本稿では,データ駆動型構造健康モニタリング(SHM)に適した,スケーラブルでセキュアなエッジ計算参照アーキテクチャを提案する。
当社のソリューションでは,商用データ取得システムと,オープンソースエッジコンピューティングプラットフォームを運用する既製のハードウェアを統合して,クラウドサービスを通じてリモートで管理およびスケールする。
本研究では,2つのエッジコンピューティングハードウェアプラットフォーム上でSHMアプリケーションで一般的に使用される機械学習モデルの資源利用データを収集することにより,この枠組みを考察する。
論文 参考訳（メタデータ） (2025-03-24T16:33:25Z) - Extending Lifetime of Embedded Systems by WebAssembly-based Functional Extensions Including Drivers [46.538276603099916]
WebAssembly(Wasm)コンテナ内の周辺I/O操作を容易にするために設計されたフレームワークであるWasm-IOを紹介する。
プラットフォームに依存しない周辺構成をWasmバイナリ内に埋め込むための同期I/Oと手法について詳述する。
論文 参考訳（メタデータ） (2025-03-10T17:22:00Z) - SOLIS -- The MLOps journey from data acquisition to actionable insights [62.997667081978825]
本稿では,基本的なクロスプラットフォームテンソルフレームワークとスクリプト言語エンジンを使用しながら,すべての要件をサポートする統合デプロイメントパイプラインとフリー・ツー・オペレートアプローチを提案する。
しかし、このアプローチは、実際のプロダクショングレードシステムに機械学習機能を実際にデプロイするために必要な手順やパイプラインを提供していない。
論文 参考訳（メタデータ） (2021-12-22T14:45:37Z) - Auto-Split: A General Framework of Collaborative Edge-Cloud AI [49.750972428032355]
本稿では,Huawei Cloudのエッジクラウド共同プロトタイプであるAuto-Splitの技法と技術実践について述べる。
私たちの知る限りでは、Deep Neural Network(DNN)分割機能を提供する既存の産業製品はありません。
論文 参考訳（メタデータ） (2021-08-30T08:03:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。