論文の概要: Enhancing Predictability of Multi-Tenant DNN Inference for Autonomous Vehicles' Perception
- arxiv url: http://arxiv.org/abs/2602.11004v1
- Date: Wed, 11 Feb 2026 16:25:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-12 21:44:02.182234
- Title: Enhancing Predictability of Multi-Tenant DNN Inference for Autonomous Vehicles' Perception
- Title(参考訳): 自動運転車の認識に対するマルチテナントDNN推論の予測可能性向上
- Authors: Liangkai Liu, Kang G. Shin, Jinkyu Lee, Chengmo Yang, Weisong Shi,
- Abstract要約: ディープニューラルネットワーク(DNN)を用いた予測可能な知覚システムを提案する。
マルチテナントDNNでは、同じレベルの精度を維持しながら、処理対象の画像データの量を削減する。
PP-DNNは認識可能性を大幅に向上させ、融合フレームの数を最大7.3倍に増やす。
- 参考スコア(独自算出の注目度): 12.490418944128296
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: Autonomous vehicles (AVs) rely on sensors and deep neural networks (DNNs) to perceive their surrounding environment and make maneuver decisions in real time. However, achieving real-time DNN inference in the AV's perception pipeline is challenging due to the large gap between the computation requirement and the AV's limited resources. Most, if not all, of existing studies focus on optimizing the DNN inference time to achieve faster perception by compressing the DNN model with pruning and quantization. In contrast, we present a Predictable Perception system with DNNs (PP-DNN) that reduce the amount of image data to be processed while maintaining the same level of accuracy for multi-tenant DNNs by dynamically selecting critical frames and regions of interest (ROIs). PP-DNN is based on our key insight that critical frames and ROIs for AVs vary with the AV's surrounding environment. However, it is challenging to identify and use critical frames and ROIs in multi-tenant DNNs for predictable inference. Given image-frame streams, PP-DNN leverages an ROI generator to identify critical frames and ROIs based on the similarities of consecutive frames and traffic scenarios. PP-DNN then leverages a FLOPs predictor to predict multiply-accumulate operations (MACs) from the dynamic critical frames and ROIs. The ROI scheduler coordinates the processing of critical frames and ROIs with multiple DNN models. Finally, we design a detection predictor for the perception of non-critical frames. We have implemented PP-DNN in an ROS-based AV pipeline and evaluated it with the BDD100K and the nuScenes dataset. PP-DNN is observed to significantly enhance perception predictability, increasing the number of fusion frames by up to 7.3x, reducing the fusion delay by >2.6x and fusion-delay variations by >2.3x, improving detection completeness by 75.4% and the cost-effectiveness by up to 98% over the baseline.
- Abstract(参考訳): 自律走行車(AV)は、センサーとディープニューラルネットワーク(DNN)に依存して周囲の環境を認識し、リアルタイムで機動決定を行う。
しかし,AVの認識パイプラインにおけるリアルタイムDNN推論の実現は,計算要求とAVの限られたリソースとの間に大きなギャップがあるため,困難である。
既存の研究の多くは、DNNモデルをプルーニングと量子化で圧縮することで、より高速な知覚を実現するために、DNN推論時間を最適化することに焦点を当てている。
対照的に、DNN(PP-DNN)を用いた予測可能な知覚システムを提案し、クリティカルフレームと関心領域(ROI)を動的に選択することで、マルチテナントDNNに対して同じレベルの精度を維持しながら処理対象の画像データ量を削減する。
PP-DNNは、AVの臨界フレームとROIがAVの周囲環境と異なるという重要な知見に基づいている。
しかし、予測可能な推測のために、マルチテナントDNNにおいてクリティカルフレームとROIを識別し、使用することは困難である。
画像フレームストリームが与えられた場合、PP-DNNはROIジェネレータを使用して、連続するフレームとトラフィックシナリオの類似性に基づいて、クリティカルフレームとROIを識別する。
PP-DNNはFLOP予測器を利用して、動的臨界フレームとROIから乗算累積演算(MAC)を予測する。
ROIスケジューラは、複数のDNNモデルでクリティカルフレームとROIの処理を調整する。
最後に,非臨界フレームの認識のための検出予測器を設計する。
我々は、ROSベースのAVパイプラインにPP-DNNを実装し、BDD100KとnuScenesデータセットで評価した。
PP-DNNは認識可能性を大幅に向上させ、核融合フレームの数を7.3倍にし、核融合遅延を2.6倍に、核融合遅延を2.3倍に減らし、検出完全性は75.4%向上し、コスト効率は98%向上した。
関連論文リスト
- PPT-GNN: A Practical Pre-Trained Spatio-Temporal Graph Neural Network for Network Security [3.0558245652654907]
PPTGNNは、侵入検知のための実用的で大規模な事前訓練モデルである。
リアルタイムに近い予測が可能で、ネットワークアタックの時間的ダイナミクスをよりよく捉えることができる。
E-ResGATやE-GraphSAGEといった最先端モデルよりも優れ、平均精度は10.38%向上した。
論文 参考訳(メタデータ) (2024-06-19T09:09:46Z) - Unveiling and Mitigating Generalized Biases of DNNs through the Intrinsic Dimensions of Perceptual Manifolds [46.47992213722412]
公正なディープニューラルネットワーク(DNN)の構築は、信頼できる人工知能を達成するための重要なステップである。
本稿では,モデルの公平性と性能を高める固有次元正規化(IDR)を提案する。
様々な画像認識ベンチマークテストにおいて、IDRはモデルバイアスを低減し、性能を向上する。
論文 参考訳(メタデータ) (2024-04-22T04:16:40Z) - Knowing When to Stop: Delay-Adaptive Spiking Neural Network Classifiers with Reliability Guarantees [36.14499894307206]
スパイキングニューラルネットワーク(SNN)は、内部イベント駆動型ニューラルネットワークを通じて時系列データを処理する。
本稿では,入力依存停止時に発生する決定に対して,信頼性を保証する新しい遅延適応型SNNベースの推論手法を提案する。
論文 参考訳(メタデータ) (2023-05-18T22:11:04Z) - DeepAxe: A Framework for Exploration of Approximation and Reliability
Trade-offs in DNN Accelerators [0.9556128246747769]
安全クリティカルなアプリケーションにおけるディープニューラルネットワーク(DNN)の役割は拡大している。
DNNは計算能力の面で大きく成長している。
これは、DNNアクセラレーターの信頼性を向上させる必要性を高める。
論文 参考訳(メタデータ) (2023-03-14T20:42:38Z) - Fault-Aware Design and Training to Enhance DNNs Reliability with
Zero-Overhead [67.87678914831477]
ディープニューラルネットワーク(DNN)は、幅広い技術的進歩を可能にする。
最近の知見は、過渡的なハードウェア欠陥がモデル予測を劇的に損なう可能性があることを示唆している。
本研究では,トレーニングとモデル設計の両面で信頼性の問題に取り組むことを提案する。
論文 参考訳(メタデータ) (2022-05-28T13:09:30Z) - AdaPT: Fast Emulation of Approximate DNN Accelerators in PyTorch [4.445835362642506]
我々は PyTorch を拡張した高速エミュレーションフレームワーク AdaPT を提案する。
ビット幅の異なる多数の近似乗算器に対して, CNN, LSTM, GANを含むいくつかのDNNモデルおよびアプリケーションフィールド上でのフレームワークの評価を行った。
その結果、近似的な再学習からかなりの誤差回復と、ベースライン近似実装に関する推論時間を最大53.9倍に短縮した。
論文 参考訳(メタデータ) (2022-03-08T13:31:16Z) - Two-Timescale End-to-End Learning for Channel Acquisition and Hybrid
Precoding [94.40747235081466]
本研究では,ミリ波(mmWave)大規模マルチインプット多重出力(MIMO)システムのためのエンドツーエンドの深層学習に基づくジョイントトランスシーバ設計アルゴリズムを提案する。
我々は受信したパイロットを受信機でフィードバックビットにマッピングし、さらに送信機でハイブリッドプリコーダにフィードバックビットをマッピングするDNNアーキテクチャを開発した。
論文 参考訳(メタデータ) (2021-10-22T20:49:02Z) - Group-based Bi-Directional Recurrent Wavelet Neural Networks for Video
Super-Resolution [4.9136996406481135]
ビデオ超解像(VSR)は、低解像度(LR)フレームから高解像度(HR)フレームを推定することを目的としている。
VSRの鍵となる課題は、フレーム内の空間的相関と連続フレーム間の時間的依存を効果的に活用することにある。
論文 参考訳(メタデータ) (2021-06-14T06:36:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。