論文の概要: Scalable and Explainable Verification of Image-based Neural Network Controllers for Autonomous Vehicles

• arxiv url: http://arxiv.org/abs/2501.14009v1
• Date: Thu, 23 Jan 2025 16:46:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-27 14:57:33.702219
• Title: Scalable and Explainable Verification of Image-based Neural Network Controllers for Autonomous Vehicles
• Title（参考訳）: 自律走行車用画像ベースニューラルネットワーク制御器のスケーラブルで説明可能な検証
• Authors: Aditya Parameshwaran, Yue Wang,
• Abstract要約: 自動運転車における画像ベースニューラルネットワークコントローラの既存の形式的検証手法は、高次元入力、計算の非効率性、説明可能性の欠如に悩むことが多い。 変動オートエンコーダ(VAE)を利用して高次元画像を低次元で説明可能な潜在空間に符号化するフレームワークである textbfSEVIN を提案する。 提案手法では, 実世界の摂動下でのロバスト性検証を, データセットを増強し, 環境変動を捉えるためにVAEを再訓練することで実現している。
• 参考スコア（独自算出の注目度）: 3.2540854278211864
• License:
• Abstract: Existing formal verification methods for image-based neural network controllers in autonomous vehicles often struggle with high-dimensional inputs, computational inefficiency, and a lack of explainability. These challenges make it difficult to ensure safety and reliability, as processing high-dimensional image data is computationally intensive and neural networks are typically treated as black boxes. To address these issues, we propose \textbf{SEVIN} (Scalable and Explainable Verification of Image-Based Neural Network Controllers), a framework that leverages a Variational Autoencoders (VAE) to encode high-dimensional images into a lower-dimensional, explainable latent space. By annotating latent variables with corresponding control actions, we generate convex polytopes that serve as structured input spaces for verification, significantly reducing computational complexity and enhancing scalability. Integrating the VAE's decoder with the neural network controller allows for formal and robustness verification using these explainable polytopes. Our approach also incorporates robustness verification under real-world perturbations by augmenting the dataset and retraining the VAE to capture environmental variations. Experimental results demonstrate that SEVIN achieves efficient and scalable verification while providing explainable insights into controller behavior, bridging the gap between formal verification techniques and practical applications in safety-critical systems.
• Abstract（参考訳）: 自動運転車における画像ベースニューラルネットワークコントローラの既存の形式的検証手法は、高次元入力、計算の非効率性、説明可能性の欠如に悩むことが多い。 これらの課題は、高次元画像データの処理が計算集約的であり、ニューラルネットワークは一般的にブラックボックスとして扱われるため、安全性と信頼性の確保を困難にしている。 これらの問題に対処するために,変分オートエンコーダ(VAE)を利用して高次元画像を低次元で説明可能な潜在空間にエンコードするフレームワークである \textbf{SEVIN} (Scalable and Explainable Verification of Image-Based Neural Network Controllers)を提案する。 遅延変数に対応する制御動作をアノテートすることにより、検証のための構造化入力空間として機能し、計算複雑性を著しく低減し、拡張性を高める凸多面体を生成する。 VAEのデコーダとニューラルネットワークコントローラを統合することで、これらの説明可能なポリトップを使用して、形式的で堅牢な検証が可能になる。 提案手法では, 実世界の摂動下でのロバスト性検証を, データセットを増強し, 環境変動を捉えるためにVAEを再訓練することで実現している。 実験結果から,SEVINは制御器の動作に関する説明可能な洞察を提供しつつ,安全性を重視したシステムにおける形式的検証手法と実践的応用とのギャップを埋めつつ,効率よく,スケーラブルな検証を実現することが示された。

関連論文リスト

• Task-Oriented Real-time Visual Inference for IoVT Systems: A Co-design Framework of Neural Networks and Edge Deployment [61.20689382879937]
  タスク指向エッジコンピューティングは、データ分析をエッジにシフトすることで、この問題に対処する。 既存の手法は、高いモデル性能と低いリソース消費のバランスをとるのに苦労している。 ニューラルネットワークアーキテクチャを最適化する新しい協調設計フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-10-29T19:02:54Z)
• Efficient Visual State Space Model for Image Deblurring [83.57239834238035]
  畳み込みニューラルネットワーク(CNN)とビジョントランスフォーマー(ViT)は、画像復元において優れた性能を発揮している。 本稿では,画像のデブロアに対する簡易かつ効果的な視覚状態空間モデル(EVSSM)を提案する。
  論文  参考訳（メタデータ） (2024-05-23T09:13:36Z)
• Pre-trained Text-to-Image Diffusion Models Are Versatile Representation Learners for Control [73.6361029556484]
  身体的なAIエージェントは、視覚的および言語入力を介して、物理的な世界を詳細に理解する必要がある。 テキストプロンプトから画像を生成するために明示的に最適化された事前学習されたテキスト画像拡散モデルについて検討する。 安定度制御表現により,OVMM上での最先端性能を示す学習ポリシーが実現可能であることを示す。
  論文  参考訳（メタデータ） (2024-05-09T15:39:54Z)
• Scaling #DNN-Verification Tools with Efficient Bound Propagation and Parallel Computing [57.49021927832259]
  ディープニューラルネットワーク(DNN)は多くのシナリオで異常な結果を示した強力なツールです。 しかし、それらの複雑な設計と透明性の欠如は、現実世界のアプリケーションに適用する際の安全性上の懸念を提起する。 DNNの形式的検証(FV)は、安全面の証明可能な保証を提供する貴重なソリューションとして登場した。
  論文  参考訳（メタデータ） (2023-12-10T13:51:25Z)
• Distance Weighted Trans Network for Image Completion [52.318730994423106]
  本稿では,DWT(Distance-based Weighted Transformer)を利用した画像コンポーネント間の関係をよりよく理解するためのアーキテクチャを提案する。 CNNは、粗い事前の局所的なテクスチャ情報を強化するために使用される。 DWTブロックは、特定の粗いテクスチャやコヒーレントな視覚構造を復元するために使用される。
  論文  参考訳（メタデータ） (2023-10-11T12:46:11Z)
• A Proper Orthogonal Decomposition approach for parameters reduction of Single Shot Detector networks [0.0]
  本稿では,古典的モデルオーダー削減手法であるProper Orthogonal Decompositionに基づく次元削減フレームワークを提案する。 我々は、PASCAL VOCデータセットを用いてSSD300アーキテクチャにそのようなフレームワークを適用し、ネットワーク次元の削減と、転送学習コンテキストにおけるネットワークの微調整における顕著な高速化を実証した。
  論文  参考訳（メタデータ） (2022-07-27T14:43:14Z)
• Verifying Low-dimensional Input Neural Networks via Input Quantization [12.42030531015912]
  本稿では,ACAS Xu ネットワーク検証の当初の問題を再考する。 本稿では,入力量子化層をネットワークにプリペイドすることを提案する。 本手法は,浮動小数点誤差に耐性のない正確な検証結果を提供する。
  論文  参考訳（メタデータ） (2021-08-18T03:42:05Z)
• Towards a Safety Case for Hardware Fault Tolerance in Convolutional Neural Networks Using Activation Range Supervision [1.7968112116887602]
  畳み込みニューラルネットワーク(CNN)は多くの安全クリティカルなコンピュータビジョンアプリケーションの一部として確立されている。 我々は,高度に信頼性の高い故障検知器として範囲監視が重要であることを示すことによって,CNNのプロトタイプ型安全ケースを構築した。 本研究では,無声データ破損の確率と訂正不能な誤りを効果的に抑制する,新しい非一様範囲制限法について検討する。
  論文  参考訳（メタデータ） (2021-08-16T11:13:55Z)
• Verification of Image-based Neural Network Controllers Using Generative Models [30.34898838361206]
  本稿では,GAN (Generative Adversarial Network) を学習し,入力画像に状態をマップする手法を提案する。 発電機ネットワークと制御ネットワークを連結することにより、低次元の入力空間を有するネットワークを得る。 本手法は,自律航空機のタクシー問題に対して,画像ベースニューラルネットワークコントローラの安全性保証を行う。
  論文  参考訳（メタデータ） (2021-05-14T23:18:05Z)
• Learning Frequency-aware Dynamic Network for Efficient Super-Resolution [56.98668484450857]
  本稿では、離散コサイン変換(dct)領域の係数に応じて入力を複数の部分に分割する新しい周波数認識動的ネットワークについて検討する。 実際、高周波部は高価な操作で処理され、低周波部は計算負荷を軽減するために安価な操作が割り当てられる。 ベンチマークSISRモデルおよびデータセット上での実験は、周波数認識動的ネットワークが様々なSISRニューラルネットワークに使用できることを示している。
  論文  参考訳（メタデータ） (2021-03-15T12:54:26Z)
• Generating Probabilistic Safety Guarantees for Neural Network Controllers [30.34898838361206]
  ダイナミクスモデルを使用して、ニューラルネットワークコントローラが安全に動作するために保持する必要がある出力プロパティを決定します。 ニューラルネットワークポリシの近似を効率的に生成するための適応的検証手法を開発した。 本手法は,航空機衝突回避ニューラルネットワークの確率的安全性を保証することができることを示す。
  論文  参考訳（メタデータ） (2021-03-01T18:48:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。