論文の概要: Stabilizing Information Flow Entropy: Regularization for Safe and Interpretable Autonomous Driving Perception
- arxiv url: http://arxiv.org/abs/2509.16277v1
- Date: Thu, 18 Sep 2025 17:01:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-23 18:58:15.717446
- Title: Stabilizing Information Flow Entropy: Regularization for Safe and Interpretable Autonomous Driving Perception
- Title(参考訳): 情報フローのエントロピーの安定化:安全かつ解釈可能な自律運転知覚のための規則化
- Authors: Haobo Yang, Shiyan Zhang, Zhuoyi Yang, Jilong Guo, Jun Yang, Xinyu Zhang,
- Abstract要約: 我々はディープニューラルエンコーダを階層型通信チェーンとして再認識し、生の知覚入力をタスク関連潜在特徴に圧縮する。
Elossは,軽量でプラグアンドプレイの学習目標として設計された,エントロピーベースの新しい正規化器である。
- 参考スコア(独自算出の注目度): 8.543667347406286
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Deep perception networks in autonomous driving traditionally rely on data-intensive training regimes and post-hoc anomaly detection, often disregarding fundamental information-theoretic constraints governing stable information processing. We reconceptualize deep neural encoders as hierarchical communication chains that incrementally compress raw sensory inputs into task-relevant latent features. Within this framework, we establish two theoretically justified design principles for robust perception: (D1) smooth variation of mutual information between consecutive layers, and (D2) monotonic decay of latent entropy with network depth. Our analysis shows that, under realistic architectural assumptions, particularly blocks comprising repeated layers of similar capacity, enforcing smooth information flow (D1) naturally encourages entropy decay (D2), thus ensuring stable compression. Guided by these insights, we propose Eloss, a novel entropy-based regularizer designed as a lightweight, plug-and-play training objective. Rather than marginal accuracy improvements, this approach represents a conceptual shift: it unifies information-theoretic stability with standard perception tasks, enabling explicit, principled detection of anomalous sensor inputs through entropy deviations. Experimental validation on large-scale 3D object detection benchmarks (KITTI and nuScenes) demonstrates that incorporating Eloss consistently achieves competitive or improved accuracy while dramatically enhancing sensitivity to anomalies, amplifying distribution-shift signals by up to two orders of magnitude. This stable information-compression perspective not only improves interpretability but also establishes a solid theoretical foundation for safer, more robust autonomous driving perception systems.
- Abstract(参考訳): 自律運転における深い知覚ネットワークは、伝統的にデータ集約的なトレーニング体制とポストホックな異常検出に依存しており、しばしば安定した情報処理を規定する基本的な情報理論的制約を無視している。
我々はディープニューラルエンコーダを階層型通信チェーンとして再認識し、生の知覚入力をタスク関連潜伏特徴に漸進的に圧縮する。
本枠組みでは, 連続層間の相互情報のスムーズな変動と, (D2) ネットワーク深度による潜伏エントロピーの単調崩壊という, 頑健な知覚のための理論的に正当化された2つの設計原理を確立する。
我々の分析は、現実的なアーキテクチャ上の仮定の下で、特に同様のキャパシティの繰り返し層を構成するブロックは、スムーズな情報フロー(D1)によって自然にエントロピー減衰(D2)が促進され、安定した圧縮が保証されることを示している。
これらの知見に導かれたElossは,軽量でプラグアンドプレイの学習目標として設計された,新しいエントロピーベースの正規化器である。
標準的な知覚タスクと情報理論的安定性を統一し、エントロピー偏差による異常センサ入力の明示的で原則化された検出を可能にする。
大規模3Dオブジェクト検出ベンチマーク(KITTIとnuScenes)の実験検証では、Elossを組み込むことで、競争力や精度が向上し、異常に対する感度が劇的に向上し、最大2桁の分散シフト信号が増幅されることが示されている。
この安定した情報圧縮の観点は、解釈可能性を改善するだけでなく、より安全でより堅牢な自律運転認識システムのためのしっかりとした理論的基盤を確立する。
関連論文リスト
- Adaptive Dual Uncertainty Optimization: Boosting Monocular 3D Object Detection under Test-Time Shifts [80.32933059529135]
TTA(Test-Time Adaptation)メソッドが出現し、推論中にターゲット分布に適応する。
我々は、堅牢なM3ODの両不確実性を共同で最小化するために設計された、最初のTTAフレームワークであるDual Uncertainity Optimization (DUO)を提案する。
並列に,明瞭な意味的手がかりを持つ領域における幾何学的コヒーレンスを保存する意味認識型正規場制約を設計する。
論文 参考訳(メタデータ) (2025-08-28T07:09:21Z) - Advancing Reliable Test-Time Adaptation of Vision-Language Models under Visual Variations [67.35596444651037]
視覚言語モデル(VLM)は、素晴らしいゼロショット機能を示すが、ラベル付きデータが利用できない場合、下流タスクの分散シフトに苦慮する。
本稿では,信頼性を両面から高めるReliable Test-Time Adaptation (ReTA)法を提案する。
論文 参考訳(メタデータ) (2025-07-13T05:37:33Z) - Designing Robust Software Sensors for Nonlinear Systems via Neural Networks and Adaptive Sliding Mode Control [2.884893167166808]
本稿では,非線形力学系のためのソフトウェアセンサの設計手法を提案する。
明示的な変換や線形化に依存する従来のモデルベースオブザーバとは異なり、提案フレームワークはニューラルネットワークと適応スライディングモード制御(SMC)を統合している。
トレーニング手法は、物理に基づく制約としてシステムの制御方程式を活用することで、基底構造軌道にアクセスせずにオブザーバ合成を可能にする。
論文 参考訳(メタデータ) (2025-07-09T13:06:58Z) - Dynamic Temporal Positional Encodings for Early Intrusion Detection in IoT [3.6686692131754834]
IoT(Internet of Things)の急速な拡張は、重大なセキュリティ上の課題をもたらしている。
従来の侵入検知システム(IDS)は、しばしばネットワークトラフィックの時間的特性を見落としている。
動的時間的位置エンコーディングを組み込んだトランスフォーマーを用いた早期侵入検知システム(EIDS)を提案する。
論文 参考訳(メタデータ) (2025-06-22T17:56:19Z) - Understanding the role of autoencoders for stiff dynamical systems using information theory [0.0]
情報理論を用いて、ディープニューラルネットワーク(DNN)トレーニングを用いた自己エンコーダ(AE)の潜時空間の構築が、剛体力学系における滑らかな低次元多様体の発見方法に関する知見を提供する。
論文 参考訳(メタデータ) (2025-03-08T19:42:06Z) - Anomaly Detection in Complex Dynamical Systems: A Systematic Framework Using Embedding Theory and Physics-Inspired Consistency [0.0]
複雑な力学系における異常検出は、産業やサイバー物理のインフラにおける信頼性、安全性、効率を確保するために不可欠である。
本稿では,古典的な埋め込み理論と物理に着想を得た一貫性原理を基礎としたシステム理論による異常検出手法を提案する。
本研究は, 異常が安定系の力学を阻害する仮説を支持し, 異常検出のためのロバストな信号を提供する。
論文 参考訳(メタデータ) (2025-02-26T17:06:13Z) - A Generic Shared Attention Mechanism for Various Backbone Neural Networks [53.36677373145012]
自己注意モジュール(SAM)は、異なる層にまたがる強い相関した注意マップを生成する。
Dense-and-Implicit Attention (DIA)はSAMをレイヤ間で共有し、長期間のメモリモジュールを使用する。
我々のシンプルで効果的なDIAは、様々なネットワークバックボーンを一貫して拡張できます。
論文 参考訳(メタデータ) (2022-10-27T13:24:08Z) - Non-Singular Adversarial Robustness of Neural Networks [58.731070632586594]
小さな入力摂動に対する過敏性のため、アドリヤルロバスト性はニューラルネットワークにとって新たな課題となっている。
我々は,データ入力とモデル重みの共振レンズを用いて,ニューラルネットワークの非特異な対角性の概念を定式化する。
論文 参考訳(メタデータ) (2021-02-23T20:59:30Z) - Uncertainty-Aware Deep Calibrated Salient Object Detection [74.58153220370527]
既存のディープニューラルネットワークに基づくサルエントオブジェクト検出(SOD)手法は主に高いネットワーク精度の追求に重点を置いている。
これらの手法は、信頼不均衡問題として知られるネットワーク精度と予測信頼の間のギャップを見落としている。
我々は,不確実性を考慮した深部SODネットワークを導入し,深部SODネットワークの過信を防止するための2つの戦略を提案する。
論文 参考訳(メタデータ) (2020-12-10T23:28:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。