論文の概要: Runtime Monitoring DNN-Based Perception

• arxiv url: http://arxiv.org/abs/2310.03999v1
• Date: Fri, 6 Oct 2023 03:57:56 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-10 03:31:18.153164
• Title: Runtime Monitoring DNN-Based Perception
• Title（参考訳）: ランタイムモニタリングDNNによる認識
• Authors: Chih-Hong Cheng, Michael Luttenberger, Rongjie Yan
• Abstract要約: このチュートリアルは、読者に文学で提案されたテクニックを垣間見ることを目的としている。 まず、機械学習コミュニティで提案された古典的な手法から始め、形式的な手法コミュニティによって提案されたいくつかのテクニックを強調します。 私たちは、運用ドメイン外のデータ可用性が重要な役割を果たすモニターを厳格に設計する必要性を強調して、結論付けました。
• 参考スコア（独自算出の注目度）: 5.518665721709856
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep neural networks (DNNs) are instrumental in realizing complex perception systems. As many of these applications are safety-critical by design, engineering rigor is required to ensure that the functional insufficiency of the DNN-based perception is not the source of harm. In addition to conventional static verification and testing techniques employed during the design phase, there is a need for runtime verification techniques that can detect critical events, diagnose issues, and even enforce requirements. This tutorial aims to provide readers with a glimpse of techniques proposed in the literature. We start with classical methods proposed in the machine learning community, then highlight a few techniques proposed by the formal methods community. While we surely can observe similarities in the design of monitors, how the decision boundaries are created vary between the two communities. We conclude by highlighting the need to rigorously design monitors, where data availability outside the operational domain plays an important role.
• Abstract（参考訳）: ディープニューラルネットワーク(dnn)は複雑な知覚システムを実現するのに役立つ。 これらのアプリケーションの多くは設計上安全性に欠かせないものであるため、DNNベースの認識の機能的欠如が害の源にならないことを保証するためにエンジニアリングの厳密さが必要である。 設計段階で使用される従来の静的検証とテスト技術に加えて、重要なイベントを検出し、問題を診断し、要求を強制できる実行時検証技術が必要である。 このチュートリアルは、読者に文学で提案されたテクニックを垣間見ることを目的としている。 まず、機械学習コミュニティで提案された古典的な手法から始め、形式的手法コミュニティによって提案されたいくつかのテクニックを強調する。 モニタの設計の類似性は確実に観察できますが、意思決定の境界は2つのコミュニティによって異なります。 最後に、運用ドメイン外のデータアベイラビリティが重要な役割を担うモニタを厳格に設計する必要性を強調する。

関連論文リスト

• Verifying the Generalization of Deep Learning to Out-of-Distribution Domains [1.5774380628229037]
  ディープニューラルネットワーク(DNN)は、機械学習の分野において重要な役割を果たす。 DNNは時折、一般化に伴う課題、すなわち訓練中に遭遇しなかった入力を処理できなくなることがある。 この制限は、セーフティクリティカルなタスクにディープラーニングをデプロイする上で、重要な課題である。
  論文  参考訳（メタデータ） (2024-06-04T07:02:59Z)
• Real-time Threat Detection Strategies for Resource-constrained Devices [1.4815508281465273]
  本稿では,ルータ内のDNSトンネリング攻撃を効果的に処理するエンド・ツー・エンド・プロセスを提案する。 我々は、MLモデルをトレーニングするためにステートレスな機能を利用することと、ネットワーク構成から独立して選択した機能を利用することで、非常に正確な結果が得られることを実証した。 さまざまな環境にまたがる組み込みデバイスに最適化されたこの慎重に構築されたモデルのデプロイにより、最小のレイテンシでDNSチューニングされた攻撃検出が可能になった。
  論文  参考訳（メタデータ） (2024-03-22T10:02:54Z)
• Towards Rigorous Design of OoD Detectors [0.0]
  アウト・オブ・ディストリビューション(OoD)検出技術は、安全関連ニューラルネットワークに有効である。 現在の性能指向のOoD検出技術は,基準値の整合性を確保するには不十分である。 欠けているのは、OoD検出器の開発、検証、検証のための厳密な設計アプローチです。
  論文  参考訳（メタデータ） (2023-06-14T11:38:36Z)
• Prescriptive Process Monitoring: Quo Vadis? [64.39761523935613]
  本論文はシステム文献レビュー(SLR)を通して,本分野における既存手法について考察する。 SLRは今後の研究の課題や分野に関する洞察を提供し、規範的なプロセス監視手法の有用性と適用性を高めることができる。
  論文  参考訳（メタデータ） (2021-12-03T08:06:24Z)
• Multi Agent System for Machine Learning Under Uncertainty in Cyber Physical Manufacturing System [78.60415450507706]
  近年の予測機械学習の進歩は、製造における様々なユースケースに応用されている。 ほとんどの研究は、それに関連する不確実性に対処することなく予測精度を最大化することに焦点を当てた。 本稿では,機械学習における不確実性の原因を特定し,不確実性下での機械学習システムの成功基準を確立する。
  論文  参考訳（メタデータ） (2021-07-28T10:28:05Z)
• Inspect, Understand, Overcome: A Survey of Practical Methods for AI Safety [54.478842696269304]
  安全クリティカルなアプリケーションにディープニューラルネットワーク(DNN)を使用することは、多数のモデル固有の欠点のために困難です。 近年,これらの安全対策を目的とした最先端技術動物園が出現している。 本稿は、機械学習の専門家と安全エンジニアの両方に対処する。
  論文  参考訳（メタデータ） (2021-04-29T09:54:54Z)
• Increasing the Confidence of Deep Neural Networks by Coverage Analysis [71.57324258813674]
  本稿では、異なる安全でない入力に対してモデルを強化するために、カバレッジパラダイムに基づく軽量な監視アーキテクチャを提案する。 実験結果から,提案手法は強力な対向例とアウト・オブ・ディストリビューション・インプットの両方を検出するのに有効であることが示唆された。
  論文  参考訳（メタデータ） (2021-01-28T16:38:26Z)
• Intrusion Detection Systems for IoT: opportunities and challenges offered by Edge Computing [1.7589792057098648]
  現在のサイバーセキュリティ手法の主な構成要素は侵入検知システム(IDS)である。 IDSは、シグネチャベースとして知られる既知の侵入経験のデータベースを使用した、監視されたイベントの相互チェック、あるいはシステムの通常の振る舞いの学習に基づくことができる。 この作業は、エッジコンピューティングを使用してIDS実装をサポートするIoT(Internet of Things)ネットワークへのアプリケーション専用のものだ。
  論文  参考訳（メタデータ） (2020-12-02T13:07:27Z)
• Evaluating the Safety of Deep Reinforcement Learning Models using Semi-Formal Verification [81.32981236437395]
  本稿では,区間分析に基づく半形式的意思決定手法を提案する。 本手法は, 標準ベンチマークに比較して, 形式検証に対して比較結果を得る。 提案手法は, 意思決定モデルにおける安全性特性を効果的に評価することを可能にする。
  論文  参考訳（メタデータ） (2020-10-19T11:18:06Z)
• Survey of Network Intrusion Detection Methods from the Perspective of the Knowledge Discovery in Databases Process [63.75363908696257]
  本稿では,侵入検知器の開発を目的として,ネットワークデータに適用された手法について概説する。 本稿では,データのキャプチャ,準備,変換,データマイニング,評価などの手法について論じる。 この文献レビューの結果、ネットワークセキュリティ分野のさらなる研究のために考慮すべきいくつかのオープンな問題について検討する。
  論文  参考訳（メタデータ） (2020-01-27T11:21:05Z)
• PaRoT: A Practical Framework for Robust Deep Neural Network Training [1.9034855801255839]
  ディープニューラルネットワーク(DNN)は、自律走行車(AV)のような安全クリティカルなシステムに重要な応用を見出している ブラックボックスの性質による保証のためのユニークな課題の増大により、DNNはこの種のシステムに対する規制の受け入れに根本的な問題を引き起こす。 我々は、人気のあるトレーニングプラットフォーム上で開発された新しいフレームワークPaRoTを導入し、参入障壁を大幅に減らした。
  論文  参考訳（メタデータ） (2020-01-07T16:21:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。