論文の概要: Towards Causal Physical Error Discovery in Video Analytics Systems

• arxiv url: http://arxiv.org/abs/2405.17686v1
• Date: Mon, 27 May 2024 22:40:33 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-29 23:01:26.826741
• Title: Towards Causal Physical Error Discovery in Video Analytics Systems
• Title（参考訳）: ビデオ分析システムにおける因果的物理誤差発見に向けて
• Authors: Jinjin Zhao, Ted Shaowang, Stavos Sintos, Sanjay Krishnan,
• Abstract要約: ディープラーニングモデルに基づくビデオ分析システムは、しばしば不透明で不安定である。 現在のモデル説明システムは、ピクセル寄与の観点からの行動のリテラル説明に非常に適している。 本稿では、回帰不連続設計(Regress discontinuity design)と呼ばれる単純な形態の因果推論を用いて、複数の重要な性能指標の変化と実世界の現象を関連付けることができるという考えを紹介する。
• 参考スコア（独自算出の注目度）: 5.889781890680243
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Video analytics systems based on deep learning models are often opaque and brittle and require explanation systems to help users debug. Current model explanation system are very good at giving literal explanations of behavior in terms of pixel contributions but cannot integrate information about the physical or systems processes that might influence a prediction. This paper introduces the idea that a simple form of causal reasoning, called a regression discontinuity design, can be used to associate changes in multiple key performance indicators to physical real world phenomena to give users a more actionable set of video analytics explanations. We overview the system architecture and describe a vision of the impact that such a system might have.
• Abstract（参考訳）: ディープラーニングモデルに基づくビデオ分析システムは、しばしば不透明で不安定であり、ユーザがデバッグするのに役立つ説明システムを必要とする。 現在のモデル説明システムは、ピクセル寄与の観点からの行動のリテラル説明を非常に得意としているが、予測に影響を与える可能性のある物理プロセスやシステムプロセスに関する情報を統合することはできない。 本稿では、回帰不連続設計(regressive discontinuity design)と呼ばれる単純な形態の因果推論を用いて、複数の重要なパフォーマンス指標の変化を物理的な実世界の現象に関連付け、より実用的なビデオ分析説明を提供するという考え方を紹介する。 システムアーキテクチャの概要と、そのようなシステムが持つ可能性のある影響のビジョンについて説明する。

関連論文リスト

• Using Causal Threads to Explain Changes in a Dynamic System [0.0]
  システムのリッチなセマンティックモデルの開発について検討する。 具体的には、これらのシステムにおける状態変化に関する構造的因果説明について考察する。 積雪地理論により提案される地質学的変化の因果糸モデルを構築した。
  論文  参考訳（メタデータ） (2023-11-19T14:32:06Z)
• Causalainer: Causal Explainer for Automatic Video Summarization [77.36225634727221]
  多くのアプリケーションシナリオにおいて、不適切なビデオ要約は大きな影響を与える可能性がある。 説明可能性のモデリングは重要な関心事です。 Causalainerと呼ばれるCausal Explainerがこの問題に対処するために提案されている。
  論文  参考訳（メタデータ） (2023-04-30T11:42:06Z)
• Perception Visualization: Seeing Through the Eyes of a DNN [5.9557391359320375]
  我々は、Grad-CAMのような現在の説明方法と本質的に異なる、新しい説明形式を開発する。 知覚可視化は、DNNが入力画像で知覚するものの視覚的表現を提供する。 ユーザスタディの結果から,認識の可視化が可能になった場合,人間がシステムの判断をよりよく理解し,予測できることが示される。
  論文  参考訳（メタデータ） (2022-04-21T07:18:55Z)
• Leveraging the structure of dynamical systems for data-driven modeling [111.45324708884813]
  トレーニングセットとその構造が長期予測の品質に与える影響を考察する。 トレーニングセットのインフォームドデザインは,システムの不変性と基盤となるアトラクションの構造に基づいて,結果のモデルを大幅に改善することを示す。
  論文  参考訳（メタデータ） (2021-12-15T20:09:20Z)
• Supervised DKRC with Images for Offline System Identification [77.34726150561087]
  現代の力学系はますます非線形で複雑なものになりつつある。 予測と制御のためのコンパクトで包括的な表現でこれらのシステムをモデル化するフレームワークが必要である。 本手法は,教師付き学習手法を用いてこれらの基礎関数を学習する。
  論文  参考訳（メタデータ） (2021-09-06T04:39:06Z)
• Explainable Adversarial Attacks in Deep Neural Networks Using Activation Profiles [69.9674326582747]
  本稿では,敵対的事例に基づくニューラルネットワークモデルを検討するためのビジュアルフレームワークを提案する。 これらの要素を観察することで、モデル内の悪用領域を素早く特定できることを示す。
  論文  参考訳（メタデータ） (2021-03-18T13:04:21Z)
• Explainable Recommender Systems via Resolving Learning Representations [57.24565012731325]
  説明はユーザー体験を改善し、システムの欠陥を発見するのに役立つ。 本稿では,表現学習プロセスの透明性を向上させることによって,説明可能な新しい推薦モデルを提案する。
  論文  参考訳（メタデータ） (2020-08-21T05:30:48Z)
• Causal Discovery in Physical Systems from Videos [123.79211190669821]
  因果発見は人間の認知の中心にある。 本研究では,ビデオの因果発見の課題を,地層構造を監督せずにエンドツーエンドで検討する。
  論文  参考訳（メタデータ） (2020-07-01T17:29:57Z)
• Don't Explain without Verifying Veracity: An Evaluation of Explainable AI with Video Activity Recognition [24.10997778856368]
  本稿では,知的システムにおけるユーザパフォーマンスと合意の妥当性がいかに影響するかを考察する。 ビデオレビューと問合せ作業における説明精度のばらつきを比較した。 その結果,信頼性の低い説明がユーザパフォーマンスと合意を著しく低下させることが示唆された。
  論文  参考訳（メタデータ） (2020-05-05T17:06:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。