論文の概要: Failing Conceptually: Concept-Based Explanations of Dataset Shift
- arxiv url: http://arxiv.org/abs/2104.08952v1
- Date: Sun, 18 Apr 2021 20:17:29 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-21 06:58:21.520462
- Title: Failing Conceptually: Concept-Based Explanations of Dataset Shift
- Title（参考訳）: 概念的な失敗: 概念に基づくデータセットシフトの説明
- Authors: Maleakhi A. Wijaya, Dmitry Kazhdan, Botty Dimanov and Mateja Jamnik
- Abstract要約: 本稿では,新しい説明可能なシフト検出法であるConcept Bottleneck Shift Detection (CBSD)を提案する。
cbsdは、高いレベルの人間理解可能な概念がシフトによって影響を受ける程度を識別し、ランク付けすることで説明を提供する。
我々は,CBSDがシフトの影響を受けやすい概念を正確に検出し,最先端のシフト検出手法と比較して高い精度で検出できることを示す。
- 参考スコア（独自算出の注目度）: 6.55705721360334
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Despite their remarkable performance on a wide range of visual tasks, machine
learning technologies often succumb to data distribution shifts. Consequently,
a range of recent work explores techniques for detecting these shifts.
Unfortunately, current techniques offer no explanations about what triggers the
detection of shifts, thus limiting their utility to provide actionable
insights. In this work, we present Concept Bottleneck Shift Detection (CBSD): a
novel explainable shift detection method. CBSD provides explanations by
identifying and ranking the degree to which high-level human-understandable
concepts are affected by shifts. Using two case studies (dSprites and
3dshapes), we demonstrate how CBSD can accurately detect underlying concepts
that are affected by shifts and achieve higher detection accuracy compared to
state-of-the-art shift detection methods.
- Abstract（参考訳）: さまざまな視覚的タスクで注目すべきパフォーマンスにもかかわらず、機械学習技術は、しばしばデータ分散シフトに屈する。
その結果、近年の研究はこれらのシフトを検出する技術を探究している。
残念ながら、現在のテクニックでは、シフトの検出をトリガーする理由の説明は提供されていません。
本稿では,新しい説明可能なシフト検出法であるConcept Bottleneck Shift Detection (CBSD)を提案する。
cbsdは、高いレベルの人間理解可能な概念がシフトによって影響を受ける程度を識別し、ランク付けすることで説明を提供する。
2つのケーススタディ(dSpritesと3dshapes)を用いて、CBSDがシフトによって影響を受ける基礎概念を正確に検出し、最先端のシフト検出方法よりも高い精度で検出できることを示す。
関連論文リスト
- Automatic dataset shift identification to support root cause analysis of AI performance drift [13.996602963045387]
データ配信のシフトは、臨床AIモデルの性能を著しく損なう可能性がある。
本稿では,最初の教師なしデータセットシフト識別フレームワークを提案する。
提案フレームワークの5種類の実世界のデータセットシフトに関する有望な結果を報告する。
論文 参考訳（メタデータ） (2024-11-12T17:09:20Z) - Adversarial Learning for Feature Shift Detection and Correction [45.65548560695731]
機能シフトは、複数のセンサデータ、一部のセンサが機能不全である、あるいは構造化データ、欠陥のある標準化とデータ処理パイプラインが誤った機能につながる、など、多くのデータセットで起こりうる。
そこで本研究では,2つの分布を区別するために訓練された複数の識別器から得られる情報を用いて,破損した特徴を検知し,それらを修正することにより,データセット間の分布シフトを除去する。
論文 参考訳（メタデータ） (2023-12-07T18:58:40Z) - ImageNet-OOD: Deciphering Modern Out-of-Distribution Detection Algorithms [27.67837353597245]
アウト・オブ・ディストリビューション(OOD)検出は、未定義で悪名高い。
最近の研究は、障害検出に焦点をあてている。
以前は最先端と見なされていた複雑なOOD検出器は、単純な最大ソフトマックス確率ベースラインと同じような、あるいはそれ以上に機能している。
論文 参考訳（メタデータ） (2023-10-03T02:37:57Z) - Evaluating the structure of cognitive tasks with transfer learning [67.22168759751541]
本研究では,脳波復号処理における深層学習表現の伝達可能性について検討した。
最近リリースされた2つのEEGデータセット上で、最先端デコードモデルを用いて広範な実験を行う。
論文 参考訳（メタデータ） (2023-07-28T14:51:09Z) - Visualizing Transferred Knowledge: An Interpretive Model of Unsupervised
Domain Adaptation [70.85686267987744]
教師なしのドメイン適応問題は、ラベル付きソースドメインからラベルなしターゲットドメインに知識を転送することができる。
本稿では、翻訳された知識の謎を視覚的に明らかにする最初の試みとして、教師なしドメイン適応の解釈モデルを提案する。
提案手法は,ベースモデルの予測を直感的に説明し,画像パッチをソースドメインとターゲットドメインの両方で同一のセマンティクスとマッチングすることで伝達知識を公開する。
論文 参考訳（メタデータ） (2023-03-04T03:02:12Z) - Benchmarking Deep Models for Salient Object Detection [67.07247772280212]
汎用SALOD(General SALient Object Detection)ベンチマークを構築し,複数のSOD手法の総合的な比較を行った。
以上の実験では、既存の損失関数は、通常いくつかの指標に特化しているが、他の指標には劣る結果が報告されている。
我々は,深層ネットワークに画素レベルと画像レベルの両方の監視信号を統合することにより,より識別的な特徴を学習するためのエッジ・アウェア・ロス(EA)を提案する。
論文 参考訳（メタデータ） (2022-02-07T03:43:16Z) - Class-wise Thresholding for Detecting Out-of-Distribution Data [6.5295089440496055]
我々は,深層ニューラルネットワークを用いたOoD(Out-of-Distribution)入力データ検出の問題を考える。
既存のほとんどのOoD検出アルゴリズムに適用可能なクラスワイドしきい値決定方式を提案する。
論文 参考訳（メタデータ） (2021-10-28T16:54:48Z) - Exploring Covariate and Concept Shift for Detection and Calibration of
Out-of-Distribution Data [77.27338842609153]
キャラクタリゼーションにより、OODデータの検出と信頼性校正には、それぞれのシフトに対する感度が重要であることが明らかになった。
分布内データのみを用いて両シフトでのOOD検出を改善するために,幾何学的に着想を得た手法を提案する。
我々は,OOD検出とキャリブレーションの両面で,異なるタイプのシフトの下でうまく機能する手法を最初に提案する。
論文 参考訳（メタデータ） (2021-10-28T15:42:55Z) - Testing for concept shift online [0.26651200086513094]
このノートは、交換性マリンタレ、すなわち、観測のための交換性分布の下でマーチンタレとなる過程の研究を継続する。
このようなプロセスは、機械学習で一般的に行われるIDD仮定の違反を検出するために使用することができる。
論文 参考訳（メタデータ） (2020-12-28T14:33:03Z) - Progressive Object Transfer Detection [84.48927705173494]
本稿では,新しいプログレッシブオブジェクト転送検出(POTD)フレームワークを提案する。
第一に、POTDは様々なドメインの様々なオブジェクトを効果的にプログレッシブな検出手順に活用することができる。
第2に、POTDは2つの微妙な転送段階、すなわち、LSTD(low-Shot Transfer Detection)とWSTD(Weakly Supervised Transfer Detection)から構成される。
論文 参考訳（メタデータ） (2020-02-12T00:16:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。