論文の概要: Interpreting Deep Models through the Lens of Data
- arxiv url: http://arxiv.org/abs/2005.03442v2
- Date: Tue, 19 May 2020 08:21:43 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-06 13:30:48.834229
- Title: Interpreting Deep Models through the Lens of Data
- Title（参考訳）: データレンズによる深部モデルの解釈
- Authors: Dominique Mercier, Shoaib Ahmed Siddiqui, Andreas Dengel, Sheraz Ahmed
- Abstract要約: 本稿では、これらのデータポイントが結果の分類器に与える影響を識別する手法について、詳細な分析を行う。
提案手法は, ランダムなアプローチよりもミスラベルを検出できるが, トレーニング損失に基づくサンプル選択は, 優れた性能を示した。
- 参考スコア（独自算出の注目度）: 5.174367472975529
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Identification of input data points relevant for the classifier (i.e. serve
as the support vector) has recently spurred the interest of researchers for
both interpretability as well as dataset debugging. This paper presents an
in-depth analysis of the methods which attempt to identify the influence of
these data points on the resulting classifier. To quantify the quality of the
influence, we curated a set of experiments where we debugged and pruned the
dataset based on the influence information obtained from different methods. To
do so, we provided the classifier with mislabeled examples that hampered the
overall performance. Since the classifier is a combination of both the data and
the model, therefore, it is essential to also analyze these influences for the
interpretability of deep learning models. Analysis of the results shows that
some interpretability methods can detect mislabels better than using a random
approach, however, contrary to the claim of these methods, the sample selection
based on the training loss showed a superior performance.
- Abstract（参考訳）: 分類器(つまりサポートベクターとして機能する)に関連する入力データポイントの識別は、最近研究者の理解可能性とデータセットデバッグの両方に対する関心を喚起した。
本稿では,これらのデータポイントが生成する分類器に与える影響を同定する手法について,詳細な解析を行う。
影響の質を定量化するために、異なる方法から得られた影響情報に基づいてデータセットをデバッグし、prunした一連の実験をキュレートした。
そのため、全体的なパフォーマンスを阻害する誤ったラベルの例を分類器に提供しました。
分類器はデータとモデルの両方の組み合わせであるため、深層学習モデルの解釈可能性のためにもこれらの影響を分析することが不可欠である。
結果分析の結果,ランダムな手法よりも誤記を検出できる方法がいくつか存在するが,これらの手法の主張とは対照的に,学習損失に基づくサンプル選択が優れた性能を示した。
関連論文リスト
- Downstream-Pretext Domain Knowledge Traceback for Active Learning [138.02530777915362]
本稿では、下流知識と事前学習指導のデータ相互作用をトレースするダウンストリーム・プレテキスト・ドメイン知識トレース(DOKT)手法を提案する。
DOKTは、トレースバックの多様性指標とドメインベースの不確実性推定器から構成される。
10のデータセットで行った実験は、我々のモデルが他の最先端の手法よりも優れていることを示している。
論文 参考訳（メタデータ） (2024-07-20T01:34:13Z) - Explainability of Machine Learning Models under Missing Data [2.880748930766428]
データ不足は、モデルの性能と解釈可能性を著しく損なうおそれのある問題である。
本稿では, 欠落データ分野の展開を要約し, 種々の計算法がシェープリー値の計算に与える影響について考察する。
論文 参考訳（メタデータ） (2024-06-29T11:31:09Z) - Outlier Gradient Analysis: Efficiently Identifying Detrimental Training Samples for Deep Learning Models [36.05242956018461]
本稿では,影響関数と外乱勾配検出による有害トレーニングサンプルの同定とを橋渡しする。
まず, 合成データセットにおける外乱勾配解析手法の仮説を検証した。
次に、視覚モデルにおける誤ラベルサンプルの検出と、自然言語処理トランスフォーマーモデルの性能向上のためのデータサンプル選択の有効性を示す。
論文 参考訳（メタデータ） (2024-05-06T21:34:46Z) - The Mirrored Influence Hypothesis: Efficient Data Influence Estimation by Harnessing Forward Passes [30.30769701138665]
我々は、訓練データとテストデータの間の相互影響を浮き彫りにして、ミラーレッド影響仮説を導入し、探求する。
具体的には、テスト予測に対するトレーニングデータの影響を評価することは、等価だが逆問題として再定義することができることを示唆している。
トレーニングポイント毎に前方パスとペアを組むことで,特定のテストサンプルの勾配を計算し,トレーニングデータの影響を推定する新しい手法を提案する。
論文 参考訳（メタデータ） (2024-02-14T03:43:05Z) - Boosting Differentiable Causal Discovery via Adaptive Sample Reweighting [62.23057729112182]
異なるスコアに基づく因果探索法は観測データから有向非巡回グラフを学習する。
本稿では,Reweighted Score関数ReScoreの適応重みを動的に学習することにより因果発見性能を向上させるためのモデルに依存しないフレームワークを提案する。
論文 参考訳（メタデータ） (2023-03-06T14:49:59Z) - Data-Centric Machine Learning in the Legal Domain [0.2624902795082451]
本稿では,データセットの変化がモデルの性能に与える影響について考察する。
法律ドメインから公開されている3つのデータセットを用いて,そのサイズ,列車/テストの分割,および人間のラベル付け精度がパフォーマンスに与える影響について検討する。
観察された効果は、特にクラスごとのパフォーマンスを考慮した場合、驚くほど顕著である。
論文 参考訳（メタデータ） (2022-01-17T23:05:14Z) - Selecting the suitable resampling strategy for imbalanced data
classification regarding dataset properties [62.997667081978825]
医学、情報検索、サイバーセキュリティ、ソーシャルメディアなどの多くのアプリケーションドメインでは、分類モデルの導入に使用されるデータセットは、各クラスのインスタンスの不平等な分布を持つことが多い。
この状況は不均衡データ分類と呼ばれ、少数民族の例では予測性能が低い。
オーバーサンプリングとアンダーサンプリングの技術は、各クラスの例の数とバランスをとることでこの問題に対処する、よく知られた戦略である。
論文 参考訳（メタデータ） (2021-12-15T18:56:39Z) - Discriminative Attribution from Counterfactuals [64.94009515033984]
本稿では,特徴属性と反実的説明を組み合わせたニューラルネットワークの解釈可能性について述べる。
本手法は,特徴属性法の性能を客観的に評価するために有効であることを示す。
論文 参考訳（メタデータ） (2021-09-28T00:53:34Z) - Assessing the Quality of the Datasets by Identifying Mislabeled Samples [14.881597737762316]
本稿では,各データ点の品質を測る指標として,新しい統計値(ノイズスコア)を提案する。
本研究では,データ品質管理型変分オートエンコーダ(AQUAVS)の推論ネットワークから導出される表現を用いる。
我々は、MNIST、FashionMNIST、CIFAR10/100データセットを破損させることにより、提案した統計データを検証した。
論文 参考訳（メタデータ） (2021-09-10T17:14:09Z) - Learning Bias-Invariant Representation by Cross-Sample Mutual
Information Minimization [77.8735802150511]
対象タスクが誤用したバイアス情報を除去するために,クロスサンプル対逆脱バイアス法(CSAD)を提案する。
相関測定は, 対向的偏り評価において重要な役割を担い, クロスサンプル型相互情報推定器によって行われる。
我々は,提案手法の最先端手法に対する利点を検証するために,公開データセットの徹底的な実験を行った。
論文 参考訳（メタデータ） (2021-08-11T21:17:02Z) - Combining Feature and Instance Attribution to Detect Artifacts [62.63504976810927]
トレーニングデータアーティファクトの識別を容易にする手法を提案する。
提案手法は,トレーニングデータのアーティファクトの発見に有効であることを示す。
我々は,これらの手法が実際にNLP研究者にとって有用かどうかを評価するために,小規模なユーザスタディを実施している。
論文 参考訳（メタデータ） (2021-07-01T09:26:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。