論文の概要: Black-Box Anomaly Attribution

• arxiv url: http://arxiv.org/abs/2305.18440v2
• Date: Sat, 17 Aug 2024 20:34:16 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-21 04:36:46.710198
• Title: Black-Box Anomaly Attribution
• Title（参考訳）: Black-Box 異常属性
• Authors: Tsuyoshi Idé, Naoki Abe,
• Abstract要約: ブラックボックスの機械学習モデルが真の観察から逸脱したとき、その逸脱の背後にある理由について何を言えるだろうか? これは、ビジネスまたは産業用AIアプリケーションのエンドユーザがよく問う、基本的でユビキタスな質問である。 「新たな可能性に基づく帰属の枠組みを「可能性補償」と呼ぶ。」
• 参考スコア（独自算出の注目度）: 13.455748795087493
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When the prediction of a black-box machine learning model deviates from the true observation, what can be said about the reason behind that deviation? This is a fundamental and ubiquitous question that the end user in a business or industrial AI application often asks. The deviation may be due to a sub-optimal black-box model, or it may be simply because the sample in question is an outlier. In either case, one would ideally wish to obtain some form of attribution score -- a value indicative of the extent to which an input variable is responsible for the anomaly. In the present paper we address this task of ``anomaly attribution,'' particularly in the setting in which the model is black-box and the training data are not available. Specifically, we propose a novel likelihood-based attribution framework we call the ``likelihood compensation (LC),'' in which the responsibility score is equated with the correction on each input variable needed to attain the highest possible likelihood. We begin by showing formally why mainstream model-agnostic explanation methods, such as the local linear surrogate modeling and Shapley values, are not designed to explain anomalies. In particular, we show that they are ``deviation-agnostic,'' namely, that their explanations are blind to the fact that there is a deviation in the model prediction for the sample of interest. We do this by positioning these existing methods under the unified umbrella of a function family we call the ``integrated gradient family.'' We validate the effectiveness of the proposed LC approach using publicly available data sets. We also conduct a case study with a real-world building energy prediction task and confirm its usefulness in practice based on expert feedback.
• Abstract（参考訳）: ブラックボックス機械学習モデルの予測が真の観測から逸脱したとき、その逸脱の背後にある理由について何を言えるだろうか? これは、ビジネスまたは産業用AIアプリケーションのエンドユーザがよく問う、基本的でユビキタスな質問である。 偏差は、準最適ブラックボックスモデルによるものかもしれないし、単に、問題のサンプルが外れやすいためかもしれない。 いずれの場合も、入力変数が異常の原因となる範囲の値を示す何らかの属性スコアを得るのが理想的である。 本稿では, モデルがブラックボックスであり, トレーニングデータが利用できない設定において, この課題である<anomaly attribution'に対処する。 具体的には、最も高い可能性を達成するために必要な各入力変数の補正に責任スコアが等しくなるような、'likelihood compensation (LC)' と呼ばれる新しい確率ベースの属性フレームワークを提案する。 まず、局所線形サロゲートモデリングやシェープリー値のような主流モデルに依存しない説明手法が、異常を説明するために設計されていない理由を正式に示すことから始める。 特に、それらが「逸脱に依存しない」こと、すなわち、それらの説明が関心のサンプルのモデル予測に偏りがあるという事実に盲目であることを示す。 私たちは、これらの既存のメソッドを 'integrated gradient family' と呼ぶ関数ファミリーの統一された傘の下に配置することで、これを実現します。 提案手法の有効性を,公開データセットを用いて検証した。 また、実世界の建築エネルギー予測タスクを用いてケーススタディを行い、専門家のフィードバックに基づいてその実用性を確認する。

関連論文リスト

• A Probabilistic Perspective on Unlearning and Alignment for Large Language Models [48.96686419141881]
  大規模言語モデル(LLM)における最初の形式的確率的評価フレームワークを紹介する。 モデルの出力分布に関する高い確率保証を持つ新しい指標を導出する。 私たちのメトリクスはアプリケーションに依存しないので、デプロイ前にモデル機能についてより信頼性の高い見積を行うことができます。
  論文  参考訳（メタデータ） (2024-10-04T15:44:23Z)
• Rejection via Learning Density Ratios [50.91522897152437]
  拒絶による分類は、モデルを予測しないことを許容する学習パラダイムとして現れます。 そこで我々は,事前学習したモデルの性能を最大化する理想的なデータ分布を求める。 私たちのフレームワークは、クリーンでノイズの多いデータセットで実証的にテストされます。
  論文  参考訳（メタデータ） (2024-05-29T01:32:17Z)
• Source-Free Unsupervised Domain Adaptation with Hypothesis Consolidation of Prediction Rationale [53.152460508207184]
  Source-Free Unsupervised Domain Adaptation (SFUDA)は、モデルがターゲットのドメインラベルやソースドメインデータにアクセスせずに新しいドメインに適応する必要がある、という課題である。 本稿では,各サンプルについて複数の予測仮説を考察し,各仮説の背景にある理論的根拠について考察する。 最適性能を達成するために,モデル事前適応,仮説統合,半教師付き学習という3段階の適応プロセスを提案する。
  論文  参考訳（メタデータ） (2024-02-02T05:53:22Z)
• Calibrating Neural Simulation-Based Inference with Differentiable Coverage Probability [50.44439018155837]
  ニューラルモデルのトレーニング目的に直接キャリブレーション項を含めることを提案する。 古典的なキャリブレーション誤差の定式化を緩和することにより、エンドツーエンドのバックプロパゲーションを可能にする。 既存の計算パイプラインに直接適用でき、信頼性の高いブラックボックス後部推論が可能である。
  論文  参考訳（メタデータ） (2023-10-20T10:20:45Z)
• Generative Perturbation Analysis for Probabilistic Black-Box Anomaly Attribution [2.22999837458579]
  ブラックボックス回帰設定における確率的異常帰属の課題に対処する。 このタスクは、ブラックボックスモデル自体ではなくブラックボックス予測からの異常な逸脱を説明するため、標準的なXAI(説明可能なAI)シナリオとは異なる。 本稿では,確率的帰属属性を予測平均として計算するだけでなく,その不確かさを定量化するための,確率的帰属属性の新たな枠組みを提案する。
  論文  参考訳（メタデータ） (2023-08-09T04:59:06Z)
• BELLA: Black box model Explanations by Local Linear Approximations [10.05944106581306]
  我々は、回帰ブラックボックスモデルの個々の予測を説明するために、決定論的モデルに依存しないポストホックアプローチであるBELLAを提案する。 BELLAは特徴空間で訓練された線形モデルという形で説明を提供する。 BELLAは事実と反事実の両方を説明することができる。
  論文  参考訳（メタデータ） (2023-05-18T21:22:23Z)
• Anomaly Attribution with Likelihood Compensation [14.99385222547436]
  本稿では,ブラックボックス回帰モデルの異常予測を説明するタスクについて述べる。 期待値からのモデル偏差が与えられた場合、各入力変数の責任スコアを推測する。 私たちの知る限りでは、これは真の価値ある異常なモデル偏差に対する責任スコアを計算する最初の原則化されたフレームワークです。
  論文  参考訳（メタデータ） (2022-08-23T02:00:20Z)
• Explain, Edit, and Understand: Rethinking User Study Design for Evaluating Model Explanations [97.91630330328815]
  我々はクラウドソーシング研究を行い、真偽のホテルレビューと偽のホテルレビューを区別するために訓練された詐欺検出モデルと対話する。 単語の線形バッグモデルでは、トレーニング中に特徴係数にアクセスした参加者は、非説明制御と比較して、テストフェーズにおいてモデルの信頼性が大幅に低下する可能性があることを観察する。
  論文  参考訳（メタデータ） (2021-12-17T18:29:56Z)
• Scalable Marginal Likelihood Estimation for Model Selection in Deep Learning [78.83598532168256]
  階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。 本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
  論文  参考訳（メタデータ） (2021-04-11T09:50:24Z)
• Estimating g-Leakage via Machine Learning [34.102705643128004]
  本稿では,ブラックボックスシナリオにおけるシステムの情報漏洩を推定する問題について考察する。 システムの内部は学習者にとって未知であり、分析するには複雑すぎると仮定される。 機械学習(ML)アルゴリズムを用いて,g-vulnerabilityをブラックボックスで推定する手法を提案する。
  論文  参考訳（メタデータ） (2020-05-09T09:26:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。