論文の概要: BEE: Metric-Adapted Explanations via Baseline Exploration-Exploitation
- arxiv url: http://arxiv.org/abs/2412.17512v1
- Date: Mon, 23 Dec 2024 12:19:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-12-24 16:01:33.160385
- Title: BEE: Metric-Adapted Explanations via Baseline Exploration-Exploitation
- Title（参考訳）: BEE: 基準線探索-説明によるメトリック適応説明
- Authors: Oren Barkan, Yehonatan Elisha, Jonathan Weill, Noam Koenigstein,
- Abstract要約: 説明可能性研究における2つの顕著な課題は、1)説明の微妙な評価、2)行方不明情報のモデル化である。
本稿では,BEE (Baseline Exploration-Exploitation) を提案する。
BEEは包括的な説明地図を生成し、最も優れた説明地図の選択を容易にする。
- 参考スコア（独自算出の注目度）: 10.15605247436119
- License:
- Abstract: Two prominent challenges in explainability research involve 1) the nuanced evaluation of explanations and 2) the modeling of missing information through baseline representations. The existing literature introduces diverse evaluation metrics, each scrutinizing the quality of explanations through distinct lenses. Additionally, various baseline representations have been proposed, each modeling the notion of missingness differently. Yet, a consensus on the ultimate evaluation metric and baseline representation remains elusive. This work acknowledges the diversity in explanation metrics and baselines, demonstrating that different metrics exhibit preferences for distinct explanation maps resulting from the utilization of different baseline representations and distributions. To address the diversity in metrics and accommodate the variety of baseline representations in a unified manner, we propose Baseline Exploration-Exploitation (BEE) - a path-integration method that introduces randomness to the integration process by modeling the baseline as a learned random tensor. This tensor follows a learned mixture of baseline distributions optimized through a contextual exploration-exploitation procedure to enhance performance on the specific metric of interest. By resampling the baseline from the learned distribution, BEE generates a comprehensive set of explanation maps, facilitating the selection of the best-performing explanation map in this broad set for the given metric. Extensive evaluations across various model architectures showcase the superior performance of BEE in comparison to state-of-the-art explanation methods on a variety of objective evaluation metrics.
- Abstract（参考訳）: 説明可能性研究における2つの課題
1【説明の微妙な評価】
2)ベースライン表現による欠落情報のモデリング
既存の文献では様々な評価指標を導入しており、それぞれが異なるレンズを通して説明の質を精査している。
さらに、様々なベースライン表現が提案されており、それぞれが欠如の概念を異なる方法でモデル化している。
しかし、最終的な評価基準とベースライン表現に関するコンセンサスは、いまだ解明されていない。
この研究は、説明指標とベースラインの多様性を認め、異なるベースライン表現と分布の活用から得られた説明マップを区別した説明マップの嗜好を示すことを示した。
メトリクスの多様性に対処し,統一的にベースライン表現の多様性に対応するために,ベースラインを学習ランダムテンソルとしてモデル化することで,積分プロセスにランダム性を導入する経路積分法であるベースライン探索探索(BEE)を提案する。
このテンソルは、コンテキスト探索-探索手順によって最適化されたベースライン分布の学習された混合に従い、興味のある特定の指標の性能を高める。
学習した分布からベースラインを再サンプリングすることにより、BEEは、与えられたメトリックに対して最も優れた説明マップの選択を容易にする包括的な説明マップを生成する。
様々なモデルアーキテクチャにわたる広範囲な評価は、様々な客観的評価指標に関する最先端の説明手法と比較して、BEEの優れた性能を示す。
関連論文リスト
- Axiomatic Explainer Globalness via Optimal Transport [3.2203930850666675]
我々は,説明の分布のより深い理解を可能にする,説明者,グローバル性のための複雑性尺度を定義する。
提案した測度であるワッサーシュタイン・グローバルネスがこれらの基準を満たすことを証明している。
論文 参考訳（メタデータ） (2024-11-02T04:01:38Z) - Revealing Multimodal Contrastive Representation Learning through Latent
Partial Causal Models [85.67870425656368]
マルチモーダルデータに特化して設計された統一因果モデルを提案する。
マルチモーダル・コントラスト表現学習は潜在結合変数の同定に優れていることを示す。
実験では、仮定が破られたとしても、我々の発見の堅牢性を示す。
論文 参考訳（メタデータ） (2024-02-09T07:18:06Z) - Understanding Probe Behaviors through Variational Bounds of Mutual
Information [53.520525292756005]
情報理論を利用した新しい数学的枠組みを構築することで線形探索のガイドラインを提供する。
まず、プローブ設計を緩和するために、相互情報の変動境界(MI)と探索を結合し、線形探索と微調整を同一視する。
中間表現は、分離性の向上とMIの減少のトレードオフのため、最大のMI推定値を持つことが示される。
論文 参考訳（メタデータ） (2023-12-15T18:38:18Z) - From Bricks to Bridges: Product of Invariances to Enhance Latent Space Communication [19.336940758147442]
異なるニューラルネットワークによって学習された表現は、モデルが同様の誘導バイアスの下で訓練されたときに構造的類似性を隠蔽することが観察されている。
我々は,不変成分の積空間を潜在表現の上に構築し,その表現に不変量の集合を直接組み込む汎用的手法を導入する。
我々は,ゼロショット縫合設定において,一貫した遅延類似性および下流性能向上を観察し,分類および再構成タスクに対するソリューションの有効性を検証した。
論文 参考訳（メタデータ） (2023-10-02T13:55:38Z) - COSE: A Consistency-Sensitivity Metric for Saliency on Image
Classification [21.3855970055692]
本稿では,画像分類タスクにおいて,視覚の先行値を用いてサリエンシ手法の性能を評価する指標について述べる。
しかし,ほとんどの手法では,畳み込みモデルよりもトランスフォーマーモデルの方がよく説明できる。
論文 参考訳（メタデータ） (2023-09-20T01:06:44Z) - Enriching Disentanglement: From Logical Definitions to Quantitative Metrics [59.12308034729482]
複雑なデータにおける説明的要素を遠ざけることは、データ効率の表現学習にとって有望なアプローチである。
論理的定義と量的指標の関連性を確立し, 理論的に根ざした絡み合いの指標を導出する。
本研究では,非交叉表現の異なる側面を分離することにより,提案手法の有効性を実証的に実証する。
論文 参考訳（メタデータ） (2023-05-19T08:22:23Z) - Evaluating the Robustness of Interpretability Methods through
Explanation Invariance and Equivariance [72.50214227616728]
解釈可能性法は、それらの説明が説明されたモデルを忠実に記述した場合にのみ有用である。
特定の対称性群の下で予測が不変であるニューラルネットワークを考える。
論文 参考訳（メタデータ） (2023-04-13T17:59:03Z) - Partial Shape Similarity via Alignment of Multi-Metric Hamiltonian
Spectra [10.74981839055037]
そこで本研究では, 形状の類似した領域に適合する新しい公理的手法を提案する。
類似した領域のマッチングは、ラプラス・ベルトラミ作用素(LBO)と密接に関連する作用素のスペクトルのアライメントとして定式化される
これらのデュアルスペクトルのマッチングは、標準ベンチマークでテストした場合、競合する公理的フレームワークよりも優れていることを示す。
論文 参考訳（メタデータ） (2022-07-07T00:03:50Z) - The Solvability of Interpretability Evaluation Metrics [7.3709604810699085]
特徴帰属法は、包括性や充足性などの指標でしばしば評価される。
本稿では,これらの指標の興味深い性質,すなわち可解性について述べる。
このビームサーチの説明器は、一般に現在の選択に匹敵するか、好適であることを示す一連の調査を提示する。
論文 参考訳（メタデータ） (2022-05-18T02:52:03Z) - Semantic Change Detection with Asymmetric Siamese Networks [71.28665116793138]
2つの空中画像が与えられた場合、セマンティックチェンジ検出は、土地被覆のバリエーションを特定し、それらの変化タイプをピクセルワイド境界で識別することを目的としている。
この問題は、正確な都市計画や天然資源管理など、多くの地球ビジョンに関連するタスクにおいて不可欠である。
本研究では, 広く異なる構造を持つモジュールから得られた特徴対を用いて意味変化を同定し, 同定するための非対称システマネットワーク(ASN)を提案する。
論文 参考訳（メタデータ） (2020-10-12T13:26:30Z) - Evaluation Metrics for Conditional Image Generation [100.69766435176557]
クラス条件画像生成設定において生成モデルを評価するための2つの新しい指標を提案する。
理論的分析は、提案されたメトリクスの背景にあるモチベーションを示し、新しいメトリクスと条件のないメトリクスを結びつける。
我々は,実験的な評価を行い,その指標を条件のない変種や他の指標と比較し,既存の生成モデルの解析に利用した。
論文 参考訳（メタデータ） (2020-04-26T12:15:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。