論文の概要: Provably Better Explanations with Optimized Aggregation of Feature Attributions

• arxiv url: http://arxiv.org/abs/2406.05090v1
• Date: Fri, 7 Jun 2024 17:03:43 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-10 13:02:56.888667
• Title: Provably Better Explanations with Optimized Aggregation of Feature Attributions
• Title（参考訳）: 特徴属性の最適集約によるおそらくより良い説明
• Authors: Thomas Decker, Ananta R. Bhattarai, Jindong Gu, Volker Tresp, Florian Buettner,
• Abstract要約: ポストホックな説明に特徴属性を使用することは、不透明な機械学習モデルの予測を理解し検証する一般的なプラクティスである。 本稿では,特徴属性の最適凸結合を導出する新たな手法を提案する。
• 参考スコア（独自算出の注目度）: 36.22433695108499
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Using feature attributions for post-hoc explanations is a common practice to understand and verify the predictions of opaque machine learning models. Despite the numerous techniques available, individual methods often produce inconsistent and unstable results, putting their overall reliability into question. In this work, we aim to systematically improve the quality of feature attributions by combining multiple explanations across distinct methods or their variations. For this purpose, we propose a novel approach to derive optimal convex combinations of feature attributions that yield provable improvements of desired quality criteria such as robustness or faithfulness to the model behavior. Through extensive experiments involving various model architectures and popular feature attribution techniques, we demonstrate that our combination strategy consistently outperforms individual methods and existing baselines.
• Abstract（参考訳）: ポストホックな説明に特徴属性を使用することは、不透明な機械学習モデルの予測を理解し検証する一般的なプラクティスである。 多くのテクニックが利用可能であるにもかかわらず、個々の手法は一貫性がなく不安定な結果をもたらすことが多く、全体的な信頼性に疑問を呈する。 本研究は,異なる手法やバリエーションにまたがる複数の説明を組み合わせることで,特徴属性の品質を体系的に向上することを目的とする。 本研究の目的は,モデル行動に対する頑健性や忠実性といった,望ましい品質基準の証明可能な改善をもたらす,特徴属性の最適凸結合を導出する手法を提案することである。 様々なモデルアーキテクチャと一般的な特徴属性技術を含む広範な実験を通して、我々の組み合わせ戦略が個々の手法と既存のベースラインを一貫して上回っていることを実証する。

関連論文リスト

• CoCoA: A Generalized Approach to Uncertainty Quantification by Integrating Confidence and Consistency of LLM Outputs [35.74755307680801]
  大規模言語モデル(LLM)のための不確実性定量化(UQ)手法は、様々なアプローチを含んでいる。 本稿では,モデル信頼度と出力整合性を新たに合成する方法を提案する。
  論文  参考訳（メタデータ） (2025-02-07T14:30:12Z)
• Learning Joint Models of Prediction and Optimization [56.04498536842065]
  Predict-Then-Thenフレームワークは、機械学習モデルを使用して、最適化問題の未知のパラメータを、解決前の機能から予測する。 本稿では,共同予測モデルを用いて観測可能特徴から最適解を直接学習する手法を提案する。
  論文  参考訳（メタデータ） (2024-09-07T19:52:14Z)
• Pattern based learning and optimisation through pricing for bin packing problem [50.83768979636913]
  確率変数の分布のような問題条件が変化すると、以前の状況でうまく機能するパターンはより効果的になるかもしれないと論じる。 本研究では,パターンを効率的に同定し,各条件に対する値の動的定量化を行う新しい手法を提案する。 本手法は,制約を満たす能力と目的値に対する影響に基づいて,パターンの値の定量化を行う。
  論文  参考訳（メタデータ） (2024-08-27T17:03:48Z)
• Out-of-Distribution Detection via Deep Multi-Comprehension Ensemble [11.542472900306745]
  マルチComprehension (MC) Ensemble は,OOD (Out-of-Distribution) 特徴表現を拡大するための戦略として提案されている。 OOD検出におけるMC Ensemble戦略の優れた性能を示す実験結果を得た。 これにより,提案手法がトレーニング分布外のインスタンスを検出できるモデルの性能向上に有効であることを示す。
  論文  参考訳（メタデータ） (2024-03-24T18:43:04Z)
• Towards Optimal Feature-Shaping Methods for Out-of-Distribution Detection [36.316424348556154]
  特徴整形(英: Feature shaping)とは、オフ・オブ・ディストリビューション(OOD)検出のための最先端性能を示す手法の一群である。 簡単な一方向の定形化機能を持つフレームワークの具体的な削減を提案する。 提案手法は,OOD検出の多種多様なデータセットに対する一般化能力を向上することを示す。
  論文  参考訳（メタデータ） (2024-02-01T18:59:22Z)
• Hierarchical Ensemble-Based Feature Selection for Time Series Forecasting [0.0]
  非定常性のための階層的積み重ねに基づく特徴選択のための新しいアンサンブルアプローチを導入する。 当社のアプローチでは,階層構造を用いた機能間の共依存を利用しています。 このアプローチの有効性は、合成およびよく知られた実生活データセット上で実証される。
  論文  参考訳（メタデータ） (2023-10-26T16:40:09Z)
• Consistent Explanations in the Face of Model Indeterminacy via Ensembling [12.661530681518899]
  この研究は、モデル不確定性の存在下で予測モデルに対して一貫した説明を提供することの課題に対処する。 これらのシナリオで提供される説明の一貫性を高めるためのアンサンブル手法を導入する。 本研究は,説明文の解釈において,モデル不確定性を考慮することの重要性を強調した。
  論文  参考訳（メタデータ） (2023-06-09T18:45:43Z)
• Investigating Ensemble Methods for Model Robustness Improvement of Text Classifiers [66.36045164286854]
  既存のバイアス機能を分析し、すべてのケースに最適なモデルが存在しないことを実証します。 適切なバイアスモデルを選択することで、より洗練されたモデル設計でベースラインよりもロバスト性が得られる。
  論文  参考訳（メタデータ） (2022-10-28T17:52:10Z)
• HyperImpute: Generalized Iterative Imputation with Automatic Model Selection [77.86861638371926]
  カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。 既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
  論文  参考訳（メタデータ） (2022-06-15T19:10:35Z)
• Trusted Multi-View Classification [76.73585034192894]
  本稿では,信頼された多視点分類と呼ばれる新しい多視点分類手法を提案する。 さまざまなビューをエビデンスレベルで動的に統合することで、マルチビュー学習のための新しいパラダイムを提供する。 提案アルゴリズムは,分類信頼性とロバスト性の両方を促進するために,複数のビューを併用する。
  論文  参考訳（メタデータ） (2021-02-03T13:30:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。