論文の概要: Deep-BIAS: Detecting Structural Bias using Explainable AI
- arxiv url: http://arxiv.org/abs/2304.01869v1
- Date: Tue, 4 Apr 2023 15:21:15 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-05 13:33:04.891798
- Title: Deep-BIAS: Detecting Structural Bias using Explainable AI
- Title（参考訳）: Deep-BIAS: 説明可能なAIによる構造バイアスの検出
- Authors: Bas van Stein and Diederick Vermetten and Fabio Caraffini and Anna V.
Kononova
- Abstract要約: 本稿では,Deep-BIASと呼ばれるBIASツールボックスの,斬新で説明可能な深層学習拡張について紹介する。
Deep-BIAS法は、訓練されたディープラーニングモデルを用いて、生のパフォーマンス分布に基づいて、SBの強度とタイプを即座に検出する。
また, このツールボックスを336の最先端最適化アルゴリズムで使用した結果, 各種構造バイアスの存在が確認された。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Evaluating the performance of heuristic optimisation algorithms is essential
to determine how well they perform under various conditions. Recently, the BIAS
toolbox was introduced as a behaviour benchmark to detect structural bias (SB)
in search algorithms. The toolbox can be used to identify biases in existing
algorithms, as well as to test for bias in newly developed algorithms. In this
article, we introduce a novel and explainable deep-learning expansion of the
BIAS toolbox, called Deep-BIAS. Where the original toolbox uses 39 statistical
tests and a Random Forest model to predict the existence and type of SB, the
Deep-BIAS method uses a trained deep-learning model to immediately detect the
strength and type of SB based on the raw performance distributions. Through a
series of experiments with a variety of structurally biased scenarios, we
demonstrate the effectiveness of Deep-BIAS. We also present the results of
using the toolbox on 336 state-of-the-art optimisation algorithms, which showed
the presence of various types of structural bias, particularly towards the
centre of the objective space or exhibiting discretisation behaviour. The
Deep-BIAS method outperforms the BIAS toolbox both in detecting bias and for
classifying the type of SB. Furthermore, explanations can be derived using XAI
techniques.
- Abstract（参考訳）: ヒューリスティック最適化アルゴリズムの性能評価は, 様々な条件下での性能評価に不可欠である。
近年,探索アルゴリズムにおける構造バイアス(SB)を検出する行動ベンチマークとしてBIASツールボックスが導入された。
ツールボックスは、既存のアルゴリズムのバイアスを識別したり、新しく開発されたアルゴリズムのバイアスをテストするために使用することができる。
本稿では,Deep-BIASと呼ばれるBIASツールボックスの,斬新で説明可能な深層学習拡張について紹介する。
元のツールボックスが39の統計的テストとランダムフォレストモデルを使用してSBの存在とタイプを予測する場合、Deep-BIAS法はトレーニングされたディープラーニングモデルを使用して、生のパフォーマンス分布に基づいてSBの強度とタイプを即座に検出する。
様々な構造に偏ったシナリオによる一連の実験を通して、Deep-BIASの有効性を実証する。
また,ツールボックスを336個の最先端最適化アルゴリズム上で使用した結果,特に対象空間の中心に様々な構造バイアスが存在することや,離散化の挙動を示すことが明らかとなった。
Deep-BIAS法は、バイアスの検出とSBの型分類においてBIASツールボックスを上回っている。
また、XAI技術を用いて説明を導き出すこともできる。
関連論文リスト
- Supervised Score-Based Modeling by Gradient Boosting [49.556736252628745]
本稿では,スコアマッチングを組み合わせた勾配向上アルゴリズムとして,SSM(Supervised Score-based Model)を提案する。
推測時間と予測精度のバランスをとるため,SSMの学習とサンプリングに関する理論的解析を行った。
我々のモデルは、精度と推測時間の両方で既存のモデルより優れています。
論文 参考訳（メタデータ） (2024-11-02T07:06:53Z) - Underwater Object Detection in the Era of Artificial Intelligence: Current, Challenge, and Future [119.88454942558485]
水中物体検出(UOD)は、水中の画像やビデオ中の物体を識別し、ローカライズすることを目的としている。
近年、人工知能(AI)に基づく手法、特に深層学習法は、UODにおいて有望な性能を示している。
論文 参考訳（メタデータ） (2024-10-08T00:25:33Z) - On the Robustness of Fully-Spiking Neural Networks in Open-World Scenarios using Forward-Only Learning Algorithms [6.7236795813629]
我々はフォワードフォワードアルゴリズム(FFA)を用いたOoD(Out-of-Distribution)検出のための新しいアルゴリズムを開発した。
提案手法は, 標本の潜在表現からクラス表現多様体への距離を用いて, 分布内(ID)データに属するサンプルの確率を測定する。
また,任意のクラスの分布から遠ざかるサンプルの特徴を強調表示するグラデーションフリー属性手法を提案する。
論文 参考訳（メタデータ） (2024-07-19T08:08:17Z) - MFABA: A More Faithful and Accelerated Boundary-based Attribution Method
for Deep Neural Networks [69.28125286491502]
我々は,公理に固執する帰属アルゴリズムであるMFABAを紹介する。
結果は、最先端の属性アルゴリズムよりも101.5142倍高速に達成することで、その優位性を証明している。
論文 参考訳（メタデータ） (2023-12-21T07:48:15Z) - Domain Knowledge Injection in Bayesian Search for New Materials [0.0]
探索空間における探索を調整するためのドメイン知識に対応するベイズ最適化(BO)アルゴリズムであるDKIBOを提案する。
材料設計タスクにおいて,ドメイン知識をうまく注入することで,提案手法の実用性を実証的に実証する。
論文 参考訳（メタデータ） (2023-11-26T01:55:55Z) - A Bayesian Approach to Robust Inverse Reinforcement Learning [54.24816623644148]
我々は、オフラインモデルに基づく逆強化学習(IRL)に対するベイズ的アプローチを考える。
提案フレームワークは,専門家の報酬関数と環境力学の主観的モデルとを同時推定することにより,既存のオフラインモデルベースIRLアプローチとは異なる。
本分析は, 専門家が環境の高精度なモデルを持つと考えられる場合, 評価政策が堅牢な性能を示すという新たな知見を提示する。
論文 参考訳（メタデータ） (2023-09-15T17:37:09Z) - Rethinking Distribution Shifts: Empirical Analysis and Inductive Modeling for Tabular Data [30.518020409197767]
5つのデータセットと6万のメソッド構成にまたがる自然なシフトを含む実験的なテストベッドを構築します。
ML文献のX$(co)シフトに重きを置いているのとは対照的に、Y|X$-shiftsはテストベッドでもっとも一般的です。
論文 参考訳（メタデータ） (2023-07-11T14:25:10Z) - Beyond Deep Ensembles: A Large-Scale Evaluation of Bayesian Deep
Learning under Distribution Shift [19.945634052291542]
我々は、WILDSコレクションから現実のデータセットに対する最新のBDLアルゴリズムを評価し、難解な分類と回帰タスクを含む。
我々は、大規模な、畳み込み、トランスフォーマーベースのニューラルネットワークアーキテクチャにおいて、アルゴリズムを比較した。
そこで本研究では,BDLを用いた大規模事前学習モデルのシステム評価を行った。
論文 参考訳（メタデータ） (2023-06-21T14:36:03Z) - Validation Diagnostics for SBI algorithms based on Normalizing Flows [55.41644538483948]
本研究は,NFに基づく多次元条件(後)密度推定器の検証診断を容易にすることを提案する。
また、局所的な一貫性の結果に基づいた理論的保証も提供する。
この作業は、より良い特定モデルの設計を支援したり、新しいSBIアルゴリズムの開発を促進するのに役立つだろう。
論文 参考訳（メタデータ） (2022-11-17T15:48:06Z) - Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。
本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
論文 参考訳（メタデータ） (2021-06-17T17:26:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。