Fugu-MT 論文翻訳(概要): Investigating Bias in Image Classification using Model Explanations

論文の概要: Investigating Bias in Image Classification using Model Explanations

arxiv url: http://arxiv.org/abs/2012.05463v1
Date: Thu, 10 Dec 2020 05:27:49 GMT
ステータス: 処理完了
システム内更新日: 2021-05-15 22:26:34.999196
Title: Investigating Bias in Image Classification using Model Explanations
Title（参考訳）: モデル説明を用いた画像分類におけるバイアスの調査
Authors: Schrasing Tong (1), Lalana Kagal (1) ((1) Massachusetts Institute of Technology)
Abstract要約: モデル説明が識別特徴を強調することで画像分類のバイアスを効率的に検出できるかどうかを評価する。バイアス検出の重要な特徴を定式化し,モデルのバイアスの程度が変化するにつれて説明がどのように変化するかを観察した。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: We evaluated whether model explanations could efficiently detect bias in image classification by highlighting discriminating features, thereby removing the reliance on sensitive attributes for fairness calculations. To this end, we formulated important characteristics for bias detection and observed how explanations change as the degree of bias in models change. The paper identifies strengths and best practices for detecting bias using explanations, as well as three main weaknesses: explanations poorly estimate the degree of bias, could potentially introduce additional bias into the analysis, and are sometimes inefficient in terms of human effort involved.
Abstract（参考訳）: 本研究では,識別特徴を強調表示することで,画像分類におけるバイアスを効率的に検出できるかどうかを評価した。この目的のために,バイアス検出の重要な特性を定式化し,モデルのバイアスの程度が変化するにつれて説明がどのように変化するかを観察した。この論文は、説明を用いてバイアスを検出するための強みとベストプラクティス、および3つの主な弱点を識別する: 説明はバイアスの程度を十分に見積もらず、分析にさらなるバイアスをもたらす可能性があり、時には人的労力の面で非効率である。

関連論文リスト

Looking at Model Debiasing through the Lens of Anomaly Detection [11.113718994341733]
ディープニューラルネットワークはデータのバイアスに敏感である。本稿では,異常検出に基づく新しいバイアス同定手法を提案する。合成および実際のベンチマークデータセット上で、最先端のパフォーマンスに到達する。
論文参考訳（メタデータ） (2024-07-24T17:30:21Z)
Enhancing Intrinsic Features for Debiasing via Investigating Class-Discerning Common Attributes in Bias-Contrastive Pair [36.221761997349795]
ディープニューラルネットワークは、データセットバイアスの存在下でターゲットクラスと急激な相関を持つバイアス特性に依存している。本稿では,本質的特徴の領域を示す空間的指示を明示的に提示する手法を提案する。実験により, 種々のバイアス重大度を有する合成および実世界のデータセットに対して, 最先端の性能を達成できることが実証された。
論文参考訳（メタデータ） (2024-04-30T04:13:14Z)
Classes Are Not Equal: An Empirical Study on Image Recognition Fairness [100.36114135663836]
我々は,クラスが等しくないことを実験的に証明し,様々なデータセットにまたがる画像分類モデルにおいて,公平性の問題が顕著であることを示した。以上の結果から,モデルでは認識が困難であるクラスに対して,予測バイアスが大きくなる傾向が示唆された。データ拡張および表現学習アルゴリズムは、画像分類のある程度の公平性を促進することにより、全体的なパフォーマンスを向上させる。
論文参考訳（メタデータ） (2024-02-28T07:54:50Z)
Improving Bias Mitigation through Bias Experts in Natural Language Understanding [10.363406065066538]
補助モデルと主モデルの間に二項分類器を導入するデバイアス化フレームワークを提案する。提案手法は補助モデルのバイアス識別能力を向上させる。
論文参考訳（メタデータ） (2023-12-06T16:15:00Z)
Self-supervised debiasing using low rank regularization [59.84695042540525]
純粋な相関は、ディープニューラルネットワークの強いバイアスを引き起こし、一般化能力を損なう可能性がある。ラベルのないサンプルと互換性のある自己監督型脱バイアスフレームワークを提案する。注目すべきは,提案フレームワークが自己教師付き学習ベースラインの一般化性能を著しく向上させることである。
論文参考訳（メタデータ） (2022-10-11T08:26:19Z)
Semi-FairVAE: Semi-supervised Fair Representation Learning with Adversarial Variational Autoencoder [92.67156911466397]
逆変分オートエンコーダに基づく半教師付き公正表現学習手法を提案する。我々は、バイアス認識モデルを用いて、機密属性の固有バイアス情報をキャプチャする。また、偏見のないモデルを用いて、対立学習を用いて偏見情報を取り除き、偏見のない公正表現を学習する。
論文参考訳（メタデータ） (2022-04-01T15:57:47Z)
Gradient Based Activations for Accurate Bias-Free Learning [22.264226961225003]
このバイアス・精度のトレードオフを改善するために、偏微分器が実際に利用できることを示す。具体的には、判別器の勾配を用いた特徴マスキング手法を用いる。この単純なアプローチはバイアスを低減し、精度を大幅に向上させるのに有効であることを示す。
論文参考訳（メタデータ） (2022-02-17T00:30:40Z)
Debiased-CAM to mitigate systematic error with faithful visual explanations of machine learning [10.819408603463426]
Debiased-CAM は様々なバイアスタイプやレベルにまたがって説明の忠実さを回復する。シミュレーション研究において、この手法は予測精度を向上するだけでなく、非常に忠実な説明を生み出した。
論文参考訳（メタデータ） (2022-01-30T14:42:21Z)
Information-Theoretic Bias Reduction via Causal View of Spurious Correlation [71.9123886505321]
本稿では,スプリアス相関の因果的解釈による情報理論バイアス測定手法を提案する。本稿では,バイアス正規化損失を含むアルゴリズムバイアスに対する新しいデバイアスフレームワークを提案する。提案したバイアス測定とデバイアス法は、多様な現実シナリオで検証される。
論文参考訳（メタデータ） (2022-01-10T01:19:31Z)
General Greedy De-bias Learning [163.65789778416172]
本稿では,関数空間における勾配降下のような偏りのあるモデルとベースモデルを優雅に訓練する一般グリーディ・デバイアス学習フレームワーク(GGD)を提案する。 GGDは、事前知識を持つタスク固有バイアスモデルと、事前知識を持たない自己アンサンブルバイアスモデルの両方の設定の下で、より堅牢なベースモデルを学ぶことができる。
論文参考訳（メタデータ） (2021-12-20T14:47:32Z)
Balancing out Bias: Achieving Fairness Through Training Reweighting [58.201275105195485]
自然言語処理におけるバイアスは、性別や人種などの著者の特徴を学習するモデルから生じる。既存のバイアスの緩和と測定方法は、著者の人口統計学と言語変数の相関を直接考慮していない。本稿では,インスタンス再重み付けを用いたバイアス対策法を提案する。
論文参考訳（メタデータ） (2021-09-16T23:40:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。