論文の概要: Analyzing and Mitigating Bias for Vulnerable Classes: Towards Balanced Representation in Dataset

• arxiv url: http://arxiv.org/abs/2401.10397v1
• Date: Thu, 18 Jan 2024 22:10:46 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-22 17:18:09.397949
• Title: Analyzing and Mitigating Bias for Vulnerable Classes: Towards Balanced Representation in Dataset
• Title（参考訳）: 脆弱性クラスに対するバイアスの分析と緩和:データセットのバランス表現に向けて
• Authors: Dewant Katare, David Solans Noguero, Souneil Park, Nicolas Kourtellis, Marijn Janssen, Aaron Yi Ding
• Abstract要約: 本研究は, クラス分布分析, 性能評価, バイアス影響評価に着目し, 脆弱な道路利用者に対するクラス不均衡に着目した。 クラス表現における不均衡の懸念を識別し、検出精度に潜在的なバイアスをもたらす。 本稿では,データ拡張,再サンプリング,メトリクス固有の学習を含むモデル最適化とバイアス軽減手法を提案する。
• 参考スコア（独自算出の注目度）: 2.271244505964795
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The accuracy and fairness of perception systems in autonomous driving are crucial, particularly for vulnerable road users. Mainstream research has looked into improving the performance metrics for classification accuracy. However, the hidden traits of bias inheritance in the AI models, class imbalances and disparities in the datasets are often overlooked. In this context, our study examines the class imbalances for vulnerable road users by focusing on class distribution analysis, performance evaluation, and bias impact assessment. We identify the concern of imbalances in class representation, leading to potential biases in detection accuracy. Utilizing popular CNN models and Vision Transformers (ViTs) with the nuScenes dataset, our performance evaluation reveals detection disparities for underrepresented classes. We propose a methodology for model optimization and bias mitigation, which includes data augmentation, resampling, and metric-specific learning. Using the proposed mitigation approaches, we see improvement in IoU(%) and NDS(%) metrics from 71.3 to 75.6 and 80.6 to 83.7 respectively, for the CNN model. Similarly, for ViT, we observe improvement in IoU and NDS metrics from 74.9 to 79.2 and 83.8 to 87.1 respectively. This research contributes to developing more reliable models and datasets, enhancing inclusiveness for minority classes.
• Abstract（参考訳）: 自動運転における認識システムの正確性と公平性は、特に脆弱な道路利用者にとって重要である。 主流研究は、分類精度向上のためのパフォーマンス指標の改善を検討した。 しかし、AIモデルにおけるバイアス継承の隠れた特徴、クラス不均衡、データセットにおける格差はしばしば見過ごされている。 本研究では,クラス分布分析,性能評価,バイアス影響評価に着目し,脆弱な道路利用者のクラス不均衡について検討する。 クラス表現における不均衡の懸念を認識し、検出精度の潜在的なバイアスをもたらす。 一般的なCNNモデルとヴィジュアルトランスフォーマー(ViT)をnuScenesデータセットで利用することにより,表現不足のクラスに対する検出の相違を明らかにする。 本稿では,データ拡張,再サンプリング,計量特化学習を含むモデル最適化とバイアス軽減手法を提案する。 提案手法を用いることで、CNNモデルでは、71.3から75.6までのIoU(%)とNDS(%)のメトリクスが改善され、80.6から83.7となる。 同様に、ViTでは、IoUとNDSのメトリクスがそれぞれ74.9から79.2に改善され、83.8から87.1に改善された。 この研究は、より信頼性の高いモデルとデータセットの開発に寄与し、マイノリティクラスの包括性を高めている。

関連論文リスト

• Electroencephalogram Emotion Recognition via AUC Maximization [0.0]
  不均衡データセットは神経科学、認知科学、医学診断などの分野で大きな課題を提起する。 本研究は,DEAPデータセットにおけるライキングラベルを例として,イシュークラスの不均衡に対処する。
  論文  参考訳（メタデータ） (2024-08-16T19:08:27Z)
• CLIP the Bias: How Useful is Balancing Data in Multimodal Learning? [72.19502317793133]
  比較言語画像事前学習(CLIP)におけるバイアス軽減のためのデータバランスの有効性について検討する。 表現バイアスと相関バイアスの両方を低減するために,Multi-Modal Moment Matching (M4) と呼ばれる新しいアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-03-07T14:43:17Z)
• Understanding the Detrimental Class-level Effects of Data Augmentation [63.1733767714073]
  最適な平均精度を達成するには、ImageNetで最大20%の個々のクラスの精度を著しく損なうコストがかかる。 本稿では,DAがクラスレベルの学習力学とどのように相互作用するかを理解するためのフレームワークを提案する。 そこで本研究では, クラス条件拡張戦略により, 負の影響を受けるクラスの性能が向上することを示す。
  論文  参考訳（メタデータ） (2023-12-07T18:37:43Z)
• Scaling Laws Do Not Scale [54.72120385955072]
  最近の研究によると、データセットのサイズが大きくなると、そのデータセットでトレーニングされたモデルのパフォーマンスが向上する。 このスケーリング法則の関係は、モデルのアウトプットの質を異なる集団がどのように認識するかと一致しないパフォーマンスを測定するために使われる指標に依存する、と我々は主張する。 異なるコミュニティは、互いに緊張関係にある価値を持ち、モデル評価に使用されるメトリクスについて、困難で、潜在的に不可能な選択をもたらす可能性がある。
  論文  参考訳（メタデータ） (2023-07-05T15:32:21Z)
• FITNESS: A Causal De-correlation Approach for Mitigating Bias in Machine Learning Software [6.4073906779537095]
  バイアスデータセットは不公平で潜在的に有害な結果をもたらす可能性がある。 本稿では,感性特徴とラベルの因果関係を関連づけたバイアス緩和手法を提案する。 我々のキーとなる考え方は、因果関係の観点からそのような効果を非相関化することで、モデルが繊細な特徴に基づいて予測することを避けることである。
  論文  参考訳（メタデータ） (2023-05-23T06:24:43Z)
• Diffusion Denoising Process for Perceptron Bias in Out-of-distribution Detection [67.49587673594276]
  我々は、識別器モデルが入力の特定の特徴に対してより敏感であることを示唆する新しいパーセプトロンバイアスの仮定を導入し、過度な問題を引き起こした。 DMの拡散分解過程 (DDP) が非対称の新たな形態として機能し, 入力を高め, 過信問題を緩和するのに適していることを示す。 CIFAR10, CIFAR100, ImageNetによる実験により, 提案手法がSOTA手法より優れていることが示された。
  論文  参考訳（メタデータ） (2022-11-21T08:45:08Z)
• D-BIAS: A Causality-Based Human-in-the-Loop System for Tackling Algorithmic Bias [57.87117733071416]
  D-BIASは、人間のループ内AIアプローチを具現化し、社会的バイアスを監査し軽減する視覚対話型ツールである。 ユーザは、因果ネットワークにおける不公平な因果関係を識別することにより、グループに対する偏見の存在を検出することができる。 それぞれのインタラクション、例えばバイアスのある因果縁の弱体化/削除は、新しい(偏りのある)データセットをシミュレートするために、新しい方法を用いている。
  論文  参考訳（メタデータ） (2022-08-10T03:41:48Z)
• Robust Trajectory Prediction against Adversarial Attacks [84.10405251683713]
  ディープニューラルネットワーク(DNN)を用いた軌道予測は、自律運転システムにおいて不可欠な要素である。 これらの手法は敵の攻撃に対して脆弱であり、衝突などの重大な結果をもたらす。 本研究では,敵対的攻撃に対する軌道予測モデルを保護するための2つの重要な要素を同定する。
  論文  参考訳（メタデータ） (2022-07-29T22:35:05Z)
• CausalAgents: A Robustness Benchmark for Motion Forecasting using Causal Relationships [8.679073301435265]
  既存のデータに摂動を適用することにより、モデルロバスト性の評価と改善のための新しいベンチマークを構築する。 我々はこれらのラベルを使用して、現場から非因果的エージェントを削除することでデータを摂動する。 非因果摂動下では, minADE の相対的な変化は, 原型と比較して25$-$38%である。
  論文  参考訳（メタデータ） (2022-07-07T21:28:23Z)
• TARA: Training and Representation Alteration for AI Fairness and Domain Generalization [6.6147550436077776]
  この方法は、AIバイアスの顕著な原因の軽減のためにトレーニングおよび表現変換(TARA)を実行するデュアル戦略を使用します。 画像解析の手法をテストすると、実験により、TARAがベースラインモデルを著しく、あるいは完全に破壊することを示した。 偏り評価に使用される現在の測定基準の一定の限界を認識し, 新たな整合性偏り測定基準を提案する。
  論文  参考訳（メタデータ） (2020-12-11T14:39:10Z)
• Scene-Graph Augmented Data-Driven Risk Assessment of Autonomous Vehicle Decisions [1.4086978333609153]
  本研究では,シーングラフを中間表現として利用する新しいデータ駆動手法を提案する。 我々のアプローチには、マルチリレーショングラフ畳み込みネットワーク、ロングショート長期記憶ネットワーク、そして運転操作の主観的リスクをモデル化するための注意層が含まれる。 提案手法は,大型(96.4%対91.2%)および小型(91.8%対71.2%)の最先端アプローチよりも高い分類精度が得られることを示す。 また、実世界のデータセットでテストすると、合成データセットでトレーニングされたモデルの平均精度が87.8%に達することを示す。
  論文  参考訳（メタデータ） (2020-08-31T07:41:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。