論文の概要: Assessing Risks of Biases in Cognitive Decision Support Systems
- arxiv url: http://arxiv.org/abs/2007.14361v1
- Date: Tue, 28 Jul 2020 16:53:45 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-06 02:55:51.348227
- Title: Assessing Risks of Biases in Cognitive Decision Support Systems
- Title（参考訳）: 認知的意思決定支援システムにおけるバイアスのリスク評価
- Authors: Kenneth Lai, Helder C. R. Oliveira, Ming Hou, Svetlana N.
Yanushkevich, and Vlad Shmerko
- Abstract要約: この論文は、偏見の集合を管理する方法に関する挑戦的な研究課題に対処する。
本稿では,認知的意思決定支援システムの運用環境をバイアスの観点から予測する。
また,チェックポイントシステムの顔バイオメトリック成分を用いたモチベーション実験を行い,バイアスの集合の発見を強調した。
- 参考スコア（独自算出の注目度）: 5.480546613836199
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recognizing, assessing, countering, and mitigating the biases of different
nature from heterogeneous sources is a critical problem in designing a
cognitive Decision Support System (DSS). An example of such a system is a
cognitive biometric-enabled security checkpoint. Biased algorithms affect the
decision-making process in an unpredictable way, e.g. face recognition for
different demographic groups may severely impact the risk assessment at a
checkpoint. This paper addresses a challenging research question on how to
manage an ensemble of biases? We provide performance projections of the DSS
operational landscape in terms of biases. A probabilistic reasoning technique
is used for assessment of the risk of such biases. We also provide a
motivational experiment using face biometric component of the checkpoint system
which highlights the discovery of an ensemble of biases and the techniques to
assess their risks.
- Abstract（参考訳）: 認知意思決定支援システム(DSS)の設計において、異種源とは異なる性質のバイアスを認識し、評価し、対処し、軽減することは重要な問題である。
そのようなシステムの例としては、cognitive bioometric-enabled security checkpointがある。
バイアスドアルゴリズムは、予測不可能な方法で意思決定プロセスに影響を与える。例えば、異なる人口集団の顔認識は、チェックポイントでのリスクアセスメントに深刻な影響を与える可能性がある。
この論文は、偏見の集合を管理する方法に関する挑戦的な研究課題に対処する。
バイアスの観点から,DSS運用環境の性能予測を行う。
このようなバイアスのリスク評価には確率論的推論手法が用いられる。
また,チェックポイントシステムの顔バイオメトリック成分を用いたモチベーション実験を行い,バイアスのアンサンブルの発見とそのリスク評価手法に注目した。
関連論文リスト
- A Human-Centered Risk Evaluation of Biometric Systems Using Conjoint Analysis [0.6199770411242359]
本稿では, コンジョイント分析を用いて, 監視カメラなどのリスク要因が攻撃者のモチベーションに与える影響を定量化するために, 新たな人間中心型リスク評価フレームワークを提案する。
本フレームワークは、False Acceptance Rate(FAR)とアタック確率を組み込んだリスク値を算出し、ユースケース間の総合的な比較を可能にする。
論文 参考訳（メタデータ） (2024-09-17T14:18:21Z) - ABI Approach: Automatic Bias Identification in Decision-Making Under Risk based in an Ontology of Behavioral Economics [46.57327530703435]
損失回避のようなバイアスによって引き起こされる損失に対する優先順位を求めるリスクは、課題を引き起こし、深刻なネガティブな結果をもたらす可能性がある。
本研究は,リスクサーチの選好を自動的に識別し,説明することにより,組織意思決定者を支援する新しいソリューションであるABIアプローチを紹介する。
論文 参考訳（メタデータ） (2024-05-22T23:53:46Z) - Data-Adaptive Tradeoffs among Multiple Risks in Distribution-Free Prediction [55.77015419028725]
しきい値とトレードオフパラメータが適応的に選択された場合、リスクの有効な制御を可能にする手法を開発する。
提案手法は単調なリスクとほぼ単調なリスクをサポートするが,それ以外は分布的な仮定はしない。
論文 参考訳（メタデータ） (2024-03-28T17:28:06Z) - Information-Theoretic Bias Reduction via Causal View of Spurious
Correlation [71.9123886505321]
本稿では,スプリアス相関の因果的解釈による情報理論バイアス測定手法を提案する。
本稿では,バイアス正規化損失を含むアルゴリズムバイアスに対する新しいデバイアスフレームワークを提案する。
提案したバイアス測定とデバイアス法は、多様な現実シナリオで検証される。
論文 参考訳（メタデータ） (2022-01-10T01:19:31Z) - Anatomizing Bias in Facial Analysis [86.79402670904338]
既存の顔分析システムでは、特定の集団群に対して偏りのある結果が得られることが示されている。
これらのシステムは、個人の性別、アイデンティティ、肌のトーンに基づいて差別されないようにすることが義務づけられている。
これはAIシステムにおけるバイアスの識別と緩和の研究につながった。
論文 参考訳（メタデータ） (2021-12-13T09:51:13Z) - Towards Unbiased Visual Emotion Recognition via Causal Intervention [63.74095927462]
本稿では,データセットバイアスによる負の効果を軽減するために,新しい感情認識ネットワーク(IERN)を提案する。
IERNの有効性を検証する一連の設計されたテストと、3つの感情ベンチマークの実験は、IERNが他の最先端のアプローチよりも優れていることを示した。
論文 参考訳（メタデータ） (2021-07-26T10:40:59Z) - Feedback Effects in Repeat-Use Criminal Risk Assessments [0.0]
リスクは、単発テストで捉えられていない方法で、シーケンシャルな決定を伝達できることを示します。
リスクアセスメントツールは、非常に複雑でパスに依存したプロセスで動作し、歴史的な不平等が引き起こされる。
論文 参考訳（メタデータ） (2020-11-28T06:40:05Z) - Reliability of Decision Support in Cross-spectral Biometric-enabled
Systems [2.278720757613755]
本稿では,顔表情バイオメトリックスを用いた意思決定支援システムの性能評価について述べる。
関連する応用としては、個人やチーム、状況認識システムにおける人間の行動監視とストレス検出がある。
論文 参考訳（メタデータ） (2020-08-13T07:43:14Z) - Risk, Trust, and Bias: Causal Regulators of Biometric-Enabled Decision
Support [6.32220198667533]
リスク、信頼、バイアス(R-T-B)は、このようなシステムのパフォーマンスの新たな指標である。
本稿ではバイオメトリック対応DSSのためのR-T-B因果性能制御器の完全な分類法を提案する。
提案された新しい分類法は、R-T-B評価と意思決定における推論の因果推論機構を結びつけている。
論文 参考訳（メタデータ） (2020-08-05T20:49:13Z) - Towards causal benchmarking of bias in face analysis algorithms [54.19499274513654]
顔分析アルゴリズムのアルゴリズムバイアスを測定する実験手法を開発した。
提案手法は,一致したサンプル画像の合成トランスクター'を生成することに基づく。
性別分類アルゴリズムの偏見を従来の観察法を用いて分析することにより,本手法の有効性を検証した。
論文 参考訳（メタデータ） (2020-07-13T17:10:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。