論文の概要: FairCVtest Demo: Understanding Bias in Multimodal Learning with a
Testbed in Fair Automatic Recruitment
- arxiv url: http://arxiv.org/abs/2009.07025v1
- Date: Sat, 12 Sep 2020 17:45:09 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-19 08:17:09.418893
- Title: FairCVtest Demo: Understanding Bias in Multimodal Learning with a
Testbed in Fair Automatic Recruitment
- Title（参考訳）: faircvtestデモ: 公正な自動採用テストベッドによるマルチモーダル学習におけるバイアスの理解
- Authors: Alejandro Pe\~na and Ignacio Serna and Aythami Morales and Julian
Fierrez
- Abstract要約: このデモは、非構造化データから機密情報を抽出する採用ツールの背後にある人工知能(AI)の能力を示しています。
また、このデモには差別認識学習のための新しいアルゴリズムが含まれており、マルチモーダルAIフレームワークの機密情報を排除している。
- 参考スコア（独自算出の注目度）: 79.23531577235887
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: With the aim of studying how current multimodal AI algorithms based on
heterogeneous sources of information are affected by sensitive elements and
inner biases in the data, this demonstrator experiments over an automated
recruitment testbed based on Curriculum Vitae: FairCVtest. The presence of
decision-making algorithms in society is rapidly increasing nowadays, while
concerns about their transparency and the possibility of these algorithms
becoming new sources of discrimination are arising. This demo shows the
capacity of the Artificial Intelligence (AI) behind a recruitment tool to
extract sensitive information from unstructured data, and exploit it in
combination to data biases in undesirable (unfair) ways. Aditionally, the demo
includes a new algorithm (SensitiveNets) for discrimination-aware learning
which eliminates sensitive information in our multimodal AI framework.
- Abstract（参考訳）: 異質な情報ソースに基づく現在のマルチモーダルAIアルゴリズムが、データの機密要素や内部バイアスによってどのように影響を受けるかを研究することを目的として、この実証はCurriculum Vitae: FairCVtestに基づいた自動採用テストベッド上での実証実験である。
社会における意思決定アルゴリズムの存在は急速に増加しており、その透明性とこれらのアルゴリズムが新たな差別源となる可能性への懸念が生まれている。
このデモでは、非構造化データから機密情報を抽出し、望ましくない(好ましくない)方法でデータバイアスと組み合わせて活用する、リクルートツールの背後にある人工知能(ai)の能力を示しています。
デモには、当社のマルチモーダルaiフレームワークにおける機密情報を排除する識別認識学習のための新しいアルゴリズム(sensitivenets)が含まれています。
関連論文リスト
- Dynamically Masked Discriminator for Generative Adversarial Networks [71.33631511762782]
GAN(Generative Adversarial Networks)のトレーニングは依然として難しい問題である。
識別器は、実際の/生成されたデータの分布を学習してジェネレータを訓練する。
本稿では,オンライン連続学習の観点から,GANの新たな手法を提案する。
論文 参考訳（メタデータ） (2023-06-13T12:07:01Z) - Data Quality in Imitation Learning [15.939363481618738]
ロボット工学のオフライン学習では、インターネットのスケールデータがないだけで、高品質なデータセットが必要なのです。
これは特に、専門家によるデモンストレーションを用いたロボット学習のためのサンプル効率のよいパラダイムである模倣学習(IL)において当てはまる。
本研究では,分散シフトのレンズによる模倣学習のためのデータ品質の形式化に向けた第一歩を踏み出す。
論文 参考訳（メタデータ） (2023-06-04T18:48:32Z) - Human-Centric Multimodal Machine Learning: Recent Advances and Testbed
on AI-based Recruitment [66.91538273487379]
人間中心のアプローチでAIアプリケーションを開発する必要性には、ある程度のコンセンサスがある。
i)ユーティリティと社会的善、(ii)プライバシとデータ所有、(iii)透明性と説明責任、(iv)AIによる意思決定プロセスの公正性。
異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。
論文 参考訳（メタデータ） (2023-02-13T16:44:44Z) - Statistical discrimination in learning agents [64.78141757063142]
統計的差別は、訓練人口のバイアスとエージェントアーキテクチャの両方の関数としてエージェントポリシーに現れる。
我々は、リカレントニューラルネットワークを使用するエージェントによる差別の低減と、トレーニング環境のバイアスの低減が示される。
論文 参考訳（メタデータ） (2021-10-21T18:28:57Z) - Fair Representation Learning for Heterogeneous Information Networks [35.80367469624887]
公平なHIN表現学習のための包括的非バイアス化手法を提案する。
これらのアルゴリズムの挙動,特にフェアネスと予測精度のトレードオフをバランスさせる能力について検討した。
キャリアカウンセリングの自動化アプリケーションにおいて,提案手法の性能を評価する。
論文 参考訳（メタデータ） (2021-04-18T08:28:18Z) - Low-Regret Active learning [64.36270166907788]
トレーニングに最も有用なラベル付きデータポイントを識別するオンライン学習アルゴリズムを開発した。
私たちの仕事の中心は、予測可能な(簡単な)インスタンスの低い後悔を達成するために調整された睡眠専門家のための効率的なアルゴリズムです。
論文 参考訳（メタデータ） (2021-04-06T22:53:45Z) - On the Robustness of Active Learning [0.7340017786387767]
Active Learningは、機械学習アルゴリズムをトレーニングする上で最も有用なサンプルを特定する方法に関するものだ。
十分な注意とドメイン知識を持っていないことがよくあります。
そこで本研究では,Simpson の多様性指標に基づく新たな "Sum of Squared Logits" 手法を提案する。
論文 参考訳（メタデータ） (2020-06-18T09:07:23Z) - Bias in Multimodal AI: Testbed for Fair Automatic Recruitment [73.85525896663371]
異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。
我々は、性別や人種の偏りを意識的に評価したマルチモーダルな合成プロファイルを用いて、自動求人アルゴリズムを訓練する。
我々の方法論と結果は、一般により公平なAIベースのツール、特により公平な自動採用システムを生成する方法を示している。
論文 参考訳（メタデータ） (2020-04-15T15:58:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。