論文の概要: Bias Analysis of AI Models for Undergraduate Student Admissions

• arxiv url: http://arxiv.org/abs/2412.02528v1
• Date: Tue, 03 Dec 2024 16:21:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-04 15:46:15.758465
• Title: Bias Analysis of AI Models for Undergraduate Student Admissions
• Title（参考訳）: 大学生受験者のAIモデルに関するバイアス分析
• Authors: Kelly Van Busum, Shiaofen Fang,
• Abstract要約: この研究は、AI予測モデルに見られるバイアスの厳密で完全な分析を提供するために、著者らが行った過去の研究を拡張している。 6年間にわたるデータは、ある学生が科学学校に直接入学するかどうかを判断するAIモデルを作成するために使用された。 我々は,受験決定においてどの変数が重要か,テストスコアを除外する決定が受験生の人口動態にどのように影響するかを理解するために,AIモデルを開発し,分析した。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Bias detection and mitigation is an active area of research in machine learning. This work extends previous research done by the authors to provide a rigorous and more complete analysis of the bias found in AI predictive models. Admissions data spanning six years was used to create an AI model to determine whether a given student would be directly admitted into the School of Science under various scenarios at a large urban research university. During this time, submission of standardized test scores as part of an application became optional which led to interesting questions about the impact of standardized test scores on admission decisions. We developed and analyzed AI models to understand which variables are important in admissions decisions, and how the decision to exclude test scores affects the demographics of the students who are admitted. We then evaluated the predictive models to detect and analyze biases these models may carry with respect to three variables chosen to represent sensitive populations: gender, race, and whether a student was the first in his or her family to attend college. We also extended our analysis to show that the biases detected were persistent. Finally, we included several fairness metrics in our analysis and discussed the uses and limitations of these metrics.
• Abstract（参考訳）: バイアスの検出と緩和は機械学習の研究の活発な領域である。 この研究は、AI予測モデルに見られるバイアスの厳密で完全な分析を提供するために、著者らが行った過去の研究を拡張している。 6年間にわたる受験データは、大都市研究大学の様々なシナリオの下で、ある学生が科学学校に直接入学するかどうかを判断するAIモデルを作成するために使用された。 この期間、アプリケーションの一部として標準化されたテストスコアを提出することはオプションとなり、標準化されたテストスコアが受け入れ決定に与える影響について興味深い疑問がもたらされた。 我々は,受験決定においてどの変数が重要か,テストスコアを除外する決定が受験生の人口動態にどのように影響するかを理解するために,AIモデルを開発し,分析した。 次に、これらのモデルが有意な人口を表すために選択された3つの変数(性別、人種、および学生が大学に初めて通った学生であるかどうか)について、バイアスを検知し分析するための予測モデルを評価した。 また,検出したバイアスが持続的であることを示すために分析を拡張した。 最後に、分析にいくつかの公正度メトリクスが含まれ、これらのメトリクスの使用と制限について議論した。

関連論文リスト

• How far can bias go? -- Tracing bias from pretraining data to alignment [54.51310112013655]
  本研究では, 事前学習データにおける性別占有バイアスと, LLMにおける性別占有バイアスの相関について検討した。 その結果,事前学習データに存在するバイアスがモデル出力に増幅されることが判明した。
  論文  参考訳（メタデータ） (2024-11-28T16:20:25Z)
• Beyond human subjectivity and error: a novel AI grading system [67.410870290301]
  オープンエンドの質問の格付けは、教育における高い努力と高いインパクトの課題である。 AI技術の最近のブレークスルーは、このような自動化を促進するかもしれないが、大規模に実証されていない。 本稿では,新しい自動短解階調システム(ASAG)を提案する。
  論文  参考訳（メタデータ） (2024-05-07T13:49:59Z)
• ASPEST: Bridging the Gap Between Active Learning and Selective Prediction [56.001808843574395]
  選択予測は、不確実な場合の予測を棄却する信頼性のあるモデルを学ぶことを目的としている。 アクティブラーニングは、最も有意義な例を問うことで、ラベリングの全体、すなわち人間の依存度を下げることを目的としている。 本研究では,移動対象領域からより情報のあるサンプルを検索することを目的とした,新たな学習パラダイムである能動的選択予測を導入する。
  論文  参考訳（メタデータ） (2023-04-07T23:51:07Z)
• Ground(less) Truth: A Causal Framework for Proxy Labels in Human-Algorithm Decision-Making [29.071173441651734]
  人間のAI意思決定タスクにおけるプロキシラベルの有効性に影響を与える5つの変数バイアス源を同定する。 各バイアス間の関係を乱すための因果的枠組みを開発する。 今後の研究において、ターゲット変数バイアスに対処する機会について論じる。
  論文  参考訳（メタデータ） (2023-02-13T16:29:11Z)
• Evaluating a Learned Admission-Prediction Model as a Replacement for Standardized Tests in College Admissions [21.70450099249114]
  大学入学事務所は歴史的に、審査のために大規模な応募者プールを実行可能なサブセットに編成するために標準化されたテストスコアに依存してきた。 サブセット生成における標準化テストの役割を置き換えるための機械学習ベースのアプローチを検討する。 過去の入試データに基づいてトレーニングされた予測モデルはSATモデルよりも優れており、最終入試クラスの人口構成と一致していることがわかった。
  論文  参考訳（メタデータ） (2023-02-07T17:14:26Z)
• Representation Bias in Data: A Survey on Identification and Resolution Techniques [26.142021257838564]
  データ駆動型アルゴリズムは、それらが扱うデータと同程度にしか機能しないが、データセット、特にソーシャルデータはしばしば、マイノリティを適切に表現できない。 データにおける表現バイアスは、歴史的差別から、データ取得と作成方法におけるバイアスのサンプリングまで、さまざまな理由により起こりうる。 本稿では,後日どのように消費されるかに関わらず,表現バイアスをデータセットの特徴として同定し,解決する方法についての文献をレビューする。
  論文  参考訳（メタデータ） (2022-03-22T16:30:22Z)
• AES Systems Are Both Overstable And Oversensitive: Explaining Why And Proposing Defenses [66.49753193098356]
  スコアリングモデルの驚くべき逆方向の脆さの原因について検討する。 のモデルとして訓練されているにもかかわらず、単語の袋のように振る舞うことを示唆している。 高い精度で試料を発生させる過敏性と過敏性を検出できる検出ベース保護モデルを提案する。
  論文  参考訳（メタデータ） (2021-09-24T03:49:38Z)
• Auditing Fairness and Imputation Impact in Predictive Analytics for Higher Education [0.0]
  高等教育における予測分析の導入には2つの大きな障壁がある。 デプロイにおける民主化の欠如と、不平等を悪化させる可能性を挙げる。
  論文  参考訳（メタデータ） (2021-09-13T05:08:40Z)
• Indecision Modeling [50.00689136829134]
  AIシステムは人間の価値観に合わせて行動することが重要である。 人々はしばしば決定的ではなく、特に彼らの決定が道徳的な意味を持つときです。
  論文  参考訳（メタデータ） (2020-12-15T18:32:37Z)
• Evaluation Toolkit For Robustness Testing Of Automatic Essay Scoring Systems [64.4896118325552]
  モデル逆算評価スキームと関連するメトリクスを用いて、現状のAESモデルを評価する。 AESモデルは非常に過大評価されていることがわかった。質問の話題に関係のない内容の重い修正(25%まで)でさえ、モデルが生み出すスコアを低下させることはない。
  論文  参考訳（メタデータ） (2020-07-14T03:49:43Z)
• Risk of Training Diagnostic Algorithms on Data with Demographic Bias [0.5599792629509227]
  医用画像解析アプリケーションにおけるMICCAI 2018の実践を調査するために,MICCAI 2018の手順を調査した。 意外なことに、診断に焦点を当てた論文では、使用されるデータセットの人口統計がほとんど書かれていないことが判明した。 本研究では,非偏りのある特徴を,対向的な学習環境において,人口統計変数を明示的に使用することにより学習可能であることを示す。
  論文  参考訳（メタデータ） (2020-05-20T13:51:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。