論文の概要: Fast, Cheap, and Fair? Evaluating Decision Models

• arxiv url: http://arxiv.org/abs/2611.04510v1
• Date: Tue, 03 Nov 2026 08:34:28 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-04 17:37:10.640702
• Title: Fast, Cheap, and Fair? Evaluating Decision Models
• Title（参考訳）: 高速, チープ, 公正か? 意思決定モデルの評価
• Abstract要約: 本稿では,採用アプリケーションを対象とした型決定モデルの最初の体系的バイアスと公平性監査について述べる。 この研究は、明示的な人口統計特性と暗黙的な候補者の手がかりがスクリーニングスコア、ランキング、ショートリストの結果にどのように影響するかを評価する。 評価は出力の妥当性、レイテンシ、コストも調べる。
• 参考スコア（独自算出の注目度）: 41.935243346200494
• License:
• Abstract: Industries are increasingly adopting AI-driven systems to automate a wide range of tasks, including high-stakes decisions in human resources, such as candidate screening and recruitment. This makes evaluating their fairness essential, particularly when decisions directly affect individuals' opportunities. Accordingly, the EU AI Act classifies recruitment AI systems as high-risk, imposing strict requirements on their deployment. In this context, compact ``System~1'' decision models offer a fast and cost-efficient alternative to general-purpose LLMs, yet their fairness remains largely unexplored. This article presents the first systematic bias and fairness audit of \jev{}, a typed-decision model targeting recruitment applications. The study evaluates how explicit demographic attributes and implicit candidate cues influence screening scores, rankings, and shortlisting outcomes. These effects are compared against a noise floor derived from name substitutions and typographical variations. The evaluation also examines output validity, latency, and cost. Counterfactual CV datasets and evaluation code are released for reproducibility.
• Abstract（参考訳）: 産業では、候補者のスクリーニングや採用など、人的資源の高精度な意思決定など、幅広いタスクを自動化するためにAI駆動システムの採用が増えている。 これにより、特に決定が個人の機会に直接影響を与える場合、公平さを評価することが不可欠となる。 そのため、EU AI Actは、採用AIシステムを高いリスクとして分類し、その展開に関する厳格な要件を課している。 この文脈では、コンパクト ``System~1'' 決定モデルは汎用 LLM に代わる高速で費用効率のよい代替手段を提供するが、その公正性はほとんど探索されていない。 本稿では,採用アプリケーションを対象とした型決定モデルである \jev{} の,最初の体系的バイアスと公正度監査について述べる。 この研究は、明示的な人口統計特性と暗黙的な候補者の手がかりがスクリーニングスコア、ランキング、ショートリストの結果にどのように影響するかを評価する。 これらの効果は、名前の置換と形態変化から得られるノイズフロアと比較される。 評価は出力の妥当性、レイテンシ、コストも調べる。 再現性のためのCVデータセットと評価コードもリリースされている。

関連論文リスト

• LLM Nepotism in Organizational Governance [17.949596290855293]
  本稿では,AIに対する好意的なシグナルが,役割関係のメリットに関係のない場合にも報われる態度駆動バイアスチャネルについて検討する。 履歴書の審査員は、AIに対する肯定的あるいは非批判的な態度の候補者を好んで、懐疑的で人間中心の候補者を差別する傾向にある。
  論文  参考訳（メタデータ） (2026-03-18T09:35:25Z)
• SEED-SET: Scalable Evolving Experimental Design for System-level Ethical Testing [17.31500098002456]
  SEED-SETは、ドメイン固有の客観的評価と利害関係者による主観的価値判断を含む実験的な設計フレームワークである。 自律エージェントの倫理的ベンチマークのためのアプローチを2つのアプリケーションで検証し、ベストを尽くす方法を見つける。
  論文  参考訳（メタデータ） (2026-03-02T09:06:28Z)
• AI Self-preferencing in Algorithmic Hiring: Empirical Evidence and Insights [0.0611737116137921]
  大規模言語モデル (LLM) は人書き履歴書よりも, 自己生成したコンテンツを体系的に好んでいることを示す。 このバイアスは、LSMの自己認識能力をターゲットにした単純な介入によって50%以上削減することができる。 これらの調査結果は、AIによる意思決定における、新しくて見過ごされたリスクを浮き彫りにしている。
  論文  参考訳（メタデータ） (2025-08-30T11:40:11Z)
• Addressing Bias in LLMs: Strategies and Application to Fair AI-based Recruitment [49.81946749379338]
  この研究は、トランスフォーマーベースのシステムの能力を分析して、データに存在する人口統計バイアスを学習する。 最終ツールにおける偏りを緩和する手段として,学習パイプラインからの性別情報を削減するためのプライバシー向上フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-13T15:29:43Z)
• Behind the Screens: Uncovering Bias in AI-Driven Video Interview Assessments Using Counterfactuals [0.0]
  本稿では,AIによる人格評価において,偏見を評価・定量化するための反ファクトベースのフレームワークを提案する。 本手法では,求職者の対実表現を生成するためにGAN(Generative Adversarial Network)を用いる。 この作業は、商用AI採用プラットフォームの公正監査のためのスケーラブルなツールを提供する。
  論文  参考訳（メタデータ） (2025-05-17T18:46:14Z)
• Re-evaluating Open-ended Evaluation of Large Language Models [50.23008729038318]
  現在のEloベースのレーティングシステムは、データ、意図的、あるいは偶発的なバイアスの影響を受けやすく、さらに強化できることを示している。 本稿では,3人プレイヤゲームとしての評価を提案し,冗長性に対するロバスト性を確保するために,ゲーム理論の新たな概念を導入する。
  論文  参考訳（メタデータ） (2025-02-27T15:07:47Z)
• Learning Fair Ranking Policies via Differentiable Optimization of Ordered Weighted Averages [55.04219793298687]
  本稿では,学習からランクへの学習ループに,効率よく解ける公正ランキングモデルを組み込む方法について述べる。 特に,本論文は,OWA目標の制約された最適化を通じてバックプロパゲーションを行う方法を示す最初のものである。
  論文  参考訳（メタデータ） (2024-02-07T20:53:53Z)
• Evaluating the Fairness of Discriminative Foundation Models in Computer Vision [51.176061115977774]
  本稿では,CLIP (Contrastive Language-Pretraining) などの差別基盤モデルのバイアス評価のための新しい分類法を提案する。 そして、これらのモデルにおけるバイアスを緩和するための既存の手法を分類学に関して体系的に評価する。 具体的には,ゼロショット分類,画像検索,画像キャプションなど,OpenAIのCLIPとOpenCLIPモデルをキーアプリケーションとして評価する。
  論文  参考訳（メタデータ） (2023-10-18T10:32:39Z)
• Bias in Multimodal AI: Testbed for Fair Automatic Recruitment [73.85525896663371]
  異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。 我々は、性別や人種の偏りを意識的に評価したマルチモーダルな合成プロファイルを用いて、自動求人アルゴリズムを訓練する。 我々の方法論と結果は、一般により公平なAIベースのツール、特により公平な自動採用システムを生成する方法を示している。
  論文  参考訳（メタデータ） (2020-04-15T15:58:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。