論文の概要: How Supply Chain Dependencies Complicate Bias Measurement and Accountability Attribution in AI Hiring Applications

• arxiv url: http://arxiv.org/abs/2604.22679v1
• Date: Fri, 24 Apr 2026 16:01:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-27 15:36:26.529952
• Title: How Supply Chain Dependencies Complicate Bias Measurement and Accountability Attribution in AI Hiring Applications
• Title（参考訳）: AI採用アプリケーションにおけるサプライチェーン依存性のバイアス測定とアカウンタビリティ属性の関連性
• Authors: Gauri Sharma, Maryam Molamohammadi,
• Abstract要約: 現代のAI採用システムは、データベンダ、モデル開発者、プラットフォームプロバイダ、デプロイ組織間の責任フラグメントが分散した複雑なサプライチェーン内で運用されている。 本稿では,これらの依存関係連鎖が,バイアス評価や説明責任の帰属を複雑化する方法について検討する。 システムレベルの監査,ベンダガイドライン,継続的監視機構,依存関係チェーン間のドキュメントなど,多層的な介入を提案する。
• 参考スコア（独自算出の注目度）: 1.0742675209112622
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The increasing adoption of AI systems in hiring has raised concerns about algorithmic bias and accountability, prompting regulatory responses including the EU AI Act, NYC Local Law 144, and Colorado's AI Act. While existing research examines bias through technical or regulatory lenses, both perspectives overlook a fundamental challenge: modern AI hiring systems operate within complex supply chains where responsibility fragments across data vendors, model developers, platform providers, and deploying organizations. This paper investigates how these dependency chains complicate bias evaluation and accountability attribution. Drawing on literature review and regulatory analysis, we demonstrate that fragmented responsibilities create two critical problems. First, bias emerges from component interactions rather than isolated elements, yet proprietary configurations prevent integrated evaluation. A resume parser may function without bias independently but contribute to discrimination when integrated with specific ranking algorithms and filtering thresholds. Second, information asymmetries mean deploying organizations bear legal responsibility without technical visibility into vendor-supplied algorithms, while vendors control implementations without meaningful disclosure requirements. Each stakeholder may believe they are compliant; nevertheless, the integrated system may produce biased outcomes. Analysis of implementation ambiguities reveals these challenges in practice. We propose multi-layered interventions including system-level audits, vendor guidelines, continuous monitoring mechanisms, and documentation across dependency chains. Our findings reveal that effective governance requires coordinated action across technical, organizational, and regulatory domains to establish meaningful accountability in distributed development environments.
• Abstract（参考訳）: 雇用におけるAIシステムの採用の増加は、アルゴリズムバイアスと説明責任に関する懸念を高め、EU AI Act、NYC Local Law 144、コロラドのAI Actなどの規制対応を促している。 現代のAI採用システムは、データベンダ、モデル開発者、プラットフォームプロバイダ、デプロイ組織間の責任の断片が分散した複雑なサプライチェーン内で運用されている。 本稿では,これらの依存関係連鎖が,バイアス評価と説明責任の帰属を複雑化する方法について検討する。 文献レビューと規制分析に基づいて、断片化された責任が2つの重大な問題を引き起こすことを示す。 まず、分離された要素ではなくコンポーネント間の相互作用からバイアスが発生するが、プロプライエタリな構成は統合された評価を妨げている。 履歴解析器は独立してバイアスなしで機能するが、特定のランキングアルゴリズムやフィルタリングしきい値と統合された場合の識別に寄与する。 第二に、情報の非対称性は、ベンダーが提供するアルゴリズムを技術的に可視化せずに組織を配置することであり、ベンダーは有意義な開示要求なしに実装を制御している。 いずれにせよ、統合されたシステムはバイアスのある結果をもたらす可能性がある。 実装の曖昧さの分析は、実際にこれらの課題を明らかにします。 システムレベルの監査,ベンダガイドライン,継続的監視機構,依存関係チェーン間のドキュメントなど,多層的な介入を提案する。 この結果から,効率的なガバナンスは,分散開発環境において有意義な説明責任を確立するために,技術,組織,規制領域間で協調的な行動を必要とすることが明らかとなった。

関連論文リスト

• COMPASS: The explainable agentic framework for Sovereignty, Sustainability, Compliance, and Ethics [0.0]
  本稿では,値整合型AIを実現するために設計された,新しいマルチエージェントオーケストレーションシステムを提案する。 このフレームワークは、オーケストレータと、主権、カーボン・アウェア・コンピューティング、コンプライアンス、倫理に対処する4つの専門のサブエージェントで構成されている。 LLM-as-a-judge法を用いることで、定量的スコアを割り当て、各評価次元について説明可能な正当化を生成する。
  論文  参考訳（メタデータ） (2026-03-11T20:14:35Z)
• Steering LLMs via Scalable Interactive Oversight [74.12746881843044]
  大規模な言語モデルは、エンフェーブコーディングのような複雑で長期にわたるタスクをますます自動化し、監督のギャップが生まれています。 スケーラブルな監視において重要な課題は、人間が責任を持ってAIシステムを、特定または検証する能力を超えたタスクで操ることができることだ。
  論文  参考訳（メタデータ） (2026-02-04T04:52:00Z)
• Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
  本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。 我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。 私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
  論文  参考訳（メタデータ） (2025-08-12T09:42:56Z)
• Explainable AI Systems Must Be Contestable: Here's How to Make It Happen [2.5875936082584623]
  本稿では、説明可能なAIにおける競合性の最初の厳密な形式的定義について述べる。 我々は、ヒューマン中心のインターフェース、技術プロセス、組織アーキテクチャにまたがる、設計やポストホックメカニズムのモジュール化されたフレームワークを紹介します。 私たちの作業は実践者に、真のリコースと説明責任をAIシステムに組み込むためのツールを提供しています。
  論文  参考訳（メタデータ） (2025-06-02T13:32:05Z)
• Understanding accountability in algorithmic supply chains [7.971065005161566]
  アルゴリズムのアカウンタビリティに関する学術的および政策的な提案は、しばしば、社会技術的文脈においてアルゴリズムシステムを理解しようとする。 さらに、アルゴリズムシステムは、複数のアクターからなるサプライチェーン内で生成、デプロイ、使用されていく。 アルゴリズムのアカウンタビリティに関する議論では、サプライチェーンと、それがアルゴリズムシステムのガバナンスとカウンタビリティにもたらす困難さを考慮しなければなりません。
  論文  参考訳（メタデータ） (2023-04-28T10:43:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。