論文の概要: How Supply Chain Dependencies Complicate Bias Measurement and Accountability Attribution in AI Hiring Applications
- arxiv url: http://arxiv.org/abs/2604.22679v1
- Date: Fri, 24 Apr 2026 16:01:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-27 15:36:26.529952
- Title: How Supply Chain Dependencies Complicate Bias Measurement and Accountability Attribution in AI Hiring Applications
- Title（参考訳）: AI採用アプリケーションにおけるサプライチェーン依存性のバイアス測定とアカウンタビリティ属性の関連性
- Abstract要約: 現代のAI採用システムは、データベンダ、モデル開発者、プラットフォームプロバイダ、デプロイ組織間の責任フラグメントが分散した複雑なサプライチェーン内で運用されている。
本稿では,これらの依存関係連鎖が,バイアス評価や説明責任の帰属を複雑化する方法について検討する。
システムレベルの監査,ベンダガイドライン,継続的監視機構,依存関係チェーン間のドキュメントなど,多層的な介入を提案する。
- 参考スコア（独自算出の注目度）: 1.0742675209112622
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The increasing adoption of AI systems in hiring has raised concerns about algorithmic bias and accountability, prompting regulatory responses including the EU AI Act, NYC Local Law 144, and Colorado's AI Act. While existing research examines bias through technical or regulatory lenses, both perspectives overlook a fundamental challenge: modern AI hiring systems operate within complex supply chains where responsibility fragments across data vendors, model developers, platform providers, and deploying organizations. This paper investigates how these dependency chains complicate bias evaluation and accountability attribution. Drawing on literature review and regulatory analysis, we demonstrate that fragmented responsibilities create two critical problems. First, bias emerges from component interactions rather than isolated elements, yet proprietary configurations prevent integrated evaluation. A resume parser may function without bias independently but contribute to discrimination when integrated with specific ranking algorithms and filtering thresholds. Second, information asymmetries mean deploying organizations bear legal responsibility without technical visibility into vendor-supplied algorithms, while vendors control implementations without meaningful disclosure requirements. Each stakeholder may believe they are compliant; nevertheless, the integrated system may produce biased outcomes. Analysis of implementation ambiguities reveals these challenges in practice. We propose multi-layered interventions including system-level audits, vendor guidelines, continuous monitoring mechanisms, and documentation across dependency chains. Our findings reveal that effective governance requires coordinated action across technical, organizational, and regulatory domains to establish meaningful accountability in distributed development environments.
- Abstract（参考訳）: 雇用におけるAIシステムの採用の増加は、アルゴリズムバイアスと説明責任に関する懸念を高め、EU AI Act、NYC Local Law 144、コロラドのAI Actなどの規制対応を促している。
現代のAI採用システムは、データベンダ、モデル開発者、プラットフォームプロバイダ、デプロイ組織間の責任の断片が分散した複雑なサプライチェーン内で運用されている。
本稿では,これらの依存関係連鎖が,バイアス評価と説明責任の帰属を複雑化する方法について検討する。
文献レビューと規制分析に基づいて、断片化された責任が2つの重大な問題を引き起こすことを示す。
まず、分離された要素ではなくコンポーネント間の相互作用からバイアスが発生するが、プロプライエタリな構成は統合された評価を妨げている。
履歴解析器は独立してバイアスなしで機能するが、特定のランキングアルゴリズムやフィルタリングしきい値と統合された場合の識別に寄与する。
第二に、情報の非対称性は、ベンダーが提供するアルゴリズムを技術的に可視化せずに組織を配置することであり、ベンダーは有意義な開示要求なしに実装を制御している。
いずれにせよ、統合されたシステムはバイアスのある結果をもたらす可能性がある。
実装の曖昧さの分析は、実際にこれらの課題を明らかにします。
システムレベルの監査,ベンダガイドライン,継続的監視機構,依存関係チェーン間のドキュメントなど,多層的な介入を提案する。
この結果から,効率的なガバナンスは,分散開発環境において有意義な説明責任を確立するために,技術,組織,規制領域間で協調的な行動を必要とすることが明らかとなった。
関連論文リスト
- FLARE-AI: Flaw Reporting for AI [51.64618567247884]
デプロイされたAIシステムの欠陥報告は、システムの障害を特定し、AIの安全性を改善するために不可欠である。
しかし、AIレポートのエコシステムは断片化されている。欠陥を特定する研究者は、報告すべきことを知らないことが多く、レポートを受け取るグループは、他の関連するステークホルダーと共有することはめったにない。
私たちは、AI開発者、サイバーセキュリティグループ、AI欠陥アグリゲータによって公表された12のレポートシステムを監査します。
我々は、既存のシステムとの相互運用性のために設計された、オープンソースのAI欠陥報告システムであるFLARE-AIを紹介する。
論文 参考訳（メタデータ） (2026-06-30T12:27:09Z) - Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security [57.35851886874902]
エージェントAIシステムは、複雑なタスクを自律的に実行するが、その多段階の軌道には、信頼性に挑戦する新たな障害モードが導入されている。
この調査では、リスクの高いデプロイメントに不可欠な2つのコアディメンションを通じて、信頼できるエージェントAIを精査する。
各次元について、重要な概念を明確にし、エージェントワークフローに沿ってリスクが発生する場所を特定し、ステージ目標の緩和戦略を要約する。
論文 参考訳（メタデータ） (2026-05-17T10:26:37Z) - AgentReputation: A Decentralized Agentic AI Reputation Framework [3.6704226968275253]
我々はエージェントAIシステムのための分散3層評価フレームワークである textbfAgentReputation を提案する。
このフレームワークは、タスク実行、評価サービス、タンパー保護の永続化を分離し、それぞれの強みを活用し、独立した進化を可能にする。
定量化において、AgentReputationはリソース割り当て、アクセス制御、適応的な検証エスカレーションをサポートする決定対応のポリシーエンジンを提供する。
論文 参考訳（メタデータ） (2026-04-30T12:33:39Z) - COMPASS: The explainable agentic framework for Sovereignty, Sustainability, Compliance, and Ethics [0.0]
本稿では,値整合型AIを実現するために設計された,新しいマルチエージェントオーケストレーションシステムを提案する。
このフレームワークは、オーケストレータと、主権、カーボン・アウェア・コンピューティング、コンプライアンス、倫理に対処する4つの専門のサブエージェントで構成されている。
LLM-as-a-judge法を用いることで、定量的スコアを割り当て、各評価次元について説明可能な正当化を生成する。
論文 参考訳（メタデータ） (2026-03-11T20:14:35Z) - Steering LLMs via Scalable Interactive Oversight [74.12746881843044]
大規模な言語モデルは、エンフェーブコーディングのような複雑で長期にわたるタスクをますます自動化し、監督のギャップが生まれています。
スケーラブルな監視において重要な課題は、人間が責任を持ってAIシステムを、特定または検証する能力を超えたタスクで操ることができることだ。
論文 参考訳（メタデータ） (2026-02-04T04:52:00Z) - Agentic AI for Financial Crime Compliance [0.0]
本稿では、デジタルネイティブ金融プラットフォームにおける金融犯罪コンプライアンス(FCC)のためのエージェントAIシステムの設計と展開について述べる。
このコントリビューションには、リファレンスアーキテクチャ、現実世界のプロトタイプ、およびAgentic AIが規制下で再構成できる方法に関する洞察が含まれている。
論文 参考訳（メタデータ） (2025-09-16T14:53:51Z) - Safe and Certifiable AI Systems: Concepts, Challenges, and Lessons Learned [45.44933002008943]
この白書は、T"UV AUSTRIA Trusted AIフレームワークを提示する。
エンド・ツー・エンドの監査カタログであり、機械学習システムの評価と認定のための方法論である。
セキュアなソフトウェア開発、機能要件、倫理とデータプライバシという3つの柱の上に構築されているのは、EU AI Actの高レベルの義務を、特定かつテスト可能な基準に翻訳するものです。
論文 参考訳（メタデータ） (2025-09-08T17:52:08Z) - Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。
我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。
私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
論文 参考訳（メタデータ） (2025-08-12T09:42:56Z) - Explainable AI Systems Must Be Contestable: Here's How to Make It Happen [2.5875936082584623]
本稿では、説明可能なAIにおける競合性の最初の厳密な形式的定義について述べる。
我々は、ヒューマン中心のインターフェース、技術プロセス、組織アーキテクチャにまたがる、設計やポストホックメカニズムのモジュール化されたフレームワークを紹介します。
私たちの作業は実践者に、真のリコースと説明責任をAIシステムに組み込むためのツールを提供しています。
論文 参考訳（メタデータ） (2025-06-02T13:32:05Z) - Media and responsible AI governance: a game-theoretic and LLM analysis [61.132523071109354]
本稿では,信頼できるAIシステムを育成する上での,AI開発者,規制当局,ユーザ,メディア間の相互作用について検討する。
進化的ゲーム理論と大言語モデル(LLM)を用いて、異なる規制体制下でこれらのアクター間の戦略的相互作用をモデル化する。
論文 参考訳（メタデータ） (2025-03-12T21:39:38Z) - Understanding accountability in algorithmic supply chains [7.971065005161566]
アルゴリズムのアカウンタビリティに関する学術的および政策的な提案は、しばしば、社会技術的文脈においてアルゴリズムシステムを理解しようとする。
さらに、アルゴリズムシステムは、複数のアクターからなるサプライチェーン内で生成、デプロイ、使用されていく。
アルゴリズムのアカウンタビリティに関する議論では、サプライチェーンと、それがアルゴリズムシステムのガバナンスとカウンタビリティにもたらす困難さを考慮しなければなりません。
論文 参考訳（メタデータ） (2023-04-28T10:43:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。