論文の概要: Beyond the Algorithm: Professional Experiences and Perceptions of AI Bias
- arxiv url: http://arxiv.org/abs/2606.18289v1
- Date: Sat, 13 Jun 2026 00:59:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-18 17:16:50.79683
- Title: Beyond the Algorithm: Professional Experiences and Perceptions of AI Bias
- Title（参考訳）: アルゴリズムを超えて:AIバイアスの専門的経験と知覚
- Authors: Micarah Malone-Gawu,
- Abstract要約: 本研究の目的は、社会的偏見がどのように出現し、認識され、人工知能や機械学習システム内で緩和されるかを検討することである。
この研究は、セクター固有の人口ではなく、AI実践者の生きた経験と専門的な洞察に焦点を当てた。
アルゴリズム的バイアスは、歴史的不平等、排他的設計の前提、そして倫理的反映よりも速度と効率を優先する組織的圧力から生じることを示した。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: The purpose of this qualitative multi-case study was to examine how social bias emerges, is perceived, and can be mitigated within artificial intelligence and machine learning systems by practitioners directly involved in their design, development, and governance. Although examples from healthcare, criminal justice, employment, and education were used to illustrate domains where automated systems shape everyday life, the study focused on the lived experiences and professional insights of AI practitioners rather than sector-specific populations. Guided by Intersectionality Theory and Cognitive Science, the study employed an interpretivist approach, utilizing semi-structured interviews with nine practitioners, supplemented by document analysis and triangulated case material to enrich contextual understanding. Findings showed that algorithmic bias arises from historical inequities, exclusionary design assumptions, and organizational pressures that prioritize speed and efficiency over ethical reflection. Participants emphasized that technical corrections alone cannot ensure fairness; instead, equitable AI requires structural accountability, diverse participation, and sustained cognitive awareness during the development lifecycle. Many described limited enforcement of ethical standards and organizational cultures that inconsistently support responsible practice. The study concludes that human-centered and socially grounded AI development depends on embedding ethics early in the design process, strengthening governance frameworks, and cultivating institutional environments that encourage reflective decision-making. These insights contribute to ongoing conversations on responsible AI and offer practical guidance for organizations seeking to design systems that are transparent, accountable, and aligned with the communities they affect.
- Abstract（参考訳）: この定性的なマルチケーススタディの目的は、社会的偏見がどのように出現し、認識され、人工知能と機械学習システムの中で、その設計、開発、ガバナンスに直接関わった実践者によって緩和されるかを調べることである。
医療、刑事司法、雇用、教育などの例は、自動化されたシステムが日常生活を形作る領域を示すために用いられたが、この研究は、セクター固有の人口ではなく、AI実践者の生きた経験と専門的な洞察に焦点を当てた。
インターセクションナリティ理論と認知科学によって導かれたこの研究は、文脈理解を深めるために、文書分析と三角形のケース素材によって補足された、9人の実践者との半構造化されたインタビューを活用する、解釈主義的なアプローチを採用した。
アルゴリズム的バイアスは、歴史的不平等、排他的設計の前提、そして倫理的反映よりも速度と効率を優先する組織的圧力から生じることを示した。
参加者は、技術的修正だけでは公平さを保証できないことを強調し、代わりに、公平なAIは、開発ライフサイクル中に構造的説明責任、多様な参加、継続的な認知意識を必要とする。
多くの者は、責任ある実践を不整合に支援する倫理的基準と組織文化の限定的な執行について記述した。
この研究は、人間中心の社会的基盤を持つAI開発は、設計プロセスの初期に倫理を組み込むこと、ガバナンスの枠組みを強化すること、そして反射的な意思決定を促進する制度的な環境を育むことに依存すると結論付けている。
これらの洞察は、責任あるAIに関する継続的な議論に寄与し、透明で説明責任があり、影響するコミュニティと一致したシステムを設計したい組織に対して実践的なガイダンスを提供する。
関連論文リスト
- AI Expert Twin: Capturing Expert Cognition for Human-Centred, Practice-Based Learning [3.934020982725159]
本稿では、専門家の知識をモデル化する認知中心のフレームワークであるAI Expert Twinを紹介する。
我々は、専門家の認知を3層表現として定式化し、このモデルの下で専門家の知識を捉える。
このフレームワークは、職業教育やクリエイティブ産業などの分野にまたがって移行できるように設計されている。
論文 参考訳（メタデータ） (2026-05-02T11:47:39Z) - Keeping an Eye on AI: A Framework for Effective Human Oversight of AI Systems [46.60248293123689]
本稿では,AIシステムの効果的な人的監視のための実践的枠組みを推し進める。
コンピュータ科学、人間とコンピュータの相互作用、心理学、哲学、法学から洞察を得ている。
論文 参考訳（メタデータ） (2026-04-09T22:35:41Z) - Diversity and Inclusion in AI: Insights from a Survey of AI/ML Practitioners [4.761639988815896]
人工知能(AI)システムに埋め込まれた社会的バイアスや不平等に対する認識が高まり、AIライフサイクル全体を通して多様性と包摂性(D&I)の原則の統合に注意が向けられている。
倫理的AIガイドラインの台頭にもかかわらず、現実世界の環境でのD&Iの適用方法に関する実証的な証拠は限られている。
この研究は、AIと機械学習(ML)の実践者がD&Iの原則をどう理解し、実践し、効果的導入を妨げる組織的課題を特定するかを探る。
論文 参考訳（メタデータ） (2025-05-24T05:40:23Z) - KERAIA: An Adaptive and Explainable Framework for Dynamic Knowledge Representation and Reasoning [46.85451489222176]
KERAIAはシンボリックナレッジエンジニアリングのための新しいフレームワークとソフトウェアプラットフォームである。
動的で複雑でコンテキストに敏感な環境で知識を表現、推論、実行するという永続的な課題に対処する。
論文 参考訳（メタデータ） (2025-05-07T10:56:05Z) - Bridging the Gap: Integrating Ethics and Environmental Sustainability in AI Research and Practice [57.94036023167952]
我々は、AIの倫理的影響を研究するための努力は、その環境への影響を評価するものと相まって行われるべきであると論じる。
我々は,AI研究と実践にAI倫理と持続可能性を統合するためのベストプラクティスを提案する。
論文 参考訳（メタデータ） (2025-04-01T13:53:11Z) - Making Sense of AI Limitations: How Individual Perceptions Shape Organizational Readiness for AI Adoption [0.0]
本研究では,人工知能(AI)の限界に対する個人の認識が,AI導入の組織的準備にどのように影響するかを検討する。
この研究は、個々のセンスメイキング、社会学習、フォーマルな統合プロセスの間の動的相互作用を通じて、組織的準備が生まれることを明らかにしている。
論文 参考訳（メタデータ） (2025-02-21T18:31:08Z) - Towards Responsible AI in Banking: Addressing Bias for Fair
Decision-Making [69.44075077934914]
責任AI(Responsible AI)は、企業文化の発展におけるバイアスに対処する重要な性質を強調している。
この論文は、バイアスを理解すること、バイアスを緩和すること、バイアスを説明することの3つの基本的な柱に基づいて構成されている。
オープンソースの原則に従って、アクセス可能なPythonパッケージとして、Bias On DemandとFairViewをリリースしました。
論文 参考訳（メタデータ） (2024-01-13T14:07:09Z) - The Participatory Turn in AI Design: Theoretical Foundations and the
Current State of Practice [64.29355073494125]
本稿は、既存の理論文献を合成して、AI設計における「参加的転換」を掘り下げることを目的としている。
我々は、最近発表された研究および12人のAI研究者および実践者に対する半構造化インタビューの分析に基づいて、AI設計における参加実践の現状に関する実証的な知見を述べる。
論文 参考訳（メタデータ） (2023-10-02T05:30:42Z) - An interdisciplinary conceptual study of Artificial Intelligence (AI)
for helping benefit-risk assessment practices: Towards a comprehensive
qualification matrix of AI programs and devices (pre-print 2020) [55.41644538483948]
本稿では,インテリジェンスの概念に対処するさまざまな分野の既存の概念を包括的に分析する。
目的は、AIシステムを評価するための共有概念や相違点を特定することである。
論文 参考訳（メタデータ） (2021-05-07T12:01:31Z) - An Ecosystem Approach to Ethical AI and Data Use: Experimental
Reflections [0.0]
本稿では、倫理的課題に直面し解決することに関して、AI実践者のニーズを特定する方法論を提供する。
ダイアログと相互責任に基づく運用倫理に対する草の根的アプローチを提供する。
論文 参考訳（メタデータ） (2020-12-27T07:41:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。